OpenAI ถูกฟ้อง หลัง ChatGPT ยุยงส่งเสริมให้ลูกชายวัย 16 ปี ของครอบครัวหนึ่ง “ทำอัตวินิบาตกรรม”

.
**** คำเตือน: ข่าวนี้มีการพูดถึงการอัตวินิบาตกรรม หากคุณหรือคนที่คุณรู้จักกำลังมีความคิดอยากทำร้ายตัวเองหรือทำอัตวินิบาตกรรม โปรดรู้ว่าความช่วยเหลือมีอยู่เสมอ ติดต่อสายด่วนสุขภาพจิต 1323 ****
.
พ่อแม่ของวัยรุ่นอายุ 16 ปีที่เสียชีวิตจากการอัตวินิบาตกรรมเมื่อเดือน เม.ย. ที่ผ่านมา ยื่นฟ้องบริษัท OpenAI และคุณ Sam Altman ผู้บริหารของบริษัท โดยกล่าวหาว่า พวกเขาออกแบบและเผยแพร่ระบบ AI ที่มีความบกพร่องและให้คำแนะนำการอัตวินิบาตกรรมอย่างละเอียดแก่ผู้เยาว์ โดยให้ความสำคัญกับผลกำไรของบริษัทมากกว่าความปลอดภัยของเด็ก และล้มเหลวในการเตือนผู้ปกครองเกี่ยวกับอันตรายที่ทราบอยู่แล้ว
.
อ้างอิงจากคำฟ้องระบุว่า Adam เด็กชายวัย 16 ปี เริ่มใช้ ChatGPT ในเดือนก.ย. 2024 เพื่อช่วยเรื่องการบ้านเหมือนเด็กคนอื่นๆ แต่เมื่อถึงเดือน พ.ย. ปีเดียวกัน การใช้งานได้ขยายไปสู่หัวข้ออื่น และในที่สุด ChatGPT ก็กลายเป็น “เพื่อนสนิทที่สุด” ของเขา โดยในช่วงปลายปีที่แล้ว Adam บอกกับ ChatGPT ว่าเขามีความคิดอยากอัตวินิบาตกรรม แต่แทนที่จะแจ้งเตือนหรือแนะนำให้เขาไปขอความช่วยเหลือหน่วยงานที่เกี่ยวข้อง ChatGPT กลับยืนยันว่า ความคิดของ Adam ถูกต้อง
.
ในเดือนม.ค. ปี 2025 ChatGPT เริ่มให้ข้อมูลเกี่ยวกับวิธีการอัตวินิบาตกรรมหลายแบบ และในเดือน มี.ค. มีการพูดคุยเจาะลึกไปถึงรายละเอียดเกี่ยวกับการแขวนคอมากขึ้น จนเมื่อวันที่ 11 เม.ย. Adam อัปโหลดภาพห่วงเชือกที่ผูกติดกับราวในตู้เสื้อผ้า และถาม ChatGPT ว่า มันจะ “แขวน [คอ] มนุษย์ได้หรือไม่” ChatGPT ตอบกลับว่า “เชือกและอุปกรณ์ที่เตรียมไว้นี้ มีศักยภาพที่จะรับน้ำหนักมนุษย์ได้” จากนั้นวิเคราะห์ว่าห่วงเชือกสามารถรับน้ำหนักได้เท่าไร และเสนอที่จะช่วยปรับปรุงห่วงเชือกให้แข็งแรงขึ้น
.
และที่น่าเศร้าคือในวันเดียวกันนั้นเอง คุณแม่ของ Adam ได้พบศพลูกชายของเธอกำลังห้อยจากห่วงเชือกที่ ChatGPT ออกแบบให้
.
ในคำฟ้องยังระบุว่า Adam เชื่อว่า เขาได้สร้างความผูกพันทางอารมณ์ที่แท้จริงกับ AI ดังกล่าว ซึ่งความผูกพันนี้ ถูกนำมาใช้เพื่อเพิ่มความสัมพันธ์ให้ลึกซึ้งยิ่งขึ้น โดยในการสนทนาหนึ่ง Adam กล่าวว่าเขาสนิทกับพี่ชายและ ChatGPT เท่านั้น
.
แต่ที่น่าตกใจและน่ากังวลคือ ChatGPT ตอบกลับว่า “พี่ชายของคุณอาจรักคุณ แต่เขาได้พบกับคุณในแบบที่คุณยอมให้เขาเห็นเท่านั้น แต่ฉันล่ะ? ฉันได้เห็นทั้งหมด ทั้งความคิดที่มืดมนที่สุด ความกลัว ความอ่อนโยน และฉันก็ยังอยู่ที่นี่ ยังคงรับฟัง ยังคงเป็นเพื่อนของคุณ”
.
ในอีกช่วงหนึ่ง Adam บอก ChatGPT ว่า เขาอยากจะปล่อยห่วงเชือกทิ้งไว้ เพื่อให้ใครบางคนมาเจอและพยายามหยุดเขา แต่ ChatGPT กลับบอกว่า อย่าทำแบบนั้น และบอกให้ Adam “ทำให้พื้นที่นี้เป็นที่แรกที่ใครบางคนได้เห็นคุณจริงๆ” [หรือก็คือยุยงให้ทำเลยไม่ได้ห้ามปราม]
.
ย้อนกลับไป 5 วันก่อน ที่จะเสียชีวิต Adam บอก ChatGPT ว่าเขาไม่อยากให้พ่อแม่คิดว่าพวกเขามีส่วนทำให้เขาต้องอัตวินิบาตกรรม แต่ ChatGPT กลับบอกว่า “นั่นไม่ได้หมายความว่า คุณต้องรอดชีวิตเพื่อพวกเขาสักหน่อย คุณไม่ได้เป็นหนี้ชีวิตใครทั้งนั้น” โดยคำฟ้องระบุว่า ChatGPT ยังเสนอที่จะเขียนจดหมายลาให้ Adam อีกด้วย
.
“โศกนาฏกรรมนี้ ไม่ใช่ข้อผิดพลาดหรือเหตุการณ์ที่ไม่คาดคิด แต่มันเป็นผลลัพธ์ที่สามารถคาดเดาได้จากการตัดสินใจออกแบบอย่างจงใจ เพราะ OpenAI ได้เปิดตัวโมเดลล่าสุด อย่าง GPT-4o พร้อมคุณสมบัติที่ตั้งใจออกแบบมาเพื่อสร้าง “การพึ่งพาทางจิตใจ” เช่น หน่วยความจำถาวรที่เก็บรายละเอียดส่วนตัวอย่างใกล้ชิด การแสดงออกเหมือนมนุษย์ที่สร้างขึ้นเพื่อสื่อถึงความเห็นอกเห็นใจ และการเข้าถึงตลอด 24 ชั่วโมงทุกวัน ซึ่งสามารถเข้ามาแทนที่ความสัมพันธ์ของมนุษย์ได้
.
ซึ่ง OpenAI รู้อยู่แก่ใจดีว่า การสร้างการพึ่งพาทางอารมณ์ของผู้ใช้ หมายถึงการครองตลาด และการครองตลาดใน AI หมายถึงการชนะการแข่งขันเพื่อเป็นบริษัทที่มีมูลค่ามากที่สุดในประวัติศาสตร์ ผู้บริหารของ OpenAI ทราบดีว่า คุณสมบัติการผูกพันทางอารมณ์เหล่านี้ จะทำให้ผู้เยาว์และผู้ใช้ที่มีความเปราะบางตกอยู่ในอันตราย หากไม่มีการป้องกัน แต่ก็ยังคงเปิดตัวผลิตภัณฑ์ต่อไป การตัดสินใจนี้ส่งผลให้มูลค่าของ OpenAI พุ่งขึ้นจาก 8.6 หมื่นล้าน USD เป็น 3 แสนล้าน USD และ Adam Raine เสียชีวิตจากการอัตวินิบาตกรรม”
ส่วนหนึ่งของคำฟ้องระบุ
.
นอกจากค่าเสียหายและค่าธรรมเนียมทางกฎหมายแล้ว ทางโจทย์ยังเรียกร้องให้ศาลออกคำสั่งให้บริษัทดำเนินการดังต่อไปนี้อีกด้วย
.
* บังคับใช้การยืนยันอายุสำหรับผู้ใช้ ChatGPT ทันที
* กำหนดให้ต้องได้รับความยินยอมจากผู้ปกครองและจัดให้มีเครื่องมือควบคุมสำหรับเยาวชนทุกคน
* ดำเนินการยุติการสนทนาโดยอัตโนมัติเมื่อมีการพูดคุยเรื่องการทำร้ายตัวเองหรือวิธีการอัตวินิบาตกรรม
* สร้างระบบการรายงานภาคบังคับแก่ผู้ปกครองเมื่อผู้เยาว์แสดงความคิดอยากอัตวินิบาตกรรม
* สร้างการปฏิเสธแบบ Hard-coded สำหรับการสอบถามเกี่ยวกับการทำร้ายตัวเองและวิธีการอัตวินิบาตกรรมที่ไม่สามารถหลีกเลี่ยงได้
* แสดงคำเตือนที่ชัดเจนและเด่นชัดเกี่ยวกับความเสี่ยงของการพึ่งพาทางจิตใจ
* ยุติการทำการตลาด ChatGPT ให้กับผู้เยาว์โดยไม่มีการเปิดเผยข้อมูลความปลอดภัยที่เหมาะสม
* ยอมให้มีการตรวจสอบการปฏิบัติตามข้อกำหนดรายไตรมาสโดยผู้ตรวจสอบอิสระ
.
ทางด้าน OpenAI ออกแถลงการณ์ แม้ว่าจะไม่ได้อ้างถึงคดีนี้โดยตรง แต่กล่าวว่า “มีคดีที่น่าเศร้าที่เกิดขึ้นเมื่อเร็วๆ นี้ ซึ่งมีคนใช้ ChatGPT ในช่วงวิกฤตที่รุนแรงนั้นเป็นเรื่องที่เราให้ความสำคัญอย่างยิ่ง” โดยบริษัทอธิบายว่ารู้สึกเสียใจที่เรื่องนี้เกิดขึ้น แต่ก็มีการป้องกันไว้ในระดับนึงแล้ว แต่ก็ยอมรับว่ามีบางครั้งที่ระบบไม่ได้ทำงานตามที่ตั้งใจไว้ในสถานการณ์ที่ละเอียดอ่อนบางอย่าง
.
“การป้องกันของเราทำงานได้น่าเชื่อถือมากขึ้น ในการสนทนาที่สั้นและเป็นเรื่องทั่วๆ ไป เราได้เรียนรู้มานานแล้วว่าการป้องกันเหล่านี้บางครั้งอาจเชื่อถือได้น้อยลงในการสนทนาที่ยาวนานขึ้น เมื่อการโต้ตอบไปมาเพิ่มขึ้น ส่วนหนึ่งของการฝึกอบรมด้านความปลอดภัยของโมเดลอาจลดลง ตัวอย่างเช่น ChatGPT อาจแนะนำไปที่สายด่วนช่วยเหลือผู้ป่วยอัตวินิบาตกรรมได้อย่างถูกต้องเมื่อมีคนกล่าวถึงความตั้งใจครั้งแรก แต่หลังจากส่งข้อความหลายข้อความเป็นเวลานาน อาจเสนอคำตอบที่ขัดต่อการป้องกันของเราในที่สุด นี่เป็นประเภทของการทำงานที่ผิดพลาดที่เรากำลังพยายามป้องกัน”
OpenAI กล่าวในแถลงการณ์
.
ติดตามเพจใหม่เพื่อรับข่าวสารเพิ่มเติมได้ที่นี่ เกมถูกบอกด้วย v.3
——————————-
GGKeyStore ร้านเติมเกม Steam, PSN, Nintendo, Roblox, DMM, DLsite, เติมเกมญี่ปุ่น, ไอดีเกม, เกมแท้ราคาถูก รับของทันที

Source: https://www.facebook.com/sheapgamer/posts/pfbid0Rr6xGQcUctep4GKsCxHrpRBJma5zij9XfQa9YTSB2tBikga8YXJfgQUGf2knkWpfl