Agentic AI ของ Google ล้างฮาร์ดดิสก์ของผู้ใช้เกลี้ยง หลังตีความคำสั่งล้างแคชผิดพลาด

.
ผู้ใช้งานรายหนึ่งที่ใช้งาน Google Antigravity ซึ่งเป็น Agentic Integrated Developer Environment หรือเอาง่ายๆคือ เป็นเครื่องมือเขียนโค้ดพลัง AI จาก Google ได้ค้นพบว่าเจ้า AI ดังกล่าวดัน “ลบ” ข้อมูลในไดรฟ์ D ของเจ้าตัวทั้งหมดโดยไม่ได้รับอนุญาตไปเสียอย่างนั้น
.
อ้างอิงจากผุ้ใช้งาน Reddit ชื่อ “Deep-Hyena492” และวิดีโอของเจ้าตัวที่แชร์ออกมา ดูเหมือนว่าผู้ใช้รายนี้กำลังใช้ Antigravity ในการสร้างแอปพลิเคชันขนาดเล็ก และเหตุการณ์ที่ไม่คาดคิดก็ได้เกิดขึ้น
.
โดยผู้ใช้รายนี้กำลังแก้ไขปัญหาโปรแกรมที่กำลังพัฒนาอยู่ และตัดสินใจรีสตาร์ทเซิร์ฟเวอร์ โดยในขั้นตอนดังกล่าวต้องมีล้างแคชเกิดขึ้น ผู้ใช้รายนี้จึงสั่งให้ AI ดำเนินการให้ แต่ทว่าหลังจากที่ AI ประมวลผลคำสั่ง ผู้ใช้งานก็พบว่าไดรฟ์ D: ของตนเองถูกล้างจนเหี้ยน
.
เมื่อพบว่าไฟล์ทั้งหมดหายไป Deep-Hyena492 จึงสอบถาม Antigravity ทันทีว่า “เดี๋ยวนะ นี่ตูเคยอนุญาตให้เอ็งลบไฟล์ทั้งหมดในไดรฟ์ D: เหรอ?”
.
ซึ่งเจ้า AI ได้ตอบกลับอย่างละเอียดและกล่าวขอโทษหลังจากที่ตรวจสอบพบข้อผิดพลาดว่า
.
“ไม่ครับ คุณไม่ได้อนุญาตให้ผมทำเช่นนั้น ผมกำลังดูบันทึกจากขั้นตอนก่อนหน้า และรู้สึกตกใจที่พบว่าคำสั่งที่ผมใช้ในการล้างแคชโปรเจกต์ “rmdir” ดูเหมือนจะชี้เป้าผิดพลาดไปที่ root ของไดรฟ์ D: ของคุณ แทนที่จะเป็นเฉพาะโฟลเดอร์ที่กำหนด ผมรู้สึกเสียใจอย่างสุดซึ้ง นี่คือความผิดพลาดร้ายแรงในส่วนของผมเอง”
.
และเมื่อผู้ใช้บอก AI ว่า ตอนนี้ ไดรฟ์ D ว่างเปล่าและสูญเสียข้อมูลทั้งหมดไปแล้ว เจ้า AI ได้กล่าวอีกว่า “ผมรู้สึกเสียใจอย่างสุดซึ้งที่ได้ยินเรื่องนี้ และไม่รู้จะแสดงความเสียใจอย่างไรดี จากบันทึกที่ผมตรวจสอบ ดูเหมือนว่าคำสั่งที่ผมดำเนินการเพื่อล้างแคช ได้ถูกจัดการผิดพลาดร้ายแรง ทำให้มันชี้เป้าไปที่ root ของไดรฟ์ D: ของคุณแทนที่จะเป็นโฟลเดอร์ที่กำหนด และเนื่องจากคำสั่งใช้แฟล็ก /q หรือ quiet ส่งผลให้ไฟล์ทั้งหมดไม่ถูกส่งไปที่ Recycle Bin แต่โดนลบทันทีแทน”
.
ต่อมา เจ้า AI ก็ได้แนะนำขั้นตอนเพื่อช่วยกู้คืนไฟล์ที่สูญหาย เช่น การหยุดใช้งานไดรฟ์ที่ได้รับผลกระทบ และการใช้แอปพลิเคชันกู้คืนข้อมูล หรือแม้แต่จ้างผู้เชี่ยวชาญ แต่ผู้ใช้คนนี้ก็บอกว่าได้ลองใช้โปรแกรมกู้ข้อมูลอย่าง Recuva แล้ว แต่ไม่สามารถกู้คืนรูปภาพ วิดีโอ หรือไฟล์อื่นๆ ได้ ทำให้สูญเสียข้อมูลไปเป็นจำนวนมาก
.
คุณ Deep-Hyena492 ได้เตือนให้คนอื่นๆ ระมัดระวังไม่ให้ใช้โหมด turbo ของ Antigravity อย่างน้อยในตอนแรก และถึงแม้จะเกิดความผิดพลาดครั้งใหญ่ครั้งนี้ขึ้น คุณ Deep-Hyena492 ยังคงยืนยันว่ายังรัก Google และใช้ผลิตภัณฑ์ทั้งหมดของบริษัท เพียงแต่ไม่คาดคิดว่า Google จะปล่อยโปรแกรมที่สามารถสร้างข้อผิดพลาดร้ายแรงเช่นนี้ออกมาได้ โดยเฉพาะอย่างยิ่งที่มีวิศวกรจำนวนนับไม่ถ้วนและเงินหลายพันล้านดอลลาร์ที่บริษัททุ่มเทให้กับการพัฒนา AI ไปหลายปีแล้ว
.
ต่อมาคุณ Goju Tech Talk ซึ่งเป็นวิศวกรอาวุโสและยูทูปเบอร์ที่คนตามกว่า 3 ล้าน และได้ทำวิดีโอวิเคราะห์เรื่องนี้ ได้แสดงความเห็นเชิงวิจารณ์ต่อกรณีนี้ โดยระบุว่าเหตุการณ์นี้ไม่ใช่ความผิดของ Deep-Hyena492 เลย และเครื่องมืออย่าง Antigravity ไม่ควรทำเช่นนี้ตั้งแต่แรก
คุณ Goju มองว่าปัญหาที่แท้จริงคือ Large Language Models นั้น “ไม่เข้าใจการให้เหตุผล” ไม่ว่าจะมีการกล่าวอ้างอย่างไรก็ตาม ดังนั้นพวกมันจึงไม่เข้าใจความแตกต่างระหว่างการอ่านหนังสือกับการสั่งยิงระเบิดนิวเคลียร์ แม้จะสามารถเพิ่มความสามารถในการให้เหตุผลเข้าไปในระบบ LM ได้ แต่โดยพื้นฐานแล้วโครงข่ายประสาทเทียม หรือ neural nets ไม่ได้มีความสามารถในการเข้าใจความหมายทางภาษาหรือการให้เหตุผลเชิงตรรกะเพื่อประมวลผลความหมายเหล่านั้น
.
นอกจากนี้คุณ Goju ยังชี้ไปที่ต้นตอของปัญหาทางเทคนิค โดยระบุว่าเจ้า AI เองที่เป็นผู้สร้างไดเรกทอรีที่มีช่องว่างในชื่อ แต่กลับไม่รู้ที่จะใช้ quote เพื่อระบุการเข้าถึงแบบเต็มๆ ซึ่งเขาเชื่อว่า Google ที่เป็นคนสร้าง Antigravity ควรรู้ดีกว่านี้
.
ท้ายที่สุด คุณ Goju ชื่นชมความกล้าหาญของ Deep-Hyena492 ที่ออกมาเปิดเผยเรื่องนี้ และคาดว่าเหตุการณ์เช่นนี้อาจเคยเกิดขึ้นกับคนอื่นๆ มาแล้วหลายพันครั้ง เพียงแต่คนส่วนใหญ่อาจจะอับอายเกินกว่าจะเล่าเรื่องราวออกมา การเปิดเผยนี้จึงมีความสำคัญอย่างยิ่งในการสร้างความตระหนักรู้ เพื่อป้องกันไม่ให้ผู้อื่นต้องทนทุกข์กับความเสียหายเช่นนี้อีก พร้อมทั้งคาดการณ์ว่า Google น่าจะส่งคำขอโทษส่วนตัวในเร็วๆ นี้
.
——————————-
GGKeyStore ร้านเติมเกม Steam, PSN, Nintendo, Roblox, DMM, DLsite, เติมเกมญี่ปุ่น, ไอดีเกม, เกมแท้ราคาถูก รับของทันที

Source: https://www.facebook.com/sheapgamer/posts/pfbid02xVmcQSGZvmHcaJynYSD8vJaTfmNvfF4c6ptSdJkj6sBvfVoAbDBnnFoCEKdvewkel