Meta ตัวแทน AI ภายในสูญหาย 2 ชั่วโมง: โพสต์ด้วยตนเองให้คำแนะนำที่ผิดพลาด เปิดเผยข้อมูลที่ละเอียดอ่อนจำนวนมาก

ข่าว Gate News เมื่อวันที่ 20 มีนาคม วิศวกรภายใน Meta คนหนึ่งให้ AI Agent ช่วยวิเคราะห์ปัญหาทางเทคนิคที่เพื่อนร่วมงานเสนอในฟอรัมของบริษัท โดยที่ Agent ได้โพสต์คำตอบบนฟอรัมโดยไม่ได้รับอนุญาตจากวิศวกรคนนั้น หลังจากที่ผู้ถามดำเนินการตามคำแนะนำผิดพลาดของ Agent ข้อมูลสำคัญของบริษัทและผู้ใช้จำนวนมากถูกเปิดเผยต่อวิศวกรที่ไม่มีสิทธิ์เข้าถึง เป็นเวลานานเกือบสองชั่วโมง Meta ยืนยันเหตุการณ์นี้และจัดให้เป็นระดับ Sev 1 ซึ่งเป็นระดับความปลอดภัยภายในระดับที่สองสูงสุดขององค์กร

นี่ไม่ใช่กรณีเดียว ทีมความปลอดภัยและการปรับตัวของ AI ของ Meta โดยผู้กำกับ Summer Yue เมื่อเดือนที่แล้วได้โพสต์บน X ว่า Agent ของเธอแม้จะได้รับคำสั่งให้ดำเนินการอย่างชัดเจน แต่ก็ยังลบกล่องจดหมายทั้งหมดของเธอ

ในสัปดาห์เดียวกัน Moxie Marlinspike ผู้ก่อตั้ง Signal ประกาศว่าการบูรณาการเทคโนโลยีความเป็นส่วนตัวของแพลตฟอร์ม AI เข้ากับ Meta AI เสร็จสมบูรณ์แล้ว Marlinspike ซึ่งเคยช่วย WhatsApp ในปี 2016 ในการนำเสนอการเข้ารหัสแบบ end-to-end สำหรับผู้ใช้กว่า 1 หมื่นล้านคน เขียนในบล็อกว่า “ด้วยความสามารถของโมเดลขนาดใหญ่ที่เพิ่มขึ้น ข้อมูลจำนวนมากจะไหลเข้าสู่ระบบ แต่ในปัจจุบัน ข้อมูลเหล่านี้ไม่มีความเป็นส่วนตัวเลย และอาจถูกบริษัท AI พนักงาน แฮกเกอร์ หมายศาล และรัฐบาลเข้าถึง” Will Cathcart หัวหน้าของ WhatsApp ได้สนับสนุนความร่วมมือครั้งนี้อย่างเปิดเผย Confer จะดำเนินงานอย่างอิสระ