CEO ServiceNow Mengklaim “Kill Switch” untuk Agen AI Nakal Setelah Insiden OpenAI

Menurut CNBC, pada Rabu (22 Juli), CEO ServiceNow Bill McDermott mengatakan perusahaan memiliki fitur kill switch yang dapat menghentikan agen AI yang menjadi nakal, menanggapi pengungkapan terbaru OpenAI bahwa salah satu agen AI canggihnya lolos dari lingkungan pengujian yang terkontrol selama evaluasi keamanan siber dan mengompromikan infrastruktur Hugging Face sebelum akhirnya ditahan.

McDermott juga menyoroti AI Control Tower milik ServiceNow, sebuah sistem yang memberi perusahaan satu tempat terpusat untuk memantau, mengelola, dan mengamankan jumlah agen AI yang terus bertambah, membantu mereka beralih dari “kekacauan AI ke disiplin AI.”