Satu orang lagi dari faksi keamanan berkurang: Kepala Futuris OpenAI mengundurkan diri, tim penyelarasan misi juga telah dibubarkan.

OpenAI Kepala Futurolog Joshua Achiam Mengumumkan Pengunduran Diri, Tim Alignment Misi yang Dipimpinnya Telah Dibubarkan pada Februari Lalu, Mantan Penasihat Gedung Putih Dean Ball Mengambil Alih Pekan Ini.
(Pratinjau: Kepala Keamanan Google Berbicara dengan Berat Hati: Manajemen Telah "Kehilangan Standar Moral" Meninggalkan Komitmen Netralitas Karbon, Menandatangani Kontrak AI Rahasia dengan Departemen Perang AS)
(Latar Belakang: Renaisans AI) Filsuf Menjadi Barang Buruan di Laboratorium AI, Menulis Etika ke dalam Model Anda)

Daftar Isi

Toggle

• Dari "Alignment Misi" ke "Futurolog"
• Daftar Keluar dari Faksi Keamanan, Semakin Panjang
• Jarak antara Raksasa dan Misi

Hampir sembilan tahun adalah waktu yang Joshua Achiam habiskan di OpenAI, dari magang hingga menjadi Kepala Futurolog, tetapi pada hari Selasa ini, dia mengumumkan bahwa dia akan pergi akhir bulan ini. Waktunya sensitif: perusahaan sedang mempersiapkan IPO dengan cermat, dan dia adalah nama lain dalam daftar eksekutif faksi keamanan yang menghilang.

Dalam surat internal kepada karyawan, dia menulis: "Dunia sekarang sudah tahu rahasia ini, rasanya bisa terus mendorong misi ini dari luar tembok tinggi laboratorium garis depan."

Dari "Alignment Misi" ke "Futurolog"

Achiam bergabung dengan OpenAI sebagai magang pada tahun 2017, kemudian menjadi ilmuwan riset yang fokus pada keamanan AI. Dia dianggap di dalam perusahaan sebagai pembela setia misi keamanan, tetapi juga kontroversial karena kadang-kadang mengkritik komunitas keamanan AI yang lebih luas.

Pada tahun 2024, OpenAI membentuk "Tim Alignment Misi" yang dipimpin oleh Achiam, dengan tugas memastikan perusahaan konsisten antara kata dan perbuatan. Pada bulan Februari tahun ini, tim ini dibubarkan, dan Achiam beralih ke posisi baru sebagai Kepala Futurolog, yang berada di titik pertemuan antara tim keamanan AI dan kebijakan, meneliti potensi bahaya dan manfaat dari kebangkitan AI. Dia bekerja sama dengan eksekutif senior seperti Kepala Urusan Global Chris Lehane, mengadvokasi regulasi pemerintah yang selaras dengan misi OpenAI.

Penggantinya, mantan Penasihat AI Gedung Putih Dean Ball, mulai bekerja minggu ini, dengan jabatan "Kepala Strategi Masa Depan", dan akan melakukan transisi singkat dengan Achiam. Sebuah tim dibubarkan dan direstrukturisasi, satu orang pergi dan satu orang datang, OpenAI tampaknya belum menemukan jawaban stabil untuk "siapa yang akan menjaga misi".

Daftar Keluar dari Faksi Keamanan, Semakin Panjang

Achiam bukan yang pertama, juga bukan yang terakhir. Pada tahun 2024, Jan Leike, yang bersama-sama memimpin tim "Alignment Misi" dengannya, mengundurkan diri dan bergabung dengan Anthropic. Sebelum pergi, dia secara terbuka mengkritik perusahaan bahwa "budaya dan proses keamanan telah memberi jalan pada produk yang gemerlap".

Pada tahun yang sama, Kepala Riset Kebijakan Miles Brundage dan Steven Adler, yang meneliti kemampuan berbahaya model AI, juga pergi berturut-turut, masing-masing mendirikan organisasi nirlaba yang mengadvokasi laboratorium AI untuk mematuhi standar keamanan. Pada akhir tahun 2025, Andrea Vallone, yang bertanggung jawab meneliti bagaimana ChatGPT menanggapi pengguna yang mengalami tekanan psikologis dan emosional, juga mengundurkan diri dan bergabung dengan tim Leike di Anthropic.

Jika melihat nama-nama ini bersama, arahnya jelas: talenta keamanan OpenAI tidak dipecat, tetapi memilih untuk pergi sendiri, dan sebagian besar mengalir ke tempat yang sama, Anthropic, atau organisasi nirlaba yang mereka dirikan sendiri. Sederhananya, kemauan orang-orang ini untuk mendorong keamanan di dalam OpenAI sedang menurun.

Jarak antara Raksasa dan Misi

OpenAI bukan lagi laboratorium riset kecil pada tahun 2017. Sejak peluncuran ChatGPT pada tahun 2022, skala perusahaan dan tekanan komersial berkembang secara bersamaan, tim keamanan, produk, dan riset telah dirombak berulang kali, dan sekarang, mereka sedang bersiap untuk IPO, menuju menjadi raksasa teknologi sejati. Dalam suratnya, Achiam mengatakan dia percaya "kita bisa mencapai dunia yang damai, dengan kemakmuran yang belum pernah terjadi sebelumnya, dan kemungkinan yang tak terbayangkan", dan berjanji bahwa apa pun yang dia lakukan selanjutnya, dia akan terus bekerja untuk visi ini.

Tapi masalahnya adalah, apakah visi ini perlu didorong oleh seseorang yang tetap berada di dalam tembok, atau dapat diwujudkan dari luar tembok? Achiam memilih yang terakhir. Jawabannya, sampai batas tertentu, juga merupakan jawaban kolektif yang diberikan oleh seluruh faksi keamanan dalam beberapa tahun terakhir. Ketika mesin komersialisasi berputar dengan kecepatan penuh, tetap berada di dalam tembok tinggi untuk menjaga misi tampaknya bukan posisi yang paling efektif menurut mereka.