OpenAI'nin Kendini Neredeyse Yok Ettiğini Gösteren Dava Sürecinin İçinde

Kısaca

• Ilya Sutskever, Sam Altman'a karşı neredeyse tamamen tek bir kaynaktan - CTO Mira Murati'den alınan doğrulanmamış iddialara dayanan 52 sayfalık bir dava hazırladı.
• OpenAI, kriz sırasında rakibi Anthropic ile birleşmenin eşiğindeydi; yönetim kurulu üyesi Helen Toner, şirketin yok edilmesinin “misyonla tutarlı olabileceğini” savundu.
• Ilya'ya göre, yönetim kurulu “aceleci” ve “tecrübesizdi,” Altman'ın görevden alınmasını en az bir yıldır planlıyordu ve uygun yönetim kurulu dinamiklerini bekliyordu.

Decrypt'in Sanat, Moda ve Eğlence Merkezi.

SCENE'i Keşfedin

<br>

Ilya Sutskever, bu yıl 1 Ekim'de Musk v. Altman davasında neredeyse 10 saatlik videoya kaydedilmiş ifade verdi.

ChatGPT'yi kurmaya yardımcı olan ve Kasım 2023'te Sam Altman'ı işten çıkarmak için oy vermesiyle kötü şöhret kazanan kurucu ortaktan sonunda yeminli ifade vermesi istendi ve cevap vermeye zorlandı. 365 sayfalık transkript bu hafta yayımlandı.

Ne ortaya çıkıyor, felaket yönetim kararları veren parlak bilim insanlarının bir portresidir; doğrulanmamış iddialar gerçekler olarak kabul ediliyor ve bazı yönetim kurulu üyeleri, Altman'ın liderliği altında devam etmesine izin vermektense OpenAI'yi yok etmeyi tercih edecek kadar derin ideolojik bölünmeler var.

Musk v. Altman davası, Elon Musk'ın OpenAI ve CEO'su Altman'ın şirketin orijinal kar amacı gütmeyen misyonunu, araştırmalarını Microsoft ile uyumlu bir kâr amacı güden girişime dönüştürerek ihanet ettikleri iddiasına odaklanıyor—gelişmiş yapay zeka modellerinin kimler tarafından kontrol edildiği ve bunların kamu yararına güvenli bir şekilde geliştirilip geliştirilemeyeceği konusunda yüksek riskli sorular ortaya çıkıyor.

OpenAI dramasını takip edenler için, bu belge göz açıcı ve mahkum edici bir okuma. Teknik deha ile organizasyonel yetersizliğin bir araya geldiği zamanların nasıl yanlış gittiğine dair bir vaka çalışması.

İşte en önemli beş açıklama.

1. Kamuoyunun görmediği 52 sayfalık dosya

Sutskever, Altman'ın görevden alınması için kapsamlı bir dosya yazdı, ekran görüntüleri ile birlikte ve 52 sayfalık bir rapor halinde düzenlendi.

Sutskever, notun içinde açıkça şunları söylediğini ifade etti: “Sam, yalan söyleme, yöneticilerini baltalama ve yöneticilerini birbirine düşürme konusunda tutarlı bir kalıp sergiliyor.”

Bağımsız yönetim kurulu üyelerine kaybolan e-posta teknolojisi kullanarak “çünkü bu notların bir şekilde sızmasından endişe ediyordum” diyerek notu gönderdi. Tam brifing keşif yoluyla üretilmedi.

“Bu belgenin bağlamı, bağımsız yönetim kurulu üyelerinin benden bunu hazırlamamı istemesidir. Ve ben de yaptım. Ve oldukça dikkatliydim,” Sutskever ifade etti ve notun bazı bölümlerinin OpenAI CTO'su Mira Murati tarafından yapılan ekran görüntülerinde bulunduğunu söyledi.

2. Bir yıl süren bir satranç oyunu

Sutskever, Altman'ı işten çıkarmayı ne kadar süre düşündüğü sorulduğunda, “En az bir yıldır.” diye yanıtladı.

Beklediği dinamikler sorulduğunda, “Yönetim kurulunun çoğunluğunun Sam ile açıkça dost olmadığını” söyledi.

Bir yönetim kurulu yapısını kontrol eden CEO, işlevsel olarak dokunulmazdır. Sutskever'ın ifadesi, bunun farkında olduğunu ve stratejisini buna göre ayarladığını gösteriyor.

Yönetim kurulu üyesi ayrılıkları o boşluğu yarattığında, o da hareket etti. Altman ve Sutskever'in kamuya açık görünümde ne kadar yakın olduklarına rağmen, uzun vadeli yönetim politikaları oynuyordu.

3. Hafta sonu OpenAI neredeyse yok oldu

18 Kasım 2023 Cumartesi günü—Altman'ın işten çıkarılmasından itibaren 48 saat içinde—OpenAI'nin Anthropic ile birleştirilmesi hakkında aktif tartışmalar vardı.

Sutskever'e göre, eski OpenAI yönetim kurulu üyesi Helen Toner, bu yönde “en destekleyici” olan kişiydi.

Eğer birleşme gerçekleşseydi, OpenAI bağımsız bir varlık olarak varlığını sona erdirecekti.

“Helen'in Anthropic'e ulaşan kişi olup olmadığını ya da Anthropic'in Helen'e ulaşıp ulaşmadığını bilmiyorum,” dedi Sutskever. “Ama bir birleşme teklifiyle OpenAI ile birleşmek ve liderliğini devralmak için ulaştılar.”

Sutskever, bununla ilgili “çok üzgün olduğunu” söyledi ve daha sonra “OpenAI'nin Anthropic ile birleşmesini gerçekten istemediğini” ekledi.

4. “OpenAI'yi yok etmek misyonla tutarlı olabilir”

OpenAI yöneticileri, şirketin Altman olmadan çökeceği konusunda uyardıklarında, Toner, OpenAI'yi yok etmenin güvenlik misyonuyla tutarlı olabileceğini yanıtladı.

Bu, krizin ideolojik kalbidir. Toner, hızlı AI gelişimini varoluşsal olarak tehlikeli gören bir AI güvenlik düşüncesi akımını temsil ediyordu—potansiyel olarak hiç AI gelişiminden daha tehlikeli.

“Yönetim kurulu üyeleri ve yönetim ekibi ile bir toplantıydı—yöneticiler, Sam dönmezse OpenAI'nin yok olacağını ve bunun OpenAI'nin misyonuyla tutarsız olduğunu söylediler,” diye ifade etti Sutskever. “Ve Helen Toner, bunun tutarlı olduğunu, ama bence bunu daha doğrudan söyledi.”

Eğer OpenAI'nin risklerinin faydalarından daha fazla olduğuna gerçekten inanıyorsanız, o zaman bekleyen bir çalışan isyanı önemsizdi. Bu açıklama, 700'den fazla çalışanın ayrılma tehdidinde bulunmasına rağmen, yönetim kurulunun neden direndiğini anlamaya yardımcı oluyor.

5. Hesap Hataları: Her şey için tek bir kaynak, deneyimsiz bir yönetim kurulu ve tarikat benzeri bir iş gücü sadakati

Sutskever'in 52 sayfalık notundaki neredeyse her şey bir kişiden geldi: Mira Murati.

Brad Lightcap, Greg Brockman veya şikayetlerde bahsedilen diğer yöneticilerle iddiaları doğrulamadı. Murati'ye tamamen güvendi ve doğrulama “(ona) aklına gelmedi.”

“Mira'nın bana verdiği bilgilere tamamen inanmıştım,” dedi Sutskever. “Sonradan anladım ki, bunu bilmiyormuşum. Ama o zamanlar bunu bildiğimi düşünüyordum. Ama bunu dolaylı bilgiyle biliyordum.”

Kurulun süreci hakkında sorulduğunda, Sutskever neyin yanlış gittiği konusunda açık sözlüydü.

“Tek söyleyebileceğim bir şey, sürecin aceleye getirildiği,” diye ifade verdi. “Bunun aceleye getirildiğini düşünüyorum çünkü yönetim kurulu tecrübesizdi.”

Sutskever, OpenAI çalışanlarının Altman'ın görevden alınmasına kayıtsız kalmalarını bekliyordu.

770 çalışandan 700'ü Altman'ın geri dönüşünü talep eden ve Microsoft'a gitmekle tehdit eden bir mektubu imzaladığında, gerçekten şaşırmıştı. İş gücünün bağlılığını ve yönetim kurulunun organizasyonel gerçeklikten izole olduğunu temelde yanlış hesaplamıştı.

“Onların tezahürat yapmasını beklemiyordum, ama bir şekilde güçlü hissetmelerini de beklemiyordum,” dedi Sutskever.