Bên trong Biên Bản Tố Tụng Cho Thấy Cách Mà OpenAI Suýt Phá Hủy Chính Mình

Tóm tắt

• Ilya Sutskever đã chuẩn bị một hồ sơ 52 trang chống lại Sam Altman chủ yếu dựa trên những tuyên bố chưa được xác minh từ một nguồn duy nhất—CTO Mira Murati
• OpenAI đã gần như sáp nhập với đối thủ Anthropic trong suốt cuộc khủng hoảng, với thành viên hội đồng quản trị Helen Toner lập luận rằng việc phá hủy công ty có thể “phù hợp với sứ mệnh”
• Ban giám đốc đã “vội vã” và “thiếu kinh nghiệm,” theo lời Ilya, người đã lên kế hoạch cho việc loại bỏ Altman ít nhất trong một năm trong khi chờ đợi các động lực thuận lợi của ban giám đốc.

Trung tâm Nghệ thuật, Thời trang và Giải trí của Decrypt.

Khám phá SCENE

<br>

Ilya Sutskever đã ngồi gần 10 giờ để ghi hình làm chứng trong vụ kiện Musk kiện Altman, vào ngày 1 tháng 10 năm nay.

Người đồng sáng lập đã giúp xây dựng ChatGPT và trở nên nổi tiếng vì đã bỏ phiếu sa thải Sam Altman vào tháng 11 năm 2023 cuối cùng cũng đã phải tuyên thệ và bị buộc phải trả lời. Bản sao 365 trang đã được phát hành trong tuần này.

Điều nó tiết lộ là một bức chân dung của những nhà khoa học xuất sắc đưa ra những quyết định quản trị thảm khốc, những cáo buộc chưa được xác minh được coi là sự thật, và những chia rẽ ý thức hệ sâu sắc đến mức một số thành viên hội đồng thích phá hủy OpenAI hơn là để nó tiếp tục dưới sự lãnh đạo của Altman.

Vụ kiện Musk kiện Altman xoay quanh tuyên bố của Elon Musk rằng OpenAI và Giám đốc điều hành của nó, Altman, đã phản bội sứ mệnh phi lợi nhuận ban đầu của công ty bằng cách biến nghiên cứu của họ thành một doanh nghiệp vì lợi nhuận liên kết với Microsoft—đặt ra những câu hỏi quan trọng về ai kiểm soát các mô hình AI tiên tiến và liệu chúng có thể được phát triển một cách an toàn vì lợi ích công cộng hay không.

Đối với những người theo dõi drama OpenAI, tài liệu này là một cái nhìn mở mang và đầy bất ngờ. Đây là một nghiên cứu điển hình về cách mọi thứ trở nên sai lầm khi thiên tài kỹ thuật gặp phải sự bất tài trong tổ chức.

Dưới đây là năm tiết lộ quan trọng nhất.

1. Hồ sơ 52 trang mà công chúng chưa từng thấy

Sutskever đã viết một bản luận chứng chi tiết về việc loại bỏ Altman, kèm theo ảnh chụp màn hình, và được tổ chức thành một tài liệu dài 52 trang.

Sutskever đã làm chứng rằng ông đã nói rõ trong bản ghi: “Sam thể hiện một mô hình nhất quán của việc nói dối, làm suy yếu các giám đốc điều hành của mình, và khiến các giám đốc điều hành của mình chống lại nhau.”

Ông đã gửi bản ghi nhớ cho các giám đốc độc lập bằng công nghệ email biến mất “bởi vì tôi lo lắng rằng những bản ghi nhớ đó sẽ bằng cách nào đó bị rò rỉ.” Bản tóm tắt đầy đủ chưa được sản xuất thông qua quá trình khám phá.

“Ngữ cảnh của tài liệu này là các thành viên hội đồng độc lập đã yêu cầu tôi chuẩn bị nó. Và tôi đã làm. Và tôi đã rất cẩn thận,” Sutskever khai báo, nói rằng một số phần của bản ghi nhớ tồn tại trong các ảnh chụp màn hình do CTO của OpenAI, Mira Murati, thực hiện.

2. Một trò chơi cờ vua kéo dài một năm

Khi được hỏi anh đã suy nghĩ về việc sa thải Altman trong bao lâu, Sutskever trả lời: “Ít nhất một năm.”

Khi được hỏi ông đang chờ đợi động lực gì, ông nói: “Đó là đa số thành viên hội đồng không rõ ràng thân thiện với Sam.”

Một CEO kiểm soát thành phần hội đồng quản trị thì về mặt chức năng là không thể chạm tới. Lời khai của Sutskever cho thấy ông hiểu điều này hoàn hảo và đã điều chỉnh chiến lược của mình cho phù hợp.

Khi sự ra đi của các thành viên hội đồng tạo ra cơ hội đó, ông đã hành động. Ông đang chơi trò chính trị hội đồng dài hạn, bất chấp việc Altman và Sutskever có vẻ thân thiết công khai.

3. Cuối tuần, OpenAI gần như biến mất

Vào thứ Bảy, ngày 18 tháng 11 năm 2023—trong vòng 48 giờ sau khi Altman bị sa thải—đã có những cuộc thảo luận tích cực về việc sáp nhập OpenAI với Anthropic.

Helen Toner, một cựu thành viên hội đồng quản trị của OpenAI, được Sutskever cho biết là “người ủng hộ mạnh mẽ nhất” cho hướng đi này.

Nếu vụ sáp nhập đã xảy ra, OpenAI sẽ không còn tồn tại như một thực thể độc lập.

“Tôi không biết liệu Helen đã liên hệ với Anthropic hay Anthropic đã liên hệ với Helen,” Sutskever làm chứng. “Nhưng họ đã liên hệ với một đề xuất để sáp nhập với OpenAI và tiếp quản lãnh đạo của nó.”

Sutskever nói rằng ông “rất không hài lòng về điều đó,” và sau đó thêm rằng ông “thực sự không muốn OpenAI sáp nhập với Anthropic.”

4. “Phá hủy OpenAI có thể phù hợp với sứ mệnh”

Khi các giám đốc điều hành của OpenAI cảnh báo rằng công ty sẽ sụp đổ nếu không có Altman, Toner đã phản hồi rằng việc phá hủy OpenAI có thể phù hợp với sứ mệnh an toàn của nó.

Đây là trái tim tư tưởng của cuộc khủng hoảng. Toner đại diện cho một luồng tư duy an toàn AI coi sự phát triển AI nhanh chóng là nguy hiểm đến tính mạng - có thể nguy hiểm hơn cả việc không phát triển AI.

“Các giám đốc - đó là một cuộc họp với các thành viên hội đồng quản trị và đội ngũ điều hành - các giám đốc đã nói với hội đồng rằng, nếu Sam không trở lại, thì OpenAI sẽ bị hủy diệt, và điều đó không nhất quán với sứ mệnh của OpenAI,” Sutskever làm chứng. “Và Helen Toner đã nói điều gì đó theo hướng đó nhưng tôi nghĩ cô ấy đã nói một cách trực tiếp hơn.”

Nếu bạn thực sự tin rằng OpenAI mang lại rủi ro lớn hơn lợi ích của nó, thì một cuộc nổi loạn của nhân viên đang chờ xử lý là không liên quan. Tuyên bố này giúp giải thích lý do tại sao ban giám đốc kiên định ngay cả khi hơn 700 nhân viên đe dọa sẽ rời bỏ.

5. Tính toán sai: Một nguồn cho mọi thứ, một ban giám đốc thiếu kinh nghiệm và lòng trung thành giống như cuồng tín của lực lượng lao động.

Hầu như mọi thứ trong bản ghi nhớ 52 trang của Sutskever đều đến từ một người: Mira Murati.

Ông ấy đã không xác minh các tuyên bố với Brad Lightcap, Greg Brockman, hoặc các giám đốc điều hành khác được đề cập trong các khiếu nại. Ông ấy hoàn toàn tin tưởng Murati, và việc xác minh “không xảy ra với (ông ấy).”

“Tôi hoàn toàn tin vào thông tin mà Mira đã cung cấp cho tôi,” Sutskever nói. “Nhìn lại, tôi nhận ra rằng tôi không biết điều đó. Nhưng vào thời điểm đó, tôi nghĩ rằng tôi biết. Nhưng tôi biết điều đó qua kiến thức gián tiếp.”

Khi được hỏi về quy trình của hội đồng, Sutskever đã thẳng thắn về những gì đã sai.

“Một điều tôi có thể nói là quá trình này đã bị vội vàng,” ông ấy làm chứng. “Tôi nghĩ nó bị vội vàng vì ban giám đốc chưa có nhiều kinh nghiệm.”

Sutskever cũng kỳ vọng rằng nhân viên OpenAI sẽ thờ ơ trước việc Altman bị sa thải.

Khi 700 trong số 770 nhân viên ký một bức thư yêu cầu sự trở lại của Altman và đe dọa sẽ rời bỏ để đến với Microsoft, ông đã thực sự ngạc nhiên. Ông đã tính toán sai một cách cơ bản về lòng trung thành của lực lượng lao động và sự tách biệt của hội đồng khỏi thực tế tổ chức.

“Tôi không ngờ họ lại cổ vũ, nhưng tôi cũng không ngờ họ lại cảm thấy mạnh mẽ theo bất kỳ cách nào,” Sutskever nói.