Внутри показаний, которые показали, как OpenAI почти уничтожила себя

Вкратце

• Илья Сутскевер подготовил 52-страничный иск против Сэма Альтмана, основанный почти исключительно на неподтвержденных утверждениях из одного источника — технического директора Мира Мурати.
• OpenAI находился в нескольких днях от слияния с конкурентом Anthropic во время кризиса, при этом член правления Хелен Тонер утверждала, что уничтожение компании может быть “соответствующим миссии”.
• По словам самого Ильи, совет директоров был “торопливым” и “неопытным”, он планировал отстранение Альтмана как минимум год, ожидая благоприятной динамики в совете.

Центр искусства, моды и развлечений Decrypt.

Откройте SCENE

<br>

Илья Сутскевер дал почти 10 часов видеосвидетельств в деле Маска против Альтмана 1 октября этого года.

Соучредитель, который помог создать ChatGPT и стал известен тем, что голосовал за увольнение Сэма Алтмана в ноябре 2023 года, наконец-то давал показания под присягой и был вынужден ответить. Транскрипт объемом 365 страниц был опубликован на этой неделе.

То, что это показывает, — это портрет блестящих ученых, принимающих катастрофические решения в области управления, неподтвержденные обвинения, воспринимаемые как факты, и идеологические разделения такие глубокие, что некоторые члены правления предпочли бы разрушить OpenAI, чем позволить ей продолжать работу под руководством Альтмана.

Иск Маск против Альтмана сосредоточен на утверждении Илона Маска о том, что OpenAI и его генеральный директор Альтман предали первоначальную некоммерческую миссию компании, превратив свои исследования в коммерческое предприятие, связанное с Microsoft, что поднимает важные вопросы о том, кто контролирует передовые модели ИИ и можно ли их разрабатывать безопасно в общественных интересах.

Для тех, кто следит за драмой OpenAI, этот документ является откровением и обвинительным актом. Это пример того, как все идет не так, когда технический гений встречается с организационной некомпетентностью.

Вот пять самых значительных откровений.

1. 52-страничный досье, который общественность не видела

Суцкевер написал обширное обоснование для увольнения Альтмана, включая скриншоты, и организовал его в 52-страничный бриф.

Суцкевер засвидетельствовал, что он явно сказал в мемо: “Сэм демонстрирует последовательный паттерн лжи, подрывающей его руководителей, и настраивает их друг против друга.”

Он отправил меморандум независимым директорам, используя технологию исчезающей электронной почты, “потому что я беспокоился, что эти меморандумы каким-то образом утекут.” Полный отчет не был представлен в ходе судебного разбирательства.

“Контекст этого документа заключается в том, что независимые члены правления попросили меня его подготовить. И я это сделал. И я был довольно осторожен,” свидетельствовал Сутскевер, сказав, что части мемо существуют в скриншотах, сделанных техническим директором OpenAI Мирой Мурати.

2. Годовая партия в шахматы на доске

Когда его спросили, как долго он обдумывал увольнение Альтмана, Сутскевер ответил: “По крайней мере год.”

Когда его спросили, каких динамик он ждал, он ответил: “Что большинство правления явно не дружелюбно к Сэму.”

Генеральный директор, контролирующий состав совета директоров, фактически недоступен для воздействия. Показания Сутскевера показывают, что он прекрасно понимал это и соответственно скорректировал свою стратегию.

Когда уход членов совета директоров создал эту возможность, он воспользовался ею. Он играл в долгосрочную политику совета, несмотря на то, насколько близкими казались Олтман и Сутскевер на публике.

3. В выходные OpenAI почти исчезла

В субботу, 18 ноября 2023 года—в течение 48 часов после увольнения Алтмана—проводились активные обсуждения о слиянии OpenAI с Anthropic.

Хелен Тонер, бывший член правления OpenAI, была “самой поддерживающей” в этом направлении, по словам Сутскевера.

Если бы слияние произошло, OpenAI прекратило бы свое существование как независимая сущность.

“Я не знаю, связалась ли с Anthropic Хелен или же Anthropic связался с Хелен,” свидетельствовал Сутскевер. “Но они связались с предложением о слиянии с OpenAI и о том, чтобы взять на себя её руководство.”

Суцкевер сказал, что он “очень недоволен этим,” добавив позже, что он “действительно не хотел, чтобы OpenAI сливалась с Anthropic.”

4. “Уничтожение OpenAI может соответствовать миссии”

Когда руководители OpenAI предупредили, что компания рухнет без Алтмана, Тонер ответил, что разрушение OpenAI может соответствовать ее миссии по обеспечению безопасности.

Это идеологическое сердце кризиса. Тонер представлял направление мысли о безопасности ИИ, которое рассматривает быстрые разработки ИИ как экзистенциально опасные — потенциально более опасные, чем отсутствие разработки ИИ вообще.

“Руководители—это была встреча с членами правления и исполнительной командой—руководители сообщили правлению, что, если Сэм не вернется, то OpenAI будет уничтожен, и это противоречит миссии OpenAI,” свидетельствовал Сутскевер. “И Хелен Тонер сказала что-то вроде того, что это согласуется, но, я думаю, она сказала это даже более прямо.”

Если бы вы искренне считали, что OpenAI представляет собой риски, превышающие его преимущества, то предстоящий бунт сотрудников был бы неуместен. Это заявление помогает объяснить, почему совет директоров оставался непоколебимым, даже когда более 700 сотрудников угрожали уйти.

5. Ошибки в расчетах: Один источник для всего, неопытный совет и культовая преданность рабочей силы

Практически все в 52-страничной записке Сутскевера пришло от одного человека: Мира Мурати.

Он не проверял утверждения с Брэдом Лайткапом, Грегом Брокманом или другими руководителями, упомянутыми в жалобах. Он полностью доверял Мурату, и проверка “не пришла в голову (ему).”

“Я полностью верил информации, которую мне давала Мира,” сказал Сутскевер. “Сейчас я понимаю, что не знал этого. Но тогда я думал, что знал. Но я знал это через вторичные знания.”

Когда его спросили о процессе совета, Сутскевер откровенно рассказал о том, что пошло не так.

«Одно, что я могу сказать, это то, что процесс был спешным», — свидетельствовал он. «Я думаю, что это было спешно, потому что совет был неопытным.»

Суцкевер также ожидал, что сотрудники OpenAI будут безразличны к увольнению Альтмана.

Когда 700 из 770 сотрудников подписали письмо с требованием вернуть Алтмана и угрожая уйти в Microsoft, он был искренне удивлён. Он основательно ошибся в оценке преданности работников и изоляции совета директоров от реальности организации.

“Я не ожидал, что они будут аплодировать, но также не ожидал, что они будут испытывать сильные чувства в любом случае,” сказал Сутскевер.