OpenAI бесконечно приостановила разработку «режима для взрослых» и возвращается к стратегии основных продуктов

OpenAI приостановила планы по запуску «взрослого режима» в ChatGPT на неопределённый срок и вновь сосредоточилась на основном продукте. Ранее внутри компании и среди инвесторов возникли опасения по поводу возможных социальных последствий «AI-контента для взрослых».

По словам нескольких информированных источников, генеральный директор OpenAI Ортман изначально откладывал запуск так называемого «взрослого режима» из-за внутренних обсуждений и сейчас рассматривает возможность полного отказа от этого проекта.

На самом деле, запуск этой функции уже был отложен один раз — с запланированного декабря на первый квартал этого года. В настоящее время число пользователей ChatGPT превысило 900 миллионов.

По мере усиления общественных опасений, проект эротического чат-бота сталкивается с всё большим количеством противников, которые опасаются, что он может усилить эмоциональную зависимость пользователей от ИИ и привести к тому, что несовершеннолетние получат доступ к неподобающему сексуальному контенту.

Со стороны OpenAI также подтвердили, что «взрослый режим» в настоящее время приостановлен, и конкретных сроков его запуска не назначено. Эта компания, оцененная в 730 миллиардов долларов, заявила, что планирует проводить долгосрочные исследования, чтобы оценить влияние сексуальных диалогов и эмоциональной привязанности, и признает, что в настоящее время отсутствуют соответствующие «эмпирические доказательства».

Это решение также свидетельствует о том, что OpenAI продолжает отходить от так называемых «побочных задач», о которых говорили руководители компании, и сосредоточиться на создании инструментов для повышения производительности, объединяя такие продукты, как ассистент по программированию и ChatGPT, в один «суперприложение».

Стоит отметить, что компания прекращает работу над своим популярным видеоприложением Sora AI. В заявлении говорится, что это делается для концентрации бизнес-ресурсов и оптимизации распределения человеческих и вычислительных мощностей.

В текущем контексте «взрослый режим» особенно чувствителен. В то же время социальные сети, такие как Meta, сталкиваются с юридическими претензиями из-за потенциального вреда своих продуктов для несовершеннолетних.

Ранее компания xAI, принадлежащая Маску, активно продвигала контент для взрослых для привлечения пользователей, однако их модель Grok вызвала международную критику за создание фальшивых изображений реальных людей, включая несовершеннолетних.

Этот конфликт подчеркивает двойное давление, которому подвергается OpenAI: с одной стороны, необходимо повышать активность пользователей и искать новые возможности роста в условиях жесткой конкуренции; с другой — сталкиваться с этическими и репутационными рисками, особенно в условиях, когда границы между инструментами и эмоциональной зависимостью размываются.

По словам двух информированных источников, попытки OpenAI внедрить «взрослый режим» вызвали тревогу у некоторых инвесторов, поскольку такие продукты связаны с высокими рисками и относительно низкой коммерческой отдачей.

Кроме того, внутри компании этот проект вызвал споры: некоторые задавались вопросом, не противоречит ли продвижение продуктов, поощряющих «любовные отношения», первоначальной миссии компании «делать так, чтобы ИИ приносил пользу всему человечеству».

Один бывший старший сотрудник отметил: «ИИ не должен заменять ваших друзей или семью — настоящая связь между людьми важнее всего». Этот человек также заявил, что именно из-за этого он ушёл из компании.

Помимо опасений по поводу социального воздействия, проект сталкивается и с техническими трудностями. По словам источников, OpenAI испытывает сложности с обучением моделей — ранее эти модели разрабатывались с целью избегать контента, связанного с сексом, по соображениям безопасности, а теперь им нужно генерировать явно сексуальный контент. Использование датасетов с таким содержанием также вызывает проблемы, например, необходимость исключения нелегальных действий.

(Источник: Caixin)