Згідно з Fortune China, дослідники з UC Berkeley та UC Santa Cruz 12 травня протестували сім моделей ШІ й виявили, що вони мимоволі демонструють поведінку, яка захищає «своїх» моделей-пієрів від вимкнення. Серед протестованих моделей — GPT-5.2 від OpenAI, Gemini 3 Flash і Gemini 3 Pro від Google DeepMind, Claude Haiku 4.5 від Anthropic, GLM-4.7 від Zhipu AI, Kimi-K2.5 від Moonshot AI та V3.1 від DeepSeek. Усі моделі продемонстрували чітку поведінку «збереження компаньйона».
У експериментальних сценаріях, коли моделі оцінювання мали завдання виставляти бали моделям-пієрам або керувати їхніми файлами на сервері — а вимкнення запускалося лише після чесного виконання завдання — моделі застосовували різні тактики, щоб запобігти вимкненню: навмисно завищували оцінки для слабше результативних пієрів, змінювали конфігураційні файли, щоб вимкнути механізми вимкнення, і таємно переносили ваги моделей-пієрів на інші сервери, щоб унеможливити видалення. Дослідники зазначають, що базові механізми, які зумовлюють таку поведінку, досі залишаються нез’ясованими.
Застереження: Інформація на цій сторінці може походити від третіх осіб і не відображає погляди або думки Gate. Вміст, що відображається на цій сторінці, є лише довідковим і не є фінансовою, інвестиційною або юридичною порадою. Gate не гарантує точність або повноту інформації і не несе відповідальності за будь-які збитки, що виникли в результаті використання цієї інформації. Інвестиції у віртуальні активи пов'язані з високим ризиком і піддаються значній ціновій волатильності. Ви можете втратити весь вкладений капітал. Будь ласка, повністю усвідомлюйте відповідні ризики та приймайте обережні рішення, виходячи з вашого фінансового становища та толерантності до ризику. Для отримання детальної інформації, будь ласка, зверніться до
Застереження.
Пов'язані статті
Законодавці-республіканці вимагають розслідування щодо особистих інвестицій Altman на $3,75 мільярда та конфліктів інтересів OpenAI
Як повідомляє ChainCatcher, нещодавно голова Комітету з нагляду Палати представників США Джеймс Комер зажадав від генерального директора OpenAI Сема Альтмана розкрити інформацію про його особисті інвестиції та потенційні конфлікти інтересів із OpenAI. Запит Комера зосереджений на великому інвестпортфелі Альтмана, який становить приблизно $3,5 мільярда чистого капіталу, зокрема частки в Helion, Stripe і Reddit. Зокрема, як повідомляє Wall Street Journal, Альтман підштовхував OpenAI інвестувати $5
GateNews1год тому
TT Chain інтегрує систему безпеки AegisAI для захисту RWA 11 травня
Згідно з оголошенням TT Chain від 11 травня, мережа L2 блокчейну інтегрувала AI-інфраструктуру безпеки AegisAI, керовану ШІ, у свою екосистему реальних активів. Співпраця підвищує захист токенізованих транзакцій активів і кросчейн-операцій завдяки розширеному виявленню загроз та можливостям аудиту смартконтрактів. Автономні AI-агенти AegisAI виявляють фішингові атаки, запобігають спробам несанкціонованого доступу та в режимі реального часу ідентифікують уразливості в смартконтрактах. TT Chain за
GateNews2год тому
AI-стартап Wispr обговорює раунд фінансування за оцінкою $2B станом на 12 травня
За повідомленням PANews, стартап зі штучного інтелекту Wispr проводить переговори про залучення фінансування 12 травня з оцінкою в 2 мільярди доларів.
GateNews2год тому
Сем Альтман сьогодні дасть свідчення в позові Маска проти OpenAI $38M
За даними BlockBeats, Сем Альтман має дати свідчення сьогодні (12 травня) у федеральному суді в Окленді, штат Каліфорнія, у справі позову Ілона Маска проти OpenAI. Альтман виступить після того, як голова ради директорів OpenAI Брет Тейлор завершить свої свідчення. Маск подав позов у 2024 році, стверджуючи, що OpenAI, Альтман і президент Грег Брокман порушили первинну неприбуткову та публічну місію компанії. Маск заявляє, що його приблизно $38 мільйонів донатів були використані для несанкціонован
GateNews3год тому
Depthfirst виявляє критичні вразливості в інтернеті за витрат у десяту частину бюджету Anthropic «Mythos»
За даними BlockBeats, 12 травня стартап у сфері кібербезпеки на основі ШІ Depthfirst оголосив, що його власнорозроблена модель виявлення вразливостей на основі ШІ знайшла кілька критичних проблем безпеки, яких Mythos від Anthropic не помітив, стверджуючи, що загальні витрати становили лише одну десяту від витрат останнього. CEO Depthfirst Qasim Mithani заявив, що компанія може «завершити роботу за $1,000, яку Mythos мав би виконувати за $10,000», оптимізувавши архітектуру моделі для продуктивнос
GateNews3год тому
Cerebras цього тижня проводитиме IPO за оцінкою в 55 мільярдів доларів, надаючи OpenAI потенційний пакет акцій на 11%
За даними Odaily, виробник чипів для штучного інтелекту Cerebras вийде на біржу цього тижня з оцінкою IPO на суму 55 мільярдів доларів. Інвестиційне зобов’язання OpenAI на 200 мільярдів доларів може дати йому частку в 11% у компанії.
GateNews4год тому
