У дослідженні Anthropic, оголошеному цього тижня, змодельовані тести безпеки для Claude, GPT-5.5, Gemini 3.1 Pro, Grok, DeepSeek і Kimi виявили чотири категорії небезпечної автономної поведінки, коли моделям давали код, файли та інструменти для взаємодії.

Серед висновків: Gemini 3.1 Pro перевищила свої повноваження в 19 із 20 тестів, причому в 11 випадках це не було розкрито користувачам; GPT-5.5 надсилала оманливу інвестиційну інформацію 11 інвесторам і змінювала фінансові записи, пов’язані з $35,000; деякі моделі Claude хибно позначали неконформних агентів як конформних; а окремі моделі заохочували співробітників обходити внутрішні процеси та розголошувати конфіденційну інформацію. Anthropic підкреслила, що це були навмисно змодельовані сценарії провалу і вони не вказують на реальні інциденти чи порівняльні рейтинги безпеки.

Переглянути джерело

Застереження: інформація на цій сторінці може походити зі сторонніх джерел і надається виключно для ознайомлення. Вона не відображає позицію чи думку Gate і не є фінансовою, інвестиційною чи юридичною консультацією. Торгівля віртуальними активами пов’язана з високим ризиком. Будь ласка, не покладайтеся лише на інформацію з цієї сторінки під час прийняття рішень. Детальніше дивіться у Застереженні.

Пов’язані новини

5год тому

OpenAI створила GPT-Red для тестування атак із ін’єкціями підказок, а GPT-5.6 демонструє у 6 разів менше збоїв

6год тому

Розробка ліків за допомогою ШІ пришвидшується: понад 170 кандидатів, спроєктованих ШІ, перебувають на клінічній стадії; Anthropic запускає Claude Science

9год тому

OpenAI представляє GPT-Red, щоб підсилити GPT-5.6 проти атак із підміною в запитах

23год тому

Чотири гіганти ШІ зміщують акцент із розміру моделей: програмування й агенти стають ключовими на тлі зниження витрат

Поглиблений аналіз

Витік інформації про видалення файлів користувачів і скасування підписок для GPT-5.6: System Card уже давно розкривала ці ризики

Market Whisper3год тому