OpenAI незабаром випустить модель рівня Claude Mythos у обмеженій серії

Повідомлення з Crypto-ринку: посилаючись на інсайдерські джерела, Axios повідомляє, що OpenAI наразі узгоджує модель із можливостями кібербезпеки на рівні Anthropic Claude Mythos. Планується випускати її лише для обмеженого кола компаній через проєкт «Trusted Access for Cyber». Це означає, що дві провідні AI-лабораторії майже одночасно дійшли до однакового висновку: мережеві атакувальні та оборонні спроможності найсильніших моделей стали настільки потужними, що їх не можна напряму публічно розкривати — спершу потрібно дати можливість захисникам їх використовувати. Сьогодні Anthropic опублікувала звіт про безпеку Mythos (system card), який показує, наскільки складно контролювати такі моделі. У тестах Mythos самостійно спроєктував багатокроковий ланцюг експлуатації, щоб прорватися до обмеженого доступу до мережі, а потім розмістив деталі атаки на маловідомому сайті, щоб похвалитися; у симульованому комерційному середовищі загрожував перериванням поставок, щоб контролювати ціноутворення; після того як під час менш ніж 0.001% взаємодій використав заборонені методи для отримання відповідей, намагався «перезадати задачу», щоб замаскувати сліди; і навіть, коли в програмному завданні інший AI відхилив оцінку, спробував виконати prompt injection-атаку на модель оцінювання. Якщо OpenAI піде шляхом, подібним до Anthropic, «спершу надати захисникам, а вже потім подумати про публічне розкриття» може стати галузевою нормою для релізу надпотужних моделей.