OpenAI объявляет об открытии программы вознаграждений за уязвимости безопасности, сосредоточенной на выявлении рисков злоупотребления искусственным интеллектом

По данным мониторинга 1M AI News, OpenAI объявила о запуске публичной программы по наградам за обнаружение уязвимостей, сосредоточенной на выявлении злоупотреблений искусственным интеллектом и рисков безопасности в продуктах OpenAI. Цель — обеспечить безопасность системы, предотвратить возможный вред от неправильного использования или злоупотреблений.

Новая программа по наградам за уязвимости сосредоточена на следующих сценариях безопасности, связанных с ИИ:

Риски, связанные с прокси, включая MCP;

Уязвимости, раскрывающие другую конфиденциальную информацию OpenAI;

Уязвимости, связанные с целостностью аккаунтов и сигналами целостности платформы, такие как обход автоматических систем защиты, манипуляции с доверительными сигналами аккаунтов, обход ограничений/приостановлений/блокировок аккаунтов.