Только что увидел, что OpenAI приостановила разработку функции взрослого чата для ChatGPT после появления довольно сомнительных результатов тестирования. По всей видимости, их система проверки возраста ошибочно определяла подростков как взрослых примерно в 12% случаев, что... не очень хорошо, когда пытаешься защитить несовершеннолетних от контента для взрослых. Их этический совет отметил это еще в январе, заявив, что это может быть рискованно для уязвимых пользователей, и, честно говоря, это логично. Вся эта ситуация заставила меня задуматься о том, насколько сложно на самом деле создавать безопасные функции ИИ, особенно те, что связаны с проверкой возраста и контентом для взрослых. Они фактически говорят: «Нам нужно всё правильно сделать перед запуском», что, я думаю, — ответственный подход, но также показывает, сколько крайних случаев существует в области безопасности ИИ. Кто-нибудь еще следит за этим? Кажется, каждое крупное решение в области ИИ сейчас подвергается тщательному анализу.