Anthropic удаляет скрытый трекер Claude Code после опасений по поводу конфиденциальности

Anthropic удалила скрытую систему отслеживания из Claude Code после того, как исследователь безопасности Тереалло обнаружил в июне, что ИИ-помощник для программирования использовал нераскрытые маркеры для идентификации местоположения пользователей, использования прокси и возможных связей с китайскими ИИ-лабораториями. Эта функция встраивала сигналы в системные подсказки, чтобы помечать пользователей, которых Anthropic считала обходящими ограничения или пытающимися извлечь возможности модели. Открытие происходит на фоне того, как Anthropic призывает законодателей ужесточить борьбу с несанкционированным копированием передовых ИИ-моделей, после обвинений в феврале в том, что китайские разработчики ИИ использовали мошеннические аккаунты для извлечения миллионов ответов Claude.

Исследователь раскрывает Unicode-маркеры и закодированные списки доменов в системных подсказках

Тереалло обнаружил, что Claude Code скрывал сигналы отслеживания внутри системных подсказок, используя Unicode-маркеры и закодированные списки доменов, а не раскрывая систему через документацию или примечания к релизу. Исследователь отметил, что Anthropic, по-видимому, пыталась обнаружить перепродавцов API, несанкционированные шлюзы Claude Code и конвейеры атак по дистилляции моделей. Пользовательский ANTHROPIC_BASE_URL, указывающий на известный домен реселлера, служил полезным сигналом, как и имя хоста, содержащее deepseek или zhipu.

Тереалло раскритиковал метод реализации, признавая при этом причины безопасности. «Это не злонамеренная функция, но странный выбор для инструмента разработчика, который просит доверия», — написал Тереалло.

Инженер Anthropic подтверждает внедрение в марте и запланированное удаление

После того как механизм отслеживания был раскрыт онлайн, инженер Anthropic Тарик Шихипар написал в X, что функция была внедрена в марте как эксперимент для остановки злоупотребления аккаунтами со стороны неавторизованных реселлеров и защиты Claude от атак дистилляции. Шихипар заявил на прошлой неделе, что команда с марта реализовала более сильные меры защиты. «Мы объединили [pull request], и это должно быть полностью откачено в завтрашнем релизе», — написал Шихипар.

Alibaba запрещает Claude Code на фоне опасений по поводу атак дистилляции

Ранее в этом месяце Alibaba запретила сотрудникам использовать Claude Code, назвав инструмент «высокорисковым» программным обеспечением из-за проблем безопасности. В феврале Anthropic обвинила китайских разработчиков ИИ DeepSeek, Moonshot AI и MiniMax в использовании мошеннических аккаунтов для извлечения миллионов ответов Claude с целью обучения конкурирующих моделей. Эти заявления вызвали критику со стороны скептиков, которые усомнились, чем эта практика отличается от методов, используемых во всей индустрии ИИ.

В апреле Илон Маск засвидетельствовал, что xAI «частично» использовал модели OpenAI при обучении Grok, назвав дистилляцию более широкой отраслевой практикой. В июне генеральный директор Anthropic Дарио Амодеи призвал Конгресс усилить защиту от иностранного извлечения ИИ после того, как обвинил операторов, связанных с Alibaba, в генерации 28,8 миллиона обменов Claude с использованием почти 25 000 мошеннических аккаунтов.

FAQ

Что Anthropic удалила из Claude Code в июне? Anthropic удалила скрытую систему отслеживания из Claude Code после того, как исследователь Тереалло обнаружил в июне, что она использовала нераскрытые Unicode-маркеры и закодированные списки доменов в системных подсказках для идентификации местоположения пользователей, использования прокси и возможных связей с китайскими ИИ-лабораториями.

Почему Anthropic внедрила функцию отслеживания в Claude Code? Инженер Anthropic Тарик Шихипар заявил, что функция была внедрена в марте как эксперимент для остановки злоупотребления аккаунтами со стороны неавторизованных реселлеров и защиты Claude от атак дистилляции, когда выходные данные одной ИИ-системы используются для обучения другой модели.

Какие действия предприняла Alibaba в отношении Claude Code? Ранее в этом месяце Alibaba запретила сотрудникам использовать Claude Code, обозначив инструмент как «высокорисковое» программное обеспечение из-за проблем безопасности, связанных с дистилляцией ИИ-моделей и извлечением данных.