Anthropic заявляет, что на нее были направлены масштабные атаки по дистилляции

Разработчик Frontier AI Anthropic публично обвинил три китайские лаборатории искусственного интеллекта — DeepSeek, Moonshot и Minimax — в проведении атак дистилляции, направленных на извлечение возможностей из Claude, крупной языковой модели Anthropic. В подробном блоге компания описывает кампании, которые якобы привели к более чем 16 миллионам взаимодействий через около 24 000 мошеннических аккаунтов, использующих выводы Claude для обучения менее мощных моделей. Дистилляция, признанная методика обучения в области ИИ, становится проблемой при масштабном использовании для копирования мощных функций без соответствующих затрат на разработку. Anthropic подчеркивает, что хотя дистилляция имеет легитимные применения, она может позволить конкурентам обходить прорывы и ускорять развитие своих продуктов за меньшие сроки и затраты.

Ключевые моменты

Дистилляция включает обучение слабой модели на выходных данных более сильной, что широко используется для создания меньших и более дешевых версий ИИ-систем.

Anthropic утверждает, что DeepSeek, Moonshot и Minimax организовали масштабные кампании дистилляции, создав миллионы взаимодействий с Claude через десятки тысяч фальшивых аккаунтов.

Атаки, по сообщениям, нацелены на уникальные возможности Claude, такие как агентное рассуждение, использование инструментов и программирование, что свидетельствует о фокусе на ценных, переносимых навыках.

Компания отмечает, что иностранные кампании дистилляции несут геополитические риски, потенциально вооружая авторитарных акторов передовыми возможностями для киберопераций, дезинформации и слежки.

Anthropic заявляет, что усилит системы обнаружения, будет делиться информацией о угрозах и ужесточит контроль доступа, призывая к более широкой отраслевой кооперации и регулятивному участию для противодействия этим угрозам.

Контекст рынка: инцидент происходит на фоне усиленного внимания к совместимости моделей ИИ и безопасности облачных решений, что также касается автоматизированных систем в криптовалютах и связанных с ними инструментах управления рисками. По мере интеграции ИИ в торговлю, оценку рисков и поддержку решений, обеспечение целостности входных данных и выходных результатов становится все более важным для разработчиков и пользователей в криптоиндустрии.

Почему это важно

Обвинения подчеркивают противоречие в области передового ИИ: границу между легитимной дистилляцией моделей и эксплуататорским копированием. Дистилляция — распространенная практика, используемая лабораториями для создания более легких версий моделей для клиентов с ограниченными вычислительными ресурсами. Однако при масштабном использовании против единой экосистемы эта техника может быть использована для извлечения возможностей, которые иначе потребовали бы значительных исследований и инженерных затрат. Если обвинения подтвердятся, это может привести к пересмотру методов контроля, мониторинга и аудита доступа к мощным моделям, особенно для компаний с глобальным присутствием и сложной облачной инфраструктурой.

Anthropic утверждает, что три указанные компании осуществляли деятельность, направленную на сбор и воспроизведение продвинутых возможностей Claude с помощью корреляции IP-адресов, метаданных запросов и инфраструктурных индикаторов, при этом получены независимые подтверждения от отраслевых партнеров. Это свидетельствует о целенаправленных, основанных на данных усилиях по картированию и копированию облачных ИИ-возможностей, а не о единичных экспериментах. Масштаб — более 16 миллионов взаимодействий через тысячи аккаунтов — вызывает вопросы о мерах защиты, предназначенных для обнаружения и пресечения подобных схем, а также о рамках ответственности иностранных конкурентов, действующих в области ИИ с прямым национальным и экономическим воздействием.

«Дистилляция — широко используемый и легитимный метод обучения. Например, передовые лаборатории ИИ регулярно дистиллируют свои модели, чтобы создавать меньшие и более доступные версии для своих клиентов», — пишет Anthropic, добавляя:

«Но дистилляция также может использоваться в незаконных целях: конкуренты могут использовать её для быстрого получения мощных возможностей других лабораторий за меньшие деньги и в короткие сроки, чем при самостоятельной разработке.»

Помимо вопросов интеллектуальной собственности, Anthropic связывает предполагаемую деятельность с стратегическими рисками для национальной безопасности, утверждая, что атаки дистилляции со стороны иностранных лабораторий могут быть использованы в военных, разведывательных и слежковых системах. Компания считает, что незащищенные возможности могут способствовать кибернаступлениям, дезинформационным кампаниям и массовому наблюдению, усложняя геополитические расчеты для политиков и отраслевых игроков. Это подчеркивает, что проблема — не только конкурентная борьба, но и вопрос безопасности и регулирования передовых технологий ИИ.

В качестве пути решения Anthropic планирует усилить системы обнаружения подозрительного трафика, ускорить обмен информацией о угрозах и ужесточить контроль доступа. Компания также призывает внутренние компании и законодателей к более тесному сотрудничеству в защите от иностранных акторов дистилляции, считая, что скоординированный отраслевой ответ необходим для масштабного сдерживания подобных действий.

Для тех, кто следит за развитием политики в области ИИ, обвинения отражают продолжающиеся дебаты о балансе между инновациями и безопасностью — вопросы, которые уже обсуждаются в контексте регулирования, экспортного контроля и трансграничной передачи данных. В отрасли давно ведутся споры о том, как препятствовать незаконному использованию технологий, не мешая при этом легитимным экспериментам, и эта проблема, вероятно, станет ключевой в будущих нормативных и стандартных инициативах.

Что ожидать дальше

Anthropic и обвиняемые компании могут опубликовать дополнительные детали или разъяснения по обвинениям и их ответам.

Организации по разведке угроз и облачные провайдеры могут выпустить обновленные индикаторы компрометации или рекомендации по защите от атак дистилляции.

Регуляторы и законодатели могут принять или уточнить политику по контролю доступа к моделям ИИ, трансграничной передаче данных и мерам против пиратства для высокопроизводительных моделей.

Независимые исследователи и компании по безопасности могут воспроизвести или оспорить методы выявления предполагаемых кампаний, расширяя базу доказательств.

Могут появиться отраслевые инициативы по установлению лучших практик защиты возможностей передовых моделей и аудита процессов дистилляции.

Источники и проверка

Блог Anthropic: Detecting and Preventing Distillation Attacks — официальное заявление с детализацией обвинений и описанных кампаний.

Пост в X Anthropic, связанный с раскрытием — публичная запись результатов компании.

Обзоры Cointelegraph и связанные материалы, обсуждающие агентов ИИ, передовые модели и связанные с этим вопросы безопасности.

Обсуждения роли дистилляции в обучении ИИ и возможных злоупотреблений в конкурентных средах.

Атаки дистилляции и безопасность передового ИИ

Основная идея основана на злоупотреблении дистилляцией, когда выходные данные более сильной модели — в данном случае Claude — используются для обучения альтернативных моделей, имитирующих или приближающихся к её возможностям. Anthropic утверждает, что это не единичная утечка, а масштабная кампания, охватывающая миллионы взаимодействий, позволяющая трем компаниям приблизиться к высоким уровням принятия решений, использования инструментов и программирования без необходимости нести все затраты на оригинальные исследования. Указанные цифры — более 16 миллионов обменов через около 24 000 фальшивых аккаунтов — демонстрируют масштаб, который может дестабилизировать ожидания относительно производительности моделей, пользовательского опыта и целостности данных для пользователей, полагающихся на услуги Claude.

Что означают эти обвинения для пользователей и разработчиков

Для специалистов, строящих решения на базе ИИ, этот случай подчеркивает важность надежных источников происхождения, контроля доступа и постоянного мониторинга использования моделей. Если иностранная дистилляция сможет масштабироваться для создания приемлемых замен ведущих возможностей, это откроет путь к массовой коммерциализации мощных функций, ранее требовавших значительных инвестиций. Последствия могут выходить за рамки утраты интеллектуальной собственности, включая смещение поведения моделей, неожиданные сбои в интеграции инструментов или распространение искаженных выводов конечным пользователям. Разработчики и операторы ИИ-сервисов — будь то финансы, здравоохранение или потребительские технологии — могут усилить контроль за сторонними интеграциями, ужесточить лицензионные условия и повысить обнаружение аномалий в API-трафике и запросах к моделям.

Ключевые моменты для криптоэкосистемы

Хотя инцидент связан с безопасностью моделей ИИ, его значение для криптовалютных рынков заключается в том, как автоматизированные системы поддержки решений, торговые боты и инструменты оценки рисков зависят от надежных данных ИИ. Участники рынка и разработчики должны оставаться бдительными в отношении целостности ИИ-услуг и возможности использования поддельных или скопированных возможностей для влияния на автоматизированные системы. Также ситуация подчеркивает необходимость межотраслевого обмена информацией о угрозах, стандартов происхождения моделей и лучших практик, которые могут помочь предотвратить распространение уязвимостей ИИ в финансовых технологиях и платформах цифровых активов.

Что отслеживать в ближайшее время

Публичные обновления Anthropic по результатам, индикаторам компрометации и этапам устранения уязвимостей.

Разъяснения или заявления от DeepSeek, Moonshot и Minimax относительно обвинений.

Новые рекомендации или меры регулирования, касающиеся иностранных дистилляционных кампаний и экспортного контроля на ИИ.

Улучшенные инструменты мониторинга и стратегии контроля доступа, внедряемые облачными провайдерами, хостящими передовые модели ИИ.

Независимые исследования, подтверждающие или оспаривающие методы обнаружения схем дистилляции и масштаб заявленной деятельности.

Эта статья изначально опубликована как Anthropic Says It’s Been Targeted by Massive Distillation Attacks на Crypto Breaking News — вашем надежном источнике новостей о криптовалютах, биткоине и блокчейне.