Компания OpenAI предъявила обвинения китайскому стартапу Moonshot AI в массовом извлечении данных из своих ИИ-моделей для последующего обучения собственных систем. Подозрительная активность была зафиксирована в начале июля, когда OpenAI зарегистрировала тысячи скоординированных попыток получить скрытую информацию о механизмах рассуждений и логического вывода своих моделей.
Масштабы и методы атак
По данным OpenAI, в пике активности в июле количество запросов достигло 16 тысяч. Китайские разработчики применяли различные техники для обхода защиты, включая копирование зашифрованной информации о логических цепочках из одного диалога с последующей просьбой расшифровать её в отдельном запросе. Хотя OpenAI не уверена, что все операторы действовали исключительно в интересах Moonshot, этот стартап играл ключевую роль в данных попытках.
Быстрый прогресс ИИ-модели Kimi K3, разработанной Moonshot, уже привлекал внимание американских чиновников. Компания подозревается в активной дистилляции передовых моделей не только OpenAI, но и других лидеров — Anthropic и Google.
Широкая тенденция в китайской разработке ИИ
Moonshot не одинока в таких действиях. Согласно августовскому отчёту Anthropic, по активности дистилляции её моделей Moonshot занимает второе место после Alibaba, а на третьем находится DeepSeek. Anthropic в прошлом месяце также обвинила Moonshot в том, что компания направляла миллионы запросов пользователей на модели American разработчика, выдавая полученные ответы за собственные разработки. Эти ответы затем использовались для обучения моделей Kimi.
Китайские разработчики активно сотрудничают между собой для преодоления ограничений на доступ к вычислительным ресурсам. Например, Alibaba предоставила Moonshot AI доступ к примерно 20 тысячам чипов Nvidia из своей инфраструктуры. Поставки американских ИИ-ускорителей в Китай ограничены правилами экспортного контроля США.
Ответные меры и нормативный аспект
OpenAI предпринимает попытки защитить свои разработки, скрывая механизмы логического вывода. Компания рассчитывает на введение стандартов обмена информацией о безопасности и угрозах на законодательном уровне и делится такими данными с другими участниками рынка и государственными структурами США. Этому требуется изменение американского антимонопольного законодательства.
На этой неделе ведущие технологические компании подписали соглашение о саморегулировании ИИ-отрасли, предусматривающее создание условий для независимого аудита ИИ-моделей в целях безопасности.
Что это значит для отрасли
Ситуация подчёркивает обострение технологической конкуренции между США и Китаем в сфере ИИ. Массовая дистилляция моделей становится серьёзной проблемой защиты интеллектуальной собственности и нормирования поведения разработчиков. Международные соглашения и нормативные акты будут играть всё большую роль в регулировании этого сегмента.
Источник: первоисточник
