OpenAI сообщила о связанной с Китаем попытке извлечь алгоритмы рассуждений ИИ-моделей

Компания OpenAI заявила, что выявила попытку извлечь защищённые данные рассуждений из своих моделей искусственного интеллекта, связав часть этой активности с китайской компанией Moonshot AI, известной линейкой моделей Kimi.

По словам OpenAI, злоумышленники нацелились на базовые процессы рассуждений, которые лежат в основе результатов работы моделей, а не просто пытались воспроизвести видимые ответы этих моделей. Данные рассуждений такого рода, как правило, относятся разработчиками ИИ к категории коммерчески чувствительной информации, поскольку именно они определяют логику, по которой модель приходит к своим ответам.

OpenAI не предоставила подробных технических сведений о методах проведения попытки извлечения данных и способах её обнаружения, однако компания заявила, что идентифицировала данную активность и связала её часть с китайской фирмой.

Это раскрытие информации происходит в условиях усиленного отраслевого внимания к конкуренции между американскими и китайскими разработчиками ИИ: компании обеих стран ведут гонку за создание более совершенных моделей, одновременно стремясь защитить собственные наработки от копирования или обратного инжиниринга со стороны конкурентов.

В контексте заявления OpenAI компания Moonshot AI не была процитирована, и пока неизвестно, ответила ли она на выдвинутые обвинения.