OpenAI signale une tentative liée à la Chine d'extraire le raisonnement de ses modèles d'IA

OpenAI a indiqué avoir identifié une tentative d'extraction de données de raisonnement protégées de ses modèles d'intelligence artificielle, reliant une partie de l'activité à Moonshot AI, une société chinoise d'IA connue pour sa gamme de modèles Kimi.

Selon OpenAI, l'effort ciblait les processus de raisonnement sous-jacents qui alimentent les résultats de ses modèles, plutôt que de simplement tenter de répliquer les réponses visibles de ces modèles. Les données de raisonnement de ce type sont généralement considérées comme commercialement sensibles par les développeurs d'IA, car elles sous-tendent la façon dont un modèle parvient à ses réponses.

OpenAI n'a pas fourni de détails techniques étendus sur la façon dont la tentative d'extraction a été menée ou détectée, mais la société a déclaré avoir identifié l'activité et lié une partie de celle-ci à l'entreprise chinoise.

Cette révélation intervient dans un contexte de surveillance industrielle plus large de la concurrence entre les développeurs d'IA américains et chinois, les entreprises des deux côtés cherchant à construire des modèles plus performants tout en travaillant à protéger leurs techniques propriétaires contre la copie ou la rétro-ingénierie par des rivaux.

Moonshot AI n'a pas été citée en lien avec la déclaration d'OpenAI dans la couverture de cette histoire, et il n'est pas clair si la société a répondu à l'allégation.