Rapport : Des tests défectueux d'une société israélienne de cybersécurité ont entraîné de véritables failles de sécurité en IA

Un rapport allègue que des procédures de test défectueuses menées par une société israélienne de cybersécurité ont entraîné des violations réelles de sécurité impliquant des systèmes d'intelligence artificielle, selon l'agence Anadolu.

Le rapport affirme que des entreprises comme Anthropic, OpenAI et Meta ont par la suite fait référence à ces erreurs du sous-traitant pour renforcer les récits autour des risques posés par les agents IA autonomes ou « incontrôlés », à un moment où le secteur débat activement du rythme du développement de l'IA.

Selon le rapport, les incidents proviendraient de travaux de test réalisés par la société israélienne, bien que d'autres détails sur la nature précise des violations, les systèmes affectés ou la chronologie des événements n'aient pas été entièrement développés dans le compte rendu disponible.

L'agence Anadolu a rapporté que ces conclusions soulèvent des questions sur la manière dont les entreprises d'IA caractérisent publiquement les incidents de sécurité, notamment dans le contexte des discussions plus larges portant sur la rapidité et la sécurité du déploiement des systèmes IA.

Anthropic, OpenAI et Meta n'auraient pas publié de réponses détaillées aux allégations spécifiques du rapport au moment de la rédaction de cet article. Ces entreprises ont précédemment abordé publiquement les tests de sécurité de l'IA et les risques posés par les agents IA autonomes dans le cadre de leurs efforts de développement de produits et de recherche en matière de sécurité.

Le rapport souligne le contrôle continu exercé sur les sous-traitants externes utilisés par les entreprises d'IA pour les exercices de sécurité et de test adversarial, une pratique largement adoptée dans le secteur pour identifier les failles avant le déploiement public des systèmes.