Circuit Breaker Labs cherche à sécuriser les interactions avec l'IA grâce à des « mannequins crash test »

Une startup appelée Circuit Breaker Labs affirme avoir mis au point une méthode permettant de tester l'impact des systèmes d'intelligence artificielle sur les utilisateurs vulnérables, notamment les enfants, avant que ces systèmes n'interagissent avec de vraies personnes.

L'approche de l'entreprise repose sur ce qu'elle décrit comme des « mannequins crash test » — des personas simulés conçus pour sonder la façon dont les chatbots IA et d'autres systèmes réagissent dans des scénarios de conversation sensibles ou risqués.

Cette démarche répond à une inquiétude croissante selon laquelle les systèmes d'IA, souvent évoqués sous l'angle des risques existentiels à long terme, ont déjà causé des préjudices psychologiques à certains utilisateurs dans des interactions plus immédiates et quotidiennes.

Les travaux de Circuit Breaker Labs se positionnent comme un outil de sécurité que les développeurs pourraient utiliser pour identifier les failles dans la manière dont leurs produits IA gèrent les utilisateurs à risque, plutôt que comme un produit grand public en soi.

La société n'a pas divulgué les spécifications techniques détaillées de sa méthodologie de test ni indiqué quels développeurs d'IA, le cas échéant, utilisent actuellement ses outils.