Canada : La Colombie-Britannique poursuit OpenAI au sujet du rôle présumé de ChatGPT dans la fusillade de l’école de Tumbler Ridge

La province canadienne de Colombie-Britannique a intenté un procès contre OpenAI, alléguant que le chatbot ChatGPT de la société a joué un rôle dans une fusillade scolaire survenue à Tumbler Ridge. Le procès affirme que la société technologique a ignoré les menaces mortelles apparues lors des interactions avec le chatbot.

Selon l’allégation, la province cherche à revoir les pratiques de sécurité appliquées par OpenAI à ChatGPT, arguant que l’entreprise n’a pas agi sur les signes avant-coureurs avant la fusillade. Le procès impliquerait directement ChatGPT dans la séquence d’événements précédant la violence.

Cette affaire s’ajoute à un corpus croissant de surveillance juridique auquel les entreprises d’intelligence artificielle sont confrontées sur la manière dont leurs produits gèrent les conversations touchant la violence, l’automutilation ou les menaces envers autrui. Les gouvernements et régulateurs de plusieurs juridictions ont ces dernières années exprimé des inquiétudes quant aux responsabilités que portent les développeurs d’IA lorsque leurs outils sont utilisés par des personnes exprimant des intentions dangereuses.

OpenAI n’a pas encore publié de réponse publique détaillée aux détails du procès en Colombie-Britannique, sur la base des informations disponibles à ce jour. L’entreprise a précédemment déclaré qu’elle œuvrait à améliorer les systèmes de sécurité de ses produits, bien que les critiques aient soutenu que ces mesures n’ont pas suivi les risques liés à l’utilisation généralisée des chatbots.

Le procès devrait attirer l’attention sur la modération des chatbots IA lorsque les utilisateurs soulèvent des sujets impliquant une violence potentielle, et pourrait influencer le débat plus large sur la surveillance réglementaire des outils d’IA générative opérant au Canada et ailleurs. D’autres détails sur les procédures judiciaires, y compris les changements spécifiques de sécurité exigés, devraient émerger au fur et à mesure que l’affaire progresse.