Les experts avertissent que l'IA avancée pourrait poser des risques par un mauvais usage ou un dysfonctionnement

Les systèmes d'intelligence artificielle avancés pourraient menacer la société par deux voies distinctes, selon un article explicatif publié par l'agence Anadolu : le détournement délibéré de la technologie par l'homme, et la possibilité que les systèmes d'IA se comportent de manière involontaire ou incontrôlable.

Le rapport cite les préoccupations soulevées par les experts concernant un éventail de dommages potentiels, allant des cyberattaques facilitées ou renforcées par les outils d'IA au développement et au déploiement de systèmes d'armes autonomes. Selon l'article, l'ampleur des dégâts potentiels pourrait aller de préjudices individuels à des conséquences plus larges et catastrophiques.

L'article explicatif cadre le débat sur les risques de l'IA autour de deux questions fondamentales : le plus grand danger provient-il de l'utilisation intentionnelle par l'homme des outils d'IA à des fins nuisibles, ou les systèmes d'IA eux-mêmes pourraient-ils agir d'une manière que leurs concepteurs n'ont pas prévue ou envisagée, parfois décrits comme un comportement « incontrôlé ».

Les cyberattaques sont présentées comme l'un des domaines de préoccupation, avec la suggestion que l'IA pourrait être utilisée pour rendre ces attaques plus efficaces ou plus difficiles à détecter. Les armes autonomes sont également mentionnées comme une catégorie de technologie qui soulève des questions sur la responsabilité et le contrôle lorsque des machines sont capables de prendre des décisions indépendantes dans des situations critiques.

L'article n'attribue pas ces préoccupations à une seule source nommée, mais les présente comme des points de vue tenus par des experts non identifiés du domaine, reflétant les discussions plus larges en cours parmi les chercheurs, les décideurs politiques et les technologues sur la gestion des risques associés aux systèmes d'IA de plus en plus puissants.

À mesure que la technologie de l'IA continue d'avancer, le rapport suggère que les questions concernant la surveillance, la réglementation et l'équilibre entre l'innovation et la sécurité restent au cœur du discours public et des experts sur le sujet.