Le PDG d'Anthropic appelle à ralentir le développement de l'IA de pointe

Dario Amodei, directeur général de la société d'IA Anthropic, a appelé à une approche plus réfléchie du développement des systèmes d'intelligence artificielle de pointe, selon un rapport publié par l'agence turque Anadolu.

Amodei aurait averti que le rythme auquel les systèmes d'IA avancés sont développés pourrait dépasser les mesures de sécurité nécessaires pour les gérer de manière responsable, indique le rapport.

Selon le rapport, Amodei a proposé la création de mécanismes de surveillance indépendants pour contrôler le développement de puissants systèmes d'IA, arguant que les seules garanties internes du secteur pourraient ne pas suffire à traiter les risques émergents.

Le PDG d'Anthropic a également appelé à une meilleure coordination internationale entre les gouvernements et les développeurs technologiques, note le rapport, suggérant que des approches nationales fragmentées pourraient laisser des lacunes dans la gouvernance mondiale des technologies d'IA de pointe.

Le rapport de l'agence Anadolu a présenté ces remarques comme faisant partie d'un ensemble plus large de cinq points clés attribués à Amodei concernant les risques et les défis de gouvernance posés par l'évolution rapide des capacités de l'IA.

Anthropic, l'entreprise que dirige Amodei, figure parmi les sociétés développant des modèles d'IA à grande échelle et a déjà exprimé ses préoccupations quant aux implications en matière de sécurité de l'avancée des capacités de l'IA sans structures de surveillance correspondantes.