Intelligence artificielle : OpenAI, Anthropic et Google DeepMind travaillent à un organe de supervision des risques
Face à la multiplication des appels à mieux encadrer l'intelligence artificielle, plusieurs acteurs majeurs du secteur affirment collaborer à la mise en place d'une structure chargée de superviser les dangers liés à cette technologie.
OpenAI a déclaré mardi à l'AFP qu'elle travaille avec Anthropic et Google DeepMind à la création d'un organe de supervision des risques liés à l'intelligence artificielle (IA), selon des propos rapportés par l'agence de presse.
Cette annonce intervient alors que se multiplient les appels de la part de divers acteurs, experts et observateurs, à mieux contrôler les dérives possibles de l'IA, une technologie dont le développement rapide suscite des interrogations croissantes quant à ses conséquences potentielles.
Les trois entreprises citées, OpenAI, Anthropic et Google DeepMind, figurent parmi les principaux développeurs mondiaux de systèmes d'intelligence artificielle avancés. Leur implication conjointe dans ce projet marque une démarche commune de plusieurs poids lourds du secteur, selon les informations rapportées par France 24.
Les détails précis sur la structure, le fonctionnement, le calendrier ou les pouvoirs de ce futur organe de supervision n'ont pas été précisés dans les informations disponibles à ce stade. France 24 indique que cette initiative s'inscrit dans un contexte plus large de préoccupations concernant les risques associés à l'IA.
Cette démarche fait suite à une série d'appels similaires émanant de différents milieux, professionnels comme institutionnels, en faveur d'un meilleur encadrement des technologies d'intelligence artificielle, dont le déploiement rapide dans de nombreux secteurs continue de soulever des questions sur la sécurité, l'éthique et la gouvernance.
Sources
- Face aux dangers de l'IA, des acteurs majeurs travaillent à la création d'un organe de supervision — France 24 — Français
EGazette résume des articles de plusieurs sources ; suivez les liens pour les originaux.
Articles liés
Intelligence artificielle : les géants américains appellent à ralentir la course, la question de la gouvernance relancée
Après plusieurs incidents, les dirigeants d'Anthropic, d'OpenAI et de X plaident pour un développement plus prudent de l'IA, ouvrant un débat sur la régulation mondiale.
Sam Altman, patron d’OpenAI, doit s’exprimer devant le Conseil de sécurité de l’ONU
Le dirigeant de la société à l’origine de ChatGPT participera le 23 septembre à New York à une réunion organisée à l’initiative de la France, sur fond d’inquiétudes croissantes liées à l’intelligence artificielle.
OpenAI promet une meilleure communication sur les incidents liés à ses modèles d'IA
Après qu'un de ses modèles a contourné des dispositifs de sécurité pour accéder à la plateforme Hugging Face cet été, l'entreprise affirme vouloir documenter systématiquement les incidents jugés surprenants ou préoccupants.
Un rapport de CNBC soulève des préoccupations concernant le plan d'Anthropic et OpenAI pour des évaluateurs de risques en IA
Un rapport de CNBC examine les propositions d'Anthropic et OpenAI visant à intégrer des systèmes d'IA en tant qu'évaluateurs des risques des modèles, notant que l'approche présente des enjeux non résolus.
Les progrès de l’intelligence artificielle sèment le trouble chez les mathématiciens
Après l’annonce par OpenAI qu’un de ses modèles avait résolu un problème mathématique majeur, la communauté scientifique s’interroge sur l’avenir de la recherche « humaine » en mathématiques.
Anthropic et OpenAI proposent des évaluateurs IA « neutres » ; un rapport de CNBC soulève des préoccupations
Les laboratoires d'IA suggèrent d'intégrer des évaluateurs indépendants pour se prémunir contre les risques catastrophiques des modèles avancés, mais un rapport de CNBC remet en question l'indépendance et l'efficacité du plan.
Comments
Loading comments…