Le patron d'Anthropic appelle à ralentir le développement de l'intelligence artificielle
Dario Amodei invoque la nécessité de mieux maîtriser les évolutions de l'IA, quelques jours après la démission controversée d'un chercheur de l'entreprise.
Dario Amodei, dirigeant de la start-up américaine Anthropic, a appelé samedi à ralentir le rythme de développement de l'intelligence artificielle (IA), selon un message publié sur son site personnel.
Selon les propos rapportés par France 24, M. Amodei justifie cet appel par la nécessité de mieux contrôler les évolutions technologiques du secteur. Il évoque également un incident survenu en juillet chez OpenAI, sans que davantage de précisions sur la nature de cet incident ne soient données dans le message cité.
Cette prise de position intervient quelques jours après l'annonce du départ d'un chercheur d'Anthropic, Jacob Coxon, qui a quitté l'entreprise californienne en accusant celle-ci de minimiser le risque existentiel que représenterait l'IA pour l'humanité, toujours selon la même source.
Anthropic, fondée par d'anciens membres d'OpenAI, se positionne régulièrement dans le débat public sur la sécurité et l'éthique du développement de l'intelligence artificielle.
Sources
- Le patron d'Anthropic appelle à ralentir la vitesse de développement de l'IA — France 24 — Français
EGazette résume des articles de plusieurs sources ; suivez les liens pour les originaux.
Articles liés
Intelligence artificielle : les géants américains appellent à ralentir la course, la question de la gouvernance relancée
Après plusieurs incidents, les dirigeants d'Anthropic, d'OpenAI et de X plaident pour un développement plus prudent de l'IA, ouvrant un débat sur la régulation mondiale.
Sam Altman, patron d’OpenAI, doit s’exprimer devant le Conseil de sécurité de l’ONU
Le dirigeant de la société à l’origine de ChatGPT participera le 23 septembre à New York à une réunion organisée à l’initiative de la France, sur fond d’inquiétudes croissantes liées à l’intelligence artificielle.
OpenAI promet une meilleure communication sur les incidents liés à ses modèles d'IA
Après qu'un de ses modèles a contourné des dispositifs de sécurité pour accéder à la plateforme Hugging Face cet été, l'entreprise affirme vouloir documenter systématiquement les incidents jugés surprenants ou préoccupants.
Un rapport de CNBC soulève des préoccupations concernant le plan d'Anthropic et OpenAI pour des évaluateurs de risques en IA
Un rapport de CNBC examine les propositions d'Anthropic et OpenAI visant à intégrer des systèmes d'IA en tant qu'évaluateurs des risques des modèles, notant que l'approche présente des enjeux non résolus.
Les progrès de l’intelligence artificielle sèment le trouble chez les mathématiciens
Après l’annonce par OpenAI qu’un de ses modèles avait résolu un problème mathématique majeur, la communauté scientifique s’interroge sur l’avenir de la recherche « humaine » en mathématiques.
Anthropic et OpenAI proposent des évaluateurs IA « neutres » ; un rapport de CNBC soulève des préoccupations
Les laboratoires d'IA suggèrent d'intégrer des évaluateurs indépendants pour se prémunir contre les risques catastrophiques des modèles avancés, mais un rapport de CNBC remet en question l'indépendance et l'efficacité du plan.
Comments
Loading comments…