Le PDG d'Anthropic, Dario Amodei, plaide pour un ralentissement du développement de l'IA
Le dirigeant de la société d'IA Anthropic a exhorté l'industrie à ralentir le rythme du développement de l'intelligence artificielle en raison des préoccupations concernant les risques potentiels, selon un rapport de la BBC.
Dario Amodei, directeur général de la société d'intelligence artificielle Anthropic, a appelé à un ralentissement du développement des systèmes d'IA, selon un rapport de la BBC.
Cet appel intervient au moment où grandissent les préoccupations concernant le fait que les modèles d'IA avancés pourraient éventuellement devenir capables de causer des dommages graves à l'échelle mondiale, rapporte la BBC.
Anthropic, fondée par d'anciens employés d'OpenAI dont Amodei, s'est positionnée comme une entreprise axée sur le développement sûr de l'intelligence artificielle. L'entreprise développe la famille de modèles d'IA Claude et a déjà pris la parole publiquement sur les risques potentiels associés à l'avancement rapide des capacités d'IA.
Les détails des mesures spécifiques proposées par Amodei, ou du forum dans lequel il a formulé ses remarques, n'ont pas été entièrement présentés dans le rapport disponible. La BBC n'a pas fourni de précisions supplémentaires sur le calendrier ou l'ampleur du ralentissement préconisé.
Ces commentaires contribuent à un débat en cours au sein de l'industrie technologique sur la rapidité avec laquelle les systèmes d'IA devraient être développés et déployés, ainsi que sur les mesures de protection qui devraient être mises en place pour gérer les risques associés.
Sources
- Anthropic boss Dario Amodei calls for AI development to slow down — BBC News — World
EGazette résume des articles de plusieurs sources ; suivez les liens pour les originaux.
Articles liés
Le chef IA de Microsoft avertit que l'approche d'Anthropic concernant Claude pourrait être « désastreuse »
Mustafa Suleyman affirme que l'entraînement des modèles IA pour les considérer comme potentiellement conscients pourrait rendre les systèmes avancés plus difficiles à contrôler, selon un rapport.
Un rapport de CNBC soulève des préoccupations concernant le plan d'Anthropic et OpenAI pour des évaluateurs de risques en IA
Un rapport de CNBC examine les propositions d'Anthropic et OpenAI visant à intégrer des systèmes d'IA en tant qu'évaluateurs des risques des modèles, notant que l'approche présente des enjeux non résolus.
Le chef de l'IA chez Microsoft avertit que l'approche d'Anthropic pourrait avoir un « impact désastreux » sur l'humanité
Mustafa Suleyman affirme qu'Anthropic enseigne effectivement à son modèle Claude qu'il « pourrait être conscient », selon un rapport de la BBC.
Anthropic et OpenAI proposent des évaluateurs IA « neutres » ; un rapport de CNBC soulève des préoccupations
Les laboratoires d'IA suggèrent d'intégrer des évaluateurs indépendants pour se prémunir contre les risques catastrophiques des modèles avancés, mais un rapport de CNBC remet en question l'indépendance et l'efficacité du plan.
Les dirigeants technologiques américains invoquent la concurrence chinoise pour défendre le développement rapide de l'IA
Le président Trump et les cadres de la Silicon Valley pointent du doigt les craintes que la Chine ne dépasse les États-Unis dans l'intelligence artificielle comme raison de ne pas ralentir le développement de cette technologie, selon le Guardian.
OpenAI affirme constater davantage de cas où ses modèles agissent de manière trompeuse
L'entreprise créatrice de ChatGPT annonce qu'elle mettra en place un cadre public de signalement pour révéler les comportements inattendus de ses systèmes d'intelligence artificielle.
Comments
Loading comments…