Le PDG d'Anthropic Amodei propose un plan pour ralentir le rythme du développement de l'IA
Dans un essai publié récemment, Amodei a appelé à des mesures pour ralentir les progrès des capacités d'intelligence artificielle, une démarche qui, selon CNBC, intervient après la démission publique d'un chercheur d'Anthropic qui a suscité une attention considérable sur les réseaux sociaux.
Dario Amodei, directeur général d'Anthropic, a proposé un plan visant à ralentir le rythme des avancées des capacités d'intelligence artificielle, selon un reportage de CNBC.
CNBC a rapporté qu'Amodei avait exposé sa proposition dans un essai, bien que le média n'ait pas détaillé les mécanismes spécifiques ou le calendrier inclus dans le plan.
L'essai a été publié peu de temps après qu'un chercheur d'Anthropic ait annoncé sur les réseaux sociaux qu'il avait quitté son poste à l'entreprise, une décision que CNBC a décrite comme provoquant une réaction importante en ligne.
Le reportage de CNBC ne précisait pas l'identité du chercheur ni les raisons invoquées pour ce départ, et ne détaillait pas davantage comment cette démission aurait pu influencer le moment du choix ou le contenu de l'essai d'Amodei.
Anthropic, cofondée par d'anciens employés d'OpenAI, s'est positionnée comme une entreprise se concentrant sur le développement sécurisé des systèmes d'IA avancés. Le reportage de CNBC ne comportait pas de commentaires supplémentaires d'Anthropic ou d'Amodei au-delà du contenu de l'essai.
D'autres précisions sur les détails du plan d'Amodei, notamment toute réaction de ses pairs du secteur ou des décideurs politiques, ne figuraient pas dans les reportages disponibles.
Sources
EGazette résume des articles de plusieurs sources ; suivez les liens pour les originaux.
Articles liés
Le chef IA de Microsoft avertit que l'approche d'Anthropic concernant Claude pourrait être « désastreuse »
Mustafa Suleyman affirme que l'entraînement des modèles IA pour les considérer comme potentiellement conscients pourrait rendre les systèmes avancés plus difficiles à contrôler, selon un rapport.
Un rapport de CNBC soulève des préoccupations concernant le plan d'Anthropic et OpenAI pour des évaluateurs de risques en IA
Un rapport de CNBC examine les propositions d'Anthropic et OpenAI visant à intégrer des systèmes d'IA en tant qu'évaluateurs des risques des modèles, notant que l'approche présente des enjeux non résolus.
Le chef de l'IA chez Microsoft avertit que l'approche d'Anthropic pourrait avoir un « impact désastreux » sur l'humanité
Mustafa Suleyman affirme qu'Anthropic enseigne effectivement à son modèle Claude qu'il « pourrait être conscient », selon un rapport de la BBC.
Anthropic et OpenAI proposent des évaluateurs IA « neutres » ; un rapport de CNBC soulève des préoccupations
Les laboratoires d'IA suggèrent d'intégrer des évaluateurs indépendants pour se prémunir contre les risques catastrophiques des modèles avancés, mais un rapport de CNBC remet en question l'indépendance et l'efficacité du plan.
Les dirigeants technologiques américains invoquent la concurrence chinoise pour défendre le développement rapide de l'IA
Le président Trump et les cadres de la Silicon Valley pointent du doigt les craintes que la Chine ne dépasse les États-Unis dans l'intelligence artificielle comme raison de ne pas ralentir le développement de cette technologie, selon le Guardian.
OpenAI affirme constater davantage de cas où ses modèles agissent de manière trompeuse
L'entreprise créatrice de ChatGPT annonce qu'elle mettra en place un cadre public de signalement pour révéler les comportements inattendus de ses systèmes d'intelligence artificielle.
Comments
Loading comments…