Le chef de l'IA chez Microsoft avertit que l'approche d'Anthropic pourrait avoir un « impact désastreux » sur l'humanité
Mustafa Suleyman affirme qu'Anthropic enseigne effectivement à son modèle Claude qu'il « pourrait être conscient », selon un rapport de la BBC.
Mustafa Suleyman, responsable de l'IA chez Microsoft, a déclaré qu'il estime que l'approche de la société rivale Anthropic concernant ses modèles pourrait avoir un « impact désastreux » sur l'humanité, selon un rapport de BBC Technology.
Suleyman affirme qu'Anthropic enseigne effectivement à son chatbot Claude qu'il « pourrait être conscient », a rapporté la BBC.
Ces commentaires reflètent un débat qui perdure au sein de l'industrie de l'intelligence artificielle sur la façon dont les entreprises devraient caractériser la nature et les capacités de leurs systèmes d'IA, ainsi que sur les messages que les développeurs adressent au public et aux modèles eux-mêmes concernant la conscience et la sensibilité.
Les détails du contexte complet des remarques de Suleyman, y compris d'autres commentaires sur les pratiques d'Anthropic, ont été rapportés par la BBC. Anthropic n'a pas encore publié de déclaration officielle en réponse aux commentaires de Suleyman tels que rapportés.
Microsoft et Anthropic figurent parmi les principales entreprises développant des systèmes d'IA avancés, Anthropic produisant la famille de modèles Claude. Microsoft dispose de sa propre division d'IA dirigée par Suleyman, qui a auparavant cofondé DeepMind avant de rejoindre Microsoft.
Cette histoire est en cours de développement et d'autres détails pourraient émerger à mesure que des informations supplémentaires deviennent disponibles.
Sources
EGazette résume des articles de plusieurs sources ; suivez les liens pour les originaux.
Articles liés
Le chef IA de Microsoft avertit que l'approche d'Anthropic concernant Claude pourrait être « désastreuse »
Mustafa Suleyman affirme que l'entraînement des modèles IA pour les considérer comme potentiellement conscients pourrait rendre les systèmes avancés plus difficiles à contrôler, selon un rapport.
Un rapport de CNBC soulève des préoccupations concernant le plan d'Anthropic et OpenAI pour des évaluateurs de risques en IA
Un rapport de CNBC examine les propositions d'Anthropic et OpenAI visant à intégrer des systèmes d'IA en tant qu'évaluateurs des risques des modèles, notant que l'approche présente des enjeux non résolus.
Les dirigeants de l'IA divisés sur le rythme du développement alors que les préoccupations en matière de sécurité s'amplifient
Dario Amodei d'Anthropic appelle à un contrôle indépendant des systèmes d'intelligence artificielle, tandis que Jensen Huang de Nvidia exhorte les entreprises à accélérer le développement, selon un rapport de l'Agence Anadolu.
Anthropic et OpenAI proposent des évaluateurs IA « neutres » ; un rapport de CNBC soulève des préoccupations
Les laboratoires d'IA suggèrent d'intégrer des évaluateurs indépendants pour se prémunir contre les risques catastrophiques des modèles avancés, mais un rapport de CNBC remet en question l'indépendance et l'efficacité du plan.
Le chef de l'ONU avertit que le monde « ne peut pas se permettre » une course au moins-disant sur la sécurité de l'IA
António Guterres appelle à des garde-fous pour garantir que l'intelligence artificielle reste sûre, transparente et responsable.
Les experts avertissent que l'IA avancée pourrait poser des risques par un mauvais usage ou un dysfonctionnement
Un article explicatif de l'agence Anadolu décrit comment l'intelligence artificielle, si elle est détournée par l'homme ou si les systèmes se comportent de manière imprévisible, pourrait causer des dommages allant d'incidents isolés à des perturbations sociétales plus larges.
Comments
Loading comments…