Un cofondateur d'Anthropic appelle à débattre d'un « bouton d'arrêt » obligatoire pour l'IA
Jack Clark estime qu'un mécanisme indépendamment vérifiable pour désactiver les systèmes d'IA dangereux pourrait s'avérer nécessaire.
Jack Clark, cofondateur de la société spécialisée en sécurité de l'IA Anthropic, appelle à un débat sur la mise en place d'un « bouton d'arrêt » obligatoire pour les systèmes d'intelligence artificielle, selon un rapport. Clark soutient qu'un moyen indépendamment vérifiable de désactiver une IA dangereuse pourrait s'avérer nécessaire à mesure que la technologie progresse.
Cette proposition établirait des mécanismes externes pour neutraliser les systèmes d'IA jugés potentiellement risqués, plutôt que de s'en remettre uniquement aux contrôles internes des développeurs.
Sources
- Anthropic co-founder says mandatory AI ‘kill switch’ may be needed: Report — Anadolu Agency (Turkey)
EGazette résume des articles de plusieurs sources ; suivez les liens pour les originaux.
Articles liés
Le Congrès fait face à une pression croissante pour légiférer sur l'intelligence artificielle
Selon NPR News, les législateurs montrent une plus grande volonté d'envisager une supervision de l'IA, bien que le chemin menant à une législation reste incertain.
Les appels publics à la régulation des dirigeants de l'IA suivent un schéma récurrent, selon un rapport
Une nouvelle analyse de The Verge révèle un cycle familier au cours duquel les dirigeants des principales entreprises d'IA exhortent publiquement à la prudence et à la surveillance, tandis que leurs sociétés poursuivent un développement rapide.
Blumenthal avertit du risque de perte de contrôle sur l'IA et réclame une meilleure surveillance
L'avertissement du sénateur démocrate intervient alors que l'administration Trump fait de la domination américaine en IA face à la Chine une priorité nationale majeure.
Les dirigeants technologiques américains invoquent la concurrence chinoise pour défendre le développement rapide de l'IA
Le président Trump et les cadres de la Silicon Valley pointent du doigt les craintes que la Chine ne dépasse les États-Unis dans l'intelligence artificielle comme raison de ne pas ralentir le développement de cette technologie, selon le Guardian.
Apple envisagerait un retour sur le marché des serveurs dans un contexte de boom de l'IA
Selon un rapport de The Information, Apple explorerait un retour sur le marché du matériel serveur, potentiellement en partenariat avec Nvidia, face à la croissance de la demande en puissance informatique pour l'IA.
Google ouvre ses appareils connectés aux agents IA tiers via un nouveau protocole
Google Home MCP permet à des outils comme Claude et Open Claw de contrôler et surveiller les appareils connectés via une intégration normalisée, selon The Verge.
Comments
Loading comments…