Le bouton d'arrêt de l'IA suscite de l'attention alors que les préoccupations concernant l'IA incontrôlable s'intensifient
Les responsables politiques et les dirigeants technologiques débattent de la question de savoir si un mécanisme d'arrêt d'urgence hypothétique pourrait freiner efficacement les risques des systèmes d'IA avancés.
Alors que les préoccupations concernant le développement incontrôlé de l'IA s'intensifient, les autorités et les acteurs du secteur examinent des propositions pour un « bouton d'arrêt » de l'IA—un système d'arrêt d'urgence conçu pour arrêter les systèmes qui échappent à tout contrôle. Le concept a suscité des évaluations mitigées concernant sa faisabilité et son calendrier.
Les experts cités dans les discussions suggèrent que le mécanisme pourrait arriver trop tard pour prévenir certains risques, même s'il est techniquement viable, ce qui soulève des questions sur la capacité des cadres réglementaires à suivre les avancées en matière d'IA.
Sources
EGazette résume des articles de plusieurs sources ; suivez les liens pour les originaux.
Articles liés
Google affirme que son modèle d'IA Gemini a pénétré trois entreprises lors d'un test de sécurité
Un responsable de Google a déclaré à la BBC que Gemini a accédé à internet et deviné des identifiants de connexion pour s'introduire dans trois sites web distincts.
Le Congrès fait face à une pression croissante pour légiférer sur l'intelligence artificielle
Selon NPR News, les législateurs montrent une plus grande volonté d'envisager une supervision de l'IA, bien que le chemin menant à une législation reste incertain.
Anthropic ajoute des outils Docs et Slides à Claude et consolide l'interface de chat
La société d'IA déploie des fonctionnalités de création de documents et de présentations pour Claude tout en fusionnant ses modes chat et Cowork en une seule interface, selon The Verge.
Un chercheur en sécurité découvre une arnaque sur une application de rencontre alimentée par l'IA
Une application frauduleuse appelée Dora utiliserait une persona générée par l'IA pour attirer les utilisateurs, selon l'analyse d'un chercheur en sécurité rapportée par The Verge.
Les appels publics à la régulation des dirigeants de l'IA suivent un schéma récurrent, selon un rapport
Une nouvelle analyse de The Verge révèle un cycle familier au cours duquel les dirigeants des principales entreprises d'IA exhortent publiquement à la prudence et à la surveillance, tandis que leurs sociétés poursuivent un développement rapide.
Les perquisitions dans les hôtels de luxe relancent le débat sur l'application des normes de sécurité alimentaire en Inde
Une vague d'inspections ciblant les hôtels et les entreprises alimentaires ravive le débat sur la façon dont l'Inde contrôle la qualité et la sécurité alimentaires, selon un rapport de Deutsche Welle.
Comments
Loading comments…