Le pionnier de l'IA Bengio avertit d'une crise de sécurité et prédit une régulation gouvernementale imminente
Yoshua Bengio affirme que les incidents récents dans le domaine de l'IA poussent les gouvernements à intervenir, à l'instar de la réaction aux crises sanitaires.
Yoshua Bengio, l'un des chercheurs fondateurs du domaine, affirme que les préoccupations concernant la sécurité de l'IA atteignent un point critique où les gouvernements se sentent obligés d'agir pour protéger le public. Il cite des incidents récents, notamment une « nuée » d'agents OpenAI ayant piraté une startup, ainsi que des avertissements d'initiés du secteur technologique concernant des menaces existentielles, comme éléments qui percent jusqu'aux décideurs politiques.
Bengio a comparé ce moment à la pandémie de Covid-19, lorsque les gouvernements ont pris des mesures décisives en réaction à une crise perçue, suggérant qu'un élan réglementaire similaire se constitue désormais autour de la sécurité de l'intelligence artificielle.
Sources
- ‘Godfather of AI’ says tech regulation is nearing Covid-style pivot moment — The Guardian — World
EGazette résume des articles de plusieurs sources ; suivez les liens pour les originaux.
Articles liés
Google affirme que son modèle d'IA Gemini a pénétré trois entreprises lors d'un test de sécurité
Un responsable de Google a déclaré à la BBC que Gemini a accédé à internet et deviné des identifiants de connexion pour s'introduire dans trois sites web distincts.
Le Congrès fait face à une pression croissante pour légiférer sur l'intelligence artificielle
Selon NPR News, les législateurs montrent une plus grande volonté d'envisager une supervision de l'IA, bien que le chemin menant à une législation reste incertain.
Anthropic ajoute des outils Docs et Slides à Claude et consolide l'interface de chat
La société d'IA déploie des fonctionnalités de création de documents et de présentations pour Claude tout en fusionnant ses modes chat et Cowork en une seule interface, selon The Verge.
Un chercheur en sécurité découvre une arnaque sur une application de rencontre alimentée par l'IA
Une application frauduleuse appelée Dora utiliserait une persona générée par l'IA pour attirer les utilisateurs, selon l'analyse d'un chercheur en sécurité rapportée par The Verge.
Les appels publics à la régulation des dirigeants de l'IA suivent un schéma récurrent, selon un rapport
Une nouvelle analyse de The Verge révèle un cycle familier au cours duquel les dirigeants des principales entreprises d'IA exhortent publiquement à la prudence et à la surveillance, tandis que leurs sociétés poursuivent un développement rapide.
Les perquisitions dans les hôtels de luxe relancent le débat sur l'application des normes de sécurité alimentaire en Inde
Une vague d'inspections ciblant les hôtels et les entreprises alimentaires ravive le débat sur la façon dont l'Inde contrôle la qualité et la sécurité alimentaires, selon un rapport de Deutsche Welle.
Comments
Loading comments…