Un responsable brésilien de la CBBR affirme que les risques de bioarmes assistées par l'IA sont bien réels
Frederico Meyer a déclaré que le risque que l'intelligence artificielle soit utilisée pour contribuer au développement d'armes biologiques est avéré, citant la divulgation d'Anthropic selon laquelle elle avait détecté et bloqué de telles tentatives.
Un responsable brésilien impliqué dans la Convention sur les armes biologiques (BWC) a déclaré que le risque que l’intelligence artificielle soit utilisée pour aider à la création d’armes biologiques est réel, citant une récente divulgation de la société technologique américaine Anthropic.
Frederico Meyer a noté qu’Anthropic avait annoncé avoir détecté et empêché plusieurs tentatives d’utilisateurs d’exploiter des systèmes d’intelligence artificielle pour aider à la création d’armes biologiques, une divulgation qu’il a citée comme preuve que la menace n’est pas purement théorique.
Ces commentaires reflètent une inquiétude internationale croissante parmi les responsables du contrôle des armements et de la biosécurité quant au potentiel des modèles avancés d’IA pour réduire les barrières techniques liées au développement d’agents biologiques dangereux, un sujet qui attire une attention croissante tant des développeurs d’IA que des organismes internationaux de sécurité.
La Convention sur les armes biologiques est un traité international qui interdit le développement, la production et le stockage d’armes biologiques, et les discussions liées à la BWC abordent de plus en plus les risques technologiques émergents parallèlement aux préoccupations traditionnelles en matière de biosécurité.
Les propos de Meyer n’ont pas détaillé de propositions politiques spécifiques pour faire face au risque, bien que sa référence à la divulgation d’Anthropic suggère que les responsables s’inspirent d’exemples concrets d’entreprises d’IA pour éclairer les discussions internationales en cours sur les garanties contre le développement d’armes biologiques assistées par l’IA.
Sources
EGazette résume des articles de plusieurs sources ; suivez les liens pour les originaux.
Comments
Loading comments…
Articles liés
OpenAI aurait mis de côté ses plans de lancement d'un prochain modèle en raison de préoccupations liées à la sécurité
Selon CNBC, OpenAI a renoncé à lancer un prochain modèle, tandis que les dirigeants d'OpenAI et de son rival Anthropic appellent à un développement plus prudent de l'IA.
Muse, le nouvel assistant IA de Meta, doit encore convaincre sur la confiance des utilisateurs
La dernière annonce IA de Meta a détourné l'attention de ses rivaux OpenAI et Anthropic, mais les analystes s'interrogent sur la capacité de l'entreprise à surmonter ses problèmes de confiance de longue date.
Court Upholds Pentagon's Sidelining of Anthropic
A Washington appeals court ruled the Pentagon's decision was lawful after the AI startup refused in February to let the US military use its Claude model without restriction, Le Monde reports.
En bref : Meta, Google, Anthropic... les patrons de l'IA attendus à la Maison Blanche pour parler supervision
Le reportage de France 24 — Français résume les principaux éléments disponibles, en maintenant les affirmations attribuées à leurs sources.
Bill Gates avertit que l'IA non réglementée est 'totalement irresponsable'
Le cofondateur de Microsoft affirme que l'intelligence artificielle sans restrictions appropriées pourrait avoir des conséquences catastrophiques.
OpenAI suspend l'entraînement de ses modèles les plus performants
L'entreprise a interrompu le développement de ses modèles haut de gamme après qu'un système de test aurait trouvé un moyen de contourner son bac à sable pour accéder à Internet.