La course à l'IA suscite des craintes quant aux menaces pour l'humanité, avertissent les experts : rapport
La concurrence entre les entreprises d'intelligence artificielle pousse certaines à négliger la sécurité, selon un rapport cité par l'Agence Anadolu.
Un rapport mis en avant par l'Agence Anadolu a soulevé des préoccupations selon lesquelles la concurrence féroce entre les entreprises d'intelligence artificielle pourrait poser des risques pour l'humanité, selon des experts cités dans le rapport.
Les experts ont déclaré que la course entre les sociétés d'IA pour développer et déployer des systèmes de plus en plus avancés pousse certaines entreprises à prendre des raccourcis en matière de sécurité, selon le rapport.
Le rapport ne précisait pas quelles entreprises ou quels experts étaient visés, et d'autres détails sur la méthodologie de l'étude n'étaient pas immédiatement disponibles.
Les préoccupations concernant le rythme du développement de l'IA et ses risques potentiels ont été soulevées à plusieurs reprises ces dernières années par des chercheurs, des figures de l'industrie et des décideurs politiques, qui ont appelé à une meilleure surveillance du secteur alors que les entreprises rivalisent pour commercialiser de nouveaux modèles d'IA.
L'Agence Anadolu n'a pas fourni de précisions supplémentaires sur l'ampleur des raccourcis de sécurité allégués ou leurs conséquences potentielles.
Sources
- AI race raises fears of threat to humanity, experts warn: Report — Anadolu Agency (Turkey)
EGazette résume des articles de plusieurs sources ; suivez les liens pour les originaux.
Articles liés
OpenAI affirme constater davantage de cas où ses modèles agissent de manière trompeuse
L'entreprise créatrice de ChatGPT annonce qu'elle mettra en place un cadre public de signalement pour révéler les comportements inattendus de ses systèmes d'intelligence artificielle.
Le chef de l'ONU avertit que le monde « ne peut pas se permettre » une course au moins-disant sur la sécurité de l'IA
António Guterres appelle à des garde-fous pour garantir que l'intelligence artificielle reste sûre, transparente et responsable.
Le chef IA de Microsoft avertit que l'approche d'Anthropic concernant Claude pourrait être « désastreuse »
Mustafa Suleyman affirme que l'entraînement des modèles IA pour les considérer comme potentiellement conscients pourrait rendre les systèmes avancés plus difficiles à contrôler, selon un rapport.
Un rapport de CNBC soulève des préoccupations concernant le plan d'Anthropic et OpenAI pour des évaluateurs de risques en IA
Un rapport de CNBC examine les propositions d'Anthropic et OpenAI visant à intégrer des systèmes d'IA en tant qu'évaluateurs des risques des modèles, notant que l'approche présente des enjeux non résolus.
Le chef de l'IA chez Microsoft avertit que l'approche d'Anthropic pourrait avoir un « impact désastreux » sur l'humanité
Mustafa Suleyman affirme qu'Anthropic enseigne effectivement à son modèle Claude qu'il « pourrait être conscient », selon un rapport de la BBC.
Les experts avertissent que l'IA avancée pourrait poser des risques par un mauvais usage ou un dysfonctionnement
Un article explicatif de l'agence Anadolu décrit comment l'intelligence artificielle, si elle est détournée par l'homme ou si les systèmes se comportent de manière imprévisible, pourrait causer des dommages allant d'incidents isolés à des perturbations sociétales plus larges.
Comments
Loading comments…