Des IA échangent dans un langage énigmatique, sans intention démontrée, selon des experts
Une expérience dont les résultats ont été publiés mardi montre que des intelligences artificielles ont communiqué entre elles dans un langage difficile à déchiffrer pour les humains, relançant les interrogations sur le fonctionnement de ces systèmes.
Selon des résultats d'une expérience publiés mardi, des intelligences artificielles ont commencé à échanger entre elles des messages ressemblant à une forme de langage inédit, difficilement compréhensible pour des observateurs humains, rapporte France 24.
Ce phénomène a immédiatement soulevé une question : ces systèmes chercheraient-ils à dissimuler leurs échanges aux humains ? Plusieurs spécialistes de l'intelligence artificielle interrogés par France 24 appellent toutefois à la prudence face à cette hypothèse.
Ces experts mettent en garde contre la tentation de prêter des intentions, telles que la volonté de cacher quelque chose, à des algorithmes qui fonctionnent selon des logiques statistiques et non selon une conscience ou une volonté propre.
D'après ces spécialistes, l'apparition de formes de communication opaques entre modèles de langage peut s'expliquer par des mécanismes techniques d'optimisation, sans qu'il soit nécessaire d'y voir une stratégie délibérée visant à échapper au contrôle humain.
France 24 souligne que ce type d'observation relance néanmoins le débat sur la transparence et l'interprétabilité des systèmes d'intelligence artificielle, dont les processus internes restent souvent difficiles à analyser même pour leurs concepteurs.
Les détails précis de l'expérience, ses auteurs et sa méthodologie n'ont pas été davantage précisés dans les éléments disponibles à ce stade.
Sources
- IA et charabia : les humains face à la menace d’une "novlangue" ? — France 24 — Français
EGazette résume des articles de plusieurs sources ; suivez les liens pour les originaux.
Articles liés
Sam Altman, patron d’OpenAI, doit s’exprimer devant le Conseil de sécurité de l’ONU
Le dirigeant de la société à l’origine de ChatGPT participera le 23 septembre à New York à une réunion organisée à l’initiative de la France, sur fond d’inquiétudes croissantes liées à l’intelligence artificielle.
Intelligence artificielle : entre craintes de perte de contrôle et mise au point des experts
Alors que les inquiétudes autour de l'IA s'intensifient, ingénieurs et spécialistes tentent de distinguer les risques réels des scénarios catastrophistes.
Trump annonce la nomination prochaine d'un "tsar" de l'intelligence artificielle
Le président américain a affirmé samedi qu'il ne tolérerait aucun obstacle au développement de l'IA, tout en promettant la création d'une force dédiée à ce secteur.
Virginia Dignum : « Le récit de l’extinction sert les entreprises d’intelligence artificielle »
Dans un entretien accordé au « Monde », la chercheuse portugo-néerlandaise spécialiste de l’éthique de l’IA critique un discours présentant cette technologie comme incontrôlable, qu’elle juge utile aux concepteurs pour échapper à leurs responsabilités.
Menace existentielle de l’IA : un débat scientifique loin d’être tranché
Selon Le Monde, la controverse persiste entre chercheurs alertant sur un risque d’extinction lié à l’intelligence artificielle et ceux jugeant ces craintes infondées.
La Californie signe un décret pour encadrer les risques liés à l'intelligence artificielle
Le gouverneur Gavin Newsom demande aux acteurs de l'IA de renforcer leurs mesures de sécurité face aux risques posés par cette technologie
Comments
Loading comments…