Les experts s'opposent sur les affirmations selon lesquelles l'IA pourrait constituer un risque existentiel pour l'humanité

Une série d'affirmations alarmantes concernant les dangers de l'intelligence artificielle ont fait surface ces derniers jours, suscitant un débat entre les chercheurs, les acteurs de l'industrie et les commentateurs sur la façon dont le public devrait prendre au sérieux les avertissements d'une catastrophe provoquée par l'IA, selon un rapport du Guardian.

Parmi les affirmations examinées par le journal figure l'assertion selon laquelle il existe une probabilité de 10 % que l'IA puisse entraîner l'extinction de l'humanité ou un résultat tout aussi catastrophique. L'examen du Guardian cite également l'affirmation selon laquelle les systèmes d'intelligence artificielle posent une menace plus grande que les armes nucléaires, ainsi qu'un avertissement selon lequel un soi-disant « botnet » composé de systèmes d'IA pourrait menacer la stabilité d'Internet dans son ensemble.

Tous les intervenants du débat ne sont pas d'accord pour dire que ces avertissements sont fondés. Le rapport du Guardian note que certains critiques ont rejeté les affirmations les plus alarmantes comme étant une « opération psychologique » — suggérant que les prédictions alarmistes concernant les risques de l'IA sont promues, délibérément ou non, pour servir les intérêts des entreprises technologiques plutôt que pour refléter une évaluation véritablement honnête du danger.

Le rapport encadre ce différend comme faisant partie d'un désaccord plus large sur la question de savoir si le rythme du développement de l'IA devrait être ralenti. Les partisans de la prudence soutiennent que le déploiement rapide de systèmes d'IA de plus en plus puissants dépasse la capacité de la société à comprendre ou à gérer les risques impliqués, tandis que les sceptiques affirment que le recours à un ton apocalyptique peut être utilisé pour façonner la réglementation ou la perception du public d'une manière qui profite à des entreprises ou à des agendas spécifiques.

L'examen du Guardian présente six affirmations distinctes et les réactions qu'elles ont suscitées, sans parvenir à un seul verdict quant à la probabilité générale ou à la gravité d'une catastrophe liée à l'IA. Le rapport du journal indique que le débat reste non résolu parmi les spécialistes, avec des points de vue très différents sur le poids que le public et les décideurs devraient accorder aux avertissements concernant un risque existentiel posé par l'intelligence artificielle.

Le Guardian n'a pas attribué les affirmations individuelles à des sources nommées dans l'extrait examiné, et plus de détails sur les identités et les arguments des six experts référencés n'étaient pas immédiatement disponibles.