Le débat sur les avertissements concernant l'« apocalypse » de l'IA détourne l'attention des préjudices actuels, selon un podcast de The Guardian
L'avertissement d'un ancien chercheur d'Anthropic concernant le risque existentiel de l'IA a attiré le sénateur Bernie Sanders et Steve Bannon au même événement de Washington, mais une journaliste tech de The Guardian soutient que cette alarme pourrait détourner l'attention des préjudices que l'IA cause déjà.
Un ancien chercheur de la société d'intelligence artificielle Anthropic a fait une déclaration publique apocalyptique sur les dangers de l'IA, selon le podcast « Stateside » de The Guardian, suscitant ce que le programme décrivait comme une panique mondiale quant à la possibilité que la technologie pose une menace existentielle pour l'humanité.
Cet avertissement a déclenché la tenue d'un événement à Washington lors duquel le sénateur américain Bernie Sanders a déclaré que le Congrès s'était « endormi » sur la réglementation de l'intelligence artificielle, selon le reportage. Le rassemblement a attiré un mélange inhabituel de participants, a noté le podcast, le commentateur conservateur Steve Bannon apparaissant également au même événement.
Les animateurs Kai Wright et Carter Sherman ont discuté de l'épisode avec la journaliste spécialisée en technologie de The Guardian, Johana Bhuiyan, qui a été invitée à aider à contextualiser ce moment, selon le programme.
Bhuiyan a soutenu que le public et les décideurs politiques devraient être sceptiques face aux appels du secteur en faveur de la réglementation de l'IA, selon le podcast, suggérant que ces appels peuvent parfois servir les intérêts des entreprises plutôt que de véritables préoccupations en matière de sécurité.
La discussion a soulevé la question de savoir si l'attention intense portée aux risques existentiels spéculatifs et à long terme de l'IA détourne l'attention des problèmes plus immédiats que la technologie cause déjà, selon le segment de The Guardian. Le podcast n'a pas précisé quels sont ces préjudices immédiats, mais a présenté le débat comme une tension entre les avertissements spectaculaires et catastrophistes et les préoccupations quotidiennes liées au déploiement actuel de l'IA.
L'épisode n'a pas identifié l'ancien chercheur d'Anthropic dont les commentaires ont déclenché la réaction, ni fourni de détails supplémentaires sur les revendications spécifiques formulées ou la liste complète des participants à l'événement de Washington.
Sources
- Why the real AI apocalypse is already here – Stateside with Kai and Carter — The Guardian — Business
EGazette résume des articles de plusieurs sources ; suivez les liens pour les originaux.
Articles liés
Le chef IA de Microsoft avertit que l'approche d'Anthropic concernant Claude pourrait être « désastreuse »
Mustafa Suleyman affirme que l'entraînement des modèles IA pour les considérer comme potentiellement conscients pourrait rendre les systèmes avancés plus difficiles à contrôler, selon un rapport.
Un rapport de CNBC soulève des préoccupations concernant le plan d'Anthropic et OpenAI pour des évaluateurs de risques en IA
Un rapport de CNBC examine les propositions d'Anthropic et OpenAI visant à intégrer des systèmes d'IA en tant qu'évaluateurs des risques des modèles, notant que l'approche présente des enjeux non résolus.
Le chef de l'IA chez Microsoft avertit que l'approche d'Anthropic pourrait avoir un « impact désastreux » sur l'humanité
Mustafa Suleyman affirme qu'Anthropic enseigne effectivement à son modèle Claude qu'il « pourrait être conscient », selon un rapport de la BBC.
Les dirigeants de l'IA divisés sur le rythme du développement alors que les préoccupations en matière de sécurité s'amplifient
Dario Amodei d'Anthropic appelle à un contrôle indépendant des systèmes d'intelligence artificielle, tandis que Jensen Huang de Nvidia exhorte les entreprises à accélérer le développement, selon un rapport de l'Agence Anadolu.
Le Sénat américain bloque le projet de "bouton d'arrêt" pour l'IA
La proposition du sénateur républicain John Kennedy de créer un mécanisme d'arrêt d'urgence pour les systèmes d'IA n'a pas obtenu le consentement unanime.
Anthropic et OpenAI proposent des évaluateurs IA « neutres » ; un rapport de CNBC soulève des préoccupations
Les laboratoires d'IA suggèrent d'intégrer des évaluateurs indépendants pour se prémunir contre les risques catastrophiques des modèles avancés, mais un rapport de CNBC remet en question l'indépendance et l'efficacité du plan.
Comments
Loading comments…