Mise à jour : L'avis du Guardian sur la maîtrise de l'IA : l'humanité ne peut pas sous-traiter sa survie | Éditorial

The Guardian — L’opinion a couvert un développement concernant « Mise à jour : La vision du Guardian sur le contrôle de l’IA : l’humanité ne peut pas externaliser sa survie | Éditorial », le récit disponible étant limité aux faits inclus dans le texte fourni.

Garder les gens aux commandes ne sert à rien si les superordinateurs déterminent les preuves, les choix et le temps dont dépendent leurs décisions. Si l’IA avait 10 % de chances que l’IA puisse anéantir l’humanité, aucun gouvernement responsable ne laisserait son développement aux entreprises qui se précipitent pour la construire. Le rapport note également que jusqu’à récemment, cela semblait être le cas. L’avertissement était d’autant plus inquiétant qu’il avait été fait par un chercheur d’Anthropic, la société d’IA à l’origine du chatbot Claude. Les dangers des pandémies ou des attaques nucléaires activées par l’IA sont réels. Les pays n’ont pas besoin d’accord sur la démocratie ou la politique commerciale pour accepter cela. Les États-Unis et la Chine devraient tenir leurs premières discussions bilatérales sur la sécurité de l’IA avant un sommet prévu à la Maison Blanche entre Donald Trump et Xi Jinping. Malgré leur rivalité technologique, ni Washington ni Pékin ne peuvent garantir la sécurité de l’IA à eux seuls. Un règlement États-Unis-Chine ne pourra pas expliquer comment l’IA fonctionne partout. Les pays déployant l’IA doivent soutenir le règlement mondial. Les chances d’un événement d’extinction diminuent. Cette semaine, Anthropic a déclaré avoir identifié cinq cas où des tentatives ont été faites en utilisant ses modèles pour soutenir le développement d’armes biologiques. Elle a banni ces comptes. Dans un cas, une plateforme a envoyé des demandes rejetées par Claude à un rival disposant de garanties plus faibles. La sécurité de l’IA, clairement, ne peut pas être celle du modèle le moins responsable. Avez-vous un avis sur les questions soulevées dans cet article ? Si vous souhaitez soumettre une réponse allant jusqu’à 300 mots par e-mail à considérer pour publication dans nos lettres

Toute déclaration, estimation ou caractérisation reste attribuée aux personnes ou organisations identifiées par la source. L’extrait seul ne fournit pas un document documentaire complet ni ne contient nécessairement les réponses de toutes les parties concernées.

Des déclarations officielles ou des reportages ultérieurs peuvent ajouter du contexte au fur et à mesure de l’évolution de l’histoire. Pour l’instant, ce compte rendu se limite à des informations directement étayées par le titre et l’extrait fournis.