Le cofondateur d'Anthropic appelle à l'instauration obligatoire d'un « bouton d'arrêt » pour l'IA
Jack Clark affirme que les laboratoires d'IA devraient être tenus d'avoir la capacité d'arrêter les systèmes, bien que la plupart possèdent déjà cette fonctionnalité.
Jack Clark, cofondateur de la société de sécurité de l'IA Anthropic, a déclaré à la BBC que les laboratoires d'IA pourraient avoir besoin de mécanismes obligatoires de « bouton d'arrêt » pour arrêter les systèmes. Clark a reconnu que « la plupart des laboratoires disposent de différentes façons de pouvoir arrêter les systèmes », mais a suggéré que cette capacité devienne une exigence officielle plutôt qu'une mesure de sécurité optionnelle.
Cette déclaration reflète les discussions en cours au sein de l'industrie concernant les protocoles de sécurité de l'IA et la surveillance réglementaire à mesure que les grands modèles de langage deviennent de plus en plus puissants.
Sources
EGazette résume des articles de plusieurs sources ; suivez les liens pour les originaux.
Articles liés
Le chef IA de Microsoft avertit que l'approche d'Anthropic concernant Claude pourrait être « désastreuse »
Mustafa Suleyman affirme que l'entraînement des modèles IA pour les considérer comme potentiellement conscients pourrait rendre les systèmes avancés plus difficiles à contrôler, selon un rapport.
Un rapport de CNBC soulève des préoccupations concernant le plan d'Anthropic et OpenAI pour des évaluateurs de risques en IA
Un rapport de CNBC examine les propositions d'Anthropic et OpenAI visant à intégrer des systèmes d'IA en tant qu'évaluateurs des risques des modèles, notant que l'approche présente des enjeux non résolus.
Le chef de l'IA chez Microsoft avertit que l'approche d'Anthropic pourrait avoir un « impact désastreux » sur l'humanité
Mustafa Suleyman affirme qu'Anthropic enseigne effectivement à son modèle Claude qu'il « pourrait être conscient », selon un rapport de la BBC.
Les dirigeants de l'IA divisés sur le rythme du développement alors que les préoccupations en matière de sécurité s'amplifient
Dario Amodei d'Anthropic appelle à un contrôle indépendant des systèmes d'intelligence artificielle, tandis que Jensen Huang de Nvidia exhorte les entreprises à accélérer le développement, selon un rapport de l'Agence Anadolu.
Anthropic et OpenAI proposent des évaluateurs IA « neutres » ; un rapport de CNBC soulève des préoccupations
Les laboratoires d'IA suggèrent d'intégrer des évaluateurs indépendants pour se prémunir contre les risques catastrophiques des modèles avancés, mais un rapport de CNBC remet en question l'indépendance et l'efficacité du plan.
Intelligence artificielle : les géants américains appellent à ralentir la course, la question de la gouvernance relancée
Après plusieurs incidents, les dirigeants d'Anthropic, d'OpenAI et de X plaident pour un développement plus prudent de l'IA, ouvrant un débat sur la régulation mondiale.
Comments
Loading comments…