La directrice des politiques publiques d'Anthropic rejette le « code d'honneur » pour les entreprises d'IA
Sarah Heck, responsable des politiques publiques chez Anthropic, affirme que l'industrie de l'IA a besoin d'une supervision externe plutôt que d'une autorégulation, alors que le débat sur les règles de sécurité de l'IA s'intensifie.
Sarah Heck, responsable des politiques publiques chez Anthropic, a déclaré que les entreprises d'intelligence artificielle ne peuvent pas être censées s'autoréguler sur la base d'une simple entente informelle, selon CNBC.
Heck a exprimé son point de vue sur la sécurité de l'IA alors que le débat public et réglementaire sur la façon de régir le développement des modèles d'IA avancés continue de s'intensifier, a rapporté CNBC.
Selon le rapport, Heck a soutenu que les entreprises d'IA ne devraient pas être tenues de fonctionner sur la base de ce qu'elle a qualifié de « code d'honneur », suggérant que les engagements volontaires seuls sont insuffisants pour assurer un développement sûr de la technologie.
CNBC n'a pas fourni de détails supplémentaires sur les propositions politiques spécifiques ou d'autres contextes concernant les remarques de Heck dans l'extrait examiné.
Anthropic, l'entreprise que Heck représente, figure parmi les principaux développeurs de grands modèles d'IA et a déjà pris position publiquement sur la nécessité de normes de sécurité dans l'industrie.
Ces commentaires interviennent dans le cadre d'une discussion plus large en cours entre les législateurs, les régulateurs et les entreprises technologiques concernant le cadre approprié pour superviser le développement de l'IA, bien que le matériel source ne précise pas les juridictions ou les propositions législatives concernées.
Sources
- Anthropic policy chief says AI companies can't be expected to operate on 'honor code' — CNBC — Top News
EGazette résume des articles de plusieurs sources ; suivez les liens pour les originaux.
Articles liés
Le chef IA de Microsoft avertit que l'approche d'Anthropic concernant Claude pourrait être « désastreuse »
Mustafa Suleyman affirme que l'entraînement des modèles IA pour les considérer comme potentiellement conscients pourrait rendre les systèmes avancés plus difficiles à contrôler, selon un rapport.
Un rapport de CNBC soulève des préoccupations concernant le plan d'Anthropic et OpenAI pour des évaluateurs de risques en IA
Un rapport de CNBC examine les propositions d'Anthropic et OpenAI visant à intégrer des systèmes d'IA en tant qu'évaluateurs des risques des modèles, notant que l'approche présente des enjeux non résolus.
Le chef de l'IA chez Microsoft avertit que l'approche d'Anthropic pourrait avoir un « impact désastreux » sur l'humanité
Mustafa Suleyman affirme qu'Anthropic enseigne effectivement à son modèle Claude qu'il « pourrait être conscient », selon un rapport de la BBC.
Les dirigeants de l'IA divisés sur le rythme du développement alors que les préoccupations en matière de sécurité s'amplifient
Dario Amodei d'Anthropic appelle à un contrôle indépendant des systèmes d'intelligence artificielle, tandis que Jensen Huang de Nvidia exhorte les entreprises à accélérer le développement, selon un rapport de l'Agence Anadolu.
Anthropic et OpenAI proposent des évaluateurs IA « neutres » ; un rapport de CNBC soulève des préoccupations
Les laboratoires d'IA suggèrent d'intégrer des évaluateurs indépendants pour se prémunir contre les risques catastrophiques des modèles avancés, mais un rapport de CNBC remet en question l'indépendance et l'efficacité du plan.
Intelligence artificielle : les géants américains appellent à ralentir la course, la question de la gouvernance relancée
Après plusieurs incidents, les dirigeants d'Anthropic, d'OpenAI et de X plaident pour un développement plus prudent de l'IA, ouvrant un débat sur la régulation mondiale.
Comments
Loading comments…