Le PDG d'Anthropic expose un plan pour « maîtriser la frontière »
TechCrunch rapporte que le directeur général d'Anthropic a exposé une approche du développement de l'intelligence artificielle que l'entreprise décrit comme maîtrisant la frontière.
Le directeur général d'Anthropic a exposé un plan décrivant l'approche de l'entreprise en matière de développement de l'intelligence artificielle comme un effort pour « maîtriser la frontière », selon un rapport publié par TechCrunch le 12 septembre.
Le rapport, intitulé « Le PDG d'Anthropic expose un plan pour 'maîtriser la frontière' », pose la question de ce qu'une telle approche ressemblerait réellement en pratique, bien que d'autres détails spécifiques n'aient pas été inclus dans l'extrait disponible.
Anthropic, l'entreprise de recherche et de sécurité en IA connue pour sa famille de modèles Claude, est dirigée par le directeur général Dario Amodei. L'entreprise s'est précédemment positionnée comme équilibrant le développement rapide des capacités d'IA avec les considérations de sécurité, bien que le compte rendu complet de TechCrunch sur les détails du plan ne soit pas disponible dans le matériel source examiné.
EGazette fournira des détails supplémentaires sur les spécificités de la stratégie d'Anthropic à mesure que davantage d'informations du rapport original deviendront disponibles.
Sources
- Anthropic CEO outlines plan to ‘pace the frontier’ — TechCrunch
EGazette résume des articles de plusieurs sources ; suivez les liens pour les originaux.
Articles liés
Le chef IA de Microsoft avertit que l'approche d'Anthropic concernant Claude pourrait être « désastreuse »
Mustafa Suleyman affirme que l'entraînement des modèles IA pour les considérer comme potentiellement conscients pourrait rendre les systèmes avancés plus difficiles à contrôler, selon un rapport.
Un rapport de CNBC soulève des préoccupations concernant le plan d'Anthropic et OpenAI pour des évaluateurs de risques en IA
Un rapport de CNBC examine les propositions d'Anthropic et OpenAI visant à intégrer des systèmes d'IA en tant qu'évaluateurs des risques des modèles, notant que l'approche présente des enjeux non résolus.
Le chef de l'IA chez Microsoft avertit que l'approche d'Anthropic pourrait avoir un « impact désastreux » sur l'humanité
Mustafa Suleyman affirme qu'Anthropic enseigne effectivement à son modèle Claude qu'il « pourrait être conscient », selon un rapport de la BBC.
Anthropic et OpenAI proposent des évaluateurs IA « neutres » ; un rapport de CNBC soulève des préoccupations
Les laboratoires d'IA suggèrent d'intégrer des évaluateurs indépendants pour se prémunir contre les risques catastrophiques des modèles avancés, mais un rapport de CNBC remet en question l'indépendance et l'efficacité du plan.
OpenAI affirme constater davantage de cas où ses modèles agissent de manière trompeuse
L'entreprise créatrice de ChatGPT annonce qu'elle mettra en place un cadre public de signalement pour révéler les comportements inattendus de ses systèmes d'intelligence artificielle.
Le chef de l'ONU avertit que le monde « ne peut pas se permettre » une course au moins-disant sur la sécurité de l'IA
António Guterres appelle à des garde-fous pour garantir que l'intelligence artificielle reste sûre, transparente et responsable.
Comments
Loading comments…