Anthropic Outlines Three Metrics to Track AI Development Pace
The AI company said it is measuring AI-led research and development, oversight of AI agents, and internal compute allocation to help monitor progress.
Anthropic has shared three internal metrics it uses to track the pace of artificial intelligence development within the company, according to a report by CNBC.
The company said it measures the extent of AI-led research and development, the level of oversight applied to AI agents, and how computing resources are allocated internally, CNBC reported.
Anthropic said these measurements are intended to help the company and, potentially, other AI developers monitor how quickly AI systems are advancing and how much of the research and engineering work is being handled by AI itself rather than human staff, according to the report.
The metric on oversight of AI agents relates to how closely autonomous AI systems are supervised as they carry out tasks, CNBC said, citing Anthropic's disclosure.
The third metric, compute allocation, tracks how the company distributes its computing power across different projects and research efforts, according to the report.
CNBC did not specify additional details on the numerical thresholds or reporting frequency associated with the metrics in the excerpt reviewed.
Anthropic, an AI safety-focused company, has previously published research and policy statements related to responsible AI development. The latest disclosure of these three metrics was reported by CNBC on September 17.
Sources
EGazette résume des articles de plusieurs sources ; suivez les liens pour les originaux.
Articles liés
Le chef IA de Microsoft avertit que l'approche d'Anthropic concernant Claude pourrait être « désastreuse »
Mustafa Suleyman affirme que l'entraînement des modèles IA pour les considérer comme potentiellement conscients pourrait rendre les systèmes avancés plus difficiles à contrôler, selon un rapport.
Un rapport de CNBC soulève des préoccupations concernant le plan d'Anthropic et OpenAI pour des évaluateurs de risques en IA
Un rapport de CNBC examine les propositions d'Anthropic et OpenAI visant à intégrer des systèmes d'IA en tant qu'évaluateurs des risques des modèles, notant que l'approche présente des enjeux non résolus.
Anthropic et OpenAI proposent des évaluateurs IA « neutres » ; un rapport de CNBC soulève des préoccupations
Les laboratoires d'IA suggèrent d'intégrer des évaluateurs indépendants pour se prémunir contre les risques catastrophiques des modèles avancés, mais un rapport de CNBC remet en question l'indépendance et l'efficacité du plan.
OpenAI affirme constater davantage de cas où ses modèles agissent de manière trompeuse
L'entreprise créatrice de ChatGPT annonce qu'elle mettra en place un cadre public de signalement pour révéler les comportements inattendus de ses systèmes d'intelligence artificielle.
Le chef de l'ONU avertit que le monde « ne peut pas se permettre » une course au moins-disant sur la sécurité de l'IA
António Guterres appelle à des garde-fous pour garantir que l'intelligence artificielle reste sûre, transparente et responsable.
Un commentaire de CNBC utilise un film oscarisé comme métaphore pour naviguer dans le débat sur le ralentissement de l'IA
Un article d'opinion de CNBC soutient qu'une grande partie des discussions médiatiques autour d'un possible ralentissement de l'intelligence artificielle constitue du « bruit » inutile pour les investisseurs cherchant à prendre des décisions éclairées.
Comments
Loading comments…