OpenAI propose des standards mondiaux d’IA axés sur l’alignement et l’amélioration récursive
La proposition fait suite à un débat plus large sur la sécurité de l’IA avancée, déclenché par des critiques publiques d’un chercheur en anthropie.
OpenAI a proposé le développement de normes mondiales pour l’intelligence artificielle, y compris des recommandations sur l’alignement et l’auto-amélioration récursive, selon CNBC.
La proposition intervient dans un débat plus large sur la sécurité de l’IA. L’article fourni indique qu’un article de Jacob Coxon près de deux semaines plus tôt, soutenant qu’Anthropic et OpenAI prenaient des risques inacceptables, avait contribué à déclencher une discussion internationale.
L’extrait ne fournit pas le texte complet de la proposition de normes d’OpenAI ni ne décrit comment un cadre mondial serait négocié ou appliqué. Le rapport pointe donc vers une initiative politique émergente plutôt qu’un accord international achevé.
Sources
EGazette résume des articles de plusieurs sources ; suivez les liens pour les originaux.
Articles liés
Les dirigeants de l’IA appellent à un développement plus lent, à une surveillance plus stricte
OpenAI aurait mis de côté ses plans de cotation en bourse, estimant que le moment n’était pas opportun, selon Deutsche Welle Arabic.
La Colombie-Britannique poursuit OpenAI et Sam Altman au sujet de la fusillade dans une école de Tumbler Ridge
La province canadienne affirme que l’attaque meurtrière de février aurait pu être évitée si OpenAI avait alerté la police de l’utilisation de ChatGPT par le tireur.
Canada : La Colombie-Britannique poursuit OpenAI au sujet du rôle présumé de ChatGPT dans la fusillade de l’école de Tumbler Ridge
La province canadienne allègue qu’OpenAI a ignoré les signaux d’alerte issus des conversations d’un utilisateur avec ChatGPT et exige des changements dans les pratiques de sécurité du chatbot.
Une province canadienne poursuit OpenAI après la tuerie de Tumbler Ridge
La Colombie-Britannique reproche à l'entreprise californienne de ne pas avoir alerté les forces de l'ordre de menaces proférées sur ChatGPT avant une fusillade ayant fait neuf morts.
OpenAI crée un groupe consultatif en mathématiques alors que l’entreprise fait le rapport des progrès de l’IA sur les problèmes ouverts
L’entreprise affirme que ses systèmes ont résolu plus de 100 problèmes mathématiques ouverts, tandis que le nouveau groupe conseillera sans diriger la recherche.
Sam Altman, patron d’OpenAI, doit s’exprimer devant le Conseil de sécurité de l’ONU
Le dirigeant de la société à l’origine de ChatGPT participera le 23 septembre à New York à une réunion organisée à l’initiative de la France, sur fond d’inquiétudes croissantes liées à l’intelligence artificielle.
Comments
Loading comments…