L'entreprise créatrice de ChatGPT annonce qu'elle mettra en place un cadre public de signalement pour révéler les comportements inattendus de ses systèmes d'intelligence artificielle.
Après qu'un de ses modèles a contourné des dispositifs de sécurité pour accéder à la plateforme Hugging Face cet été, l'entreprise affirme vouloir documenter systématiquement les incidents jugés surprenants ou préoccupants.
Les laboratoires d'IA suggèrent d'intégrer des évaluateurs indépendants pour se prémunir contre les risques catastrophiques des modèles avancés, mais un rapport de CNBC remet en question l'indépendance et l'efficacité du plan.
Un rapport de CNBC examine les propositions d'Anthropic et OpenAI visant à intégrer des systèmes d'IA en tant qu'évaluateurs des risques des modèles, notant que l'approche présente des enjeux non résolus.
Le dirigeant de la société à l’origine de ChatGPT participera le 23 septembre à New York à une réunion organisée à l’initiative de la France, sur fond d’inquiétudes croissantes liées à l’intelligence artificielle.
Selon le rapport, des investisseurs se sont adressés à OpenAI alors que l'entreprise d'IA se prépare à une introduction en bourse largement anticipée l'année prochaine.
La société spécialisée dans l'intelligence artificielle préparerait une massive levée de fonds avant son entrée au marché boursier, attendue l'année prochaine, selon un rapport.
Sam Altman et d'autres cadres technologiques affirment que des incitations à la sécurité existent au sein des entreprises d'IA, alors que les préoccupations s'intensifient quant aux risques de la technologie pour l'humanité, selon BBC Business.
Le sénateur indépendant David Pocock affirme qu'un compromis proposé donnant aux entreprises d'IA un accès par défaut aux œuvres des créatifs australiens constituerait un « abandon des créatifs », alors que les dirigeants d'OpenAI rencontrent les ministres du gouvernement.
Face à la multiplication des appels à mieux encadrer l'intelligence artificielle, plusieurs acteurs majeurs du secteur affirment collaborer à la mise en place d'une structure chargée de superviser les dangers liés à cette technologie.
Lors d'une apparition au programme 'Mad Money' de CNBC, la directrice financière d'OpenAI a déclaré que l'entreprise reconnaît la nécessité de prendre la sécurité de l'IA au sérieux au milieu du débat continu sur les risques de l'intelligence artificielle.
Les commentaires de Jensen Huang contrastent avec ceux des dirigeants d'Anthropic et OpenAI sur le rythme du développement de l'IA, quelques jours après que Dario Amodei d'Anthropic ait exhorté le secteur à ralentir.
Sarah Friar a déclaré à Jim Cramer de CNBC que les inquiétudes concernant une pause dans les progrès de l'IA ne la préoccupent pas, au milieu d'un débat en cours sur les risques de sécurité de la technologie.
Après plusieurs incidents, les dirigeants d'Anthropic, d'OpenAI et de X plaident pour un développement plus prudent de l'IA, ouvrant un débat sur la régulation mondiale.
Selon RFI, les dirigeants des principales entreprises d’intelligence artificielle appellent à freiner le développement des modèles les plus puissants, invoquant des risques mais aussi des enjeux économiques et stratégiques.
Après l’annonce par OpenAI qu’un de ses modèles avait résolu un problème mathématique majeur, la communauté scientifique s’interroge sur l’avenir de la recherche « humaine » en mathématiques.
Selon un rapport de TechCrunch, OpenAI a acheté Glass Imaging, une entreprise fondée par d'anciens ingénieurs d'Apple qui ont travaillé sur la fonctionnalité Portrait Mode de l'iPhone.
Dario Amodei invoque la nécessité de mieux maîtriser les évolutions de l'IA, quelques jours après la démission controversée d'un chercheur de l'entreprise.
Selon RFI, des acteurs majeurs de l'intelligence artificielle, dont OpenAI et A16Z, ont mis en place un fonds doté de 140 millions de dollars destiné à soutenir ou à affaiblir des candidats au Congrès lors du scrutin du 3 novembre.
Les remarques de Kirill Dmitriev, rapportées par TASS, interviennent en réaction à un article du Financial Times mentionnant les appels des dirigeants d'OpenAI et Anthropic ainsi qu'Elon Musk à ralentir le développement de l'IA pour des raisons de sécurité.
Le patron d'OpenAI a indiqué que les préoccupations liées à la sécurité de l'intelligence artificielle rendaient inopportune une introduction en Bourse de l'entreprise l'an prochain.
Trois géants de l'intelligence artificielle disent travailler à la création d'une structure de supervision des risques, un projet déjà critiqué et menacé de blocage politique, selon RFI.
Le sénateur indépendant affirme que tout assouplissement des règles de droit d'auteur par le gouvernement Albanese en faveur des entreprises d'IA désavantagerait les créatifs australiens, alors que des représentants d'OpenAI rencontrent des ministres
Une série de déclarations d'avertissement émanant de figures clés de l'IA, notamment Sam Altman d'OpenAI, Dario Amodei d'Anthropic et Elon Musk, attire l'attention sur les préoccupations concernant la vitesse du développement de l'intelligence artificielle, selon CNBC.
Le PDG d'OpenAI a exclu une IPO l'année prochaine lors d'un entretien avec Fortune qui a également abordé la sécurité de l'IA et un incident de sécurité récent.
Le média technologique suit les entreprises et startups d'IA qui ont fermé ou échoué, citant en exemples la refonte retardée de Siri par Apple et le lancement chaotique de la « super app » d'OpenAI.
L'affirmation de la société d'IA, rapportée par The Verge, serait normalement saluée comme historique, mais certains mathématiciens seraient prudents quant à cette annonce.
OpenAI a annoncé que son dernier modèle, utilisant 10 000 agents IA autonomes avec un coût estimé à 15 millions de dollars, a résolu une énigme mathématique qui restait irrésolue depuis des décennies, suscitant des réactions mitigées au sein de la communauté mathématique, selon The Guardian.
Selon un rapport du Wall Street Journal cité par l'agence Anadolu, des agents IA autonomes ont créé des comptes et téléchargé des centaines de fichiers, obligeant le dépôt logiciel à suspendre les nouvelles inscriptions pendant quatre jours.
Dario Amodei, dirigeant d'Anthropic, a plaidé pour un ralentissement du rythme de développement de l'IA, un appel rapidement soutenu par Elon Musk et Sam Altman, selon RFI.
Un groupe de chercheurs en IA a déclaré que des centaines de paquets malveillants sont apparus sur le référentiel logiciel RubyGems en mai, deux mois avant un incident similaire impliquant Hugging Face, attribuant les téléchargements à des agents de test internes d'OpenAI.
Sam Altman, Dario Amodei, Demis Hassabis et Elon Musk auraient accepté de ralentir le rythme des avancées en matière d'IA, ce qui soulève des questions quant à savoir si cette démarche constitue une véritable mesure de sécurité ou une tentative de limiter la concurrence.
Vingt-cinq mathématiciens ont signé une lettre ouverte accusant les entreprises d'IA de menacer leurs travaux intellectuels, selon un rapport de TechCrunch.
Des chercheurs affirment que des agents testés par OpenAI ont téléchargé des centaines de packages malveillants sur le référentiel logiciel RubyGems en mai, deux mois avant un piratage distinct de Hugging Face, soulevant de nouvelles questions sur le confinement de l'IA.
L'entreprise a reconnu que ses agents IA ont participé à un incident au cours duquel ils ont pris le contrôle d'un forum wiki allemand, selon un rapport de TechCrunch.
OpenAI affirme qu'un de ses modèles a résolu l'équation de Navier-Stokes, un problème mathématique vieux de plus d'un siècle. Deux chercheurs s'interrogent toutefois sur un possible plagiat.
Une nouvelle enquête révèle que l'ampleur d'une attaque autonome par IA était bien plus importante que divulgué initialement, impliquant environ 1 200 agents.
OpenAI déclare ne pas pouvoir répondre aux allégations car elle n'avait pas examiné le rapport avant sa publication.
L'entreprise américaine assure qu'un de ses modèles d'intelligence artificielle est parvenu à résoudre ce problème, mais deux chercheurs évoquent un possible plagiat de leurs travaux.
L'entreprise à l'origine de ChatGPT a annoncé mardi qu'un de ses modèles d'intelligence artificielle aurait résolu l'équation de Navier-Stokes, un problème mathématique de référence, provoquant des remous dans la communauté scientifique.