Le PDG d'OpenAI affirme que le public a « raison d'avoir peur » de l'IA, plaide pour la confiance envers les développeurs
Sam Altman et d'autres cadres technologiques affirment que des incitations à la sécurité existent au sein des entreprises d'IA, alors que les préoccupations s'intensifient quant aux risques de la technologie pour l'humanité, selon BBC Business.

Le directeur général d'OpenAI, Sam Altman, a déclaré que le public a « raison d'avoir peur » de l'intelligence artificielle, tout en affirmant que les gens devraient néanmoins faire confiance aux entreprises qui développent cette technologie, selon un rapport de BBC Business.
Altman et d'autres cadres technologiques ont indiqué à l'agence que les entreprises d'IA disposent de mécanismes intégrés pour limiter les avancées potentiellement nuisibles de la technologie, même si les inquiétudes du public s'intensifient quant aux risques que l'IA pose à l'humanité.
Ces remarques interviennent au moment où le débat s'intensifie sur le rythme du développement de l'IA et l'adéquation des mesures de sécurité mises en place par les entreprises à l'avant-garde du secteur, dont OpenAI.
BBC Business a rapporté que ces remarques reflètent un effort des leaders de l'industrie pour reconnaître l'anxiété du public face à l'IA tout en défendant l'approche d'autoréglementation adoptée par les grands développeurs.
Les informations supplémentaires sur les incitations spécifiques citées par Altman et d'autres cadres, ainsi que le contexte dans lequel les remarques ont été faites, n'ont pas été entièrement détaillés dans les rapports disponibles.
Sources
EGazette résume des articles de plusieurs sources ; suivez les liens pour les originaux.
Articles liés

Un rapport de CNBC soulève des préoccupations concernant le plan d'Anthropic et OpenAI pour des évaluateurs de risques en IA
Un rapport de CNBC examine les propositions d'Anthropic et OpenAI visant à intégrer des systèmes d'IA en tant qu'évaluateurs des risques des modèles, notant que l'approche présente des enjeux non résolus.

Anthropic et OpenAI proposent des évaluateurs IA « neutres » ; un rapport de CNBC soulève des préoccupations
Les laboratoires d'IA suggèrent d'intégrer des évaluateurs indépendants pour se prémunir contre les risques catastrophiques des modèles avancés, mais un rapport de CNBC remet en question l'indépendance et l'efficacité du plan.

Sam Altman, patron d’OpenAI, doit s’exprimer devant le Conseil de sécurité de l’ONU
Le dirigeant de la société à l’origine de ChatGPT participera le 23 septembre à New York à une réunion organisée à l’initiative de la France, sur fond d’inquiétudes croissantes liées à l’intelligence artificielle.
Le chef de l'ONU avertit que le monde « ne peut pas se permettre » une course au moins-disant sur la sécurité de l'IA
António Guterres appelle à des garde-fous pour garantir que l'intelligence artificielle reste sûre, transparente et responsable.
Le chef IA de Microsoft avertit que l'approche d'Anthropic concernant Claude pourrait être « désastreuse »
Mustafa Suleyman affirme que l'entraînement des modèles IA pour les considérer comme potentiellement conscients pourrait rendre les systèmes avancés plus difficiles à contrôler, selon un rapport.

Le chef de l'IA chez Microsoft avertit que l'approche d'Anthropic pourrait avoir un « impact désastreux » sur l'humanité
Mustafa Suleyman affirme qu'Anthropic enseigne effectivement à son modèle Claude qu'il « pourrait être conscient », selon un rapport de la BBC.
Comments
Loading comments…