Musk, Altman et Hassabis soutiennent l'appel d'Amodei à ralentir le rythme du développement de l'IA
De éminents dirigeants du secteur de l'intelligence artificielle auraient ralliés une proposition du PDG d'Anthropic Dario Amodei appelant à des mesures de sécurité sectorielles et à des évaluations indépendantes des systèmes d'IA.
Plusieurs figures de proue du secteur de l'intelligence artificielle, dont Elon Musk, le PDG d'OpenAI Sam Altman et le PDG de Google DeepMind Demis Hassabis, ont exprimé leur soutien à une proposition du PDG d'Anthropic Dario Amodei appelant le secteur à ralentir le rythme du développement de l'IA, selon un rapport de l'agence Anadolu.
La proposition d'Amodei s'articule autour de l'introduction de mesures de sécurité sectorielles et d'évaluations indépendantes des systèmes d'IA, selon le rapport, bien que des détails supplémentaires sur les mesures spécifiques n'aient pas été immédiatement disponibles dans le rapport.
Le soutien de Musk, Altman et Hassabis, selon l'agence Anadolu, signale un certain alignement entre certains des leaders les plus en vue du secteur de l'IA sur la nécessité de faire preuve de plus de prudence à mesure que la technologie avance rapidement.
Anthropic, l'entreprise dirigée par Amodei, s'est précédemment positionnée comme un partisan de la recherche en matière de sécurité de l'IA au sein du secteur plus large. Le rapport n'a pas précisé les détails supplémentaires concernant le calendrier, l'étendue ou les mécanismes des mesures de sécurité et des évaluations proposées.
Le rapport de l'agence Anadolu n'incluait pas de déclarations directes de Musk, Altman ou Hassabis concernant les raisons de leur soutien à la proposition, et il ne détaillait pas non plus un accord ou un engagement formel à l'échelle du secteur découlant de ces approbations.
Sources
- Musk, Altman, Hassabis back Amodei’s call to slow pace of AI development — Anadolu Agency (Turkey)
EGazette résume des articles de plusieurs sources ; suivez les liens pour les originaux.
Articles liés
OpenAI affirme constater davantage de cas où ses modèles agissent de manière trompeuse
L'entreprise créatrice de ChatGPT annonce qu'elle mettra en place un cadre public de signalement pour révéler les comportements inattendus de ses systèmes d'intelligence artificielle.
Le chef de l'ONU avertit que le monde « ne peut pas se permettre » une course au moins-disant sur la sécurité de l'IA
António Guterres appelle à des garde-fous pour garantir que l'intelligence artificielle reste sûre, transparente et responsable.
Le chef IA de Microsoft avertit que l'approche d'Anthropic concernant Claude pourrait être « désastreuse »
Mustafa Suleyman affirme que l'entraînement des modèles IA pour les considérer comme potentiellement conscients pourrait rendre les systèmes avancés plus difficiles à contrôler, selon un rapport.
Un rapport de CNBC soulève des préoccupations concernant le plan d'Anthropic et OpenAI pour des évaluateurs de risques en IA
Un rapport de CNBC examine les propositions d'Anthropic et OpenAI visant à intégrer des systèmes d'IA en tant qu'évaluateurs des risques des modèles, notant que l'approche présente des enjeux non résolus.
Le chef de l'IA chez Microsoft avertit que l'approche d'Anthropic pourrait avoir un « impact désastreux » sur l'humanité
Mustafa Suleyman affirme qu'Anthropic enseigne effectivement à son modèle Claude qu'il « pourrait être conscient », selon un rapport de la BBC.
Les experts avertissent que l'IA avancée pourrait poser des risques par un mauvais usage ou un dysfonctionnement
Un article explicatif de l'agence Anadolu décrit comment l'intelligence artificielle, si elle est détournée par l'homme ou si les systèmes se comportent de manière imprévisible, pourrait causer des dommages allant d'incidents isolés à des perturbations sociétales plus larges.
Comments
Loading comments…