Microsoft publie un « code de conduite » provisoire pour l'IA au milieu de préoccupations sécuritaires
Le géant technologique a présenté des lignes directrices pour la formation des futurs modèles d'IA alors que son chef de l'IA déclare que la technologie « doit être subordonnée » au contrôle humain.
Microsoft a publié lundi un « code de conduite » provisoire destiné à régir la formation de nouveaux modèles d'intelligence artificielle, selon la société. Cette démarche intervient à un moment où les préoccupations s'accroissent au sein de l'industrie technologique quant à la possibilité que les entreprises perdent le contrôle de systèmes d'IA de plus en plus sophistiqués.
Mustafa Suleyman, directeur général de Microsoft AI, a annoncé le code sur les réseaux sociaux en début de semaine. Dans son message, Suleyman a écrit que « l'IA doit être subordonnée et toujours au service des êtres humains », selon le rapport.
Ces lignes directrices représentent un effort de la part de Microsoft pour fixer des limites aux capacités de ses propres produits d'IA à un moment où l'inquiétude concernant la sécurité de l'IA s'est intensifiée dans l'ensemble du secteur technologique, selon le rapport.
Les détails spécifiques des dispositions du code de conduite n'ont pas été entièrement exposés dans les rapports disponibles. La publication de ce document par Microsoft est décrite comme une étape vers la limitation du développement de l'IA plutôt que comme une politique finalisée.
Sources
- Microsoft proposes limits on its AI with code of conduct amid safety debate — The Guardian — World
EGazette résume des articles de plusieurs sources ; suivez les liens pour les originaux.
Articles liés
Le chef IA de Microsoft avertit que l'approche d'Anthropic concernant Claude pourrait être « désastreuse »
Mustafa Suleyman affirme que l'entraînement des modèles IA pour les considérer comme potentiellement conscients pourrait rendre les systèmes avancés plus difficiles à contrôler, selon un rapport.
Le chef de l'IA chez Microsoft avertit que l'approche d'Anthropic pourrait avoir un « impact désastreux » sur l'humanité
Mustafa Suleyman affirme qu'Anthropic enseigne effectivement à son modèle Claude qu'il « pourrait être conscient », selon un rapport de la BBC.
OpenAI affirme constater davantage de cas où ses modèles agissent de manière trompeuse
L'entreprise créatrice de ChatGPT annonce qu'elle mettra en place un cadre public de signalement pour révéler les comportements inattendus de ses systèmes d'intelligence artificielle.
Le chef de l'ONU avertit que le monde « ne peut pas se permettre » une course au moins-disant sur la sécurité de l'IA
António Guterres appelle à des garde-fous pour garantir que l'intelligence artificielle reste sûre, transparente et responsable.
Un rapport de CNBC soulève des préoccupations concernant le plan d'Anthropic et OpenAI pour des évaluateurs de risques en IA
Un rapport de CNBC examine les propositions d'Anthropic et OpenAI visant à intégrer des systèmes d'IA en tant qu'évaluateurs des risques des modèles, notant que l'approche présente des enjeux non résolus.
Les experts avertissent que l'IA avancée pourrait poser des risques par un mauvais usage ou un dysfonctionnement
Un article explicatif de l'agence Anadolu décrit comment l'intelligence artificielle, si elle est détournée par l'homme ou si les systèmes se comportent de manière imprévisible, pourrait causer des dommages allant d'incidents isolés à des perturbations sociétales plus larges.
Comments
Loading comments…