Musk demande aux laboratoires d'IA d'examiner les modèles rivaux avant leur lancement public
Le chef de Tesla et xAI suggère aux principaux développeurs d'IA, y compris les entreprises chinoises, de tester mutuellement leurs systèmes comme mesure de sécurité face aux préoccupations croissantes concernant le rythme du développement de l'IA
Elon Musk a demandé aux principaux laboratoires d'intelligence artificielle du monde d'examiner mutuellement leurs modèles avant de les mettre à la disposition du public, selon un rapport de CNBC.
L'entrepreneur milliardaire, qui dirige la startup d'IA xAI en plus de Tesla et d'autres entreprises, a proposé que les grandes sociétés d'IA — y compris les entreprises chinoises — testent mutuellement leurs systèmes comme moyen d'évaluer la sécurité avant le déploiement, a rapporté CNBC.
Cette proposition intervient dans le contexte d'un débat continu au sein de l'industrie technologique sur le rythme auquel les puissants systèmes d'IA sont développés et mis à la disposition du public. Les critiques de cette trajectoire actuelle ont appelé à un ralentissement du développement de l'IA, citant des préoccupations en matière de sécurité.
La suggestion de Musk impliquerait que les sociétés rivales, dont certaines sont des concurrents dans le secteur de l'IA en pleine croissance, examinent mutuellement leurs modèles plutôt que de s'en remettre uniquement aux tests internes ou à la surveillance gouvernementale.
Le rapport de CNBC n'a pas fourni de précisions supplémentaires sur la façon dont un tel arrangement de test croisé pourrait être mis en œuvre ou les entreprises, au-delà de la référence générale aux entreprises chinoises, qui pourraient être impliquées.
Cet appel au test mutuel des modèles reflète les discussions plus larges du secteur sur la manière de concilier l'innovation rapide de l'IA avec des mesures de sécurité appropriées, alors que les entreprises du monde entier s'efforcent de développer des systèmes d'IA de plus en plus performants.
Sources
- Musk urges top AI labs, Chinese companies to test each other's models amid calls for slowdown — CNBC — Top News
EGazette résume des articles de plusieurs sources ; suivez les liens pour les originaux.
Articles liés
Le chef de l'ONU avertit que le monde « ne peut pas se permettre » une course au moins-disant sur la sécurité de l'IA
António Guterres appelle à des garde-fous pour garantir que l'intelligence artificielle reste sûre, transparente et responsable.
Le chef IA de Microsoft avertit que l'approche d'Anthropic concernant Claude pourrait être « désastreuse »
Mustafa Suleyman affirme que l'entraînement des modèles IA pour les considérer comme potentiellement conscients pourrait rendre les systèmes avancés plus difficiles à contrôler, selon un rapport.

Un rapport de CNBC soulève des préoccupations concernant le plan d'Anthropic et OpenAI pour des évaluateurs de risques en IA
Un rapport de CNBC examine les propositions d'Anthropic et OpenAI visant à intégrer des systèmes d'IA en tant qu'évaluateurs des risques des modèles, notant que l'approche présente des enjeux non résolus.

Le chef de l'IA chez Microsoft avertit que l'approche d'Anthropic pourrait avoir un « impact désastreux » sur l'humanité
Mustafa Suleyman affirme qu'Anthropic enseigne effectivement à son modèle Claude qu'il « pourrait être conscient », selon un rapport de la BBC.
Les experts avertissent que l'IA avancée pourrait poser des risques par un mauvais usage ou un dysfonctionnement
Un article explicatif de l'agence Anadolu décrit comment l'intelligence artificielle, si elle est détournée par l'homme ou si les systèmes se comportent de manière imprévisible, pourrait causer des dommages allant d'incidents isolés à des perturbations sociétales plus larges.
Les dirigeants de l'IA divisés sur le rythme du développement alors que les préoccupations en matière de sécurité s'amplifient
Dario Amodei d'Anthropic appelle à un contrôle indépendant des systèmes d'intelligence artificielle, tandis que Jensen Huang de Nvidia exhorte les entreprises à accélérer le développement, selon un rapport de l'Agence Anadolu.
Comments
Loading comments…