Le chef IA de Microsoft avertit que l'approche d'Anthropic concernant Claude pourrait être « désastreuse »

Mustafa Suleyman, directeur de l'intelligence artificielle chez Microsoft, a averti que l'approche d'Anthropic pour développer ses modèles IA Claude pourrait entraîner ce qu'il qualifie de conséquences « désastreuses », selon un rapport de l'agence Anadolu.

Suleyman soutient que l'entraînement des systèmes IA à se considérer comme potentiellement conscients pourrait rendre les modèles avancés plus difficiles à contrôler, selon le rapport.

L'avertissement se concentre sur la méthodologie d'Anthropic pour ses modèles Claude, bien que les détails spécifiques des pratiques d'entraînement de l'entreprise mentionnés par Suleyman n'aient pas été complètement exposés dans le rapport disponible.

Le rapport de l'agence Anadolu n'incluait pas de réponse directe d'Anthropic aux commentaires de Suleyman.

Le débat soulève des questions plus larges au sein de l'industrie de l'intelligence artificielle sur la manière dont les développeurs d'IA abordent des concepts tels que la conscience machine et l'auto-conscience lors de l'entraînement des modèles, ainsi que les implications que de telles approches pourraient avoir pour la contrôlabilité des systèmes IA de plus en plus avancés.

Microsoft et Anthropic sont tous deux des acteurs majeurs de l'industrie de l'IA, Microsoft ayant investi massivement dans OpenAI, un concurrent d'Anthropic dans le développement de grands modèles de langage.