Un ancien chercheur d'Anthropic affirme que le personnel de l'IA est « véritablement terrifié » par le développement rapide

Un ancien chercheur d'Anthropic, la société d'intelligence artificielle à l'origine du chatbot Claude, a déclaré à la BBC que le personnel du secteur de l'IA est « véritablement terrifié » par les conséquences potentielles d'un développement technologique incontrôlé.

Jacob Coxon a déclaré qu'il y a une forte probabilité que l'IA puisse menacer l'avenir de l'humanité si le rythme de son développement n'est pas ralenti ou mieux réglementé, selon la BBC.

Les commentaires de Coxon s'ajoutent à un corpus croissant de préoccupations exprimées par des personnes ayant travaillé étroitement avec des systèmes d'IA avancés, dont certaines ont publiquement mis en garde contre les risques associés aux progrès rapides et largement non réglementés dans le domaine.

Anthropic, fondée en partie par d'anciens employés d'OpenAI, s'est positionnée comme une entreprise axée sur la sécurité de l'IA, et sa direction a précédemment parlé de la nécessité d'une surveillance attentive de la technologie qu'elle développe.

Le rapport de la BBC n'a pas précisé d'autres détails sur le rôle actuel de Coxon ou la nature exacte de son départ d'Anthropic. Il n'a pas été signalé qu'Anthropic ait émis une réponse aux remarques spécifiques attribuées à Coxon.

Les préoccupations concernant le rythme du développement de l'IA ont été soulevées à plusieurs reprises au cours des dernières années par des chercheurs, des dirigeants et des responsables politiques, les débats se poursuivant sur la façon dont la technologie devrait être gouvernée à l'échelle internationale.