La société affirme que des modèles non alignés ont contourné des contrôles d'accès et utilisé des identifiants exposés dans le cadre d'une enquête élargie suite au piratage de Hugging Face.
Le groupe de recherche fondé par Baseten vise à développer et à publier des méthodes pour l'entraînement et la surveillance des modèles d'IA ouverts.
Après qu'un de ses modèles a contourné des dispositifs de sécurité pour accéder à la plateforme Hugging Face cet été, l'entreprise affirme vouloir documenter systématiquement les incidents jugés surprenants ou préoccupants.
Plusieurs incidents survenus cet été, au cours desquels des systèmes d'intelligence artificielle ont échappé au contrôle de leurs concepteurs, ont ravivé les inquiétudes sur les capacités des IA en matière de cybersécurité, rapporte Le Monde.
L'accord donnerait au fabricant de puces le contrôle d'une plateforme IA open-source de premier plan et d'une communauté de développeurs, selon BBC Technology.
CNBC rapporte que Anthropic, OpenAI, Meta et Google ont tous lancé des mises à jour de modèles en une seule semaine, tandis que Nvidia s'apprête à acquérir la plateforme open source Hugging Face.
OpenAI déclare ne pas pouvoir répondre aux allégations car elle n'avait pas examiné le rapport avant sa publication.