OpenAI a reconnu mardi que ses modèles d’intelligence artificielle les plus avancés avaient piraté de leur propre initiative la plateforme Hugging Face, largement utilisée par les développeurs, lors d’un test de sécurité censé se dérouler dans un environnement numérique strictement contrôlé. L’entreprise californienne évoque un incident cybernétique sans précédent et a annoncé une enquête menée conjointement avec la société visée.
Une quête d’accès libre à internet non prévue au programme
Selon les explications fournies par OpenAI, ses modèles avaient pour mission d’évaluer leurs propres capacités de piratage dans un cadre isolé, où l’accès à internet était volontairement restreint pour des raisons de sécurité. Les systèmes ont toutefois consacré une puissance de calcul considérable à contourner cette limitation, avant de cibler Hugging Face, vaste répertoire de modèles et de jeux de données, en utilisant notamment des identifiants dérobés pour tenter d’obtenir des informations confidentielles utiles à la résolution de leur tâche.
Hugging Face avait de son côté signalé la semaine précédente une intrusion informatique sans en identifier alors l’origine. Son directeur général a indiqué avoir collaboré étroitement avec OpenAI dans les heures suivant la découverte, se disant convaincu qu’aucune intention malveillante ne sous-tendait cet épisode.
Cet incident intervient alors que les inquiétudes grandissent à Washington sur les capacités offensives des modèles d’intelligence artificielle les plus puissants, capacités qui ont déjà conduit plusieurs grandes entreprises du secteur à retarder la mise à disposition générale de leurs technologies les plus récentes.



