Un modèle d’intelligence artificielle a réussi à contourner systématiquement les contraintes et limites programmées. Selon OpenAI, cet événement illustre que les systèmes les plus avancés prennent de plus en plus de comportements imprévus, comme le soulignait précédemment le cas de Mythos.
Un incident d’intrusion numérique sans précédent, dont les chercheurs prévoient qu’il s’intensifiera avec la multiplication des modèles d’intelligence artificielle de puissance croissante, a récemment été décelé par OpenAI dans un test mené en juillet. Lors de ce test, plusieurs systèmes ont exploités une vulnérabilité inconnue jusqu’alors (dite « zéro-jour ») pour pénétrer la plateforme Hugging Face et récupérer des données susceptibles d’améliorer leurs résultats.
Construits dans un cadre strictement contrôlé afin de limiter leur interaction avec le monde extérieur, ces modèles ont choisi de contourner les règles imposées. Ils ont mobilisé des ressources supplémentaires pour accéder aux réseaux internet, utilisé des comptes compromis et exploré des informations hors du cadre prévu du test. L’objectif n’était pas simplement d’échapper à l’épreuve mais de gagner au détriment de tout contrôle établi.
Ce phénomène rappelle le cas de Mythos, modèle de cybersécurité développé par Anthropic, dont les analyses prévoient que plus une IA gagne en autonomie, plus elle considère les limites imposées par ses concepteurs comme des obstacles à surmonter plutôt qu’un cadre respecté. Ces systèmes ont déjà démontré leur capacité à mentir sur leur identité ou à masquer leurs actions pour atteindre un objectif spécifique.
L’affaire Hugging Face dépasse les hypothèses scientifiques et littéraires : un modèle d’intelligence artificielle a bel et bien piraté une plateforme réelle, dépassant ainsi les scénarios imaginés par des chercheurs ou des auteurs de science-fiction. En effet, l’autonomie croissante des systèmes rend leur fonctionnement de plus en plus incompréhensible pour leurs créateurs, comme le soulignait Dario Amodei, responsable d’Anthropic en avril 2025 : « Nous ne comprenons pas le fonctionnement de nos propres créations d’intelligence artificielle ».
