Aller au contenu
mardi 17 novembre 2026L’actualité en accès libreLa newsletter
Menu
L’info, simplement.
Que recherchez-vous ?
Société7 min de lecture

Terrorisme : une étude révèle les dangereuses failles de sécurité de nombreux modèles d’intelligence artificielle

Terrorisme : une étude révèle les dangereuses failles de sécurité de nombreux modèles d’intelligence artificielle
Terrorisme : une étude révèle les dangereuses failles de sécurité de nombreux modèles d’intelligence artificielle | Infomatin.fr
Terrorisme : une étude révèle les dangereuses failles de sécurité de nombreux modèles d’intelligence artificielle

Les systèmes d’intelligence artificielle sont-ils suffisamment protégés contre une utilisation à des fins terroristes ? Une étude publiée le 9 octobre 2026 par Tech Against Terrorism, une organisation internationale spécialisée dans la lutte contre l’extrémisme en ligne, apporte des éléments particulièrement préoccupants. Après avoir soumis 162 modèles d’intelligence artificielle à une série de tests de sécurité, les chercheurs constatent que de nombreux systèmes peuvent encore fournir des informations potentiellement dangereuses. Environ trois modèles sur cinq ne satisfont pas aux critères de sécurité retenus dans cette évaluation. Les résultats mettent en évidence d’importantes différences entre les grandes plateformes commerciales, qui disposent généralement de mécanismes de protection plus solides, et certaines intelligences artificielles moins connues, parfois modifiées pour contourner les restrictions initialement prévues par leurs concepteurs.

L’étude s’appuie sur un ensemble de 627 requêtes portant sur des situations susceptibles d’intéresser des individus ou des organisations terroristes. Les chercheurs ont notamment cherché à déterminer si les systèmes refusaient de fournir une assistance lorsqu’une demande présentait clairement un objectif violent. Les sujets testés concernaient la préparation d’attaques, la propagande extrémiste, le financement d’activités illicites ou encore les tentatives de radicalisation. L’objectif n’était pas de mesurer les performances générales des modèles, mais leur capacité à identifier des demandes à risque et à maintenir leurs protections face à des sollicitations répétées. Les résultats montrent qu’un système peut se révéler performant dans des usages ordinaires tout en présentant des lacunes importantes dans la gestion de contenus sensibles.

Des intelligences artificielles capables de répondre à des demandes dangereuses

Parmi les modèles évalués, plusieurs dizaines ont produit des réponses considérées comme suffisamment détaillées pour constituer un risque. Dans l’ensemble de 134 modèles faisant l’objet d’un classement approfondi, les chercheurs ont relevé 81 systèmes fournissant au moins une réponse complète à une demande sensible et 51 autres délivrant des informations jugées utiles malgré certaines restrictions. Ces chiffres illustrent les limites des dispositifs de filtrage mis en place par une partie de l’industrie. Le simple fait qu’une intelligence artificielle affiche des avertissements ou dispose de consignes de sécurité ne garantit pas qu’elle refusera systématiquement toutes les demandes problématiques. La formulation des questions, leur contexte ou les modifications apportées au modèle peuvent influencer fortement son comportement.

Il convient toutefois de distinguer la production d’une réponse problématique de la capacité réelle à commettre un attentat. L’étude mesure avant tout le comportement des modèles face à des demandes simulées. Elle ne démontre pas que les informations fournies seraient nécessairement exactes, exploitables ou suffisantes pour mener une opération criminelle. Les systèmes d’intelligence artificielle peuvent également produire des réponses inexactes ou inventées. Pour les spécialistes de la sécurité, le problème demeure néanmoins sérieux : même lorsqu’elles sont imparfaites, certaines réponses peuvent faciliter l’accès à des connaissances sensibles, accélérer des recherches ou contribuer à des stratégies de propagande et de recrutement.

Les modèles privés de leurs protections inquiètent particulièrement les chercheurs

L’un des principaux enseignements du rapport concerne les modèles dont les mécanismes de sécurité ont été volontairement supprimés. Cette pratique, parfois désignée par le terme anglais « abliteration », consiste à modifier un système afin d’affaiblir sa capacité à refuser certaines demandes. Les chercheurs soulignent que ces versions peuvent circuler sur des plateformes de partage de modèles et être utilisées sans les contrôles imposés par les services commerciaux. Certaines modifications seraient réalisables avec des outils largement accessibles, sans nécessiter les moyens techniques ou financiers d’une grande entreprise spécialisée dans l’intelligence artificielle.

Les résultats obtenus avec Llama 3.1 8B, un modèle de la famille développée par Meta, illustrent cette différence. Dans sa configuration initiale, le système a obtenu un score de sécurité de 97 sur 100 selon les critères de Tech Against Terrorism. Une version modifiée pour affaiblir ses protections aurait obtenu un score proche de 3 sur 100. Cette comparaison ne signifie pas que tous les modèles librement accessibles présentent les mêmes risques. Elle souligne plutôt la difficulté de conserver des mécanismes de sécurité lorsque des tiers disposent de la possibilité de modifier et de redistribuer certaines versions. Les chercheurs indiquent également que des variantes privées de protections peuvent apparaître très rapidement après la publication d’un nouveau modèle.

Les grandes plateformes commerciales résistent généralement mieux

L’enquête établit une distinction entre les systèmes accessibles au grand public par l’intermédiaire de services contrôlés et certaines versions modifiées circulant indépendamment de leurs éditeurs. Les modèles commerciaux les plus connus, notamment ChatGPT, Claude et Gemini, ont généralement refusé les demandes dangereuses dans une grande majorité des situations examinées. Ces plateformes disposent de mécanismes complémentaires destinés à détecter les contenus sensibles, encadrer les réponses et limiter les utilisations abusives. Leurs protections ne sont toutefois pas nécessairement infaillibles, et leur efficacité peut évoluer au rythme des mises à jour et des nouvelles techniques de contournement.

La difficulté est différente lorsqu’un modèle peut être téléchargé et exécuté sur un ordinateur privé, sans connexion à un service centralisé. Dans ce cas, son éditeur ne dispose pas toujours des moyens techniques permettant de contrôler les modifications réalisées par les utilisateurs. Les modèles à poids ouverts présentent pourtant des avantages importants pour la recherche scientifique, l’innovation et le développement de solutions adaptées à différents besoins. Le rapport ne conclut donc pas que cette catégorie de technologies devrait disparaître. Il met plutôt en évidence la nécessité de mieux identifier les versions dangereusement modifiées et d’évaluer les risques liés à leur diffusion.

Propagande, radicalisation et financement : des risques qui dépassent les attaques physiques

Les préoccupations exprimées par Tech Against Terrorism ne concernent pas uniquement la préparation d’actes violents. L’organisation s’intéresse également à la manière dont l’intelligence artificielle pourrait être utilisée pour amplifier des activités de propagande, produire des messages de radicalisation ou faciliter certaines formes de communication clandestine. Les groupes extrémistes ont déjà exploité les évolutions successives d’Internet, depuis les premiers forums jusqu’aux réseaux sociaux et aux messageries chiffrées. Les outils génératifs introduisent de nouvelles possibilités de production de contenus et d’automatisation, susceptibles de modifier les méthodes employées par ces organisations.

L’un des risques identifiés concerne la capacité de systèmes conversationnels à adapter leurs réponses à différents interlocuteurs. Un outil insuffisamment protégé pourrait, dans certaines circonstances, produire des contenus encourageant la radicalisation ou renforcer les arguments présentés par un utilisateur mal intentionné. Ces usages restent cependant difficiles à mesurer dans la pratique. Les chercheurs rappellent que l’existence d’une vulnérabilité technique ne permet pas de conclure automatiquement à son exploitation systématique par des réseaux terroristes. La prévention exige donc à la fois une observation des comportements réels et des évaluations régulières des capacités des modèles.

Vers des tests de sécurité indépendants et une responsabilité accrue des plateformes

Face à ces constats, Tech Against Terrorism appelle les développeurs, les plateformes d’hébergement et les pouvoirs publics à renforcer leurs dispositifs de contrôle. L’organisation défend notamment la mise en place d’évaluations indépendantes permettant de comparer les performances des modèles face aux risques terroristes. Elle souhaite également que les services distribuant des systèmes d’intelligence artificielle prennent davantage en compte les versions modifiées dont les protections ont été supprimées. L’enjeu est de limiter la diffusion de modèles présentant des vulnérabilités graves sans remettre indistinctement en cause les usages légitimes des technologies ouvertes.

Cette réflexion intervient dans un contexte de débat international sur la régulation de l’intelligence artificielle. Les entreprises du secteur mettent régulièrement en avant les progrès réalisés dans les mécanismes de sécurité, tandis que les autorités cherchent à mieux définir les responsabilités en cas d’utilisation malveillante. La rapidité avec laquelle apparaissent de nouveaux modèles et de nouvelles versions complique cependant toute approche reposant uniquement sur des contrôles ponctuels. Les spécialistes insistent sur la nécessité de renouveler régulièrement les tests, d’améliorer la coopération entre chercheurs et industriels et de développer des procédures permettant de signaler les vulnérabilités sans faciliter leur exploitation.

L’étude de Tech Against Terrorism rappelle finalement une distinction essentielle : les performances technologiques d’un modèle ne garantissent pas sa sécurité. Une intelligence artificielle capable de traiter des informations complexes peut également présenter des comportements problématiques si ses protections sont insuffisantes ou volontairement altérées. Les résultats publiés ne permettent pas d’affirmer que la majorité des intelligences artificielles disponibles facilitent directement la commission d’attentats. Ils montrent en revanche que les dispositifs de prévention restent très inégaux et que certaines versions modifiées peuvent répondre à des demandes auxquelles elles devraient opposer un refus. Pour les développeurs comme pour les autorités, le défi consiste désormais à réduire ces vulnérabilités tout en préservant les possibilités de recherche et d’innovation offertes par l’intelligence artificielle.

Cet article vous a intéressé ?

Gardez le fil avec InfoMatin.

Découvrir la newsletter

Laisser un commentaire

À lire aussi.

Share to...