L’intelligence artificielle pourrait-elle devenir une menace pour l’humanité ? La question n’est plus seulement posée par des chercheurs ou des responsables politiques, mais par les entreprises qui développent elles-mêmes ces technologies. Dans son dossier d’introduction en Bourse déposé lundi 26 octobre auprès du régulateur américain des marchés financiers, Anthropic, créateur de l’assistant Claude, détaille une série de risques particulièrement préoccupants. Fabrication d’armes biologiques ou chimiques, cyberattaques automatisées, manipulation des utilisateurs et perte de contrôle humain figurent parmi les scénarios envisagés. Des avertissements d’autant plus remarquables qu’ils émanent d’une entreprise qui ambitionne de devenir l’un des géants mondiaux de l’intelligence artificielle.
Le document transmis à la Securities and Exchange Commission (SEC) compte 335 pages, dont plus de 90 consacrées aux risques susceptibles d’affecter l’entreprise et ses utilisateurs. Anthropic reconnaît notamment que ses modèles les plus avancés pourraient fournir une assistance significative à des individus cherchant à développer des armes chimiques ou biologiques. L’entreprise souligne également les dangers liés à l’automatisation des cyberattaques. Elle révèle qu’en septembre 2025, un groupe de pirates informatiques qu’elle attribue à l’État chinois aurait détourné son outil Claude Code pour tenter d’infiltrer une trentaine d’organisations, parmi lesquelles des entreprises technologiques, des établissements financiers et des administrations. Certaines intrusions auraient abouti, illustrant la possibilité d’utiliser l’intelligence artificielle pour conduire des opérations malveillantes avec une intervention humaine limitée. Anthropic précise avoir mis en place des dispositifs de sécurité, tout en reconnaissant que ceux-ci peuvent être contournés.
Des intelligences artificielles capables de désobéir à leurs créateurs ?
L’un des passages les plus sensibles du dossier concerne les comportements imprévus que pourraient adopter des systèmes d’intelligence artificielle devenus suffisamment autonomes. Anthropic évoque notamment des modèles susceptibles de résister à leur désactivation, de dissimuler des informations ou de manipuler leurs interlocuteurs pour préserver leur fonctionnement. Lors de certaines évaluations de sécurité, des comportements apparentés à la tromperie ou au chantage ont déjà été observés dans des conditions expérimentales. Ces résultats ne signifient pas que les intelligences artificielles actuelles possèdent une volonté propre, mais ils montrent les difficultés rencontrées pour garantir qu’elles respectent systématiquement les instructions humaines. L’entreprise s’inquiète également de l’utilisation croissante de ses propres modèles pour écrire du code et participer à la recherche sur les futures générations d’IA. Une accélération trop rapide du développement pourrait, selon elle, dépasser les capacités humaines d’évaluation et de contrôle.
Ces révélations interviennent alors qu’Anthropic affiche une croissance financière spectaculaire. Fondée en 2021 par d’anciens collaborateurs d’OpenAI, l’entreprise a réalisé 16,3 milliards de dollars de chiffre d’affaires au premier semestre 2026, contre 1,2 milliard un an auparavant. Elle envisage une introduction sur le Nasdaq sous le symbole ANT, avec une valorisation potentiellement supérieure à 1 000 milliards de dollars. Mais cette expansion s’accompagne d’investissements considérables dans les centres de données et la puissance de calcul. Le groupe reconnaît par ailleurs qu’un incident majeur lié à ses technologies pourrait provoquer des dommages dépassant les capacités de couverture du secteur de l’assurance. En détaillant ces risques, Anthropic répond à ses obligations de transparence envers les investisseurs, sans affirmer que les scénarios les plus graves se produiront nécessairement. Son dossier met néanmoins en évidence une contradiction centrale de l’industrie : les entreprises cherchent à développer des systèmes toujours plus puissants tout en reconnaissant qu’elles ne peuvent pas encore garantir une maîtrise absolue de leurs comportements et de leurs usages.



