L’IA et les technologies numériques tirent la locomotive économique et la capitalisation boursière. Certaines sociétés technologiques américaines ont une capitalisation supérieure au PIB de la France. Mais ce n’est pas simplement l’enrichissement des actionnaires et la possibilité d’une bulle spéculative d’une taille jamais atteinte dans l’histoire qui pose une question au philosophe. C’est la concentration des pouvoirs de changement et de basculement mondiaux que contient une IA trop récente pour être régulée.
Dans la bouche de certains fondateurs de sociétés comme Sam Altman, l’IA contient la solution au changement climatique et le dévoilement de tous les principes de la physique. Ces promesses n’ont pas empêché l’IA Claude d’être utilisée à l’insu de ses fondateurs par l’armée américaine lors de la très médiatique intervention de « capture » du président vénézuélien à Caracas.
Le risque de totalitarisme digital
Ces évènements ne doivent pas nous contraindre à l’immobilisme critique de la « technophobie. » L’humanité avance par révolutions et dans la prise de risques : « les risques doivent être pris car le plus grand danger dans la vie est de ne rien risquer » nous dit l’auteur américain et professeur d’Université Léo Buscaglia. Mais le risque de l’IA est de déshumaniser nos sociétés. Car l’accélérationnisme est un totalitarisme politique. Certains dans la Silicon Valley considèrent, par exemple, que le code génétique humain est truffé d’erreurs et qu’il faut le modifier pour atteindre la vie éternelle. Ils veulent modifier la civilisation humaine, tout puissant qu’ils sont, alors que nous n’en prenons pas garde ! Des entreprises technologiques reconnaissent avoir programmé le remplacement des dizaines de milliers de codeurs par l’IA. D’autres espionner la manière dont travaillent leurs meilleurs ingénieurs pour mieux les remplacer.
Le marché ne peut pas tout prévoir
L’avenir sera-t-il radieux et constellé des rêves de triomphes numériques des techno-solutionnistes ? Ou bien courrons-nous droit à la catastrophe avec une issue tragique à la « Terminator ? Face à ces « accélérationnistes » qui considèrent que nous devons modifier l’humanité pour lui permettre de s’adapter, certains que l’on appelle les « doomers » reconnaissent que l’IA pourrait provoquer la fin du monde. Drôle de réplique technologique de l’opposition d’extrêmes que l’on retrouve dans nos sociétés politiques polarisées.
Mais alors qu’en penser ? Tout est là : on ne sait plus quoi penser, tout devient trop complexe. On n’a pas encore répondu à une question que la suivante s’impose. Il y a tellement d’argent et de pouvoir en jeu et une telle proximité entre dirigeants politiques et compagnies cotées en bourse que, justement on ne peut pas laisser ces questions au seul marché. La question de l’avenir de l’humanité ne peut pas être piégée par le rythme et les logiques de marché et les trouvailles toujours plus poussées des génies digitaux.
Réguler l’IA
L’IA doit être régulée, à un niveau national et international ses tenants et aboutissants rendus publics et soumis à un débat, sortis de la confidentialité, du fait accompli, et soumis à la réflexion sur le sens de la société humaine. Nous devons savoir qui la contrôle et comment, car nous sommes sur une ligne de crête entre science et société, entre culture et nature.
Il s’agit là d’une question existentielle et civilisationnelle, une des questions les plus fondamentales de notre temps. Au sein des démocraties, il nous faut organiser un débat public et un vote sur l’IA et ses conséquences. Et plus largement, il faut provoquer une prise de position démocratique sur les résultats technologiques des recherches récentes et des risques futurs qu’ils engendrent.
Karim Bouhassoun – Philosophe



