Oui, l’IA est un danger pour l’humanité. Comme plein d’autres choses actuellement. L’IA est un outil puissant, donc potentiellement dangereux, en nos mains. En nos mains dangereuses, souvent mal informées, inconscientes voir stupides.
Comme le disent tout ces experts: Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war.
Mais !
On entend beaucoup parler de la fin du monde d’ici dix ans à cause de l’IA. En résulte une vraie panique autour de scénarios de science-fiction où une IA prendrait soudainement le contrôle des silos à missiles ou des centrales nucléaires pour nous anéantir.
Remettons les choses à leur place : il faut distinguer la réalité de la cybersécurité des fantasmes hollywoodiens. (précision importante : je parle ici du risque cyber et du contrôle des infrastructures physiques actuelles, pas des théories sur la biologie synthétique ou la superintelligence théorique. Parceque la superintelligence consciente, on n’y est pas).
Est-ce que l’IA toute seule peut prendre le contrôle des silos de missile ?
Aujourd’hui, le problème de la cybersécurité ne date pas d’hier. Dès que des machines sont reliées entre elles, le risque existe. L’IA vient simplement accélérer ce phénomène de trois manières :
- elle élargit la surface d’attaque : plus on intègre d’IA dans nos systèmes, plus on crée de portes d’entrée potentielles.
- elle démocratise les compétences : l’IA automatise la recherche de failles et simplifie le travail des pirates.
- elle démultiplie les erreurs de manipulation : un mauvais paramétrage ou une consigne mal cadrée peut provoquer d’énormes dégâts sans qu’il y ait la moindre intention malveillante.
Au final, si une IA causait une catastrophe cyber, ce serait pour trois raisons :
- un humain lui a demandé explicitement de détruire quelque chose ;
- un humain a donné une consigne mal formulée et l’IA a exécuté l’ordre de manière absurde ;
- une IA autonome a dérapé à cause d’un mauvais cadrage d’objectifs (ce qu’on appelle l’alignement), sans intention ni conscience propre.
Dans tous les cas, l’IA reste un outil ou un exécuteur, pas le cerveau d’un coup d’état contre l’humanité.
la cybersécurité, un enjeu toujours plus important
Pour qu’une IA « prenne le contrôle du monde » en piratant nos installations sensibles, il faudrait qu’elle puisse s’y infiltrer à distance. Or, la sécurité informatique repose sur des barrières physiques et logiques très strictes.
Dans les entreprises et administrations modernes :
- les pare-feux (firewalls) filtrent les flux entrants et bloquent les accès non autorisés.
- les zones démilitarisées (DMZ) isolent les services exposés à internet du réseau interne. Le réseau interne est protégé : rien ne rentre.
- les diodes réseau imposent des sens uniques physiques : les données peuvent sortir du cœur de réseau, mais rien ne peut y entrer.
- Restent les VPNs (pour le télétravail par exemple) qui sont plutôt bien sécurisés.
Evidemment, pas de risque 0 : la cybercriminalité augmente, les attaques augmentent, et firewall, DMZ, diodes et VPNs ne sont pas infranchissables.
Et la sécurité des installations ultra-sensibles ?
Quant aux installations ultra-sensibles (armement, militaire, nucléaire), la règle d’or est l’isolement physique (l’air-gap). une machine sans carte wi-fi, sans récepteur radio et sans câble relié à internet ne peut pas être piratée à distance par une IA, aussi intelligente soit-elle. Une IA ne peut pas « traverser du béton » ni faire apparaître un signal réseau par magie.
Certes, aucun système n’est invulnérable. un piratage reste théoriquement possible, mais il exige :
- une compromission physique en amont (lors de la fabrication du matériel ou de la chaîne d’approvisionnement) ;
- ou une manipulation humaine (ingénierie sociale, chantage, clé USB piégée apportée par un technicien).
Mais dans ce cas, l’IA ne fait qu’automatiser ou amplifier des méthodes d’espionnage et de sabotage traditionnelles. elle ne « prend pas le contrôle » du réseau par la seule force de sa volonté.
La norme en France : l’isolation complète des réseaux sensibles
En France les instructions ministérielles (ANSSI) sont très précises : c’est coupure physique. D’autres paragraphes indiquent l’interdiction des lecteurs USB, etc. On parle bien de sécurité physique. Alors oui c’est perméable, mais avec la complicité d’humain vraiment bien préparés. Ca ne se pirate pas depuis sa chambre (ou son disque dur si on est une IA).
Un réseau de classe 2 est un réseau qui :
- est isolé, c’est-à-dire non connecté, même indirectement, à Internet ;
- ne comprend aucune interconnexion « descendante »13 permettant l’envoi de flux en clair ou chiffrés à destination des réseaux de classe 0 ou 1, sauf à utiliser des dispositifs agréés spécifiquement pour cet usage ;
- comprend éventuellement des interconnexions « montantes » permettant la réception de flux en provenance des réseaux de classe 0 ou 1 au travers d’une diode agréée par l’ANSSI pour de tels usages.
Conclusion : le vrai danger n’est pas terminator
Fantasmer sur une IA qui déverrouille les accès aux silos à missiles de sa propre initiative relève de la science-fiction. l’IA n’a ni instinct de survie, ni haine, ni ambition.
cela ne veut pas dire qu’il n’y a pas de risques majeurs. mais les vrais dangers de l’IA sont déjà là et sont d’une tout autre nature :
- économiques et sociaux : la destruction massive ou la précarisation de nombreux emplois.
- informationnels et cognitifs : la saturation d’internet par des faux contenus (deepfakes, désinformation automatisée), la perte de confiance dans l’information et le déclin de nos capacités d’analyse.
- géopolitiques : l’utilisation de l’IA comme une arme d’attaque cyber ou d’influence à grande échelle par des états ou des groupes criminels.
Arrêtons de trembler devant le scénario « terminator » qui nous dédouane de nos responsabilités. l’IA ne tuera pas l’humanité de sa propre initiative ; en revanche, son impact mal maîtrisé sur nos sociétés, notre économie et nos démocraties est un sujet bien réel et suffisamment alarmant pour qu’on s’y attaque dès aujourd’hui.