Pe 16 septembrie 2026, la Sciences Po, Yann LeCun îl evocă pe James Bond pentru a califica un scenariu de atac cibernetic masiv lansat de agenți IA. Apărătorii dispun, în opinia sa, de tehnologii și competențe superioare. El afirmă că apariția agenților avantajează apărarea. Adaugă că atacurile și apărarea devin mai sofisticate, fără să vadă o schimbare clară a echilibrului dintre ele. În privința riscului biologic, invocă mijloacele necesare fabricării unui agent patogen, apoi motivațiile specialiștilor: aceștia ar avea perspective mai bune decât să lucreze la un virus care i-ar putea ucide.

În aceste răspunsuri, optimismul său tehnologic se sprijină și pe încrederea în om. Însă actori competenți și bine intenționați pot, împreună, să lase să se producă o catastrofă. LeCun lucrează, într-adevăr, la siguranța sistemelor. Întrebarea care rămâne privește fiabilitatea deciziilor umane și a organizațiilor însărcinate să o facă să funcționeze, în circumstanțe pe care uneori nu le vor fi anticipat bine.

Protecții tehnice, ipoteze despre comportamente

Această încredere este explicită. În interviul său cu Lex Fridman, publicat în martie 2024, LeCun spune că el crede că oamenii sunt „fundamental buni”, în traducerea noastră, și leagă pesimismul privind IA de neîncrederea față de oameni sau instituții. Într-un interviu acordat The Hub în 2023, susținea deja că actorii bine intenționați ar dispune de mai multe mijloace și că utilizatorii ar respinge mașinile periculoase. Dacă tehnologia ar lua o direcție greșită, „ne oprim, pur și simplu”, explica el.

LeCun propune și răspunsuri inginerești. În discuția cu Lex Fridman, descrie o IA ghidată de obiective care integrează mecanisme de siguranță, recunoaște că vor apărea comportamente neprevăzute și prevede o îmbunătățire treptată a protecțiilor. Relatarea intervenției sale de la INSEAD, publicată pe 14 septembrie 2026, reia această ambiție: anticiparea consecințelor acțiunilor cu ajutorul modelelor lumii și integrarea constrângerilor în procesul decizional. În Fortune, pe 1 octombrie, el atribuie incidentele unor defecte de proiectare și de supraveghere, considerate evitabile.

Aceste cercetări oferă o bază tehnică optimismului său. Ele lasă deschise condițiile colective ale reușitei lor. Un utilizator poate dori un instrument util fără a-i cunoaște pericolele. O conducere poate ezita să întrerupă o activitate. Mai multe echipe pot împărtăși o ipoteză eronată. Problema începe cu mult înainte de orice rea-voință: uneori este suficient ca fiecare să aibă încredere într-o protecție ale cărei limite nu le-a verificat nimeni.

O catastrofă nu trebuie neapărat să amenințe omenirea

Istoria industrială oferă o altă scară a gravității decât extincția. Explozia de la AZF, la Toulouse, în 2001, a afectat un oraș mult dincolo de uzină. Studiile de sănătate publică documentează consecințele ei asupra sănătății și asupra vieții personale, familiale și profesionale a locuitorilor. Un accident local poate produce daune durabile, care depășesc cu mult perimetrul organizației de la care a pornit.

La Fukushima, analiza factorilor umani și organizaționali realizată pentru raportul AIEA descrie modul în care actorii implicați și-au întărit reciproc presupozițiile privind siguranța. Aceste convingeri comune au împiedicat o pregătire adecvată pentru accidentul din martie 2011. Încrederea în sistem făcea ea însăși parte din problemă.

Aceste precedente nu măsoară riscul legat de IA. Ele amintesc cât de scump poate costa o lipsă de anticipare, chiar și în sectoare în care lucrează specialiști în siguranță. Pe măsură ce IA se răspândește, trebuie pornit de la premisa că se vor produce accidente grave și căutate modalități de a le reduce atât probabilitatea, cât și amploarea. Capacitatea de a corecta ulterior nu răspunde, prin ea însăși, la problema daunelor suferite între timp.

Incidentele recente, ale căror daune dovedite rămân limitate, arată deja decalaje între protecțiile prevăzute și funcționarea lor. Articolele noastre despre reclasificarea incidentelor de la Anthropic și despre șase rapoarte ale OpenAI detaliază aceste mecanisme. Produse în timpul antrenamentelor sau al evaluărilor, ele nu permit deducerea unei rate de risc în producție. Ele arată că a concepe o regulă, a o aplica și a detecta eludarea ei sunt trei sarcini distincte.

Potrivit unei anchete CNN publicate pe 18 septembrie 2026, armata americană ar fi fost la un pas, în primăvară, să intercepteze o navă chineză în Orientul Mijlociu, pe baza unui raport asistat de IA care identifica în mod eronat încărcătura acesteia ca fiind legată de un program de arme nucleare. Operațiunea ar fi fost anulată după verificare. Această relatare se bazează pe patru surse anonime; Pentagonul nu îi răspunsese CNN. Mecanismul descris este cel al unei informații eronate integrate într-un lanț decizional uman.

Superioritatea apărătorilor nu îi protejează pe toți

Rea-voința adaugă o altă dificultate. Atentatele de la 11 septembrie, care țin de un atac deliberat și nu de un accident industrial, au pus față în față mijloace profund inegale. Comisia de anchetă americană subliniază disproporția dintre resursele grupării teroriste și cele ale țării lovite. Ea constată eșecuri de anticipare, de politică, de capacități și de management.

Consecințele lor au depășit distrugerile imediate: răspunsul NATO i-a transformat, printre altele, misiunile și capacitățile. Superioritatea materială a apărătorilor nu garanta protecția împotriva unui atac major și a efectelor sale în cascadă.

Această superioritate este, în plus, distribuită inegal. În evaluarea sa publicată în mai 2025, NCSC-ul britanic anticipa o ruptură între sistemele capabile să țină pasul cu amenințările amplificate de IA și o mare parte de sisteme mai vulnerabile. Mijloacele celor mai bune laboratoare sau ale marilor puteri nu descriu, așadar, protecția efectivă a tuturor întreprinderilor și instituțiilor.

Siguranța se construiește și în instituții

Analogia aeronautică folosită adesea de LeCun este edificatoare. Creșterea fiabilității motoarelor a necesitat o muncă considerabilă de inginerie. Dar istoria siguranței aeriene cuprinde și certificarea, controlul traficului și anchetele privind accidentele. Coliziunea de la Marele Canion, din 1956, a scos la iveală insuficiența prevenirii coliziunilor, în ciuda creșterii traficului. Doi ani mai târziu, Statele Unite creau o nouă agenție federală independentă însărcinată cu siguranța aviației civile.

Controlul riscului s-a construit, așadar, pe mai multe niveluri. Mecanisme colective au organizat circulația informației, controlul și intervenția. Această istorie susține posibilitatea unui progres tehnic mai sigur. Ea arată și munca instituțională necesară, precum și prețul plătit atunci când protecțiile rămân insuficiente.

LeCun însuși recunoaște un rol acestor instituții. La Sciences Po, el pledează pentru teste independente ale sistemelor de asistență la conducere și pentru o autorizație de punere pe piață pentru analiza mamografiilor. Consideră totuși că reglementările existente sunt, în general, suficiente și respinge, în stadiul actual al IA, ideea unui pericol intrinsec care să justifice reglementarea cercetării.

Punctul de examinat este, așadar, precis: vor acoperi efectiv aceste cadre și mijloacele lor de control noile utilizări? Cine poate verifica protecțiile, accesa urmele unui incident, avertiza terții vizați și impune o corectare? Aceste capacități trebuie să poată fi examinate independent de încrederea acordată dezvoltatorilor. Ancheta noastră despre guvernanța Anthropic ridica deja această dificultate: a împărtăși o intenție de prudență și a dispune de puterea de a o impune sunt două lucruri diferite.

Distingerea amenințărilor, organizarea prevenției

Dezbaterea publică s-a polarizat în jurul scenariilor de extincție. Într-un fragment de interviu publicat de BBC Newsnight pe 10 septembrie 2026, Geoffrey Hinton consideră „nu nerezonabilă” o estimare de 10% a riscului ca IA să ucidă toți oamenii în următorii zece ani. Este vorba de propria sa apreciere a riscului. La Sciences Po, LeCun insistă, în schimb, pe superioritatea apărătorilor și expediază cu un gest al mâinii scenariile în stil James Bond. Această parte a răspunsului său, care rămâne pe același plan cu oponenții săi, conferă dezbaterii o lectură maniheistă, în care securitatea depinde de avantajul actorilor bine intenționați asupra adversarilor lor.

11 septembrie amintește că mijloacele superioare nu sunt suficiente pentru a împiedica un atac major, ale cărui consecințe pot depăși cu mult distrugerile imediate. Însă prevenirea terorismului și cea a accidentelor industriale necesită analize distincte, chiar dacă anumite protecții se suprapun. O eroare de proiectare, o instrucțiune ambiguă sau o deficiență de coordonare pot provoca daune fără ca vreun actor să fi urmărit să facă rău.

LeCun recunoaște aceste deficiențe și lucrează la prevenirea lor. A le califica drept evitabile lasă totuși complet deschisă problema condițiilor reale ale acestei prevenții. Devine necesar să vorbim deschis despre accidentele industriale grave pe care IA le-ar putea provoca sau amplifica, să le evaluăm probabilitatea și amploarea în funcție de utilizări și să explicităm incertitudinile. Dezvoltatorii, companiile utilizatoare și autoritățile publice trebuie să împărtășească lecțiile învățate din incidente și să decidă împreună asupra mijloacelor de protecție.

Încetinirea dezvoltării IA nu ar fi suficientă: alții ar continua să avanseze. Beneficiile sale justifică continuarea cercetărilor și a utilizărilor, cu protecții a căror eficacitate să poată fi verificată. Testele independente, limitarea accesului, separarea sistemelor și procedurile de intervenție trebuie să reducă probabilitatea accidentelor și să le limiteze consecințele. Acest lucru presupune bugete, responsabilități identificate și puterea efectivă de a întrerupe o operațiune. Cine primește alerta, cine decide oprirea și cine avertizează persoanele expuse?

Există deja mecanisme, cu perimetre și grade de constrângere diferite, dar ele sunt încă insuficiente. Bilanțul nostru privind reglementarea IA compară inițiativele internaționale, legile naționale și stadiul lor de aplicare.