16 września 2026 r. w Sciences Po Yann LeCun przywołał Jamesa Bonda, by określić scenariusz zmasowanego cyberataku przeprowadzonego przez agentów AI. Jego zdaniem obrońcy dysponują lepszymi technologiami i kompetencjami. Stwierdził, że pojawienie się agentów daje przewagę obronie. Dodał, że zarówno ataki, jak i obrona stają się coraz bardziej wyrafinowane, ale nie dostrzega wyraźnej zmiany równowagi między nimi. W kwestii zagrożenia biologicznego powołał się na środki niezbędne do wytworzenia patogenu, a następnie na motywacje specjalistów: mieliby oni lepsze perspektywy niż praca nad wirusem, który mógłby ich zabić.

W tych odpowiedziach jego technologiczny optymizm opiera się także na zaufaniu do człowieka. Tymczasem kompetentni i działający w dobrej wierze ludzie mogą wspólnie dopuścić do katastrofy. LeCun rzeczywiście pracuje nad bezpieczeństwem systemów. Otwarte pozostaje pytanie o niezawodność ludzkich decyzji i organizacji odpowiedzialnych za to, by bezpieczeństwo działało w praktyce, w okolicznościach, których czasem nie przewidzą właściwie.

Zabezpieczenia techniczne, założenia dotyczące zachowań

To zaufanie jest wyrażane wprost. W wywiadzie z Lexem Fridmanem opublikowanym w marcu 2024 r. LeCun mówi, że uważa ludzi za „zasadniczo dobrych”, w naszym tłumaczeniu, i wiąże pesymizm wobec AI z nieufnością wobec ludzi lub instytucji. W wywiadzie dla The Hub w 2023 r. przekonywał już, że podmioty działające w dobrej wierze będą dysponować większymi środkami, a użytkownicy odrzucą niebezpieczne maszyny. Gdyby technologia poszła w złym kierunku, „po prostu przestaniemy”, wyjaśniał.

LeCun proponuje także odpowiedzi inżynieryjne. W rozmowie z Lexem Fridmanem opisuje AI kierowaną celami, z wbudowanymi barierami bezpieczeństwa, przyznaje, że wystąpią nieprzewidziane zachowania, i zakłada stopniowe doskonalenie zabezpieczeń. Relacja z jego wystąpienia w INSEAD, opublikowana 14 września 2026 r., przywołuje tę ambicję: przewidywać skutki działań dzięki modelom świata i włączać ograniczenia do procesu decyzyjnego. W „Fortune” 1 października przypisuje incydenty wadom projektowym i błędom nadzoru, które uznaje za możliwe do uniknięcia.

Badania te dają jego optymizmowi techniczną podstawę. Pozostawiają jednak otwartą kwestię zbiorowych warunków ich powodzenia. Użytkownik może chcieć użytecznego narzędzia, nie znając związanych z nim zagrożeń. Kierownictwo może wahać się przed przerwaniem działalności. Kilka zespołów może podzielać błędne założenie. Problem zaczyna się na długo przed złymi intencjami: czasem wystarczy, że każdy ufa zabezpieczeniu, którego ograniczeń nikt nie sprawdził.

Katastrofa nie musi zagrażać ludzkości

Historia przemysłu wyznacza inną skalę powagi niż wyginięcie. Wybuch w zakładach AZF w Tuluzie w 2001 r. dotknął całe miasto, daleko poza terenem fabryki. Badania z zakresu zdrowia publicznego dokumentują jego skutki dla zdrowia oraz dla życia osobistego, rodzinnego i zawodowego mieszkańców. Lokalny wypadek może wyrządzić trwałe szkody, wykraczające daleko poza obszar organizacji, w której miał swoje źródło.

W przypadku Fukushimy analiza czynników ludzkich i organizacyjnych przeprowadzona na potrzeby raportu MAEA opisuje, jak zaangażowane podmioty wzajemnie umacniały swoje założenia dotyczące bezpieczeństwa. Te wspólne przekonania utrudniły właściwe przygotowanie się na awarię z marca 2011 r. Samo zaufanie do systemu było częścią problemu.

Te precedensy nie są miarą ryzyka związanego z AI. Przypominają, ile może kosztować brak przewidywania, nawet w sektorach, w których pracują specjaliści od bezpieczeństwa. W miarę upowszechniania się AI trzeba wychodzić z założenia, że poważne wypadki się zdarzą, i dążyć do zmniejszenia zarówno ich prawdopodobieństwa, jak i zasięgu. Zdolność do późniejszej korekty nie odpowiada sama w sobie na pytanie o szkody poniesione w międzyczasie.

Niedawne incydenty, których stwierdzone szkody pozostają ograniczone, już pokazują rozbieżności między przewidzianymi zabezpieczeniami a ich faktycznym działaniem. Nasze artykuły o ponownej kwalifikacji incydentów w Anthropic i o sześciu raportach OpenAI szczegółowo opisują te mechanizmy. Ponieważ wystąpiły podczas trenowania lub ewaluacji, nie pozwalają wyprowadzić wskaźnika ryzyka w środowisku produkcyjnym. Pokazują, że zaprojektowanie reguły, jej stosowanie i wykrywanie jej obchodzenia to trzy odrębne zadania.

Według śledztwa CNN opublikowanego 18 września 2026 r. armia amerykańska miała wiosną omal nie przechwycić chińskiego statku na Bliskim Wschodzie na podstawie raportu przygotowanego z pomocą AI, który błędnie wskazywał, że jego ładunek jest powiązany z programem broni jądrowej. Operację miano odwołać po weryfikacji. Relacja ta opiera się na czterech anonimowych źródłach; Pentagon nie udzielił CNN odpowiedzi. Opisany mechanizm to błędna informacja włączona do ludzkiego łańcucha decyzyjnego.

Przewaga obrońców nie chroni wszystkich

Złe intencje dodają kolejną trudność. Zamachy z 11 września, które były celowym atakiem, a nie awarią przemysłową, zestawiły ze sobą głęboko nierówne środki. Amerykańska komisja śledcza podkreśla dysproporcję między zasobami grupy terrorystycznej a zasobami zaatakowanego państwa. Wskazuje na uchybienia w zakresie przewidywania, polityki, zdolności i zarządzania.

Ich skutki wykroczyły poza bezpośrednie zniszczenia: reakcja NATO przekształciła między innymi misje i zdolności Sojuszu. Materialna przewaga obrońców nie gwarantowała ochrony przed poważnym atakiem i jego kaskadowymi skutkami.

Przewaga ta jest ponadto nierówno rozłożona. W ocenie opublikowanej w maju 2025 r. brytyjskie NCSC przewidywało podział na systemy zdolne nadążyć za tempem zagrożeń wzmacnianych przez AI i znaczną część systemów bardziej podatnych na ataki. Środki najlepszych laboratoriów czy wielkich mocarstw nie opisują więc faktycznej ochrony wszystkich przedsiębiorstw i instytucji.

Bezpieczeństwo buduje się także w instytucjach

Analogia lotnicza, do której LeCun często się odwołuje, jest pouczająca. Zwiększenie niezawodności silników wymagało ogromnej pracy inżynierskiej. Jednak historia bezpieczeństwa lotniczego obejmuje także certyfikację, kontrolę ruchu i badanie wypadków. Zderzenie nad Wielkim Kanionem w 1956 r. ujawniło niewystarczające zapobieganie kolizjom mimo rosnącego ruchu. Dwa lata później Stany Zjednoczone utworzyły nową niezależną agencję federalną odpowiedzialną za bezpieczeństwo lotnictwa cywilnego.

Panowanie nad ryzykiem budowano zatem na kilku poziomach. Mechanizmy zbiorowe zorganizowały przepływ informacji, kontrolę i interwencję. Ta historia przemawia za możliwością bezpieczniejszego postępu technicznego. Pokazuje też niezbędną pracę instytucjonalną i cenę płaconą wtedy, gdy zabezpieczenia pozostają niewystarczające.

Sam LeCun przyznaje tym instytucjom pewną rolę. W Sciences Po opowiedział się za niezależnymi testami systemów wspomagania kierowcy oraz za wymogiem dopuszczenia do obrotu w przypadku analizy mammografii. Uważa jednak, że istniejące regulacje na ogół wystarczają, i odrzuca tezę, że przy obecnym stanie AI istnieje nieodłączne zagrożenie uzasadniające regulowanie badań.

Kwestia do zbadania jest więc precyzyjna: czy te ramy i ich środki kontroli rzeczywiście obejmą nowe zastosowania? Kto może weryfikować zabezpieczenia, uzyskać dostęp do śladów incydentu, ostrzec zainteresowane osoby trzecie i wymusić korektę? Te zdolności muszą dać się ocenić niezależnie od zaufania, jakim darzy się twórców. Nasze śledztwo dotyczące ładu korporacyjnego Anthropic wskazywało już na tę trudność: podzielać zamiar zachowania ostrożności i mieć władzę, by go wyegzekwować, to dwie różne rzeczy.

Rozróżniać zagrożenia, organizować zapobieganie

Debata publiczna spolaryzowała się wokół scenariuszy wyginięcia. W fragmencie wywiadu opublikowanym przez BBC Newsnight 10 września 2026 r. Geoffrey Hinton uznaje za „nie nierozsądne” oszacowanie 10% ryzyka, że AI zabije wszystkich ludzi w ciągu dziesięciu lat. To jego własna ocena ryzyka. W Sciences Po LeCun kładł natomiast nacisk na przewagę obrońców i lekceważąco zbywał scenariusze rodem z Jamesa Bonda. Ta część jego odpowiedzi, pozostająca na tej samej płaszczyźnie co argumenty jego oponentów, nadaje debacie manichejską wymowę, zgodnie z którą bezpieczeństwo zależy od przewagi podmiotów działających w dobrej wierze nad ich przeciwnikami.

Zamachy z 11 września przypominają, że przewaga środków nie wystarcza, by zapobiec poważnemu atakowi, którego skutki mogą znacznie wykraczać poza bezpośrednie zniszczenia. Jednak zapobieganie terroryzmowi i zapobieganie awariom przemysłowym wymagają odrębnych analiz, nawet jeśli niektóre zabezpieczenia się pokrywają. Błąd projektowy, niejednoznaczne polecenie lub zawodna koordynacja mogą wyrządzić szkody, choć nikt nie zamierzał szkodzić.

LeCun przyznaje, że takie uchybienia występują, i pracuje nad zapobieganiem im. Uznanie ich za możliwe do uniknięcia pozostawia jednak w pełni otwartą kwestię rzeczywistych warunków takiego zapobiegania. Konieczne staje się otwarte mówienie o poważnych awariach przemysłowych, które AI mogłaby wywołać lub spotęgować, ocena ich prawdopodobieństwa i zasięgu w zależności od zastosowań oraz jasne wskazanie niepewności. Twórcy, przedsiębiorstwa korzystające z AI i władze publiczne muszą dzielić się wnioskami z incydentów i wspólnie decydować o środkach ochrony.

Hamowanie rozwoju AI nie wystarczyłoby: inni posuwaliby się naprzód. Jej korzyści uzasadniają kontynuowanie badań i zastosowań, z zabezpieczeniami, których skuteczność da się zweryfikować. Niezależne testy, ograniczanie dostępu, separacja systemów i procedury interwencyjne powinny zmniejszać prawdopodobieństwo wypadków i ograniczać ich skutki. Wymaga to budżetów, jasno przypisanej odpowiedzialności i rzeczywistej władzy, by przerwać operację. Kto otrzymuje alarm, kto decyduje o zatrzymaniu i kto ostrzega narażone osoby?

Mechanizmy już istnieją, o różnym zakresie i różnym stopniu wiążącego charakteru, ale wciąż są niewystarczające. Nasz przegląd stanu regulacji AI porównuje inicjatywy międzynarodowe, ustawy krajowe i stan ich stosowania.