16 Eylül 2026'da Sciences Po'da konuşan Yann LeCun, yapay zekâ ajanlarının gerçekleştireceği büyük çaplı bir siber saldırı senaryosunu nitelemek için James Bond'u anıyor. Ona göre savunma tarafı daha üstün teknolojilere ve yetkinliklere sahip. Ajanların ortaya çıkışının savunmaya avantaj sağladığını öne sürüyor. Saldırıların ve savunmaların daha karmaşık hale geldiğini, ancak aralarındaki dengede belirgin bir değişiklik görmediğini ekliyor. Biyolojik risk konusunda ise önce bir patojen üretmek için gereken imkânlara, ardından uzmanların motivasyonlarına değiniyor: ona göre bu uzmanların, kendilerini de öldürebilecek bir virüs üzerinde çalışmaktan daha iyi beklentileri olurdu.

Bu yanıtlarda teknolojik iyimserliği aynı zamanda insana duyduğu güvene dayanıyor. Oysa yetkin ve iyi niyetli aktörler, hep birlikte, bir felaketin önünü açabilir. LeCun sistemlerin güvenliği üzerinde gerçekten çalışıyor. Geriye kalan soru, bu güvenliği işler kılmakla görevli insan kararlarının ve kuruluşların, zaman zaman yeterince öngöremedikleri koşullarda ne kadar güvenilir olduğuyla ilgili.

Teknik korumalar, davranışlara dair varsayımlar

Bu güven açıkça dile getiriliyor. Lex Fridman'la Mart 2024'te yayımlanan söyleşisinde LeCun, kendi çevirimizle, insanların “temelde iyi” olduğunu düşündüğünü söylüyor ve yapay zekâ konusundaki karamsarlığı insanlara ya da kurumlara duyulan güvensizlikle ilişkilendiriyor. 2023'te The Hub'a verdiği bir röportajda da iyi niyetli aktörlerin daha fazla imkâna sahip olacağını ve kullanıcıların tehlikeli makineleri reddedeceğini savunuyordu. Teknoloji yanlış bir yöne giderse “durdururuz, o kadar” diye açıklıyordu.

LeCun mühendislik yanıtları da öneriyor. Lex Fridman'la söyleşisinde, güvenlik bariyerleri içeren hedef güdümlü bir yapay zekâ tarif ediyor, öngörülmemiş davranışların ortaya çıkacağını kabul ediyor ve korumaların kademeli olarak iyileştirilmesini öngörüyor. INSEAD'deki söyleşisinin 14 Eylül 2026'da yayımlanan özeti de bu hedefi yineliyor: dünya modelleri sayesinde eylemlerin sonuçlarını önceden kestirmek ve karar sürecine kısıtlar yerleştirmek. 1 Ekim'de Fortune'da ise olayları, kaçınılabilir olarak değerlendirdiği tasarım ve gözetim kusurlarına bağlıyor.

Bu araştırmalar onun iyimserliğine teknik bir temel kazandırıyor. Ancak başarıya ulaşmalarının kolektif koşullarını açıkta bırakıyor. Bir kullanıcı, tehlikelerini bilmeden yararlı bir araç isteyebilir. Bir yönetim bir faaliyeti durdurmakta tereddüt edebilir. Birden fazla ekip aynı hatalı varsayımı paylaşabilir. Sorun kötü niyetten çok önce başlıyor: bazen herkesin, sınırlarını kimsenin doğrulamadığı bir korumaya güvenmesi yeterli oluyor.

Bir felaketin insanlığı tehdit etmesi gerekmiyor

Sanayi tarihi, yok oluştan farklı bir ciddiyet ölçeği sunuyor. 2001'de Toulouse'daki AZF patlaması, fabrikanın çok ötesinde bütün bir şehri etkiledi. Halk sağlığı çalışmaları, patlamanın sakinlerin sağlığı ile kişisel, ailevi ve mesleki yaşamları üzerindeki sonuçlarını belgeliyor. Yerel bir kaza, kaynaklandığı kuruluşun sınırlarını çok aşan kalıcı zararlara yol açabilir.

Fukuşima'da, UAEA raporu için yürütülen insan ve örgütsel faktörler analizi, ilgili aktörlerin güvenliğe dair varsayımlarını karşılıklı olarak nasıl pekiştirdiğini anlatıyor. Bu ortak inançlar, Mart 2011 kazasına yeterli bir hazırlık yapılmasının önünde engel oluşturdu. Sisteme duyulan güvenin kendisi sorunun bir parçasıydı.

Bu örnekler yapay zekânın riskini ölçmüyor. Güvenlik uzmanlarının çalıştığı sektörlerde bile öngörü eksikliğinin bedelinin ne olabileceğini hatırlatıyor. Yapay zekâ yaygınlaştıkça, ciddi kazaların yaşanacağı varsayımından hareket etmek ve bunların hem olasılığını hem de kapsamını azaltmaya çalışmak gerekiyor. Sonradan düzeltme yapabilme kapasitesi, tek başına, bu arada uğranan zararlar sorusuna yanıt vermiyor.

Tespit edilen zararları sınırlı kalan son olaylar, öngörülen korumalar ile bunların fiili işleyişi arasındaki farkları şimdiden gösteriyor. Anthropic olaylarının yeniden nitelendirilmesi ve OpenAI'ın altı raporu hakkındaki yazılarımız bu mekanizmaları ayrıntılı olarak ele alıyor. Eğitim veya değerlendirme süreçlerinde yaşanan bu olaylardan, üretim ortamına ilişkin bir risk oranı çıkarılamaz. Bunlar, bir kural tasarlamanın, onu uygulamanın ve kuralın atlatıldığını tespit etmenin üç ayrı görev olduğunu gösteriyor.

CNN'in 18 Eylül 2026'da yayımladığı bir araştırmaya göre ABD ordusu bahar aylarında, kargosunu yanlışlıkla bir nükleer silah programıyla bağlantılı olarak tanımlayan yapay zekâ destekli bir rapora dayanarak Orta Doğu'da bir Çin gemisini neredeyse durduracakmış. Operasyon, doğrulamanın ardından iptal edilmiş. Bu anlatım dört anonim kaynağa dayanıyor; Pentagon CNN'e yanıt vermemişti. Anlatılan mekanizma, insan karar zincirine dahil edilen hatalı bir bilgiden kaynaklanıyor.

Savunma tarafının üstünlüğü herkesi korumuyor

Kötü niyet ayrı bir zorluk ekliyor. Bir sanayi kazası değil kasıtlı bir saldırı olan 11 Eylül saldırıları, son derece eşitsiz imkânları karşı karşıya getirdi. ABD soruşturma komisyonu, terör örgütünün kaynakları ile saldırıya uğrayan ülkenin kaynakları arasındaki orantısızlığın altını çiziyor. Komisyon öngörü, politika, kapasite ve yönetim alanlarındaki aksaklıkları tespit ediyor.

Saldırıların sonuçları anlık yıkımın ötesine geçti: NATO'nun verdiği yanıt, özellikle ittifakın görevlerini ve kabiliyetlerini dönüştürdü. Savunma tarafının maddi üstünlüğü, büyük bir saldırıya ve onun zincirleme etkilerine karşı korumayı garanti etmiyordu.

Üstelik bu üstünlük eşit dağılmış değil. İngiltere'nin NCSC'si, Mayıs 2025'te yayımlanan değerlendirmesinde, yapay zekâyla güçlenen tehditlerin hızına ayak uydurabilen sistemler ile daha savunmasız sistemlerden oluşan geniş bir kesim arasında bir uçurum öngörüyordu. Dolayısıyla en iyi laboratuvarların ya da büyük güçlerin imkânları, tüm şirket ve kurumların fiili korunma düzeyini yansıtmıyor.

Güvenlik kurumlarda da inşa ediliyor

LeCun'un sıkça başvurduğu havacılık benzetmesi aydınlatıcı. Motorları daha güvenilir hale getirmek muazzam bir mühendislik çalışması gerektirdi. Ancak havacılık güvenliğinin tarihi sertifikasyonu, hava trafik kontrolünü ve kaza soruşturmalarını da kapsıyor. 1956'daki Büyük Kanyon çarpışması, artan trafiğe rağmen çarpışma önleme tedbirlerinin yetersizliğini ortaya koydu. İki yıl sonra ABD, sivil havacılık güvenliğinden sorumlu yeni ve bağımsız bir federal ajans kurdu.

Dolayısıyla riskin kontrol altına alınması birden fazla düzeyde inşa edildi. Kolektif mekanizmalar bilginin dolaşımını, denetimi ve müdahaleyi düzenledi. Bu tarih, daha güvenli bir teknik ilerlemenin mümkün olduğu görüşünü destekliyor. Aynı zamanda gereken kurumsal emeği ve korumalar yetersiz kaldığında ödenen bedeli de gösteriyor.

LeCun da bu kurumlara bir yer tanıyor. Sciences Po'da, sürüş destek sistemleri için bağımsız testleri ve mamografi analizi için piyasaya arz izni verilmesini savunuyor. Bununla birlikte mevcut düzenlemelerin genellikle yeterli olduğunu düşünüyor ve yapay zekânın bugünkü durumunda, araştırmanın düzenlenmesini haklı kılacak içkin bir tehlike bulunduğunu kabul etmiyor.

Dolayısıyla incelenmesi gereken nokta net: Bu çerçeveler ve denetim araçları yeni kullanımları fiilen kapsayacak mı? Korumaları kim doğrulayabilir, bir olayın kayıtlarına kim erişebilir, ilgili üçüncü kişileri kim uyarabilir ve kim düzeltme dayatabilir? Bu kapasitelerin, geliştiricilere duyulan güvenden bağımsız olarak incelenebilmesi gerekiyor. Anthropic'in yönetişimine ilişkin araştırmamız bu güçlüğü zaten ortaya koymuştu: ihtiyatlı davranma niyetini paylaşmak ile buna uyulmasını sağlama gücüne sahip olmak iki ayrı şeydir.

Tehditleri ayırt etmek, önlemeyi örgütlemek

Kamusal tartışma yok oluş senaryoları etrafında kutuplaştı. BBC Newsnight'ın 10 Eylül 2026'da yayımladığı bir söyleşi kesitinde Geoffrey Hinton, yapay zekânın on yıl içinde tüm insanları öldürmesi riskine ilişkin %10'luk bir tahmini “mantıksız değil” olarak değerlendiriyor. Bu, onun riske dair kendi değerlendirmesi. Sciences Po'da ise LeCun, savunma tarafının üstünlüğünü vurguluyor ve James Bond tarzı senaryoları bir çırpıda bir kenara itiyor. Yanıtının, muhataplarıyla aynı düzlemde kalan bu kısmı, tartışmaya güvenliğin iyi niyetli aktörlerin hasımlarına karşı üstünlüğüne bağlı olduğu Maniheist bir okuma kazandırıyor.

11 Eylül, üstün imkânların, sonuçları anlık yıkımı çok aşabilecek büyük bir saldırıyı önlemeye yetmediğini hatırlatıyor. Ancak terörün önlenmesi ile sanayi kazalarının önlenmesi, bazı korumalar örtüşse de ayrı analizler gerektiriyor. Bir tasarım hatası, muğlak bir talimat ya da bir koordinasyon aksaklığı, hiçbir aktör zarar vermeye çalışmadan hasara yol açabilir.

LeCun bu aksaklıkları kabul ediyor ve önlenmeleri üzerinde çalışıyor. Ne var ki bunları kaçınılabilir olarak nitelemek, bu önlemenin gerçek koşullarına ilişkin soruyu olduğu gibi bırakıyor. Yapay zekânın yol açabileceği veya büyütebileceği ciddi sanayi kazalarından açıkça söz etmek, bunların olasılığını ve kapsamını kullanım alanlarına göre değerlendirmek ve belirsizlikleri açıkça ortaya koymak gerekli hale geliyor. Geliştiriciler, kullanıcı şirketler ve kamu otoriteleri olaylardan çıkarılan dersleri paylaşmalı ve koruma araçlarına birlikte karar vermeli.

Yapay zekânın gelişimini frenlemek yetmezdi: başkaları ilerlemeyi sürdürürdü. Sağladığı faydalar, etkinliği doğrulanabilir korumalarla birlikte araştırmaları ve kullanımları sürdürmeyi haklı kılıyor. Bağımsız testler, erişimin sınırlandırılması, sistemlerin birbirinden ayrılması ve müdahale prosedürleri, kazaların olasılığını azaltmalı ve sonuçlarını sınırlamalı. Bu da bütçeler, belirlenmiş sorumluluklar ve bir operasyonu durdurmak için fiili yetki gerektiriyor. Uyarıyı kim alıyor, durdurma kararını kim veriyor ve risk altındaki kişileri kim haberdar ediyor?

Farklı kapsamlara ve bağlayıcılık derecelerine sahip mekanizmalar zaten mevcut, ancak bunlar henüz yetersiz. Yapay zekâ düzenlemesine ilişkin durum değerlendirmemiz, uluslararası girişimleri, ulusal yasaları ve bunların uygulanma durumunu karşılaştırıyor.