A 16 de setembro de 2026, na Sciences Po, Yann LeCun evoca James Bond para qualificar um cenário de ciberataque massivo levado a cabo por agentes de IA. Segundo ele, os defensores dispõem de tecnologias e competências superiores. Afirma que a chegada dos agentes favorece a defesa. Acrescenta que os ataques e as defesas se tornam mais sofisticados, sem que veja uma alteração clara no seu equilíbrio. Quanto ao risco biológico, invoca os meios necessários para fabricar um agente patogénico e, depois, as motivações dos especialistas: teriam melhores perspetivas do que trabalhar num vírus suscetível de os matar.

Nestas respostas, o seu otimismo tecnológico assenta também na sua confiança no ser humano. Ora, atores competentes e bem-intencionados podem, em conjunto, deixar que ocorra uma catástrofe. LeCun trabalha, de facto, na segurança dos sistemas. A questão que permanece diz respeito à fiabilidade das decisões humanas e das organizações encarregadas de a fazer funcionar, em circunstâncias que por vezes terão antecipado mal.

Proteções técnicas, hipóteses sobre os comportamentos

Esta confiança é explícita. Na sua entrevista com Lex Fridman publicada em março de 2024, LeCun diz acreditar que as pessoas são «fundamentalmente boas», segundo a nossa tradução, e associa o pessimismo em relação à IA à desconfiança face às pessoas ou às instituições. Numa entrevista ao The Hub em 2023, já defendia que os atores bem-intencionados disporiam de mais meios e que os utilizadores rejeitariam as máquinas perigosas. Se a tecnologia tomasse um mau rumo, «simplesmente paramos», explicava.

LeCun propõe também respostas de engenharia. Com Lex Fridman, descreve uma IA orientada por objetivos que integra salvaguardas, reconhece que surgirão comportamentos imprevistos e prevê uma melhoria progressiva das proteções. O relato da sua conversa no INSEAD, publicado a 14 de setembro de 2026, retoma esta ambição: antecipar as consequências das ações graças a modelos do mundo e integrar restrições na tomada de decisão. Na Fortune, a 1 de outubro, atribui os incidentes a defeitos de conceção e de supervisão, que considera evitáveis.

Estas investigações dão uma base técnica ao seu otimismo. Deixam em aberto as condições coletivas do seu êxito. Um utilizador pode querer uma ferramenta útil sem conhecer os seus perigos. Uma direção pode hesitar em interromper uma atividade. Várias equipas podem partilhar uma hipótese errada. O problema começa muito antes da malícia: por vezes basta que cada um confie numa proteção cujos limites ninguém verificou.

Uma catástrofe não precisa de ameaçar a humanidade

A história industrial oferece uma escala de gravidade diferente da extinção. A explosão da AZF, em Toulouse, em 2001, atingiu uma cidade muito para lá da fábrica. Os trabalhos de saúde pública documentam as suas consequências na saúde e na vida pessoal, familiar e profissional dos habitantes. Um acidente local pode causar danos duradouros, que ultrapassam largamente o perímetro da organização que lhe deu origem.

Em Fukushima, a análise dos fatores humanos e organizacionais realizada para o relatório da AIEA descreve como os atores envolvidos reforçaram mutuamente os seus pressupostos sobre a segurança. Estas convicções partilhadas impediram uma preparação adequada para o acidente de março de 2011. A própria confiança no sistema fazia parte do problema.

Estes precedentes não medem o risco da IA. Lembram o que pode custar uma falta de antecipação, mesmo em setores onde trabalham especialistas em segurança. À medida que a IA se difunde, é preciso partir do princípio de que ocorrerão acidentes graves e procurar reduzir tanto a sua probabilidade como o seu alcance. A capacidade de corrigir depois não responde, por si só, à questão dos danos sofridos entretanto.

Os incidentes recentes, cujos danos comprovados continuam limitados, já mostram desfasamentos entre as proteções previstas e o seu funcionamento. Os nossos artigos sobre a requalificação dos incidentes da Anthropic e sobre seis relatórios da OpenAI detalham estes mecanismos. Tendo ocorrido durante treinos ou avaliações, não permitem deduzir uma taxa de risco em produção. Mostram que conceber uma regra, aplicá-la e detetar quando é contornada são três tarefas distintas.

Segundo uma investigação da CNN publicada a 18 de setembro de 2026, as forças armadas norte-americanas terão estado prestes a intercetar, na primavera, um navio chinês no Médio Oriente com base num relatório assistido por IA que identificava erradamente a sua carga como ligada a um programa de armas nucleares. A operação terá sido cancelada após verificação. Este relato assenta em quatro fontes anónimas; o Pentágono não tinha respondido à CNN. O mecanismo descrito é o de uma informação errada integrada numa cadeia de decisão humana.

A superioridade dos defensores não protege toda a gente

A malícia acrescenta outra dificuldade. Os atentados do 11 de Setembro, que se enquadram num ataque deliberado e não num acidente industrial, opuseram meios profundamente desiguais. A comissão de inquérito norte-americana sublinha a desproporção entre os recursos do grupo terrorista e os do país atingido. Aponta falhas de antecipação, de política, de capacidades e de gestão.

As suas consequências foram além da destruição imediata: a resposta da NATO transformou, nomeadamente, as suas missões e capacidades. A superioridade material dos defensores não garantia a proteção contra um ataque de grande dimensão e os seus efeitos em cascata.

Além disso, esta superioridade está distribuída de forma desigual. Na sua avaliação publicada em maio de 2025, o NCSC britânico previa uma fratura entre os sistemas capazes de acompanhar o ritmo das ameaças reforçadas pela IA e uma larga parte de sistemas mais vulneráveis. Os meios dos melhores laboratórios ou das grandes potências não descrevem, portanto, a proteção efetiva de todas as empresas e instituições.

A segurança também se constrói nas instituições

A analogia aeronáutica frequentemente utilizada por LeCun é esclarecedora. Tornar os motores mais fiáveis exigiu um trabalho considerável de engenharia. Mas a história da segurança aérea inclui também a certificação, o controlo do tráfego e a investigação de acidentes. A colisão do Grand Canyon, em 1956, revelou a insuficiência da prevenção de colisões, apesar do crescimento do tráfego. Dois anos depois, os Estados Unidos criavam uma nova agência federal independente encarregada da segurança da aviação civil.

O domínio do risco construiu-se, portanto, a vários níveis. Dispositivos coletivos organizaram a circulação da informação, o controlo e a intervenção. Esta história sustenta a possibilidade de um progresso técnico mais seguro. Mostra também o trabalho institucional necessário e o preço pago quando as proteções continuam insuficientes.

O próprio LeCun reconhece um papel a estas instituições. Na Sciences Po, defende testes independentes para a assistência à condução e uma autorização de introdução no mercado para a análise de mamografias. Considera, contudo, que as regulamentações existentes são geralmente suficientes e rejeita, no estado atual da IA, a existência de um perigo intrínseco que justifique regular a investigação.

A questão a examinar é, portanto, precisa: estes quadros e os seus meios de controlo abrangerão efetivamente as novas utilizações? Quem pode verificar as proteções, aceder aos registos de um incidente, avisar os terceiros afetados e impor uma correção? Estas capacidades devem poder ser examinadas independentemente da confiança depositada nos criadores. A nossa investigação sobre a governação da Anthropic já colocava esta dificuldade: partilhar uma intenção de prudência e dispor do poder de a fazer respeitar são duas coisas diferentes.

Distinguir as ameaças, organizar a prevenção

O debate público polarizou-se em torno de cenários de extinção. Num excerto de entrevista publicado pela BBC Newsnight a 10 de setembro de 2026, Geoffrey Hinton considera «não irrazoável» uma estimativa de 10 % de risco de a IA matar todos os seres humanos nos próximos dez anos. Trata-se da sua avaliação do risco. Na Sciences Po, LeCun insiste, por seu lado, na superioridade dos defensores e descarta liminarmente os cenários à James Bond. Esta parte da sua resposta, que permanece no mesmo plano que a dos seus opositores, dá ao debate uma leitura maniqueísta, em que a segurança depende da vantagem dos atores bem-intencionados sobre os seus adversários.

O 11 de Setembro lembra que meios superiores não bastam para impedir um ataque de grande dimensão, cujas consequências podem ultrapassar em muito a destruição imediata. Mas a prevenção do terrorismo e a dos acidentes industriais exigem análises distintas, mesmo que algumas proteções se sobreponham. Um erro de conceção, uma instrução ambígua ou uma falha de coordenação podem provocar danos sem que nenhum ator tenha procurado prejudicar.

LeCun reconhece estas falhas e trabalha na sua prevenção. Qualificá-las de evitáveis deixa, no entanto, intacta a questão das condições reais dessa prevenção. Torna-se necessário falar abertamente dos acidentes industriais graves que a IA poderá provocar ou amplificar, avaliar a sua probabilidade e o seu alcance consoante as utilizações e explicitar as incertezas. Criadores, empresas utilizadoras e poderes públicos devem partilhar os ensinamentos dos incidentes e decidir em conjunto os meios de proteção.

Travar o desenvolvimento da IA não bastaria: outros continuariam a avançar. Os seus benefícios justificam prosseguir a investigação e as utilizações, com proteções cuja eficácia possa ser verificada. Testes independentes, limitação dos acessos, separação dos sistemas e procedimentos de intervenção devem reduzir a probabilidade dos acidentes e conter as suas consequências. Isso pressupõe orçamentos, responsabilidades identificadas e o poder efetivo de interromper uma operação. Quem recebe o alerta, quem decide a paragem e quem avisa as pessoas expostas?

Já existem dispositivos, com âmbitos e graus de obrigatoriedade diferentes, mas ainda são insuficientes. O nosso ponto da situação sobre a regulação da IA compara as iniciativas internacionais, as leis nacionais e o seu grau de aplicação.