Modelele mari de limbaj (LLMs) se impun treptat în toate sectoarele, inclusiv în cel extrem de strategic al securității cibernetice. Dar ce schimbă ele realmente? Un studiu interdisciplinar realizat de cercetători de la universitatea din New York oferă o imagine de ansamblu precisă și ambițioasă a acestei convergențe și propune o foaie de parcurs concretă. Analiză.
Modele capabile să anticipeze, să analizeze și să acționeze
Primul aport al LLM-urilor în securitatea cibernetică este clar: ele permit exploatarea la scară largă a unor cantități mari de texte până acum sub-utilizate, cum ar fi rapoartele de incidente, fluxurile de informații despre amenințări (CTI) sau jurnalele de sistem. Rezultat: o detectare mai rapidă a vulnerabilităților, atacurilor și comportamentelor suspecte, cu capacitatea de a genera rezumate, de a clasifica incidentele sau de a sugera acțiuni.
LLM-urile pot fi și specializate: modele precum SecureBERT, antrenate pe corpusuri de securitate cibernetică, oferă rezultate mult mai bune decât modelele generaliste. Totuși, acestea trebuie rafinate corect, cu solicitări bine concepute și date relevante – un know-how încă rar în companii.
Securitatea cibernetică a rețelelor 5G: IA la salvare
Raportul subliniază de asemenea interesul LLM-urilor pentru testarea securității rețelelor 5G, adesea slab protejate în faza pre-criptare. Două abordări coexistă:
-
Top-down: extragerea regulilor din mii de pagini de specificații tehnice.
-
Bottom-up: analiza directă a traficului pentru a detecta anomalii.
În ambele cazuri, LLM-urile permit automatizarea generării de cazuri de test, simularea atacurilor prin fuzzing și identificarea vulnerabilităților greu de detectat manual.
Către o nouă generație de agenți autonomi de securitate cibernetică
Studiul insistă asupra apariției agenților "bazati pe LLM" capabili nu doar să analizeze amenințările, dar și să raționeze, să planifice și să interacționeze cu mediul lor. Datorită tehnicilor precum Retrieval-Augmented Generation (RAG) sau Graph-RAG, acești agenți pot combina mai multe surse pentru a produce răspunsuri complexe și contextuale.
Mai mult decât atât: organizând acești agenți în sisteme multi-agents (sau prin meta-agents), devine posibilă acoperirea întregului ciclu de răspuns la un atac: detectare, analiză, reacție, remediere.
Formare, simulare, securizare: utilizările pedagogice se conturează
O altă inovație notabilă se referă la utilizarea LLM-urilor în formarea pentru securitatea cibernetică. Cursuri experimentale au fost deja desfășurate: ele integrează rezumarea codului, detectarea vulnerabilităților, inteligența asupra amenințărilor sau chiar ingineria socială asistată de IA. Șase lecții cheie reies: creativitate, portabilitate, scepticism, agilitate, securitate și cost.
Între automatizare și vigilență umană
Dar atenție: LLM-urile nu sunt panacee. Lipsa lor de coerență, tendința lor de a avea halucinații, părtinirile statistice sau vulnerabilitatea lor la atacurile de tip "jailbreak" (ocolirea gardienilor) impun măsuri de siguranță solide.
Raportul recomandă astfel o abordare hibridă: asocierea LLM-urilor cu oameni în buclă, multiplicarea verificărilor, specializarea modelelor în loc de a viza un model unic și introducerea de mecanisme de control și audit robuste (blockchain, metrici de încredere, etc.).
Pentru o IA de încredere în securitatea cibernetică
Cercetătorii insistă pe trei piloni pentru a construi o IA de încredere:
-
Interpretabilitate: deciziile modelelor trebuie să fie de înțeles.
-
Robustețe: trebuie să reziste variațiilor și atacurilor adverse.
-
Echitate: evitarea părtinirilor, în special în domenii sensibile precum justiția sau finanțele.
Obiectivul lor: a face în așa fel încât IA să nu fie un nou risc, ci un avantaj durabil pentru a întări reziliența organizațiilor în fața unor amenințări din ce în ce mai complexe.
Referință pentru studiu: arXiv:2505.00841v1