Cum testezi o aplicație generată cu AI, pe clase de risc
Instrumentele AI le oferă echipelor o viteză de testare și o libertate de inovare fără precedent. Totuși, codul generat automat poate ascunde vulnerabilități de securitate dacă este trimis în producție fără o verificare adecvată.
Cifrele din studiile de securitate arată că riscul nu e teoretic. Le-am detaliat într-un articol separat.
Soluția nu este blocarea utilizării AI-ului în firmă, ci aplicarea nivelului corect de control tehnic.
Iar adevărul este că nu toate aplicațiile cer aceleași rigori de securitate.
Un instrument intern care calculează un indicator pentru doi colegi nu necesită același proces de verificare ca un formular web care colectează date de la clienți sau un modul care emite facturi.
Pentru a păstra agilitatea oferită de AI fără a expune afacerea la riscuri, avem nevoie de o clasificare simplă a aplicațiilor în trei zone de risc.
Zona verde: instrumente interne cu risc scăzut
Cea mai mare parte a experimentelor cu AI are loc în această zonă. Vorbim despre generatoare de idei, calculatoare interne de proces sau mici automatizări folosite de un număr restrâns de angajați. Pentru că aceste unelte nu procesează date de clienți, nu manipulează bani și nu sunt conectate la internet sau la sisteme critice, nivelul de verificare este minim.
Aici este suficientă o validare funcțională de bază, făcută de creatorul aplicației împreună cu un coleg. Singurul lucru care trebuie urmărit atent este ce informații ale firmei au ajuns în prompturi sau în cod: liste de prețuri, condiții comerciale, date din contracte. Instrumentul rămâne intern, dar informația introdusă în el nu mai este sub controlul firmei.
Zona galbenă: aplicații de procesare cu risc mediu
Lucrurile devin puțin mai serioase atunci când aplicația lucrează cu datele operaționale ale companiei, cum ar fi un tablou de bord pentru management sau un script care sincronizează fișiere Excel cu CRM-ul intern. Chiar dacă aplicația nu este expusă în exterior și nu procesează date de clienți, ea funcționează în rețeaua internă.
În acest caz, un specialist tehnic sau administratorul de sistem trebuie să verifice că aplicația accesează strict datele de care are nevoie, că gestionează corect erorile fără a bloca alte sisteme și că are setate reguli clare de acces, cunoscute și ca guardrails.
Zona roșie: aplicații publice și procese critice
În această categorie intră tot ce este expus în exterior sau conectat la resursele valoroase ale firmei: site-uri web, formulare de contact, portaluri de clienți, aplicații de comerț online sau module de facturare. Când un soft manipulează date personale, plăți sau documente juridice, rigoarea tehnică devine obligatorie.
Înainte de lansare, codul generat de AI trebuie revizuit manual de un inginer software, scanat pentru vulnerabilități cunoscute și pachete inexistente, și verificat atent la nivel de autentificare și protecție a parolelor.
Majoritatea companiilor de dimensiuni medii nu au în echipă un inginer de securitate, iar asta nu schimbă cerința. Verificarea se poate externaliza, prin audit de cod sau prin testare de securitate contractată punctual, înainte de lansare. Costul unei astfel de verificări rămâne considerabil mai mic decât cel al unei breșe de date care expune informații de clienți.
Principiul de lucru: prototipul e liber, producția e reglementată
Regula de bază pentru întreaga echipă este simplă: oricine din firmă poate folosi AI pentru a construi și testa rapid un prototip în zona verde sau în zona galbenă.
Însă, în momentul în care acea aplicație urmează să fie conectată la date sensibile ale clienților sau să devină accesibilă din exterior, ea trece automat în zona roșie și intră în procesul formal de verificare tehnică.
Tabel rapid de evaluare a riscului
Pentru a stabili rapid unde se încadrează un proiect nou și cine trebuie să își dea acordul, poți folosi acest tabel:
| Zona de risc | Unde rulează aplicația | La ce date are acces | Nivel de securitate | Cine aprobă lansarea |
|---|---|---|---|---|
| Verde, risc scăzut | Local sau în mediul intern de testare | Date publice sau informații anonimizate | Minim, validare de bază | Creatorul aplicației și un coleg |
| Galbenă, risc mediu | Rețeaua internă a firmei | Date operaționale și fluxuri de lucru interne | Mediu, reguli de acces și limitări | Responsabilul IT sau un specialist tehnic |
| Roșie, risc ridicat | Internet, servere publice sau servicii externe | Date sensibile ale clienților, tranzacții, documente | Maxim, audit de cod și teste de securitate | Inginer software sau specialist de securitate |
Testele de securitate din ultima categorie presupun încercarea deliberată de a pătrunde în aplicație, pentru a descoperi breșele înainte să o facă altcineva.
Clasificarea de mai sus nu are rolul de a încetini echipa, ci de a stabili din start unde se poate lucra liber și unde intervine verificarea.
Diferența dintre o firmă care folosește AI cu folos și una care ajunge să plătească o breșă de date nu stă în instrumentele alese, ci în momentul în care cineva se uită peste rezultat.