← Înapoi la blog

Cât de sigur e codul generat cu AI de cineva fără pregătire tehnică

Entuziasmul din jurul Inteligenței Artificiale generative a transformat pe oricine într-un potențial „creator de software”. Astăzi, cu câteva prompturi scrise simplu, un manager de vânzări, un om de marketing sau un antreprenor își poate construi propriul site, un modul de gestionare a clienților sau o aplicație internă. Fără să știe o singură linie de cod.

Însă, dincolo de viteza spectaculoasă de execuție, se ascunde o problemă majoră pe care mediul de business începe deja să o resimtă: codul generat fără context și fără supraveghere tehnică creează o datorie tehnologică uriașă și găuri masive de securitate.

Gartner avertizează că până în 2028, abordările de tip prompt-to-app adoptate de așa-numiții „citizen developers” (utilizatori fără fundal tehnic) vor crește defectele din software cu 2.500%, declanșând o adevărată criză de calitate și fiabilitate.

Iată ce arată cifrele din industrie și de ce aplicațiile generate cu AI de persoane fără background tehnic pot deveni cea mai mare vulnerabilitate a firmei tale.

Cum funcționează generarea de cod prin AI și de unde apar riscurile?

Atunci când o persoană fără pregătire tehnică folosește AI pentru a crea o aplicație sau un site, apare un fenomen numit prejudecată de automatizare (automation bias): tinde să aibă încredere orbește în rezultatul oferit de ecran.

Dacă interfața arată bine și butonul funcționează, presupunerea este că totul e în regulă.

În realitate, modelele AI nu „gândesc” securitatea; ele doar prezic următoarea bucată de cod pe baza unor tipare din datele pe care au fost antrenate. Fără un inginer care să înțeleagă arhitectura, AI-ul generează cod lipsit de context: nu știe cum sunt protejate datele, cine are acces la ele sau cum reacționează sistemul sub atac.

Cifrele din studiile recente privind securitatea codului generat de AI confirmă acest risc:

  • 45% dintre sarcini introduc vulnerabilități: Raportul Veracode GenAI Code Security Report, care a testat 80 de sarcini de programare pe peste 100 de modele AI, arată că în 45% dintre cazuri codul generat introduce o vulnerabilitate din categoria OWASP Top 10. Java s-a dovedit cel mai riscant limbaj, cu o rată de eșec de peste 70%.
  • 62% defecte de design: Cercetarea publicată de Cloud Security Alliance arată că 62% dintre soluțiile de cod generate de AI conțin defecte de design sau vulnerabilități cunoscute, chiar și atunci când se folosesc cele mai noi modele. Explicația dată de cercetători: modelul nu cunoaște riscurile specifice aplicației tale, standardele interne și nici contextul în care funcționează.
  • Pachete software inexistente: Un studiu prezentat la conferința USENIX Security 2025 a analizat 2,23 milioane de mostre de cod generate de 16 modele și a constatat că 19,7% dintre pachetele recomandate nu există în realitate, cu 205.474 de nume complet inventate. Partea care transformă greșeala în vulnerabilitate: 43% dintre numele inventate reapar identic de fiecare dată când se repetă aceeași cerere. Atacatorii pot afla care sunt, le pot înregistra în depozitele publice și le pot încărca cu cod rău intenționat, pe care aplicația îl descarcă singură.
  • Creșterea vulnerabilităților înregistrate (CVE): Proiectul Vibe Security Radar, al laboratorului de securitate software de la Georgia Tech, urmărește vulnerabilitățile publice cauzate direct de cod generat cu AI. Până la finalul lui martie 2026 confirmase 74 de cazuri, dintre care 14 critice, cu o traiectorie de 6 în ianuarie, 15 în februarie și 35 în martie. Luna martie a depășit singură tot anul 2025. Cercetătorii precizează că 74 e un prag minim, fiindcă majoritatea codului generat cu AI nu lasă urme care să permită atribuirea.
  • Ajustările succesive agravează problema: Experimentul Security Degradation in Iterative AI Code Generation, prezentat la IEEE-ISTAS, a testat 400 de mostre de cod pe 40 de runde de îmbunătățiri succesive. După doar cinci runde în care modelul a fost rugat să rafineze codul, vulnerabilitățile critice crescuseră cu 37,6%. În timp ce rezolva eroarea vizibilă, introducea altele la nivel de arhitectură.

Unde apar cele mai mari riscuri de securitate?

La nivelul aplicațiilor construite fără o arhitectură de securitate predefinită, riscurile majore apar de obicei în următoarele arii:

  • Scurgeri de date personale (GDPR) și baze de date expuse: aplicația funcționează, dar oricine modifică un link poate vedea datele altor clienți, pentru că nimeni nu a cerut reguli de autorizare, iar modelul nu le adaugă din proprie inițiativă.
  • Injecții SQL și formulare neprotejate: formularul de contact sau de comandă trimite datele direct în baza de date fără să le verifice. Un atacator poate prelua controlul site-ului introducând un cod rău intenționat direct în câmpul de „Nume” sau „Mesaj”.
  • Preluarea conturilor de administrare: lipsa unor limite de securitate (guardrails) face ca parolele sau cheile de acces (API keys) să fie lăsate la vedere în codul sursă al site-ului, ușor de extras de către boții care scanează internetul.

Consecințele nu rămân tehnice. O bază de date expusă care conține date de clienți intră sub incidența GDPR, indiferent cine a scris codul, iar răspunderea rămâne a companiei, nu a instrumentului cu care a fost generată aplicația.

Cum folosești AI-ul în afacerea ta fără să-ți pui datele în pericol?

AI-ul este o unealtă de o valoare incontestabilă pentru viteză și prototipare, dar nu poate înlocui rigoarea ingineriei software.

Dacă vrei să beneficiezi de automatizare și aplicații rapide fără să creezi o criză de securitate în firmă, aplică aceste 4 reguli simple:

  • Folosește AI pentru prototipuri, nu pentru producție: e excelent să folosești AI pentru a testa rapid o idee sau un flux vizual. Însă înainte de a pune aplicația în fața clienților sau de a o conecta la date reale, codul trebuie revizuit de un specialist.
  • Nu automatiza fără inspecție umană (Human-in-the-loop): nicio linie de cod generată automat nu ar trebui trimisă pe server fără un proces de verificare a vulnerabilităților.
  • Setează reguli stricte și limite de acces: stabilește clar ce date are voie să acceseze o aplicație și unde trebuie să se oprească executarea automată a sarcinilor.
  • Verifică periodic, nu doar la lansare: datele de mai sus arată că vulnerabilitățile ies la iveală în timp, nu în ziua în care aplicația intră în funcțiune. O aplicație care a ieșit din faza de prototip și lucrează cu datele firmei are nevoie de verificări repetate.

În loc de concluzie…

Posibilitatea de a construi aplicații și de a automatiza procese descriind simplu, în cuvinte proprii, ce îți dorești, este fără îndoială una dintre cele mai spectaculoase evoluții tehnologice din ultimii ani. Este impresionant cât de repede se poate trece astăzi de la o idee la un prototip funcțional și cât de mult s-a democratizat accesul la tehnologie.

AI-ul le oferă echipelor o viteză de testare și o libertate de inovare fără precedent. Miza nu este descurajarea acestei inițiative, ci completarea ei cu rigoarea necesară. Pentru ca un instrument creat rapid să devină o resursă sigură și durabilă pentru companie, agilitatea oferită de AI trebuie dublată de o arhitectură tehnică corectă și de reguli clare de securitate.

Adevăratul avantaj competitiv apare atunci când viteza adusă de AI este susținută de o infrastructură solidă, protejând datele, clienții și continuitatea afacerii tale.