Alessandro Nigro.

DevSecOps per le app scritte con l'AI

Scritto da Alessandro Nigro, Senior Software Engineer, consulente informatico dal 2009 · aggiornato il

Quando si parla di sicurezza, codice generato AI e codice scritto a mano si controllano allo stesso modo. Con il primo servono attenzioni in più su quattro punti: segreti finiti nel codice, dipendenze inventate o mai verificate, controlli di accesso mancanti e permessi cloud troppo larghi. Un'app scritta in pochi giorni con un assistente può funzionare bene nella demo e avere uno di questi problemi in produzione. Qui trovi la checklist che uso prima di metterla online.

Sicurezza codice generato AI: la risposta in breve

Prima del rilascio controllo, in quest'ordine:

  1. nessuna chiave o password nel codice e nella cronologia del repository;
  2. ogni dipendenza esiste, è quella giusta ed è fissata a una versione;
  3. ogni pagina e ogni API verificano chi è l'utente e cosa può vedere;
  4. i permessi cloud sono quelli minimi, senza risorse pubbliche per errore;
  5. una pipeline ripete questi controlli a ogni modifica, insieme ai test.

Il resto della nota spiega perché ognuno di questi punti conta di più quando il codice lo scrive un modello.

Cosa dicono gli studi sul codice scritto dall'AI

Il primo studio sistematico, Asleep at the Keyboard? di Pearce e altri, presentato all'IEEE Symposium on Security and Privacy 2022, ha fatto completare a GitHub Copilot 89 scenari a rischio, per un totale di 1.689 programmi. Gli autori hanno trovato vulnerabile circa il 40% dei programmi. Lo studio riguarda una versione del 2021 e i modelli sono migliorati, ma il principio resta: il modello produce codice plausibile, e plausibile non vuol dire sicuro.

Un secondo studio, We Have a Package for You! di Spracklen e altri (USENIX Security 2025), ha misurato quante volte i modelli suggeriscono pacchetti che non esistono. La percentuale media è di almeno il 5,2% per i modelli commerciali e del 21,7% per quelli open source, con 205.474 nomi di pacchetti inventati diversi. Un nome inventato è un'occasione per chi registra quel pacchetto con dentro codice malevolo.

Segreti nel codice e nella cronologia

Quando chiedi a un assistente di collegare un servizio, la via più breve è scrivere la chiave nel codice. L'OpenSSF, nella sua guida per le istruzioni agli assistenti AI, lo dice in modo diretto: «Never include API keys, passwords, or secrets in code output».

Cosa controllo:

  • una ricerca automatica di segreti su tutto il repository, cronologia compresa;
  • file di configurazione locali esclusi dal controllo di versione;
  • segreti in un gestore dedicato o nelle variabili dell'ambiente di esecuzione;
  • chiavi diverse per sviluppo e produzione.

Se una chiave è già stata pubblicata in un commit, va revocata e sostituita: cancellarla dal file non basta.

Dipendenze inventate o mai verificate

Ogni pacchetto aggiunto dall'assistente va verificato: deve esistere, avere il nome giusto, essere mantenuto e arrivare dal registro ufficiale. La guida OpenSSF chiede di non aggiungere dipendenze «that may be malicious or hallucinated» e di usare sempre il gestore di pacchetti ufficiale del linguaggio.

Nella OWASP Top 10:2025 i problemi della catena di fornitura hanno una voce propria, A03:2025 Software Supply Chain Failures. In pratica:

  • file di lock nel repository e versioni fissate;
  • analisi automatica delle vulnerabilità note nelle dipendenze;
  • nessun pacchetto nuovo senza che una persona ne abbia controllato nome e origine.

Accessi e dati degli utenti

È il punto in cui il codice generato sbaglia in modo meno visibile. L'app mostra i dati giusti all'utente giusto nella demo, ma l'API risponde a chiunque cambi un identificativo nell'indirizzo. Nella OWASP Top 10:2025 il primo posto è di A01:2025 Broken Access Control.

Cosa verifico:

  • ogni endpoint controlla l'utente lato server, oltre che nell'interfaccia;
  • l'accesso ai dati è filtrato per proprietario o per gruppo in ogni query;
  • i ruoli amministrativi sono separati e protetti con un secondo fattore;
  • un test automatico prova ad accedere ai dati di un altro utente e deve fallire.

Permessi cloud e configurazione

Le app create in fretta finiscono spesso su risorse cloud con permessi larghi: un bucket pubblico, un database raggiungibile da internet, un utente tecnico con accesso amministrativo. Nella stessa classifica OWASP, la configurazione sbagliata è al secondo posto (A02:2025 Security Misconfiguration).

Le regole sono quelle che applico a ogni progetto DevSecOps nel cloud: minimo privilegio per ogni servizio, infrastruttura descritta come codice, backup verificati con un ripristino di prova, log degli accessi attivi.

La pipeline che controlla ogni modifica

Con l'AI il codice cambia più spesso e in blocchi più grandi. Per questo i controlli devono girare da soli a ogni modifica, senza dipendere dalla memoria di qualcuno. La OWASP Top 10 CI/CD Security Risks mette al primo posto gli «Insufficient Flow Control Mechanisms»: codice che arriva in produzione senza revisione né approvazione.

La pipeline minima che imposto:

  • ramo principale protetto, modifiche solo con revisione;
  • test, ricerca di segreti, analisi delle dipendenze e analisi statica a ogni modifica;
  • rilascio in produzione con un'approvazione esplicita.

Le basi del metodo sono nella nota su DevSecOps: cos'è e come si fa.

Le regole da dare all'assistente

Molti problemi si evitano prima che il codice venga scritto. Gli assistenti di programmazione leggono file di istruzioni del progetto, e la guida OpenSSF propone regole di sicurezza da metterci dentro. Ricorda anche che la responsabilità resta di chi sviluppa: il codice generato va valutato e corretto «just as you would code written by a human colleague».

La documentazione di Claude Code sulla sicurezza dice lo stesso dal lato dello strumento: «You're responsible for reviewing proposed code and commands for safety before approval». Io lo uso con permessi limitati e con i controlli della pipeline come rete di sicurezza. Come lavoro con questi strumenti lo racconto nella nota sull'AI per lo sviluppo software.

Domande frequenti

Il codice sintatticamente corretto è anche sicuro?

No. Un codice può compilare, superare i test funzionali e lasciare comunque accessibili i dati di altri utenti o una chiave nel repository. La sicurezza si verifica con controlli dedicati: accessi, segreti, dipendenze e configurazione.

Dove sbaglia di più il codice generato dall'AI?

Nei punti in cui la scorciatoia funziona lo stesso: chiavi scritte nel codice, controlli di accesso solo nell'interfaccia, dipendenze aggiunte senza verifica, permessi cloud larghi. Sono errori che non si vedono in una demo.

Basta scegliere il modello AI migliore?

No. Un modello migliore riduce gli errori ma non li elimina, e non conosce le regole del tuo progetto. Servono istruzioni chiare all'assistente, una revisione umana e una pipeline che controlli ogni modifica.

Cosa chiedere a chi sviluppa la tua app con l'AI?

Dove stanno i segreti, come vengono verificate le dipendenze, quali test controllano gli accessi e chi approva i rilasci in produzione. Chiedi anche che il codice e gli accessi ai sistemi restino tuoi.

Fonti

Il servizio collegato

Cosa controllo e sistemo come consulente DevSecOps nel cloud, come lavoro e quali riferimenti ufficiali uso.