L’utilizzo dell’Intelligenza Artificiale nella Pubblica Amministrazione apre nuove opportunità, ma introduce anche responsabilità e rischi che devono essere affrontati già nella fase di progettazione delle gare.
La bozza delle Linee guida AgID per il procurement di IA nella PA pone infatti particolare attenzione alla redazione dei capitolati: acquistare una soluzione basata sull’intelligenza artificiale non può essere considerato come una normale fornitura informatica.
Prima dell’IA viene il fabbisogno
Il primo passaggio per una stazione appaltante è individuare con precisione il problema che intende risolvere.
La PA dovrebbe valutare se l’IA sia realmente necessaria, quali attività affidare al sistema e quali debbano rimanere sotto il controllo umano.
Il capitolato deve quindi definire funzioni, limiti, responsabilità e modalità di verifica, soprattutto quando gli strumenti utilizzati possono incidere su procedimenti che coinvolgono cittadini e imprese. La responsabilità della decisione resta infatti in capo all’amministrazione.
Dati e rischio di dipendenza dal fornitore
Uno degli aspetti più delicati riguarda la gestione dei dati.
Il contratto dovrebbe stabilire chiaramente chi può accedere alle informazioni, come possono essere utilizzate e conservate e quali diritti spettano alla PA al termine dell’affidamento.
Particolare attenzione deve essere dedicata al rischio di lock-in tecnologico, cioè alla dipendenza da un singolo fornitore. Per questo vengono valorizzati standard aperti, interoperabilità e portabilità dei dati, in modo da consentire all’amministrazione di cambiare soluzione senza compromettere la continuità del servizio.
Sicurezza e trasparenza diventano requisiti
Anche cybersecurity e trasparenza devono tradursi in condizioni concrete del capitolato.
La PA deve poter verificare il comportamento della soluzione, accedere alla documentazione necessaria e controllare nel tempo configurazioni, dati trattati, prestazioni e limiti del sistema.
Per le soluzioni di IA generativa, spesso utilizzate attraverso cloud e API, assumono particolare importanza anche il controllo dei consumi e dei costi, la registrazione delle operazioni e l’auditabilità.
Il controllo continua dopo l’aggiudicazione
L’attenzione non può terminare con il collaudo iniziale.
Un sistema di IA può evolvere a seguito di aggiornamenti, configurazioni e utilizzo di nuovi dati. I capitolati dovrebbero quindi prevedere indicatori misurabili, livelli di servizio, verifiche periodiche e procedure per la gestione delle anomalie.
La valutazione economica dovrebbe inoltre considerare l’intero ciclo di vita della soluzione: manutenzione, infrastrutture, aggiornamenti, sicurezza, assistenza e futura migrazione verso altri sistemi.
Nuove competenze per gare sempre più tecnologiche
L’introduzione dell’IA negli appalti pubblici cambia quindi anche il modo di progettare le gare.
Per le amministrazioni diventa essenziale tradurre esigenze tecnologiche, sicurezza, tutela dei dati e controllo umano in requisiti contrattuali chiari e verificabili. Per le imprese, allo stesso tempo, cresce l’importanza di presentare soluzioni non soltanto innovative, ma anche trasparenti, interoperabili e sostenibili nel tempo.
In questo scenario, CLUB 360 segue l’evoluzione della digitalizzazione degli appalti pubblici e delle nuove regole sull’Intelligenza Artificiale, supportando imprese e operatori nella comprensione dei nuovi requisiti e nella costruzione di proposte tecniche adeguate a un mercato pubblico sempre più digitale.
