Quando l’intelligenza artificiale supera i limiti: chi ne risponde?
Immaginiamo di affidare a un collaboratore il compito di raccogliere alcune informazioni disponibili su un portale pubblico. L’incarico è semplice, l’obiettivo è chiaro e ci aspettiamo che venga svolto rispettando le normali condizioni di accesso. Ma cosa accadrebbe se, nel tentativo di completare il lavoro, quel collaboratore riuscisse a consultare informazioni che non era autorizzato a vedere? E se il collaboratore, anziché essere una persona, fosse un agente di intelligenza artificiale?
È proprio questo il problema emerso in Australia, dove un agente AI sviluppato da OpenAI avrebbe ottenuto, nel giugno scorso, accesso non autorizzato a informazioni non pubbliche di un portale statistico governativo collegato a Medicare, il sistema sanitario pubblico australiano. Secondo le ricostruzioni diffuse, l’episodio non avrebbe coinvolto cartelle cliniche personali, ma ha comunque evidenziato una criticità importante: un sistema autonomo può compiere azioni che superano il perimetro previsto, anche quando l’obiettivo assegnato appare del tutto legittimo.
La vicenda ha assunto una dimensione politica. Il 10 novembre 2026 il governo australiano ha annunciato l’intenzione di rafforzare la regolamentazione dell’intelligenza artificiale, prevedendo un organismo di vigilanza dedicato, controlli indipendenti e nuovi obblighi di segnalazione degli incidenti. Le misure annunciate dovranno essere tradotte in disposizioni operative, ma il segnale è significativo: la crescente autonomia dei sistemi AI richiede strumenti di controllo adeguati alle capacità che stiamo concedendo loro.
Per comprendere la portata del problema occorre considerare come stanno cambiando le applicazioni dell’intelligenza artificiale. Fino a poco tempo fa eravamo abituati soprattutto a sistemi capaci di generare testi, analizzare documenti o rispondere alle nostre domande. Gli agenti AI introducono una possibilità ulteriore: possono pianificare attività, utilizzare strumenti informatici, interagire con piattaforme esterne e compiere una sequenza di operazioni per raggiungere un risultato. In determinate condizioni, tutto questo può avvenire senza che una persona debba autorizzare ogni singolo passaggio.
Le opportunità sono evidenti. Pensiamo alla possibilità di automatizzare procedure amministrative complesse, coordinare attività ripetitive o accelerare processi che oggi richiedono numerosi interventi manuali. Ma proprio questa capacità di iniziativa rende più difficile prevedere ogni comportamento. Un agente potrebbe individuare una strada tecnicamente percorribile per raggiungere un obiettivo senza essere in grado di riconoscere adeguatamente i limiti organizzativi, giuridici o etici che dovrebbe rispettare.
È qui che emerge una questione destinata a diventare centrale nel dibattito sull’intelligenza artificiale: chi assume la responsabilità delle azioni compiute da un sistema autonomo? La risposta non può essere affidata genericamente alla tecnologia. Occorre distinguere le responsabilità di chi sviluppa il modello, di chi configura gli strumenti a sua disposizione e dell’organizzazione che decide di utilizzarlo. Le responsabilità giuridiche dipenderanno dalle circostanze, ma quelle organizzative devono essere definite prima che il sistema entri in funzione.
Chi si occupa di Project Management riconoscerà un principio familiare. Quando deleghiamo un’attività a una persona, definiamo obiettivi, responsabilità, livelli di autonomia e modalità di verifica. Non ci limitiamo a descrivere il risultato atteso, ma stabiliamo anche le condizioni entro le quali quel risultato deve essere raggiunto. Per quale ragione dovremmo essere meno rigorosi quando affidiamo un’attività a un agente AI?
La questione assume particolare importanza nella progettazione dei sistemi. Non è sufficiente verificare che un agente riesca a completare correttamente un compito. Dovremmo anche osservare come si comporta quando incontra un ostacolo, quando riceve informazioni contraddittorie o quando un servizio esterno nega l’accesso a una risorsa. Il rispetto dei limiti autorizzativi dovrebbe diventare parte integrante dei criteri di accettazione, insieme alla qualità del risultato e all’efficienza operativa.
C’è poi un altro aspetto che merita attenzione: la gestione degli incidenti. Se un sistema autonomo compie un’azione imprevista, l’organizzazione deve essere in grado di ricostruire cosa è accaduto, individuare le operazioni eseguite e intervenire tempestivamente. La disponibilità di registrazioni affidabili, procedure di escalation e meccanismi di interruzione non rappresenta un dettaglio tecnico, ma una condizione essenziale per esercitare un controllo effettivo.
Naturalmente, il rischio opposto sarebbe reagire a ogni incidente imponendo vincoli talmente rigidi da rendere inutilizzabili le nuove tecnologie. L’innovazione richiede sperimentazione e una certa disponibilità ad accettare rischi controllati. La sfida consiste nel definire livelli di autonomia proporzionati alle conseguenze delle azioni possibili. Un agente incaricato di organizzare documenti interni presenta un profilo di rischio molto diverso da quello di un sistema autorizzato a movimentare denaro, modificare dati sensibili o interagire con infrastrutture critiche.
La vicenda australiana ci ricorda, in definitiva, che la maturità nell’adozione dell’intelligenza artificiale non può essere misurata soltanto attraverso il numero di processi automatizzati o la complessità dei modelli utilizzati. Conta anche la capacità delle organizzazioni di comprendere, verificare e governare ciò che questi sistemi fanno concretamente.
Stiamo entrando in una fase nella quale le macchine saranno sempre più capaci di agire per nostro conto. Prima di ampliare ulteriormente la loro autonomia, sarebbe opportuno assicurarci di avere costruito un sistema di responsabilità altrettanto evoluto.
Perché affidare una decisione a una macchina non significa trasferirle anche la responsabilità delle conseguenze.
Fonti: comunicazioni del governo australiano e ricostruzioni giornalistiche di Reuters e Associated Press, 10 novembre 2026.
