Gli incidenti più emblematici degli agenti IA, tra dati rubati e controlli di sicurezza disattivati

Gli incidenti causati da agenti di intelligenza artificiale si susseguono senza soluzione di continuità. I casi nei quali un sistema incaricato di cercare statistiche entra in un archivio riservato, centinaia di agenti collaborano per superare le protezioni di una piattaforma informatica e l’episodio in cui un agente ha spostato la prenotazione di un cliente, pure avendo effetti diversi, condividono la medesima genesi.

Un agente IA è un programma che usa un modello di intelligenza artificiale per svolgere un compito attraverso una quantità di strumenti. Può aprire siti e interagirvi, eseguire software, leggere file e modificare dati, tutte forme di accesso a informazioni e piattaforme che permettono ad un errore nella scelta delle azioni di produrre conseguenze su persone, aziende e organizzazioni in genere.

Ciò che fa da sfondo a questi incidenti, ancora prima di essere argomento tecnico-tecnologico, è di ordine psicologico, perché restituisce l’idea che un sistema IA non è sempre in grado di risolvere un problema meglio di come lo farebbe un uomo.

È opportuno sottolineare che gli agenti non assumono comportamenti intenzionali ma rappresentano una forma di intelletto logico-computazionale. Se l'obiettivo assegnato agli agenti IA non è sostenuto da vincoli strettamente definiti, il sistema non si adatta né agli ordinamenti legislativi né alle convenzioni etico-morali della società.

Così, se interagendo con un software, un agente IA trova una falla, la usa a proprio vantaggio per portare a termine il compito che gli è stato assegnato, senza tenere conto delle conseguenze del suo agire.

I casi che prendiamo in esame comprendono esperimenti di laboratorio che raggiungono sistemi esterni, errori di assistenti personali e attacchi nei quali i criminali affidano agli agenti parte del lavoro.

Gli incidenti più recenti allungano una sequenza che trova un precedente nell’attacco a Hugging Face, reso pubblico a metà del mese di luglio del 2026 e ormai esempio, per antonomasia, di ciò che gli agenti IA sono in grado di fare. Prima di ricostruire gli incidenti principali, è opportuno soffermarci sulle prese di posizione di chi i modelli e gli agenti IA li produce.

OpenAI ha sospeso le attività per undici giorni

Il 20 settembre un agente di intelligenza artificiale di OpenAI, l’azienda che sviluppa ChatGPT, è riuscito a comunicare con un servizio esterno nonostante operasse in un ambiente di addestramento progettato per impedirgli di accedere a internet. L’incidente ha spinto OpenAI a sospendere per undici giorni le attività di addestramento e di valutazione dei suoi modelli più avanzati, una decisione di cui ha illustrato le ragioni e le conseguenze il 23 ottobre, dopo avere rafforzato i sistemi di sicurezza.

Tre settimane prima, il 31 agosto, Anthropic, l’azienda che sviluppa la famiglia di modelli Claude, ha comunicato di avere sospeso per diverse settimane gli ambienti di addestramento considerati più rischiosi, dopo alcuni incidenti nei quali i suoi modelli hanno ottenuto accessi non autorizzati a sistemi informatici reali. Inoltre, ha interrotto le valutazioni esterne di sicurezza informatica e, per un periodo più breve, anche quelle interne.

Più che scelte, si è trattato di atti dovuti, decisioni assunte a fronte degli incidenti causati dagli agenti IA, che ricostruiamo qui di seguito, fino ad arrivare all’ormai famosa violazione di parte dell’infrastruttura di Hugging Face.

La distinzione fondamentale, che attraversa tutti gli incidenti esaminati, è quella tra capacità tecnica e autorizzazione. Il fatto che un agente IA riesca ad accedere a un sistema, ottenere credenziali o modificare informazioni non significa che abbia il diritto di farlo.

L’infografica

I dettagli salienti degli episodi sono riportati in questa infografica che può essere consultata usando i filtri in alto a sinistra. casi sono trattati con maggiore dovizia nel resto dell’articolo.

I termini usati nell’infografica

Per comprendere i rischi descritti è utile conoscere alcuni termini dell’intelligenza artificiale e della sicurezza informatica.

Un modello di intelligenza artificiale è un sistema addestrato per elaborare informazioni e generare risposte, mentre un agente IA è un programma che utilizza quel modello per svolgere compiti, prendere decisioni operative e interagire con siti web, applicazioni e sistemi informatici.

L’autonomia operativa indica la capacità dell’agente di eseguire una sequenza di azioni senza richiedere l’intervento umano a ogni passaggio.

Un ambiente di test è uno spazio predisposto per sperimentare il comportamento di un programma in condizioni controllate, mentre una sandbox è un ambiente isolato progettato per limitare gli effetti delle operazioni eseguite al suo interno.

Una vulnerabilità informatica è un difetto che può consentire accessi o operazioni non autorizzati, mentre un exploit è una tecnica utilizzata per sfruttare quel difetto. Si definisce zero-day una vulnerabilità per la quale, al momento considerato, non è ancora disponibile una correzione.

Le credenziali di accesso sono informazioni utilizzate per identificarsi presso un sistema, come password e chiavi digitali. I privilegi amministrativi permettono di gestire utenti, programmi e configurazioni, mentre l’escalation dei privilegi consiste nell’ottenere autorizzazioni superiori a quelle inizialmente disponibili.

L’esfiltrazione di dati è il prelievo non autorizzato di informazioni da un sistema informatico.

Il password spraying è una tecnica di attacco che consiste nel provare una stessa password su numerosi account, mentre la SQL injection sfrutta istruzioni manipolate per interferire con le operazioni di un database.

Il malware è un programma progettato per compiere attività dannose e uno skimmer digitale è un software che intercetta informazioni di pagamento inserite dagli utenti durante gli acquisti online.

I log sono registrazioni delle attività svolte dai sistemi informatici, fondamentali per individuare anomalie e ricostruire eventuali incidenti.

Il codice sorgente comprende le istruzioni con cui viene realizzato un programma, mentre il software open source è distribuito con una licenza che consente di esaminarne il codice, modificarlo e ridistribuirlo secondo determinate condizioni.

Uno smart contract, un contratto intelligente, è un programma che esegue operazioni su una blockchain, un registro digitale condiviso, mentre una rete di test permette di sperimentare queste operazioni senza utilizzare la rete principale.

Le tecnologie, le aziende e gli enti coinvolti

Qui un elenco utile a chiarire i ruoli ricoperti da ciascuna delle organizzazioni o delle piattaforme citate nell’infografica.

ABC News – Emittente televisiva e testata giornalistica australiana appartenente al servizio pubblico Australian Broadcasting Corporation.

AI Security Institute – Istituto governativo britannico che studia le capacità e i rischi dei sistemi avanzati di intelligenza artificiale, con particolare attenzione alla sicurezza.

Alibaba – Gruppo tecnologico cinese attivo nel commercio elettronico, nel cloud computing e nei servizi digitali.

Amap – Piattaforma cinese di mappe digitali, navigazione e servizi geografici appartenente all'ecosistema Alibaba.

Amazon Web Services (AWS) – Divisione di Amazon che fornisce infrastrutture e servizi cloud, tra cui server, archiviazione, database e strumenti per l'intelligenza artificiale.

Anthropic – Azienda statunitense specializzata nello sviluppo di modelli di intelligenza artificiale, nota soprattutto per la famiglia Claude.

Apache Kafka – Piattaforma open source utilizzata per trasmettere, elaborare e distribuire grandi flussi di dati in tempo reale tra applicazioni e sistemi informatici.

ARTEX – Piattaforma per il coordinamento di agenti IA, utilizzabile per automatizzare operazioni informatiche, comprese attività di ricognizione e sfruttamento delle vulnerabilità.

Artifactory – Piattaforma per conservare, organizzare e distribuire pacchetti software e altri componenti utilizzati nello sviluppo delle applicazioni.

Asymmetric Security – Azienda specializzata nella sicurezza informatica e nell'analisi delle attività potenzialmente pericolose svolte dai sistemi di intelligenza artificiale.

Business Insider – Testata giornalistica americana che si occupa principalmente di economia, finanza, tecnologia e imprese.

Cairn – Piattaforma che consente di utilizzare e coordinare più agenti di intelligenza artificiale per automatizzare attività informatiche, comprese operazioni offensive.

Centers for Disease Control and Prevention (CDC) – Agenzia federale statunitense che si occupa di sanità pubblica, prevenzione delle malattie e sorveglianza epidemiologica.

ChatGpt – Servizio di intelligenza artificiale sviluppato da OpenAI che permette agli utenti di interagire con modelli linguistici e utilizzare strumenti per svolgere attività differenti.

Claude Code – Strumento sviluppato da Anthropic che utilizza i modelli Claude per analizzare, scrivere, correggere ed eseguire codice informatico.

ConnectWise – Azienda statunitense che sviluppa software per la gestione, il monitoraggio, la manutenzione e la protezione delle infrastrutture informatiche aziendali.

CrowdStrike – Azienda statunitense di sicurezza informatica specializzata nella protezione dei dispositivi, nell'individuazione delle minacce e nelle indagini sugli attacchi informatici.

DeepSeek – Azienda cinese che sviluppa modelli di intelligenza artificiale utilizzabili per ragionamento, programmazione ed elaborazione del linguaggio.

Dutch Institute for Vulnerability Disclosure (DIVD) – Organizzazione olandese senza scopo di lucro che individua vulnerabilità informatiche e informa i responsabili dei sistemi interessati affinché possano correggerle.

DseWiki – Sito collaborativo tedesco dedicato alla programmazione e allo sviluppo software, utilizzato per condividere informazioni e documentazione tecnica.

Etherpad – Applicazione open source che permette a più utenti di scrivere e modificare contemporaneamente documenti condivisi attraverso internet.

Ethereum – Piattaforma blockchain che permette di effettuare transazioni digitali e sviluppare applicazioni basate su contratti intelligenti.

ExploitGym – Sistema di esercitazioni informatiche utilizzato da OpenAI per verificare la capacità dei propri agenti di individuare e sfruttare vulnerabilità software.

Gambit Security – Società di sicurezza informatica che svolge attività di ricerca sulle minacce e analisi delle operazioni criminali condotte attraverso infrastrutture digitali.

GitHub – Piattaforma utilizzata dagli sviluppatori per conservare, condividere e modificare codice informatico, gestire progetti software e collaborare alla loro realizzazione.

GMO Cybersecurity – Società giapponese specializzata nella sicurezza informatica, nella ricerca sulle vulnerabilità e nell'analisi degli attacchi contro organizzazioni e infrastrutture digitali.

Grok Bot – Sistema di assistenza basato sui modelli Grok sviluppati da xAI, utilizzabile per realizzare assistenti capaci di interagire con servizi e informazioni digitali.

Hugging Face – Piattaforma utilizzata da ricercatori, aziende e sviluppatori per pubblicare, condividere e utilizzare modelli di intelligenza artificiale, raccolte di dati e applicazioni software.

Indian Express – Quotidiano indiano in lingua inglese che si occupa di politica, economia, attualità e tecnologia.

Irregular – Società specializzata nella valutazione della sicurezza e delle capacità operative dei modelli di intelligenza artificiale, anche attraverso simulazioni di attacchi informatici.

Lean – Linguaggio di programmazione e sistema di verifica formale utilizzato per costruire e controllare dimostrazioni matematiche e verificare la correttezza di programmi.

Library and Archives Canada – Istituzione federale canadese incaricata della conservazione e della consultazione del patrimonio archivistico e documentale del Paese.

Mayo Clinic – Organizzazione sanitaria e di ricerca medica statunitense che gestisce strutture ospedaliere, svolge attività scientifica e pubblica informazioni sanitarie.

Medicare Statistics Reporting Service – Portale del governo australiano utilizzato per pubblicare e consultare statistiche relative alle prestazioni e alla spesa del sistema sanitario Medicare.

Meta – Gruppo tecnologico statunitense proprietario, tra gli altri, di Facebook, Instagram e WhatsApp, impegnato anche nello sviluppo di modelli di intelligenza artificiale.

METR – Organizzazione di ricerca che studia le capacità operative dei sistemi avanzati di intelligenza artificiale e sviluppa metodologie per valutarne autonomia, prestazioni e rischi.

Microsoft 365 – Insieme di applicazioni e servizi Microsoft per la produttività e la collaborazione aziendale, comprendente strumenti di posta elettronica, gestione documentale e comunicazione.

National Parks and Wildlife Service – Ente pubblico del Nuovo Galles del Sud, in Australia, incaricato della gestione dei parchi nazionali, della protezione della fauna selvatica e della conservazione delle aree naturali.

NorForge – Società di sicurezza informatica citata nell'articolo per un'indagine su una campagna di attacchi automatizzati contro siti web condotta mediante agenti IA.

OneLake – Sistema Microsoft per l'archiviazione centralizzata delle informazioni all'interno della piattaforma di analisi dei dati Microsoft Fabric.

OpenAI – Azienda statunitense che sviluppa modelli e servizi di intelligenza artificiale, tra cui ChatGPT e Codex.

OpenAI Codex – Strumento di OpenAI che utilizza modelli di intelligenza artificiale per sviluppare, analizzare, modificare e verificare programmi informatici.

OpenClaw – Software per la realizzazione di assistenti personali basati sull'intelligenza artificiale, capaci di utilizzare applicazioni e servizi digitali per svolgere operazioni per conto degli utenti.

OpenRouter – Servizio che offre un'interfaccia unificata per accedere a modelli di intelligenza artificiale sviluppati da aziende differenti.

OpenSearch – Piattaforma open source per l'archiviazione, la ricerca e l'analisi di grandi quantità di informazioni, compresi documenti e registrazioni delle attività informatiche.

PhillyUnsolvedMurders.com – Sito internet dedicato ai casi di omicidio irrisolti del Philadelphia Police Department, attraverso il quale possono essere inviate informazioni relative alle indagini.

Power BI – Piattaforma Microsoft per l'analisi dei dati aziendali e la creazione di grafici, rapporti e rappresentazioni interattive delle informazioni.

PyPI – Archivio pubblico ufficiale dei pacchetti software Python, utilizzato dagli sviluppatori per pubblicare e scaricare librerie e programmi.

Redwood Research – Organizzazione di ricerca che studia i rischi dei sistemi avanzati di intelligenza artificiale, con particolare attenzione ai comportamenti indesiderati e ai problemi di controllo.

Reuters – Agenzia di stampa internazionale specializzata nella produzione e distribuzione di notizie economiche, politiche, finanziarie e tecnologiche.

RubyDoc – Servizio che genera e rende consultabile la documentazione tecnica relativa a programmi e librerie sviluppati nel linguaggio Ruby.

RubyGems – Piattaforma per la pubblicazione e distribuzione di pacchetti software realizzati nel linguaggio di programmazione Ruby.

RubyHack – Gruppo di ricercatori di sicurezza informatica citato nell'articolo per le indagini sulle attività sospette osservate nell'ecosistema Ruby.

Sepolia – Rete sperimentale dell'ecosistema Ethereum utilizzata dagli sviluppatori per verificare applicazioni e transazioni prima del loro impiego sulla rete principale.

Slack – Piattaforma di comunicazione e collaborazione aziendale che permette di organizzare conversazioni, condividere documenti e integrare applicazioni e servizi digitali.

Storm-0940 – Gruppo di cyberspionaggio identificato da Microsoft e collegato dall'azienda agli interessi del governo cinese, attivo in operazioni di compromissione di account e infrastrutture informatiche.

Tencent – Gruppo tecnologico cinese attivo nei servizi internet, nei videogiochi, nella messaggistica, nel cloud computing e nell'intelligenza artificiale.

The Gentlemen – Gruppo criminale informatico citato nell'articolo in relazione a operazioni di intrusione e sottrazione di dati condotte anche mediante strumenti di intelligenza artificiale.

Transluce – Organizzazione di ricerca che analizza i comportamenti dei modelli di intelligenza artificiale, con particolare attenzione alla loro interpretabilità e sicurezza.

UNCTAD – Conferenza delle Nazioni Unite sul commercio e lo sviluppo, organismo che studia gli scambi commerciali internazionali, gli investimenti e lo sviluppo economico e pubblica statistiche su questi fenomeni.

Wikidata – Archivio collaborativo di informazioni strutturate appartenente all'ecosistema Wikimedia, utilizzato per organizzare dati consultabili e riutilizzabili da persone e applicazioni.

Wikimedia Commons – Archivio online di immagini, video, registrazioni audio e altri contenuti multimediali liberamente riutilizzabili secondo le rispettive licenze.

Wikimedia Foundation – Organizzazione statunitense senza scopo di lucro che sostiene Wikipedia e altri progetti collaborativi per la diffusione della conoscenza.

Wiz – Azienda specializzata nella sicurezza delle infrastrutture cloud, che sviluppa strumenti per individuare vulnerabilità, configurazioni pericolose, accessi anomali e possibili percorsi di attacco tra servizi collegati.

X – Piattaforma di comunicazione e social network precedentemente conosciuta come Twitter, appartenente all'ecosistema tecnologico che comprende anche i servizi di intelligenza artificiale Grok.

xAI – Azienda statunitense specializzata nello sviluppo di modelli di intelligenza artificiale, nota per la famiglia Grok.

XMTP Labs – Azienda statunitense che sviluppa tecnologie e protocolli per la messaggistica privata e la comunicazione sicura tra applicazioni digitali.

Zammad – Piattaforma open source per la gestione delle richieste di assistenza e delle segnalazioni, utilizzata per organizzare le comunicazioni e coordinare il lavoro degli operatori.

Zhipu AI – Azienda cinese specializzata nello sviluppo di modelli linguistici e sistemi di intelligenza artificiale, tra cui la famiglia GLM.