Cosa succede quando i chatbot basati sull'intelligenza artificiale divulgano dati aziendali riservati?
di
Ultimo aggiornamento:
6 Tempo di lettura: 6 min
I punti chiave da prendere in considerazione
- I chatbot possono rendere accessibili credenziali, informazioni personali, codice sorgente, dati finanziari e proprietà intellettuale.
- Gli assistenti connessi comportano maggiori rischi poiché sono in grado di recuperare dati da altri sistemi aziendali.
- L'eliminazione della conversazione visibile non dimostra che i registri, le copie o le azioni successive siano stati eliminati.
- La vostra prima reazione dovrebbe concentrarsi sul contenimento, sulla conservazione delle prove, sulla rotazione delle credenziali e sulla valutazione dell'esposizione.
- Le politiche da sole non bastano. Sono necessari un accesso limitato, la prevenzione della perdita di dati e una governance chiara dell’IA.
Una fuga di dati da un chatbot basato sull'intelligenza artificiale raramente si limita alla conversazione originale. Potrebbe essere necessario sostituire le password, informare i clienti ai sensi della normativa sulla privacy, distruggere i documenti riservati o affrontare casi di phishing e frodi nei pagamenti derivanti dal contesto trapelato.
Il fatto che i dipendenti incollino testi riservati in un chatbot pubblico è solo uno dei punti di accesso. Gli assistenti AI connessi possono effettuare ricerche nella posta in arrivo, nell’archivio cloud, nel CRM e nei messaggi interni. Se si concedono autorizzazioni eccessive a uno di questi assistenti, o se gli si permette di seguire istruzioni dannose nascoste all’interno di un documento, una singola interazione può trasformarsi in una violazione dei dati di più ampia portata.
In che modo un chatbot può causare la fuga di dati interni?
Una fuga di dati da un chatbot può verificarsi attraverso una delle tre vie seguenti:
1. Un dipendente divulga informazioni riservate
Un dipendente potrebbe caricare del codice sorgente per il debug, incollare le informazioni sui clienti in uno strumento di scrittura assistita o inviare gli appunti di una riunione per farne un riassunto. La maggior parte cerca semplicemente di lavorare più velocemente.
Uno strumento di intelligenza artificiale pubblico o non approvato non rientra nel normale contesto aziendale. Una volta che un dipendente invia delle informazioni, potresti perdere il controllo su come queste vengono registrate, conservate o gestite.
Questo è uno degli aspetti dei più ampi rischi per la sicurezza informatica legati all’intelligenza artificiale generativa, che comprendono il phishing, l’usurpazione d’identità, le frodi e il furto di proprietà intellettuale.
2. Un assistente connesso fornisce più informazioni del previsto
Un chatbot di base può visualizzare solo la conversazione in corso. Un assistente connesso è in grado di effettuare ricerche nelle e-mail, nelle unità condivise, nei calendari, nella chat interna, nei dati dei clienti e nei repository di codice.
Questo crea un problema di autorizzazioni. L’assistente potrebbe non aver bisogno di accedere a una cartella protetta. Può rendere più semplici da gestire autorizzazioni troppo generiche, obsolete o configurate in modo inadeguato.
Supponiamo che un dipendente chieda una sintesi delle discussioni relative a una prossima riorganizzazione. L’assistente potrebbe individuare le bozze dei documenti delle Risorse Umane e le e-mail della direzione a cui il dipendente aveva accesso in formato cartaceo, ma che non avrebbe mai trovato cercando manualmente.
3. I contenuti dannosi manipolano l'assistente
Un malintenzionato può nascondere istruzioni all'interno di un'e-mail, una pagina web, un documento o un ticket di assistenza. Se legge quel contenuto, l'assistente potrebbe scambiare le parole del malintenzionato per un comando autorizzato.
Si tratta di un’iniezione indiretta di prompt. Un malintenzionato può utilizzare un documento compromesso per indurre l’assistente a cercare file riservati, rivelare dettagli relativi a un account o contattare un servizio esterno. Il dipendente potrebbe aver semplicemente chiesto all’assistente di riassumere un file dall’aspetto del tutto normale.
Cosa succede dopo una fuga di dati da un chatbot?
L'esito dipende da ciò che è stato divulgato, dai sistemi a cui il chatbot ha potuto accedere e dal fatto che le informazioni abbiano lasciato o meno l'ambiente autorizzato.
Le credenziali non sono più sicure
Se il materiale trapelato contiene password, chiavi API, token di autenticazione o credenziali di database, si deve presumere che siano state copiate.
Non è sufficiente cancellare la conversazione. È necessario revocare e sostituire le credenziali, verificare se sono state utilizzate e rimuoverle dai file e dai repository interessati.
Le informazioni trapelate possono favorire le frodi
I documenti interni possono rivelare chi approva i pagamenti, come scrivono i dirigenti e quali fornitori utilizzate. Possono inoltre rivelare l'aspetto delle fatture e quando i responsabili delle decisioni sono in viaggio.
Un malintenzionato può sfruttare tale contesto per creare convincenti attacchi di tipo “business email compromise”, “supplier impersonation” o “executive fraud”.
Il DMARC non impedirà a un dipendente di caricare un documento riservato, ma può impedire ai malintenzionati di falsificare il vostro dominio per sfruttare a fini malevoli il contenuto trapelato in e-mail fraudolente.
La proprietà intellettuale potrebbe perdere valore
Il codice sorgente, i piani di prodotto, i modelli di determinazione dei prezzi e le informazioni relative alle gare d'appalto possono perdere il loro valore commerciale nel momento stesso in cui finiscono nelle mani della persona sbagliata.
Una fuga di informazioni può causare problemi contrattuali qualora i dati dei clienti o il materiale di proprietà dei partner siano stati trattati tramite uno strumento non autorizzato. A seconda del tipo di dati e della giurisdizione applicabile, potrebbe essere necessario esaminare le leggi sulla privacy, le clausole di riservatezza e gli accordi sul trattamento dei dati. Verificate anche i termini della vostra assicurazione contro i rischi informatici e gli obblighi di segnalazione.
«L’errore più grave è considerare la fuga di dati dall’intelligenza artificiale come un semplice problema di prompt. Quando un chatbot è in grado di effettuare ricerche nelle e-mail, nei file e nei record del CRM, la questione si trasforma in un problema di identità, accesso e risposta agli incidenti».
Brad Russell, fondatore di Digital Hitmen
Iniziano i costi di indagine e recupero
Potrebbero essere necessari consulenza legale, analisi forense informatica e sostituzione delle credenziali. A ciò possono seguire comunicazioni ai clienti, monitoraggio dei sistemi e restrizioni temporanee relative all’intelligenza artificiale.
Il rapporto IBM del 2026 sul costo delle violazioni dei dati stima che il costo medio globale di una violazione dei dati sia pari a 4,99 milioni di dollari, un livello record, con gli attacchi basati sull’intelligenza artificiale in aumento del 56% rispetto all’anno precedente. Tra le organizzazioni che hanno segnalato un incidente di sicurezza legato all’IA, il 92% non disponeva di adeguati controlli di accesso all’IA e solo il 40% delle organizzazioni utilizza effettivamente controlli di accesso sui modelli e sui dati di IA. Questi dati indicano che le falle nella sicurezza dell’IA sono da attribuire a carenze a livello di accesso e governance piuttosto che a difetti dei modelli stessi.
Cosa bisogna fare nelle prime 24 ore?
La tua priorità è quella di contenere l'incidente senza distruggere le prove necessarie per comprenderlo.
1. Scollegare l'utensile interessato
Disattivare o limitare l'account e interromperne l'accesso ai sistemi collegati di posta elettronica, archiviazione, CRM, browser e messaggistica. Sospendere le azioni automatizzate esterne, ma non cancellare l'account prima di aver salvato i log pertinenti.
2. Conservare le prove
Raccolta:
- Domande e risposte
- Nomi dei file caricati
- Registri dei connettori e delle identità
- Chiamate alle funzioni
- Richieste di rete in uscita
- Cronologia del browser
- Modifiche amministrative
- Attività e-mail rilevanti
Devi stabilire cosa ha visto, recuperato e fatto l'assistente.
3. Identificare le informazioni esposte
Determinare:
- Quali registrazioni erano coinvolte
- Se fossero presenti dati personali o credenziali
- A quali sistemi collegati era possibile accedere?
- Se le informazioni siano state trasmesse al di fuori dell'azienda
- Chi potrebbe averlo ricevuto
Non date per scontato che la reazione visibile rifletta la reale portata dell'incidente.
4. Revoca delle credenziali compromesse
Sostituite immediatamente le password, le chiavi, i token e i link condivisi interessati. Esaminate i registri di accesso e di connessione per individuare eventuali attività sospette successive alla presunta violazione.
5. Valutare gli obblighi di notifica
Verificate i vostri obblighi legali, normativi, contrattuali e assicurativi. Richiedete una consulenza legale qualora l'incidente riguardi dati personali, materiale riservato, dati relativi a clienti importanti o proprietà intellettuale sensibile.
6. Comunicare con attenzione
Spiega alle persone coinvolte cosa è stato confermato, su cosa si sta ancora indagando e quali sono i passi successivi che dovrebbero compiere. Evita di affermare che nessuno abbia avuto accesso ai dati finché non ci siano prove a sostegno di tale affermazione.
Come si può evitare un’altra fuga di dati dai chatbot?
Sono necessari diversi livelli di controllo. La formazione dei dipendenti è utile, ma non può costituire l’unica linea di difesa.
Fornire un ambiente di intelligenza artificiale approvato
Un divieto generalizzato può spingere i dipendenti a ricorrere ad account personali e a soluzioni di IA non autorizzate. Fornite al personale uno strumento aziendale approvato, dotato di amministrazione centralizzata e registrazione dei controlli. Aggiungete inoltre controlli sulla conservazione dei dati, connettori gestiti e autenticazione unica (Single Sign-On).
Definizione dei dati vietati
Specificare quali dati il personale non deve inserire in strumenti pubblici o non autorizzati, tra cui:
- Password e token di accesso
- Banche dati dei clienti
- Dati personali o informazioni mediche
- Consulenza legale
- Codice sorgente riservato
- Informazioni finanziarie non ancora rese pubbliche
- Piani di acquisizione o di ristrutturazione
"Non condividere dati sensibili" è un'indicazione troppo vaga per guidare il comportamento.
Applicare la prevenzione della perdita di dati
I controlli per la prevenzione della perdita di dati possono analizzare le richieste di conferma, i file caricati e il testo copiato alla ricerca di credenziali, informazioni personali e dati di pagamento. Possono inoltre segnalare la presenza di codice sorgente ed etichette riservate. A seconda del rischio, il controllo può emettere un avviso, oscurare le informazioni, bloccare l'operazione o richiedere un'approvazione.
Limitare le autorizzazioni dei chatbot e degli agenti
Ogni assistente connesso dovrebbe avere accesso solo ai sistemi e ai dati necessari per lo svolgimento delle proprie mansioni.
Negli ambienti Microsoft, i team di sicurezza possono bloccare gli agenti IA ad alto rischio in Microsoft Entra utilizzando l’Accesso Condizionato. PowerDMARC sottolinea che ciò si applica alle identità degli agenti, mentre gli agenti che utilizzano le autorizzazioni delegate da una persona richiedono controlli separati incentrati sull’utente.
Limitare le azioni esterne
Richiedere l'approvazione di un operatore prima che un assistente invii un'e-mail esterna, esporti dati o condivida documenti. Lo stesso vale per la modifica delle autorizzazioni, la creazione di richieste di pagamento, il contatto con un dominio sconosciuto o l'esecuzione di codice.
Proteggere il canale e-mail
Le fughe di dati causate dall'intelligenza artificiale e le frodi via e-mail possono rafforzarsi a vicenda. Utilizza l'applicazione di SPF, DKIM e DMARC insieme all'autenticazione a più fattori e al filtraggio delle e-mail. Aggiungi inoltre una verifica indipendente per i pagamenti o le modifiche all'account.
L’autenticazione via e-mail non impedirà tutte le fughe di informazioni dai chatbot, ma rende più difficile l’usurpazione del tuo dominio una volta che un malintenzionato dispone di informazioni interne utili su cui basarsi.
Considerare gli assistenti IA come utenti privilegiati del sistema
Non considerare una fuga di dati da un chatbot come un errore isolato di un dipendente o come una conversazione che puoi cancellare e dimenticare.
Un assistente basato sull'intelligenza artificiale con accesso alla posta elettronica, ai file aziendali e ai sistemi dei clienti aumenta il rischio. Una fuga di dati può compromettere le credenziali, favorire le frodi, far scattare obblighi contrattuali o richiedere una risposta formale all'incidente.
Non è necessario evitare l'intelligenza artificiale. Considera ogni assistente connesso come un utente privilegiato del sistema. Limita ciò che ciascun assistente può leggere e inviare, registra le sue azioni e assicurati di poterlo disattivare rapidamente se qualcosa va storto.
Esperto di sicurezza dei domini e della posta elettronica presso PowerDMARC
Ahona è la Marketing Manager di PowerDMARC, con oltre 5 anni di esperienza nella scrittura di argomenti di cybersecurity, specializzata in sicurezza dei domini e delle e-mail. Ahona ha conseguito una laurea in Giornalismo e Comunicazione, consolidando la sua carriera nel settore della sicurezza dal 2019.
Ultimi messaggi di Ahona Rudra (vedi tutti)
- Cosa succede quando i chatbot basati sull'intelligenza artificiale divulgano dati aziendali riservati? - 21 agosto 2026
- PowerDMARC si integra in modo nativo con Autotask - 18 agosto 2026
- Protocolli SSL e TLS: qual è la differenza? - 13 agosto 2026
