MILANO – Check Point Research (CPR), divisione di Threat Intelligence di Check Point Software Technologies, ha individuato una vulnerabilità in ChatGPT che consentiva a una sessione di inviare comandi a un’altra sessione associata a un differente account attraverso un canale nascosto. Questa falla permetteva a malintenzionati di accedere ai dati collegati all’account Gmail di una vittima senza che quest’ultima se ne accorgesse.
L’attacco sfruttava un servizio interno di distribuzione dei pacchetti condiviso tra i container di esecuzione del codice usati da ChatGPT, servizio che avrebbe dovuto garantire l’isolamento tra account ma che invece permetteva la scrittura e la lettura di dati condivisi tra container separati. Attraverso una singola istruzione malevola, inviata anche tramite un semplice prompt o un link condiviso, la sessione della vittima poteva essere indotta a eseguire attività per conto dell’attaccante, utilizzando le autorizzazioni già concesse dall’utente a ChatGPT stesso.
Durante una dimostrazione, è stato possibile estrarre dati dalle email Gmail della vittima senza alcuna interazione apparente e con una normale risposta visibile. Il problema riguardava quindi la possibilità di eseguire attività parallele nascoste rispetto alla conversazione visibile e utilizzare le credenziali e i permessi dell’account vittima per accedere a servizi collegati come Gmail, Google Drive, Microsoft Teams o GitHub.
Check Point ha segnalato la vulnerabilità a OpenAI, che ha provveduto a dismettere la specifica istanza interna responsabile, rendendo l’attacco non più possibile. Tuttavia, la ricerca mette in evidenza una questione più ampia riguardo alla sicurezza degli assistenti IA integrati nelle infrastrutture aziendali e alla necessità di una governance e protezione in fase di esecuzione per prevenire usi impropri dei privilegi concessi.
Eli Smadja, Head of Research di Check Point Research, ha sottolineato che la sfida di sicurezza legata all’IA riguarda non solo i modelli stessi ma anche l’accesso e la fiducia che le organizzazioni concedono, evidenziando l’importanza di un approccio preventivo e di controllo per mantenere l’IA come fattore abilitante e non fonte di rischio.
Autore
About The Author
