Generative AI come anello debole della security. I dati del Netskope Threat Labs

Generative AI. Gli attaccanti approfittano del fatto che l’utilizzo di applicazioni di intelligenza artificiale generativa tra i dipendenti aziendali aumenta del 400%

Una nuova ricerca dei Netskope Threat Labs descrive in dettaglio l’importante crescita dell’adozione dell’intelligenza artificiale generativa, i rischi delle applicazioni cloud e le principali minacce e gli attaccanti che hanno caratterizzato l’intero anno 2023

Netskope, leader SASE (Secure Access Service Edge), ha condiviso una nuova ricerca da cui emerge che oltre il 10% dei dipendenti aziendali accede ad almeno un’applicazione di intelligenza artificiale generativa (AI) ogni mese, rispetto al solo 2% di un anno fa. I risultati, pubblicati nell’ambito del Cloud & Threat Report di Netskope riferito all’anno 2023, sottolineano la rapida crescita dell’adozione di applicazioni di intelligenza artificiale generativa nelle aziende e anche i rischi emergenti per la sicurezza che ne derivano. Il report annuale di Netskope su cloud e minacce descrive in dettaglio le principali tendenze della sicurezza cloud nel 2023 e anticipa come l’adozione del cloud e la conseguente superficie di attacco continueranno ad evolversi nel 2024.

[Generative AI come anello debole della security. Guarda e ascolta l’intervista video esclusiva con Paolo Passeri]

2023: l’anno della Generative AI

Netskope ha rilevato che oltre il 10% di tutti gli utenti aziendali accede ad almeno un’applicazione di intelligenza artificiale generativa al mese, rispetto al solo 2% di un anno fa. Nel 2023 ChatGPT è stata l’applicazione di Generative AI più popolare, rappresentando il 7% dell’utilizzo aziendale.

Mentre Netskope prevede che il numero totale di utenti che accedono alle applicazioni di Generative AI in azienda continuerà ad aumentare moderatamente nel 2024, esiste una popolazione emergente di utenti esperti che sta costantemente incrementando il proprio utilizzo di applicazioni di intelligenza artificiale generativa. Con l’attuale crescita esponenziale dell’utilizzo di IA, si prevede che il 25% degli utenti che usa maggiormente le applicazioni di intelligenza artificiale generativa ne aumenterà ulteriormente l’utilizzo in modo significativo nel corso del 2024, trovando nuovi modi per integrare la tecnologia nella propria vita quotidiana.

“Con il crescente utilizzo delle applicazioni di IA è più probabile che i dipendenti espongano dati sensibili come credenziali, informazioni personali o proprietà intellettuale”, ha affermato Ray Canzanese, Threat Research Director dei Netskope Threat Labs. “Per permettere un uso sicuro delle applicazioni di intelligenza artificiale, le organizzazioni devono applicare controlli ragionevoli e funzionalità avanzate di sicurezza dei dati concentrandosi al contempo su come i dipendenti possono utilizzare l’intelligenza artificiale in modo produttivo”.

Non solo generative AI. Uso di applicazioni cloud in crescita

L’adozione complessiva delle applicazioni cloud ha continuato ad aumentare durante tutto l’anno, con gli utenti aziendali che provano costantemente nuove applicazioni e aumentano l’utilizzo delle applicazioni più popolari.

I principali dati emersi dal report:

• Il numero di applicazioni cloud usate in azienda è aumentato in media del 19% all’anno, mentre gli utenti sono passati da 14 a 20 applicazioni diverse in soli due anni.
• La metà degli utenti aziendali interagisce con un numero che va da 11 e 33 applicazioni cloud ogni mese, con l’1% degli utenti che utilizza più di 96 applicazioni al mese. Le interazioni con queste applicazioni cloud stanno aumentando a un ritmo ancora più rapido, da poco più di 1.000 attività al mese di due anni fa a quasi 2.000 attività al mese di oggi.
• La maggior parte degli utenti aziendali genera tra 600 e 5.000 attività al mese, mentre l’1% degli utenti genera più di 50.000 attività al mese.

Gli attacchi di social engineering occupano il primo posto

Il modo più comune che gli attaccanti hanno utilizzato per ottenere l’accesso iniziale nel corso del 2023 è stato il social engineering, poiché rappresenta la modalità più semplice con cui gli attaccanti possono penetrare nei sistemi a cui possono essere applicati rapidamente aggiornamenti di sicurezza in grado di risolvere le vulnerabilità di sicurezza note, e che sono in grado di limitare l’accesso remoto. Gli schemi più diffusi lo scorso anno hanno visto l’utilizzo di attacchi come il phishing per rubare credenziali e malware di tipo trojan per indurre le vittime a scaricare e installare malware.

Gli utenti sono caduti vittime di attacchi di phishing tre volte più frequentemente rispetto agli utenti che hanno scaricato trojan, con una media di 29 utenti aziendali su 10.000 che hanno fatto clic su un collegamento di phishing ogni mese nel 2023. Le applicazioni cloud e i siti di shopping sono stati tra gli obiettivi principali durante tutto l’anno, ma anche i portali di banche, i social media e gli obbiettivi governativi hanno registrato un notevole incremento.

Il trojan è il secondo vettore di attacco più comune: gli utenti hanno scaricato in media 11 trojan al mese ogni 10.000 utenti, il che significa che un’organizzazione tipica di quelle dimensioni avrebbe avuto una media di 132 trojan scaricati dagli utenti sulla propria rete in un anno.

Attaccanti e attività criminali

La maggior parte delle attività degli attaccanti che hanno preso di mira i clienti Netskope nel 2023 è stata motivata dalla criminalità, mentre gli avversari geopolitici più attivi si sono riscontrati contro utenti in Asia e America Latina. Netskope ha rilevato che nel 2023 i gruppi basati in Russia sono stati i più attivi in ambito criminale, mentre i gruppi basati in Cina sono stati i più attivi nell’ambito geopolitico (e miravano principalmente a vittime in Asia, in particolare Singapore).

Molti gruppi di minacce hanno utilizzato pesantemente Cobalt Strike per mantenere la persistenza e distribuire ransomware, infostealer, wiper e altri software malevoli per estorcere denaro alle loro vittime. Nel report, Netskope Threat Labs condivide i profili dei 5 principali gruppi di attaccanti osservati quest’anno, comprese le campagne e le attività specifiche provenienti da ciascun gruppo osservato direttamente da Netskope.

“Nel 2023 – ha aggiunto Canzanese – abbiamo visto che gli attaccanti hanno tratto vantaggio dalla crescente adozione da parte delle aziende di applicazioni cloud, in particolare attraverso tecniche di social engineering. È probabile che questa tendenza continui nel 2024”.

Punti chiave per le organizzazioni

Netskope raccomanda alle organizzazioni di adottare le seguenti misure per combattere queste principali tendenze:

• Limitare l’accesso solo alle applicazioni che servono a scopi aziendali legittimi, creare un processo di revisione e approvazione per le nuove applicazioni e applicare un processo di monitoraggio continuo che avvisi i responsabili della sicurezza quando le applicazioni vengono utilizzate in modo improprio o sono state compromesse
• Garantire che l’abilitazione e l’adozione delle applicazioni IA siano fatte in modo sicuro dovrebbe rappresentare una priorità urgente per la maggior parte delle organizzazioni, inclusa l’identificazione delle applicazioni consentite e l’adozione di controlli che consentano agli utenti di utilizzarle al massimo delle loro potenzialità, salvaguardando al contempo l’organizzazione dai rischi
• Continuare gli investimenti nella riduzione del rischio di social engineering, compresa la formazione sulla sensibilizzazione alla sicurezza e la tecnologia anti-phishing