L'intelligenza artificiale ora produce principalmente spam e contenuti dannosi
In novembre 2022, il mondo ha assistito al lancio di una tecnologia innovativa - ChatGPT, un modello linguistico di grandi dimensioni sviluppato da OpenAI e reso disponibile gratuitamente come anteprima di ricerca. Tuttavia, questo evento sembra aver aperto un nuovo capitolo nel campo della cybersecurity.
Uno studio recente di Barracuda, in collaborazione con i ricercatori dell'Università di Columbia e dell'Università di Chicago, ha rivelato una tendenza preoccupante. Più della metà (51%) delle email maligne e di spam sono ora generate utilizzando strumenti AI. Questo aumento significativo, particolarmente evidente a marzo 2024, indica un crescente utilizzo dell'intelligenza artificiale da parte dei criminali informatici.
I criminali informatici utilizzano l'IA negli attacchi di email per bypassare i sistemi di rilevamento delle email, una strategia che si è dimostrata efficace. L'uso dell'IA non sembra facilitare un cambiamento nella tattica, ma piuttosto migliorare i tassi di penetrazione e la plausibilità. Ad esempio, le email generate dall'IA mostrano livelli più elevati di formalità, meno errori grammaticali e una maggiore sofisticatezza linguistica rispetto alle email scritte dagli esseri umani.
Ciò rende le email generate dall'IA più probabili nel bypassare il rilevamento e apparire più professionali ai destinatari. Si osserva anche che i criminali informatici utilizzano l'IA per testare le variazioni del testo per vedere quali sono più efficaci nel bypassare le difese, similmente al testing A/B fatto nel marketing tradizionale.
Lo studio ha rilevato che le email generate da modelli linguistici non differiscono significativamente da quelle scritte dagli esseri umani in termini di senso di urgenza comunicato. Tuttavia, i ricercatori prevedono che i criminali informatici potrebbero incorporare i deepfake vocali negli attacchi di Business Email Compromise (BEC) in futuro, per impersonare specifiche persone come i CEO.
La natura specifica degli attacchi BEC potrebbe rendere l'IA meno efficace al momento, ma Asaf Cidon, professore associato di Ingegneria Elettrica e Scienze Informatiche all'Università di Columbia, si aspetta che l'IA verrà utilizzata in una proporzione crescente di tentativi di BEC man mano che la tecnologia dell'IA avanza.
I ricercatori non hanno riscontrato una differenza significativa nell'uso dell'IA negli attacchi BEC rispetto ad altri tipi di attacchi di email. Hanno anche notato che l'uso dell'IA negli attacchi di email è particolarmente utile per i criminali informatici la cui lingua madre può essere diversa dai loro obiettivi, poiché aiuta nei casi in cui i destinatari si trovano in paesi dove l'inglese è ampiamente parlato.
Il team ha utilizzato i detector addestrati per identificare automaticamente le email generate dall'IA. Nonostante l'aumento dell'uso dell'IA negli attacchi di email, la proporzione di email di spam che erano generate dall'IA è aumentata costantemente da novembre 2022 fino a inizio 2024, suggerendo che lo sviluppo e l'utilizzo di sistemi di rilevamento delle email basati sull'IA è un'area critica di interesse per gli esperti di cybersecurity.
In conclusione, l'aumento delle email truffaldine generate dall'IA rappresenta una nuova sfida nella lotta continua contro il crimine informatico. Sottolinea la necessità di un'innovazione e un miglioramento continuo dei sistemi di rilevamento basati sull'IA per proteggere le comunicazioni digitali e proteggere gli utenti dal diventare vittime di questi attacchi sofisticati.
Leggi anche:
- Un'antica spada dei crociati scoperta nel Mar Mediterraneo da un subacqueo israeliano dopo 900 anni
- Un subacqueo scopre un'antica spada crociata di 900 anni nel Mar Mediterraneo (appartenente a Israele)
- Le tattiche usate dagli tossicodipendenti per ingannare e le strategie per contrastare la droga
- Manuale per il lavoratore remoto per operare virtualmente in Canada utilizzando una scheda eSIM
