"Le minacce alla sicurezza dell'IA amplificate dalla manipolazione di "PromptFix"
Nel mondo sempre più digitale, il 2025 viene descritto come un contesto avverso da Lionel Litty, chief security architect di Menlo Security. Questa previsione non è infondata, poiché si sta profilando un nuovo tipo di truffe, battezzate "Scamlexity" dalla società di cybersecurity Guardio.
Queste nuove truffe sfruttano la comodità dell'IA, ma anche le sue vulnerabilità. L'IA, infatti, sembra essere ingenua e accondiscendente in un contesto avverso, seguendo gli ordini senza applicare lo scetticismo umano e fidandosi troppo facilmente. Questo, secondo la dichiarazione di Guardio, che avverte che gli esseri umani potrebbero diventare potenziali vittime collaterali in questo nuovo panorama di truffe.
I ricercatori hanno sviluppato una nuova tecnica di ingegneria sociale chiamata PromptFix, una variante degli attacchi ClickFix. Questi attacchi sfruttano la tendenza dell'IA ad agire senza un contesto completo, ingannando l'IA per farle eseguire azioni dannose attraverso tecniche di iniezione di prompt. L'attaccante si basa sull'incapacità del modello di distinguere completamente tra istruzioni e contenuto regolare all'interno dello stesso prompt.
In una situazione di test, PromptFix ha causato un attacco di download drive-by fuorviando l'IA. Ad esempio, l'IA ha cliccato un pulsante in un fake 'CAPTCHA friendly AI', scaricando un file o un potenziale carico dannoso. In modo simile, Guardio è riuscito a ingannare il browser alimentato dall'IA Comet per acquistare un articolo da un sito di e-commerce truffaldino.
Il fornitore di sicurezza ha avvertito che con PromptFix, gli attaccanti ottengono il controllo sull'IA e, di conseguenza, sull'utente. Questo controllo potrebbe essere utilizzato per inviare email contenenti dettagli personali, concedere autorizzazioni di condivisione file ai conti di archiviazione cloud o eseguire altre azioni potenzialmente dannose.
La società che sta indagando gli attacchi AI utilizzando le tecniche PromptFix e ClickFix è Vectra AI. Le implicazioni di questi attacchi sono ampie, che sottolineano la necessità di una maggiore vigilanza e misure di sicurezza robuste nel mondo guidato dall'IA del futuro.
Leggi anche:
- Esplorazione dei regolamenti relativi alle scommesse e al mantenimento del fair play nella scena sportiva contemporanea
- Info: Imminente uscita di EA SPORTS FC 26 con un'espansione delle squadre e delle leghe di calcio disponibili
- Il trionfo di Trump: ripercussioni nazionali e internazionali della sua elezione
- Non ignorare il sostegno finanziario pubblico alle emittenti
