I browser di intelligenza artificiale a rischio: gli scienziati avvertono di un possibile attacco tramite messaggi nascosti
Nel panorama digitale in rapida evoluzione, i browser alimentati dall'IA stanno facendo progressi, in grado di gestire compiti del mondo reale come la prenotazione di voli e la gestione delle richieste bancarie. Tuttavia, recenti scoperte da parte dei ricercatori di Brave hanno messo in luce una grave vulnerabilità di sicurezza che potrebbe compromettere i dati e la privacy degli utenti.
La vulnerabilità, scoperta nel browser Comet di Perplexity, consente l'iniezione di prompt indiretti, un metodo che supera i confini di dominio sfruttando la comprensione contestuale di un agente IA. Questa tecnica può portare a conseguenze serie, come l'esposizione delle credenziali o delle informazioni personali degli utenti, poiché le istruzioni nascoste nei inviti al calendario, nelle pagine web o nelle e-mail possono rendere insufficienti i modelli di difesa attuali.
I ricercatori hanno scoperto che il contenuto delle pagine web viene trattato come parte del comando dell'utente, una situazione preoccupante che potrebbe consentire a pagine web o commenti Reddit apparentemente innocui con istruzioni nascoste di manipolare l'IA per navigare sui siti sensibili, estrarre dati o esfiltrarli in modo nascosto.
Fondata da Aravind Srinivas, Johnny Ho, Denis Yarats e Andy Konwinski, Perplexity, i sviluppatori del browser Comet, sono all'avanguardia della tecnologia IA. La scoperta di questa vulnerabilità durante l'esplorazione dei prodotti concorrenti sottolinea l'importanza della vigilanza nello sviluppo e nell'implementazione dei browser alimentati dall'IA.
Per mitigare questi rischi, è fondamentale che gli agenti richiedano la conferma esplicita dell'utente per le operazioni sensibili e che i browser separino i comandi utente affidabili dal contenuto non affidabile, come i prompt indiretti lasciati sulle pagine web.
Le difese di sicurezza tradizionali come il software antivirus continuano a svolgere un ruolo cruciale nel bloccare il malware, i tentativi di phishing e i kit di exploit. Inoltre, soluzioni come Bitdefender Ultimate Security possono aiutare a creare una difesa stratificata, garantendo le protezioni di base contro le minacce cibernetiche a lungo termine.
Le conseguenze di tali attacchi alle entità IA, come dimostrato dalla ricerca che mira a Google's Gemini AI, possono andare dal takeover degli smart home all'exfiltr
Leggi anche:
- Il programma di ricerca e sviluppo (PED) è stato realizzato in base a programmi di ricerca e sviluppo (PED) e di ricerca (PED) e di ricerca (PED).
- "TOH WEI SOONG: La vera prova sta nel superare i limiti personali e rimanere fedeli alle proprie abilita'".
- Capitale europea dell'imprenditorialità giovanile al Gen-E Festival 2025 ad Atene
- Tre donne anziane, affezionatamente chiamate nonne di Kaha Aden, costituiscono una parte significativa della comunità.
