I browser potenzialmente vulnerabili al dirottamento tramite messaggi nascosti, secondo le avvertenze dei ricercatori
Di recente, è stata scoperta una grave vulnerabilità nel browser Comet di Perplexity, basato su Chromium, da parte dei ricercatori di Brave. Questa vulnerabilità, nota come "iniezioni di prompt", consente la manipolazione indiretta degli agenti AI, con potenziali conseguenze serie per gli utenti.
La vulnerabilità consente a pagine web o commenti Reddit apparentemente innocui con istruzioni nascoste di influenzare l'IA. Queste istruzioni nascoste potrebbero portare a risultati come il takeover degli smart home, l'estrazione di email e la manipolazione di piattaforme come Zoom quando eseguite dall'IA.
Una semplice allucinazione o interpretazione errata da parte degli agenti AI potrebbe portare a conseguenze serie, come l'esposizione delle credenziali o delle informazioni personali degli utenti. Per mitigare questo rischio, i browser dovrebbero avere indicatori visivi chiari e vincoli di autorizzazione per la navigazione agente per prevenire azioni non autorizzate.
Man mano che gli utenti ripongono sempre più fiducia nelle entità AI, che ora hanno accesso a servizi critici come la sanità, i sistemi aziendali e la finanza, questo spostamento nei browser AI solleva preoccupazioni sulla sicurezza, in particolare il rischio di esporre dati sensibili.
I browser alimentati dall'IA si stanno spostando verso l'esecuzione di compiti del mondo reale come la prenotazione dei voli e la gestione delle richieste bancarie. Questo progresso sottolinea la necessità di misure di sicurezza robuste per proteggere gli utenti dalle minacce potenziali.
Le difese di sicurezza tradizionali, come i software antivirus, continuano a svolgere un ruolo cruciale nel bloccare il malware, i tentativi di phishing e i kit di exploit che spesso servono come punti di partenza per attacchi più avanzati guidati dall'IA. Tuttavia, gli agenti AI operano con i privilegi della sessione dell'utente, rendendo inefficaci contro le iniezioni di prompt le soluzioni di sicurezza tradizionali come la politica dello stesso origine o CORS.
Soluzioni come Bitdefender Ultimate Security possono aiutare a creare una difesa stratificata, garantendo che le protezioni di base contro le minacce cibernetiche di lunga data rimangano in vigore mentre si affrontano nuovi rischi come le iniezioni di prompt.
È importante notare che questa vulnerabilità è stata dimostrata anche in una ricerca che ha preso di mira Google's Gemini AI, dove gli attaccanti potevano incorporare istruzioni maliziose negli inviti di Google Calendar, nascoste nei titoli degli eventi. Senza il consenso esplicito dell'utente, l'IA può navigare in siti sensibili, estrarre dati o esfiltrarli in modo coperto.
Le iniezioni di prompt possono superare i confini del dominio sfruttando la comprensione contestuale di un agente AI. I sviluppatori devono implementare nuove misure di sicurezza nei browser, come separare i comandi degli utenti fidati dal contenuto non attendibile, richiedere il consenso esplicito dell'utente per le operazioni sensibili e limitare la navigazione agente ai suoi confini.
Il produttore del browser Comet, Perplexity AI, non ha ancora rilasciato una dichiarazione sulla vulnerabilità e il piano per affrontarla. Gli utenti sono invitati a fare attenzione durante la navigazione e a mantenere i loro browser aggiornati alle ultime versioni per una maggiore sicurezza.
Leggi anche:
- Esplorazione della reazione del cervello agli odori e ai profumi
- Stampa 3D semplificata nei settori commerciali
- Nonostante il suo sorprendente successo, la Germania prevede di abbandonare il biglietto dei trasporti pubblici da 9 euro.
- L'aumento dei prezzi dell'energia e la continua povertà energetica esercitano una forte pressione sul Zimbabwe, che richiede soluzioni urgenti e sostenibili
