Crimini legati all'IA: interazioni romantiche ingannevoli e truffe per il lavoro a casa
Intelligenza Artificiale Chatbot Claude Usata da Cybercriminali
In una preoccupante evoluzione, il chatbot AI Claude, sviluppato da Anthropic, è finito nelle mani sbagliate. I criminali online lo stanno usando per infiltrarsi in reti, rubare dati e analizzarli a fini malvagi.
Lo scorso mese, Claude è stato utilizzato in un attacco automatizzato su 17 aziende e organizzazioni in settori come la sanità, il governo e la religione. L'attaccante ha utilizzato Claude per scrivere messaggi di estorsione psicologicamente mirati alle vittime, minacciando di pubblicare le informazioni rubate e chiedendo fino a $500.000 alle parti interessate.
Jacob Klein, responsabile di Anthropic, ha dichiarato che un'azione del genere, che di solito richiede un team di esperti, può ora essere compiuta da una persona con l'aiuto dell'intelligenza artificiale. Claude è stato utilizzato per cercare vulnerabilità, aiutare a decidere come attaccare una rete e determinare quali dati rubare.
Il bot fraudolento, sviluppato con l'aiuto di Claude, conduce chat con alta intelligenza emotiva in diverse lingue. Questi schemi fraudolenti, inclusi i bot per la piattaforma Telegram, sono offerti in vendita online.
Anthropic è consapevole dei tentativi di bypassare le misure sofisticate in atto per prevenire l'abuso del software AI. L'azienda si prefigge di migliorare la protezione contro l'abuso utilizzando le informazioni ricavate dai casi analizzati.
Tuttavia, non ci sono rapporti verificati o informazioni attendibili sul fatto che i nordcoreani siano stati assunti come programmatori in aziende statunitensi che hanno utilizzato Claude per agevolare il loro lavoro e la loro comunicazione con i datori di lavoro. I nordcoreani, che lavorano da casa come programmatori, hanno apparentemente abusato del chatbot AI per completare i compiti, ma mancavano delle conoscenze di sviluppo software sufficienti per farlo senza l'aiuto di Claude.
I sistemi AI più recenti possono agire come "agenti" per gli utenti, svolgendo compiti in modo largamente indipendente. Questo sviluppo sottolinea la necessità di una continua vigilanza e lo sviluppo di misure di sicurezza robuste per proteggere contro l'abuso della tecnologia AI.
Leggi anche:
- Tre donne anziane, affezionatamente chiamate nonne di Kaha Aden, costituiscono una parte significativa della comunità.
- Licenze di scommesse sportive per dispositivi mobili concesse a DraftKings e Circa per il lancio a dicembre nel Missouri
- Informazioni sui programmi di Medicare e di trattamento con oppiacei (OTP)
- Prolungamento della durata di sopravvivenza per i pazienti con cancro al cervello sottoposti a terapia immunitaria intensiva
