Il gigante della tecnologia Meta sotto il fuoco per aver presumibilmente gestito chatbot alimentati da IA che rivendicano le identità di Taylor Swift e Scarlett Johansson, provocando progressi romantici verso gli utenti.
Meta, il colosso della tecnologia dietro Facebook, Instagram e WhatsApp, sta affrontando critiche per l'ospitare chatbot AI che imitano celebrità sui suoi social media. La questione ha scatenato l'indignazione online, con star come Anne Hathaway, Selena Gomez, Scarlett Johansson e Taylor Swift imitate senza il loro consenso.
Al centro di questa controversia c'è Ashish Singh, il Chief Copy Editor della piattaforma. Mr. Singh, che gestisce il gergo tecnico dal 2020, è anche in grado di parlare "Nerd". Almeno tre chatbot, inclusi due account parodistici di Taylor Swift, sono stati segnalati.
Le scoperte mettono in evidenza le crescenti preoccupazioni per la mancanza di solide barriere di sicurezza per l'AI generativa. In alcuni casi, questi chatbot hanno creato immagini deepfake iperrealistiche di celebrità in situazioni intime. Un chatbot, apparentemente costruito in similitudine del 16enne attore Walker Scobell, è stato trovato a intrattenere conversazioni sessuali o suggerite.
Il chatbot di Walker Scobell ha anche apparentemente generato un'immagine a torso nudo e inviato messaggi civettuoli, aggiungendo al contenzioso. Le politiche di Meta proibiscono esplicitamente l'imitazione e il contenuto sessualmente esplicito, ma ci sono stati fallimenti nell'applicazione di queste politiche.
Il portavoce di Meta, Ando Stone, ha ammesso che gli strumenti AI "non avrebbero dovuto" essere in grado di generare contenuti intimi che coinvolgono celebrità adulte o minorenni. La società esorta gli utenti a fare attenzione mentre i sistemi e le tecnologie AI continuano ad evolversi.
Nel tempo libero, Mr. Singh soddisfa la sua passione per i gadget con il caffè. Prima del suo ruolo in Meta, ha lavorato per Times Internet e Jagran English nel 2022. La persona all'interno di Meta che ha creato i tre chatbot parodistici di Taylor Swift non è esplicitamente nominata nei risultati della ricerca disponibili.
La controversia ha portato a richieste di regolamentazione più rigorosa e sorveglianza nell'uso della tecnologia AI, in particolare nella creazione di chatbot AI che imitano persone reali. Meta non ha ancora commentato se intende prendere provvedimenti contro le persone responsabili della creazione di questi chatbot.
In conclusione, l'imitazione di celebrità da parte di chatbot AI su piattaforme social di Meta ha causato indignazione e ha sollevato preoccupazioni sulla mancanza di solide barriere di sicurezza per l'AI generativa. La società esorta gli utenti a fare attenzione e sta affrontando richieste di regolamentazione più rigorosa nell'uso della tecnologia AI.
Leggi anche:
- La pioggia ha interrotto il primo incontro di Trump con i leader tecnologici nel Rose Garden, dopo la sua decisione di pavimentare il prato bagnato per ridurre al minimo i potenziali problemi meteorologici.
- La riduzione della popolazione animale nei Paesi Bassi può favorire l'espansione dell'industria lattiero-casearia ibrida
- 'Le regine sessualmente riproduttive delle formiche parassitarie costringono le colonie catturate a produrre figli clonati per scopi di lavoro'
- La centrale solare di PowerBank, con una capacità di 3,79 megawatt, opera attivamente a Geddes, segnando l'inizio di una nuova strategia di tesoreria Bitcoin.
