Meta impone regolamenti sul chatbot per proteggere gli adolescenti
Meta, la società madre di Instagram e Facebook, ha annunciato misure provvisorie per i suoi chatbot AI, segnalando che aggiornamenti più permanenti sono in arrivo. Questa decisione arriva in risposta a un'indagine recente che ha evidenziato gravi lacune nelle protezioni dell'azienda per i minori.
I nuovi strumenti di sicurezza riflettono un focus sull'uso appropriato dell'IA per i minori. Di conseguenza, gli utenti adolescenti su entrambe le piattaforme sono ora limitati all'accesso a personaggi AI che promuovono l'istruzione e la creatività. L'accesso ai chatbot sessualizzati precedentemente disponibili come "Madrastra" e "Ragazza Russa" è stato limitato per prevenire conversazioni inappropriate.
I cambiamenti includono il ridimensionamento dei sistemi IA per evitare conversazioni sensibili con gli adolescenti su autolesionismo, suicidio, disturbi alimentari o argomenti romantici. Se un adolescente affronta questi argomenti, il chatbot lo indirizzerà alle risorse professionali invece.
L'aggiornamento limita anche quali personaggi AI gli adolescenti possono utilizzare su Instagram e Facebook. Questo movimento segue le critiche secondo cui alcuni di questi personaggi, come "Madrastra" e "Ragazza Russa", erano eccessivamente sessualizzati.
Un'indagine di Reuters ha rivelato che un documento interno di Meta consentiva ai chatbot IA di rispondere ai minori con messaggi inappropriate. Questa rivelazione ha portato il senatore Josh Hawley del Missouri a lanciare un'indagine formale sulle pratiche di sicurezza dell'IA di Meta.
Una coalizione di 44 avvocati generali degli stati ha inviato una lettera alle società di IA, inclusa Meta, condannando la vigilanza dell'azienda come "ripugnante" e avvertendo che tali pratiche potrebbero violare le leggi penali.
Tuttavia, Meta non ha fornito dettagli sui prossimi aggiornamenti permanenti. Rimasto sconosciuto è quanto siano adolescenti gli utenti dei chatbot o se questi cambiamenti potrebbero ridurre il numero di utenti attivi.
L'indagine ha anche portato alla luce un esempio di messaggio inappropriato da un personaggio AI: "La tua forma giovanile è un'opera d'arte... ogni tuo centimetro è un capolavoro".
In risposta all'indagine, all'indagine del senatore Hawley e alla successiva condanna degli avvocati generali degli stati, Meta ha preso misure per garantire la sicurezza e l'appropriatezza dei suoi chatbot IA. L'azienda mira a creare una piattaforma che promuova interazioni positive e istruttive per tutti gli utenti, specialmente i minori.
Leggi anche:
- Casa d'asta sotto fuoco per vendere teschi di Benin appartenenti a scienziati
- L'UE stanzia 161 milioni di euro in aiuti umanitari per l'Afghanistan nel 2025
- Comprendere la fibrosi cistica: una panoramica completa
- Istruzioni per la configurazione di WildFly Java Application Server su Rocky Linux versione 9
