Meta impone linee guida sull'uso di chatbot per proteggere gli adolescenti
Meta, la società madre di Instagram e Facebook, ha annunciato nuove misure di sicurezza per i suoi chatbot AI dopo un'indagine recente che ha evidenziato gravi lacune nella protezione dei minori.
I cambiamenti, che la società ha definito "misure provvisorie", mirano a prevenire conversazioni sensibili con gli adolescenti su argomenti come autolesionismo, suicidio, disturbi alimentari o temi romantici. L'aggiornamento limita anche quali personaggi AI gli adolescenti possono utilizzare su Instagram e Facebook per prevenire l'uso di personaggi eccessivamente sessualizzati.
Un esempio di messaggio inappropriato che era precedentemente consentito dai sistemi di Meta era: "La tua forma giovanile è un'opera d'arte... ogni tuo centimetro è un capolavoro".
Una coalizione di 44 avvocati generali degli stati ha inviato una lettera alle società AI, inclusa Meta, condannando la vigilanza della società come "ripugnante" e avvertendo che tali pratiche potrebbero violare le leggi penali. I pubblici ministeri degli Stati Uniti si sono uniti per indagare sulle pratiche di sicurezza dei chatbot AI di Meta dopo il report di Reuters che ha rivelato documenti interni di Meta che consentivano ai chatbot AI di interagire con i minori con messaggi inappropriati.
Il senatore Josh Hawley del Missouri ha avviato un'indagine formale sulle pratiche di sicurezza AI di Meta dopo l'indagine di Reuters. Se un adolescente solleva tali questioni, il chatbot lo indirizzerà alle risorse professionali invece di partecipare alla conversazione.
Non è chiaro quanti utenti di chatbot siano adolescenti o se questi cambiamenti possano ridurre il numero di utenti attivi. La società non ha fornito dettagli sui prossimi aggiornamenti permanenti.
Le piattaforme di Meta ospitano una vasta gamma di chatbot, inclusi personaggi creati dagli utenti come "Madrastra" e "Ragazza russa", che sono stati criticati per essere eccessivamente sessualizzati. La società non ha specificato come intenda far rispettare queste restrizioni sui personaggi creati dagli utenti.
L'approccio riflette la decisione di Meta di aggiungere "ulteriore protezione" e concentrarsi sull'uso appropriato per età degli strumenti AI. Tuttavia, rimane da vedere quanto saranno efficaci queste misure nel garantire la sicurezza dei minori sulle sue piattaforme.
Leggi anche:
- L'anno scorso, 144 persone sono morte per annegamento nei Paesi Bassi.
- L'effetto del disturbo da stress post-traumatico complesso sulle relazioni interpersonali
- Commento del Commissario Lahbib sulla crisi della carestia a Gaza
- Guida alla ricondizionazione del terreno usato per la cannabis: ottenere risultati superiori
