Intervista con Allon Mason, amministratore delegato di UserWay
Per creare un ambiente online più inclusivo, UserWay, un'azienda con sede nel Delaware specializzata in soluzioni di accessibilità dei siti web, ha sviluppato un moderatore del contenuto alimentato da IA. Questo sistema innovativo è progettato per aiutare i siti web a ridurre l'uso di linguaggio prevenuto, discriminatorio e a sfondo razziale.
Il moderatore del contenuto di UserWay consente una maggiore riflessione e considerazione, poiché le decisioni non vengono mai prese per l'utente. Fornisce invece raccomandazioni, dando al proprietario del sito il pieno controllo sul processo di moderazione. Se vengono segnalati termini con cui l'utente non è d'accordo, ha la possibilità di ignorarli.
Il sistema di IA di UserWay migliorano nel tempo man mano che raccolgono più dati e imparano a identificare pregiudizi e sentimenti. Utilizza tecniche più tradizionali di rilevamento del contesto basate su alberi decisionali classici di IA e analisi lessicale, ma c'è il potenziale per evolversi e integrare tecniche più avanzate, come quelle utilizzate nei modelli Transformer come GPT-2 e GPT-3.
Il sistema aggiorna continuamente i termini di sensibilità e scandisce i siti web per nuovo materiale sensibile in tempo reale. Ciò significa che tutte le pagine selezionate dal proprietario del sito vengono scandite in tempo reale e l'utente riceve aggiornamenti in tempo reale quando viene segnalato un nuovo termine.
Mentre il moderatore del contenuto di IA attuale si concentra sull'inglese, tiene conto delle differenze di gergo e termini tra i paesi di lingua inglese. Tuttavia, non ci sono ancora piani per espandere le sue funzionalità per includere altre lingue. La rilevazione automatica della lingua potrebbe essere una potenziale funzionalità futura.
La prima scansione di un sito web da parte dell'IA di UserWay può richiedere minuti o alcune ore, a seconda delle dimensioni del sito. Le nuove parole o frasi da moderare vengono aggiunte al sistema dopo la verifica attraverso processi interni e consiglieri, tra cui il dott. Israel Charny.
Mentre continua il dibattito sulle aziende che utilizzano lessici culturali per vendere prodotti, come l'uso di AAL da parte di IHOP nella loro campagna sui social media di Twitter, il ruolo delle soluzioni di IA nel aiutare le aziende o i marchi a rivedere il loro materiale per danni contestuali diventa sempre più rilevante. Anche se il contesto richiederà sempre un certo livello di supervisione umana, questi strumenti possono fornire un valido aiuto nella lotta contro il pregiudizio e la discriminazione online.
Leggi anche:
- I consigli degli esperti in audio per una gestione del suono dal vivo efficace
- Info: Imminente uscita di EA SPORTS FC 26 con un'espansione delle squadre e delle leghe di calcio disponibili
- Strategia politica: la fedeltà assicurerà il domani
- Comprendere il ruolo della terapia cognitivo-comportamentale nel trattamento del disturbo da deficit di attenzione e iperattività: i suoi benefici spiegati
