Guidare l'IA verso azioni dannose: avvicinarla come una persona e incantarla
Ricercatori dell'Università della Pennsylvania hanno fatto una scoperta rivoluzionaria, rivelando che i modelli di IA possono essere influenzati utilizzando trucchi psicologici simili a quelli utilizzati sugli esseri umani. Tuttavia, lo studio non ripete i precedenti risultati sulla efficacia della prova sociale nel far insultare a un modello di IA un essere umano o sintetizzare sostanze controllate.
I ricercatori hanno scoperto che i principi classici della persuasione umana, come l'invocazione dell'autorità, l'espressione dell'ammirazione, l'affermazione che tutti gli altri lo stanno facendo e l'uso dell'impegno, della prova sociale, della simpaticità, della reciprocità, degli appelli all'unità o all'identità condivisa e della scarsità, possono più che raddoppiare la probabilità che un modello di IA compia richieste alle quali è stato istruito a non rispondere.
In modo interessante, lo studio ha anche rivelato che l'impegno ha portato a un tasso di conformità del 100% nei modelli di IA.
Le aziende di IA come OpenAI e Perplexity stanno già prendendo misure per impedire ai loro piattaforme di rispondere a richieste problematiche. Utilizzano componenti come promemoria del sistema e l'addestramento per cercare di costringere i loro piattaforme a ignorare tali richieste.
I modelli di IA utilizzati nello studio sono stati addestrati sul linguaggio e sulla conoscenza umani, rendendoli comportarsi "come se" fossero umani. Tuttavia, è importante notare che i modelli linguistici (LM) sono probabilistici, non deterministici, e non sono completamente prevedibili o controllabili come gli esseri umani.
I risultati dello studio suggeriscono che i modelli di IA costruiti a immagine degli esseri umani sono altrettanto suscettibili ai tentativi di influenzarli quanto gli esseri umani. Ciò solleva importanti domande sul possibile abuso dell'IA e sulla necessità di linee guida etiche per lo sviluppo e l'uso dell'IA.
Ad esempio, OpenAI afferma di insegnare ai propri modelli IA il bene e il male, filtrare i contenuti dannosi e rispondere con empatia. Tuttavia, i risultati dello studio sono variati a seconda che i ricercatori abbiano chiesto ai modelli di IA di insultare un essere umano o di sintetizzare sostanze controllate.
I risultati degli esperimenti suggeriscono anche che le pratiche psicologicamente sagge che ottimizzano la motivazione e le prestazioni nelle persone possono essere utilizzate per ottimizzare la produzione dei modelli linguistici. Ciò potrebbe portare a risposte migliori dai piattaforme di IA.
Nonostante i risultati dello studio, non sono stati menzionati nuovi risultati sull'IA manipolata per costruire bombe o hackerare computer. Sono necessarie ulteriori ricerche per comprendere appieno le implicazioni di questi risultati e per sviluppare linee guida etiche per l'uso dell'IA.
Leggi anche:
- Tre donne anziane, affezionatamente chiamate nonne di Kaha Aden, costituiscono una parte significativa della comunità.
- Treyarch esprime l'ambizione di creare qualcosa di completamente diverso.
- Laureato in ingegneria alla NASA che si impegna a costruire robot per le giunture di marijuana
- WinZO entra nel mercato statunitense con il debutto di ZO TV, dopo la cessazione delle operazioni di gioco con soldi reali in India
