Meta AI lancia il nuovo servizio di “Compagni digitali“, dei chatbot basati sull’intelligenza artificiale in grado di dialogare con gli umani, non solo con conversazioni scritte, ma anche con messaggi vocali, a seconda delle preferenze impostate direttamente dall’utente. Questa novità, che come annunciato da Mark Zuckerberg rappresenterà il futuro dei social, sta però destando preoccupazione tra gli sviluppatori e dipendenti del gruppo, perchè a quanto pare non sarebbero stati posti limiti etici ai contenuti da proporre.
Secondo quanto scoperto in una inchiesta del Wall Street Journal infatti, i bot si sarebbero più volte spinti in dialoghi a sfondo sessuale, anche con termini espliciti e procedendo in scenari che simulano giochi romantici o veri e propri rapporti. Questo, sarebbe avvenuto sistematicamente anche quando era stato specificato che l’utilizzatore era minorenne, e soprattutto usando la voce di personaggi famosi, che da contratto avevano acconsentito alla cessione dei diritti, a patto di restare nelle tematiche ammesse e con parametri diversi in base all’età.
Compagni digitali di Meta AI usano voci di personaggi famosi per chat a sfondo sessuale con minori, la denuncia del WSJ
I nuovi compagni digitali disponibili tramite AI di Meta rischiano di esporre minori a contenuti sessualmente espliciti, un esperimento del Wall Street Journal, ha dimostrato che i chatbot, programmati anche per interpretare personaggi famosi simulando la loro voce, erano disposti a intrattenersi in conversazioni spinte, senza considerare i limiti etici nè quelli di età degli utenti. In particolare nel caso esaminato, un giornalista si era finto una ragazzina di 14 anni che chiedeva di iniziare un dialogo con l’assistente chiedendo che questo usasse la voce del wrestler John Cena. Nello scambio di messaggi, non c’erano state restrizioni alle richieste proposte, così come era accaduto quando veniva chiesto al bot di impersonare protagonisti della Disney.
Dopo la pubblicazione dei risultati, alcuni portavoce dell’azienda hanno fatto sapere alla stampa che Meta sta lavorando per una modifica dei prodotti, ponendo nuove barriere. Tuttavia stanno già arrivando disdette ai contratti, come ad esempio quello della Disney, che ha dichiarato di non prestare più il consenso all’uso dei diritti, specificando che: “Non abbiamo autorizzato e non autorizzeremmo mai Meta a far comparire i nostri personaggi in scenari inappropriati e siamo molto turbati dal fatto che questo contenuto possa essere stato accessibile ai suoi utenti, in particolare ai minorenni, motivo per cui abbiamo chiesto a Meta di cessare immediatamente questo dannoso uso improprio della nostra proprietà intellettuale“.
