TikTok contro l'intelligenza artificiale alla base dei synthetic media, contenuti artificiali che mostrano scene realistiche ma false oppure fuorvianti
TikTok si scaglia contro i deepfake, combattendo i contenuti modificati tramite l’uso di intelligenza artificiale. Tra le Linee Guida della Community di TikTok, precisamente al punto 3 della sezione Integrità e autenticità, si legge che “i supporti sintetici o manipolati (synthetic media, ndr) che mostrano scene realistiche devono essere chiaramente segnalati” all’interno della popolarissima piattaforma social cinese. TikTok definisce i synthetic media come “contenuti creati o modificati con tecnologie di intelligenza artificiale”, cioè un particolare tipo di contenuti noto anche con il nome di deepfake.
TikTok scrive che “non permettiamo l’uso di media sintetici di personaggi pubblici, se il contenuto viene usato per sponsorizzazioni o se vìola qualsiasi altra politica” dell’azienda, in particolar modo se questi contenuti creati tramite intelligenza artificiale “contengano le sembianze (visive o audio) di una persona reale, se viene usata per appoggi politici o commerciali o se vìola qualsiasi altra policy”. Vietato anche “materiale che è stato montato, unito o abbinato in modo tale da fuorviare le persone su eventi reali”. Nel concreto, il social cinese inizia la sua lotta contro contenuti che mostrano per esempio politici, giornalisti o personaggi famosi pronunciare parole in realtà false. Ma non sono queste le uniche potenzialità dei synthetic media e dell’intelligenza artificiale.
Synthetic media e intelligenza artificiale su TikTok: “rischi sociali e individuali”
“Accogliamo con favore la creatività che la nuova intelligenza artificiale e le altre tecnologie digitali possono sbloccare” scrive TikTok nelle sue linee guida, tuttavia sottolinea che l’intelligenza artificiale dei synthetic media “può rendere più difficile distinguere tra realtà e finzione, comportando rischi sia sociali sia individuali”. Al fine di moderare questo tipo di contenuti potenzialmente ingannevoli se non pericolosi, i creator devono utilizzare “uno sticker o una didascalia” che dichiarino esplicitamente il contenuto “come sintetico, falso, non reale o alterato”. Sarà il sistema di moderazione della piattaforma, basato anch’esso sull’intelligenza artificiale, a “identificare i contenuti che violano le nostre Linee Guida” e quando viene “rilevata una potenziale violazione, il sistema di moderazione automatizzato la rimuove automaticamente”.
La lotta ai synthetic media, cioè i deepfake, inizierà a partire dal 21 aprile quando su TikTok entreranno in vigore le nuove regole aggiornate della piattaforma social, che introdurranno novità non soltanto nell’ambito di contenuti creati con l’intelligenza artificiale ma anche in materia di consultazioni elettorali, razzismo e contenuti che violano le norme della community.
