Midjourney AI, algoritmo creato per generare immagini, offrirà un servizio per modificare anche foto esistenti. Polemiche per il rischio di abusi e illeciti
Midjourney, una delle più importanti piattaforme di intelligenza artificiale generativa, con algoritmo specializzato nella creazione di immagini, sta per lanciare sul mercato un nuovo modello che potrà essere utilizzato da chiunque e permetterà di modificare foto già esistenti con AI. In base alla descrizione fatta dal Ceo della società David Holz per anticipare il progetto, il servizio funzionerà mettendo in pratica le istruzioni date dagli utenti personalizzando a piacimento le immagini caricate sul sito.
Questo significa che qualsiasi persona che utilizzi la piattaforma potrà usare anche fotografie personali o di altri prese da internet per poi cambiarne le caratteristiche come lo sfondo, i colori, o altri dettagli. La nuova funzione offerta però sta già sollevando varie polemiche, perchè come sostengono molti, potrebbe contribuire ad aumentare il rischio di creare contenuti pericolosi che possono portare ad azioni illecite e reati che già sono molto diffusi, come ad esempio i deepfake, gli abusi e le violazioni di copyright.
Midjourney lancia servizio AI per modificare sul web foto esistenti, il Ceo: “Funzionalità limitate per evitare rischio usi illeciti”
Il modello di intelligenza artificiale Midjourney, creato per la creazione di immagini a partire da una descrizione dell’utente, renderà presto disponibile il nuovo servizio che permetterà a tutti di poter modificare anche foto già esistenti. La piattaforma AI consentirà infatti l’upload delle foto già presenti negli archivi del computer o del telefono ma anche prese dal web, e partendo da queste si potrà poi intervenire su alcuni dettagli. Il Ceo dell’azienda sviluppatrice ha rassicurato in merito alle critiche espresse da molti sul rischio di utilizzi illeciti, affermando che l’algoritmo non sarà in grado di modificare la scena o le persone presenti nell’immagine ma soltanto sfondo e colori. Almeno inizialmente.
Tuttavia, c’è ancora chi si interroga sul potenziale pericolo che questo tipo di strumenti può rappresentare. Anche perchè sembra che Midjourney stia andando nella direzione opposta rispetto ai principali concorrenti che stanno sviluppando modelli di AI che puntano sempre più sulla sicurezza, aggiungendo anche una etichetta obbligatoria che deve informare quando un contenuto è stato modificato o generato da un algoritmo. Queste azioni sono importanti, come ha evidenziato il sito di informazione Techcrunch.com, per limitare la diffusione di deepfake dannosi e fuorvianti per i quali secondo un recente sondaggio YouGov, l’85% degli americani si è dichiarato seriamente preoccupato.
