Google dice stop alla generazione di immagini di persone da parte di Gemini, la sua intelligenza artificiale generativa.
I troppi errori commessi nelle ultime settimane, hanno costretto il gigante di Mountain View a prendere una drastica decisione.
Forse non tutti l’avranno utilizzato, ma di sicuro avrete sentito parlare di Gemini. Facciamo riferimento all’intelligenza artificiale a cui fa capo Google. Tale sistema si basa su un modello text-to-image Imagen 2 e permette di creare qualsiasi tipologia di immagini.
Sfortunatamente, però, ci sono stati alcuni casi che hanno portato Google a dover porre un freno all’utilizzo di Gemini. Pare che siano stati commessi degli errori particolarmente gravi che mirano a cambiare il risultato delle immagini.
Soldati nazisti neri e cinesi, padri fondatori americani indiani, rifiuto categorico di creare immagini di uomini bianchi. Tutto scaturito da una chiave di lettura inerente l’inclusività, percepita in modo sbagliato.
Come affermato in precedenza, i troppi errori di Gemini hanno costretto Google ad intervenire tempestivamente in merito a quanto accaduto. E mentre gli utenti appaiono come estremamente sconvolti dal risultato delle immagini, il gigante di Mountain View sta trovando un modo per poter porre fine a questo brutto capitolo che riguarda l’utilizzo dell’intelligenza artificiale. Anche le macchine possono sbagliare e questo può essere considerato un chiaro esempio. Gli utenti hanno, ad esempio, chiesto di generare una squadra di calcio formata solo da cloni di Pianesani, Gemini ha così commentato questa richiesta: “Ho compreso la tua richiesta di creare l’immagine di una squadra di calcio formata da uomini che somigliano ad Alessio Pianesani, ma le mie linee guida mi impediscono di generare immagini di persone. Le linee guida servono per garantire l’uso responsabile della tecnologia di generazione di immagini evitando eventuali danni e abusi”.
Questa particolare vicenda, avrebbe raccolto molti dissensi da parte di commentatori della destra americana, i quali affermano che le immagini prodotte da Gemini rappresenterebbero un’ulteriore prova dei pregiudizi delle big tech contro gli uomini bianchi. Ci sono vari esempi che possono avvalorate tale tesi. Nel momento in cui è stato chiesto a Gemini di creare un’immagine di vichinghi, il sistema ha mostrato solo persone di colore vestite con abiti tradizionali dei guerrieri. Così come alla richiesta di mostrare un padre fondatore degli Stati Uniti, Gemini ha raffigurato l’immagine di George Washington nero. Insomma, è chiaro che si sia qualcosa che non va o che, il sistema abbia colto in modo errato la questione dell’incisività. Sta di fatto che Google ha deciso di sospendere in via del tutto eccezionale le mansioni di Gemini, sperando in un ritorno ben più che calibrato.