Quando parliamo di paura della Intelligenza Artificiale o dei nostri bias che ci fanno percepire la realtà con una lente diversa, stiamo sempre parlando di qualcosa che può essere studiata e analizzata. La domanda se un dubbio sia una questione etica o tecnologica sorge spesso. È qualcosa che non possiamo fare o qualcosa che non vogliamo fare? Perché?
Leggendo il paper della nuova ricerca di Google sulla generazione di immagini a partire da un soggetto predefinito chiamato DreamBooth, mi sono imbattuto dopo la disquisizione tecnica, gli schemi e le immagini di esempio, nel paragrafo “Societal Impact“.
Il team è consapevole del potenziale uso scorretto del loro lavoro e si riserva di analizzare in future ricerche un modo per porvi rimedio. È la stessa problematica vista con i Deepfake, soprattutto nella generazione di video per adulti. Un altro modello di generatore di immagini, Midjourney, ha un lungo elenco di parole bannate.
Eliminare scene, immagini e possibilità è un’altra strada percorribile, ma questo porterà in futuro i modelli di AI a rispettare la morale di un popolo? Le leggi di un particolare stato? L’etica dell’azienda che lo ha creato? La visione del mondo di chi lo ha implementato?
Questa è già di per sé una domanda etica o tecnologica? Non potere creare immagini che parlano di droga o di violenza è giusto o si limita la possibilità di chi lavora nel sociale, e scrive articoli per sensibilizzare l’opinione pubblica, di avere uno strumento innovativo per fare bene il suo lavoro?
È accettabile creare un’immagine osé di una ragazza di 14 anni? In alcuni stati è già l’età del consenso, in altri no.
È lecito creare il volto di una donna senza velo? O l’immagine di una donna che allatta?
Ogni nostra scelta porrà un limite che potrebbe essere culturalmente inaccettabile, o incomprensibile o offensivo, per qualcun altro. Creare la “nostra” AI include già una nostra visione del mondo.