Negli ultimi mesi, stiamo assistendo a un fenomeno affascinante e inquietante allo stesso tempo: l’iperrealismo dell’intelligenza artificiale. Con il progredire delle tecnologie, le immagini generate dall’A.I. stanno diventando sempre più indistinguibili dalla realtà, al punto che molte persone faticano a distinguere tra immagini reali e quelle prodotte dall’A.I.

Una delle ricerche più interessanti in tal senso è quella pubblicata pubblicata sul Psychological Science , Dove viene dimostrato che i volti generati dall’intelligenza artificiale non solo sono indistinguibili dai volti umani ma che, sono percepiti come più “umani” dei volti umani reali (questo fenomeno sorprendente e controintuitivo viene chiamato iperrealismo)

Un aspetto interessante discusso nell’articolo è il cosiddetto effetto Dunning-Kruger, un bias cognitivo in cui le persone meno competenti sovrastimano le proprie abilità. In questo contesto, significa che le persone meno capaci di rilevare AI sono le più convinte di essere corrette.

Infatti, se le persone confondono i volti dell’IA con quelli umani ma hanno scarsa fiducia nel loro giudizio, potrebbero rispondere con maggiore cautela (ad esempio, indagando su un profilo online). Invece, se sono convinti che il loro giudizio sia corretto, i loro errori potrebbero essere più gravi (ad esempio, cadere più facilmente in un profilo fraudolento in rete).

Nella ricerca è stato detto ai partecipanti che avrebbero visto circa 100 volti con il compito di decidere se ciascun volto raffigurasse un essere umano reale o generato dal computer. Dopo aver deciso se un volto era umano o artificiale, i partecipanti hanno valutato la loro fiducia in ciascuna prova da 0 ( per niente ) a 100 ( completamente).

L’immagine sotto mostra i risultati dei primi 5 volti sia per le immagini reali che quelle artificiali.
Nella prima riga (a) per esempio i 3 volti sono generati dall’AI ma più del 90% non è stato in grado di identificarlo, ma quello che più sorprende e l’opposto.
Nella seconda riga i 3 volti sono reali e sono stati giudicati con una media del 86% come non reali.

La ricerca ha quindi dimostrato che l’essere umano non è più in grado di riconoscere un volto umano da quello artificiale (o che l’AI è talmente abile nell’ingannare la nostra percezione). I volti generati dell’intelligenza artificiale appaiono più “reali” rispetto alle loro controparti umane . In particolare, i partecipanti non sono riusciti a utilizzare le caratteristiche distintive del viso per il rilevamento e hanno utilizzato in modo inappropriato i diversi segnali associati (proporzioni facciali, bellezza, familiarità ecc..), producendo iperrealismo.

Le caratteristiche che “ingannano” un essere umano nell’individuare se un volto è reale o meno sono :

• Viso proporzionato
• vivacità negli occhi
• aspetto familiare
• simmetria
• volto attraente
• pelle liscia

Se sei curioso e vuoi mettere alla prova le tue abilità di rilevamento dei volti puoi farlo sul sito Which Face Is Real

Rimanendo in tema, pochi giorni fa un utente su Reddit ha superato la verifica di identità richiesta da reddit creando un’ immagine tramite AI.

Oggi è semplice creare un’immagine artificiale reale con strumenti online quali MidJourney o ChatGpt o locali come con algoritmi che utilizzano StableDiffusion.

E’ proprio grazie a quest’ultimo che l’utente ha creato un immagine ed ha superato i controlli di autenticazione del sito. Inoltre, ha rilasciato il workflow completo in modo che tutti con pochi click potessero farlo.
Il post è diventato subito virale e l’utente è stato bannato e il post cancellato

Sopra abbiamo visto che un utente ha rilasciato un workflow in modo che da una foto è possibile generare un’immagine che supera i controlli di verifica.

Ma cos’è un workflow?

Un workflow è un insieme di processi che vengono eseguiti per generare immagini utilizzando l’intelligenza artificiale. Questi workflow sono strutturati in modo che possano essere facilmente seguiti e adattati per soddisfare diversi obiettivi di creazione di immagini.
Gli utenti hanno la possibilità di assemblare un flusso di lavoro per la generazione di immagini collegando vari blocchi, denominati nodi. Questi nodi includono operazioni comuni come il caricamento di un modello, l’immissione di prompt, la definizione di campionatori e altro ancora.
Qui in foto un mio workflow che prende una (mia) foto e la trasforma in una foto in cui indosso un abito elegante (in modo che risparmio sull’abito e acquisto una nuova gpu ;)

tratto dalla mia newsletter : Metà nerd e metà..verso