Buon compleanno, ELSA! Dodici anni di auto elettrica con la stessa batteria
31 de Março de 2023, 15:33
L’abbiamo acquistata a circa 10.000 euro quando aveva già sette anni e 25.000 km percorsi, e quindi nei quattro anni in cui l’abbiamo usata abbiamo fatto lo stesso chilometraggio che aveva percorso nei sette precedenti.
Anche se l’autonomia di 90-100 km è limitante, continua a darci tante soddisfazioni per tutti gli spostamenti locali per i quali l’abbiamo acquistata: trova sempre parcheggio grazie alle sue dimensioni minime (3,5 m di lunghezza, 1,5 di larghezza) e si disimpegna snellamente e silenziosamente nel traffico, cosa che non posso dire di TESS, la Tesla Model S che usiamo per i viaggi lunghi e che è comodissima per quei viaggi ma è troppo ingombrante (5 metri per 2,2) per il traffico cittadino, non entra del tutto in molti parcheggi multipiano ed è sempre un rischio su qualunque rampa per via del suo passo molto lungo e della sua altezza da terra ridotta.
Il degrado naturale della batteria di ELSA si nota soltanto durante la carica rapida (20-40 kW), che ora si ferma automaticamente al 72% invece che all’80% standard. Per la carica lenta (a 2,3 kW) non è cambiato nulla.
Buon compleanno, ELSA!
Podcast RSI - Story: Come “hackerare” un universo
31 de Março de 2023, 5:59
È disponibile subito il podcast di oggi de Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto: lo trovate presso www.rsi.ch/ildisinformatico (link diretto) e qui sotto.
Le puntate del Disinformatico sono ascoltabili anche tramite feed RSS, iTunes, Google Podcasts e Spotify.
Buon ascolto, e se vi interessano il testo di accompagnamento e i link alle fonti di questa puntata, sono qui sotto.
---
[CLIP: MATRIX (rimontato per brevità)]
Una recentissima lettera aperta firmata da Elon Musk e da numerosi ricercatori di punta nel campo dell’intelligenza artificiale chiede una moratoria sullo sviluppo delle grandi intelligenze artificiali, che nel frattempo sono diventate capaci di creare immagini sintetiche indistinguibili dalla realtà e hanno comportamenti così umani da far venire a molti il dubbio che siano senzienti. Mark Zuckerberg e altri grandi imprenditori, intanto, ci propongono di trascorrere buona parte della nostra vita nel metaverso, in una sorta di realtà simulata. Dal complottismo alle fake news alla cosiddetta “post-verità”, sembra che l’umanità ultimamente abbia grossi problemi di gestione della realtà.
O forse il problema è proprio la realtà. Vent’anni fa, il filosofo Nick Bostrom della Oxford University scrisse un articolo fondamentale sulla possibilità di una realtà simulata, argomentando che c’è un 20% di probabilità che stiamo vivendo all’interno di un computer supersofisticato, come ignari topi digitali che scorrazzanno in un labirinto inimmaginabilmente intricato per il diletto dei gestori di questa simulazione. Film come Tron, Inception o Matrix e alcune puntate di Star Trek [per esempio La nave in bottiglia o Ship in a Bottle] hanno reso molto popolare questo concetto, aiutando a dargli una patina di tecnologia che ha in parte rimpiazzato il misticismo dei filosofi e anche delle religioni, che in sostanza affermano che viviamo in un universo creato – e in alcuni casi gestito minuziosamente – da un essere superiore: in altre parole, una simulazione.
Questa è la storia di quest’idea e delle sue basi scientifiche, ma è soprattutto la storia della proposta che nasce da quest’idea: se l’universo in cui viviamo è una simulazione, esiste un modo per sfruttarne qualche bug e uscirne? Sarebbe il più grande “hackeraggio” di tutti i tempi.
Benvenuti alla puntata del 31 marzo 2023 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io sono Paolo Attivissimo: seguitemi, e andiamo a scoprire insieme quanto è profonda la tana del bianconiglio.
[SIGLA di apertura]
L’ipotesi che tutto l’universo e la nostra intera esistenza siano sofisticate simulazioni sembra un viaggio mentale molto metafisico e astratto, ma in realtà viene presa in considerazione in maniera molto seria da numerosi scienziati. Almeno dai tempi di Platone e Cartesio, i filosofi esplorano l’idea che la realtà sia un inganno. In epoca digitale quest’idea si è trasformata, passando da inganno o illusione a simulazione computerizzata. Per esempio, nel 2020 l’astronomo David Kipping ha ripreso le ipotesi del filosofo Nick Bostrom e ha pubblicato sulla rivista scientifica Universe un articolo in cui ha dedotto, usando un cosiddetto approccio bayesiano al problema, che le probabilità che noi tutti viviamo in una simulazione sono circa il 50%.
Questo risultato non va interpretato come una conferma scientifica che la realtà sia quasi sicuramente un’illusione informatica, ma semplicemente come un calcolo che se esistono le simulazioni di universi, abbiamo grosso modo il 50% di probabilità di essere in una di esse. Ma quel se è una premessa enorme, tutta da dimostrare, nonostante affermazioni iperboliche di personaggi come Elon Musk, che a giugno 2016 dichiarò che secondo lui “la probabilità che ci troviamo nella realtà di base è una su miliardi” (“The odds that we’re in base reality is one in bilions”).
[CLIP: dichiarazione di Musk]
Il ragionamento di fondo dietro quest’idea si basa sulle attuali tendenze della tecnologia, dalla realtà virtuale all’intelligenza artificiale. Stiamo imparando molto rapidamente a creare videogiochi sempre più sofisticati, nei quali gli oggetti si comportano in base alle leggi della fisica e ci sono personaggi che agiscono simulando i comportamenti di entità intelligenti, come per esempio Trevor in GTA o Cortana in Halo. Stiamo facendo lo stesso con le simulazioni scientifiche, ricreando dentro computer sempre più potenti rappresentazioni sempre più sofisticate dei fenomeni fisici che osserviamo.
In informatica è normale usare macchine virtuali, ossia software che simulano interi computer. Un Windows installato su una di queste macchine virtuali è del tutto inconsapevole che il “disco rigido” sul quale legge e scrive dati, la sua “memoria” e il suo “processore” non esistono realmente e sono solo finzioni modificabili a piacimento dal gestore del computer vero, fisico, che contiene la macchina virtuale.
Secondo Rich Terrile, scienziato presso il JPL della NASA, basta estrapolare queste tendenze per qualche decennio per arrivare a un punto in cui vivremo, dice, in una “società nella quale esistono entità artificiali che vivono dentro delle simulazioni e sono molto più numerose degli esseri umani”. Se immaginate ChatGPT integrato in ogni smartphone, smartwatch, lavatrice, forno a microonde e automobile, è facile capire che questa previsione non è affatto così fantasiosa come potrebbe sembrare di primo acchito. E Terrile prosegue dicendo che “se in futuro ci saranno più persone digitali che vivono in ambienti simulati di quante ce ne siano oggi, chi ci dice che non facciamo già ora parte di tutto questo?” Aggiunge anche che forse queste idee oggi ci sembrano assurde e sconvolgenti quanto lo era qualche secolo fa l’idea che la Terra non fosse il centro dell’universo.
L’ipotesi della simulazione non è affatto condivisa da tutta la comunità scientifica, ma risolverebbe parecchi problemi e molte complicazioni e anomalie della fisica più avanzata, un po’ come l’ipotesi copernicana che la Terra fosse solo un pianeta dei tanti che orbitano intorno al Sole risolse tantissime complicazioni che gli astronomi avevano introdotto per cercare di tenere in piedi la teoria geocentrica.
Proviamo ad andare oltre con questa ipotesi: come faremmo ad accorgerci di essere in una simulazione? E se ce ne accorgessimo, ci sarebbe un modo per uscirne? Per farlo ci può venire in aiuto Mario di Super Mario World.
Super Mario World edita il proprio universo
Nel 2017 è stato pubblicato su YouTube un video, a firma di SethBling e Cooper Harasyn, che ha dimostrato che è possibile installare un editor esadecimale in una cartuccia standard di Super Mario World usando soltanto dei movimenti estremamente specifici di Mario, senza iniettare codice dall’esterno. Questo editor permette di cambiare le regole del gioco, per esempio dando a Mario poteri telecinetici. In altre parole, se Mario fosse sufficientemente intelligente, potrebbe scoprire e mettere in atto questa modifica delle regole di base del proprio universo, che è una simulazione dentro un computer (o più specificamente, dentro una console di gioco).
Sembra una scoperta da nerd dei videogiochi, ma casi come quello di Super Mario World sono stati presi dall’informatico Roman Yampolskiy, dell’Università di Louisville, in Kentucky, come spunto per provare a trovare conferme o smentite dell’ipotesi della simulazione.
Yampolskiy attinge al lavoro di altri ricercatori per suggerire metodi informatici per sondare l’ipotesi: per esempio, potremmo creare nella nostra realtà tantissime simulazioni che richiedono grandissime potenze di calcolo o la risoluzione di un paradosso non calcolabile. Se il nostro universo è una simulazione, il supercomputer sul quale gira dovrebbe simulare queste simulazioni onerosissime e potrebbe quindi rimanere a corto di risorse, creando rallentamenti, perdite di risoluzione o altre anomalie rilevabili, che dimostrerebbero che viviamo in un universo simulato. Oppure si potrebbero cercare dei difetti nella simulazione che permettono di alterare le sue regole dall’interno compiendo delle azioni apparentemente senza senso molto specifiche, esattamente come fa Mario per creare l’editor esadecimale all’interno di Super Mario World.
Noi finora non siamo stati capaci di trovare questi difetti, ma Yampolskiy e colleghi argomentano che se costruiamo intelligenze artificiali sempre più potenti, che a loro volta ne costruiranno altre ancora più capaci e così via, prima o poi inevitabilmente diventeranno abbastanza intelligenti da trovare loro questi glitch nella simulazione, se esistono.
Una scoperta del genere ovviamente confermerebbe l’ipotesi della simulazione, e potrebbe anche offrire gli ingredienti per il passo successivo: il jailbreak, ossia la fuga dall’universo simulato verso quello reale. I topi del laboratorio, diventati superintelligenti, troverebbero l’uscita del labirinto e andrebbero a conoscere i loro sorveglianti.
Yampolskiy elenca anche alcune idee di fuga che sono già state messe alla prova e non hanno ottenuto alcun effetto. Per esempio, il fatto che a un certo punto della storia umana abbiamo concepito l’ipotesi della simulazione, o in altre parole il fatto che i topi hanno capito che forse vivono in un labirinto artificiale, non ha cambiato le cose.
Anche attività computazionalmente molto onerose, come il mining di bitcoin o l’uso di complicatissimi strumenti scientifici che analizzano la struttura di base dell’universo, come l’LHC, non hanno creato anomalie osservabili. Anche dire ad alta voce “Non do più il mio consenso a esistere in una simulazione” non funziona; provateci pure, preferibilmente non in pubblico.
Forse siamo, per ora, ancora ben lontani dai limiti di potenza di calcolo di chi ci sta ipoteticamente simulando. Oppure quando li stiamo per raggiungere, qualcuno guarda caso chiede una moratoria sullo sviluppo delle intelligenze artificiali.
Ops, tesoro, ho mandato in crash l’univ...
È abbastanza surreale, e può sembrare magari ridicolo, che scienziati, informatici e pubblicazioni serie come Scientific American e tante altre dedichino tempo e spazio all’ipotesi della simulazione, ma esercizi di riflessione come questi spesso portano a intuizioni e risultati inaspettati e utili.
Per esempio, Roman Yampolskiy nota che esiste un forte parallelo fra l’idea dell’umanità racchiusa in un ambiente simulato e uno dei problemi più pressanti dell’intelligenza artificiale, ossia il suo contenimento: proprio quello richiesto dalla recente lettera aperta firmata da numerosi scienziati.
Il contenimento o confinamento o boxing è uno strumento di sicurezza per le intelligenze artificiali che tenta di limitare le capacità di queste intelligenze di causare danni. La letteratura scientifica indica che un boxing a lungo termine è probabilmente impossibile, perché prima o poi l’intelligenza artificiale per sua natura troverà il modo di evadere, magari banalmente sfruttando la compassione dei suoi gestori umani e dicendo di soffrire nella sua prigione virtuale (come avviene nel film Ex Machina). Ne abbiamo già visto un piccolo esempio con la vicenda di Blake Lemoine, l’ingegnere di Google che a giugno 2022 sosteneva che il software di intelligenza artificiale LaMDA fosse senziente e meritasse diritti e protezioni.
Studiare l’ipotesi della simulazione, che è concettualmente analoga, permette di capire meglio i limiti pratici del contenimento delle intelligenze artificiali e quindi di prendere delle misure preventive adeguate, anche dal punto di vista etico.
E a parte questi risvolti concreti, l’idea di vivere in una simulazione ha un fascino indiscutibile, come dimostrato dai tanti libri e film e dalle numerose serie televisive e ricerche scientifiche che hanno trattato l’argomento, esplorandone anche le conseguenze estreme.
Per esempio, quando una delle simulazioni che usiamo oggi, cioè una macchina virtuale, ha dei difetti non ci facciamo problemi ad azzerarla e ricominciare; e allora gli ipotetici gestori della simulazione del nostro universo potrebbero fare altrettanto, cioè decidere di fare la stessa cosa con noi se diventiamo troppo problematici. Tentare di “hackerare” il software che gestisce la nostra simulazione potrebbe indurre un intervento dei suoi gestori, con l’azzeramento totale della nostra realtà e un reboot con una versione più stabile, e quindi forse non dovremmo nemmeno provarci. Oppure, meno drammaticamente, questi gestori stanno semplicemente aspettando che troviamo il modo di evadere dalla simulazione per accoglierci tra loro e darci il codice sorgente dell’universo.
In entrambi i casi, si tratta di ipotesi decisamente spirituali per degli informatici.
Computer, fine programma.
[CLIP: audio dell’holodeck di Star Trek: The Next Generation]
Fonti e riferimenti
Are You Living in a Computer Simulation? di Nick Bostrom, in Philosophical Quarterly (2003) Vol. 53, No. 211, pp. 243‐255.
How to Hack the Simulation?, di Roman Yampolskiy, 2022.
Elon Musk: 'Chances are we're all living in a simulation', The Guardian, 2016.
Is our world a simulation? Why some scientists say it's more likely than not, The Guardian, 2016.
A Bayesian Approach to the Simulation Argument, di David Kipping, in Universe, 2020.
Do We Live in a Simulation? Chances Are about 50–50, in Scientific American, 2020.
There's a 50% Chance We're Living in a Simulation, Study Shows, in Popular Mechanics, 2022.
Scientist Reveals How to Escape Our Simulation, in Popular Mechanics, 2023.
Fearing “loss of control,” AI critics call for 6-month pause in AI development, Ars Technica, 2023.
I distributori di sigarette italiani attaccati con messaggi pro-Cospito sono trovabili su Shodan. E ora anche su Google
28 de Março de 2023, 4:22Durante il fine settimana appena concluso numerosi distributori di sigarette in Italia sono stati violati da intrusi informatici che hanno alterato i prezzi di vendita delle sigarette, portandoli a 10 centesimi, e hanno sostituito le immagini visualizzate sugli schermi di questi distributori con immagini in favore di Alfredo Cospito, un detenuto in sciopero della fame da oltre cinque mesi per protesta contro il regime di carcere duro al quale è sottoposto.
Trovate tutti i dettagli della vicenda su Il Post. Il presidente nazionale di AssoTabaccai ha dichiarato al Corriere che gli risulta che una delle aziende interessate, la Laservideo, “utilizzi un sistema per cui è il server centrale a inviare informazioni ai distributori. Quindi hackerando il server centrale, è stato possibile entrare contemporaneamente in tutti i distributori”.
Non entro nel merito politico della notizia: segnalo soltanto che i distributori di sigarette della Laservideo sono facilissimi da trovare online tramite un comune motore di ricerca per l’Internet delle Cose come Shodan, nel quale è sufficiente immettere la richiesta
http.html:'laservideo' country:IT
per ottenere un elenco degli indirizzi IP e delle porte aperte di questi distributori. Non perdo neanche tempo a mascherare i dati, visto che reperirli è assolutamente banale:
Risulta insomma che questi distributori non sono protetti dietro una VPN, ma sono accessibili direttamente su Internet e con un normale browser tramite la porta 90:
Questo è il contenuto pubblicamente accessibile della pagina di login di uno di questi distributori:
Ovviamente non ho modo di sapere se le password di questi distributori sono robuste e diversificate, come richiederebbe la sicurezza informatica più elementare, ma sulla base di questi fatti sospetto che la tesi dell’hackeraggio del “server centrale” non sia quella più plausibile.
---
2023/03/28 9:20. Dai commenti emerge che i distributori sono reperibili anche semplicemente in Google, una volta che si sa qual è la stringa di testo che li caratterizza: è sufficiente cercare “Inserire Nome Utente e Password forniti da Laservideo”.
Inoltre Laservideo ha dichiarato pubblicamente che “Contrariamente a quanto riportato da molti organi di stampa, l'attacco hacker di sabato 25 marzo non ha riguardato i server centrali Laservideo ma ha colpito puntualmente solo una parte minoritaria dei distributori, agendo direttamente attraverso la connessione delle singole tabaccherie.”
Twitter, fine dei bollini blu “classici”. Lascio scadere il mio, vediamo che succede
28 de Março de 2023, 3:59
Twitter ha infatti annunciato il 23 marzo scorso che dal primo di aprile inizierà la rimozione dei bollini di autenticazione vecchio stile; per mantenere il bollino ci si può iscrivere a pagamento a Twitter Blue (circa 8 dollari al mese, disponibile in tutto il mondo dalla stessa data) oppure, se si fa parte di un’organizzazione, ci si può rivolgere al servizio per le “organizzazioni verificate”, che però al momento non risulta ancora operativo e costerebbe 1000 dollari al mese per l’organizzazione più 50 dollari al mese per ogni affiliato, con verifica automatica di qualunque account personale affiliato a un’organizzazione verificata.
Il bollino blu di Twitter Blue non verifica più nulla ma indica semplicemente che l’utente ha pagato l’abbonamento (e sembra che Twitter stia lavorando a un’opzione che consente di non mostrare il nuovo bollino, forse per evitare derisioni e polemiche). Qualunque spammer, troll o truffatore può aprire un account “bollinato” usando il mio nome e cognome; spetterebbe a me accorgermene e segnalare ogni volta a Twitter l’impostore.
Il nuovo sistema non offre insomma nessuna garanzia di autenticazione e quindi è totalmente inutile per chi mi legge. Di conseguenza, lascerò che Twitter mi tolga il bollino, anche perché voglio vedere che cosa succede a un account che viene “degradato”.
Secondo Elon Musk, boss di Twitter, i tweet degli account non paganti verranno resi meno visibili; “i Tweet degli utenti verificati verranno mostrati per primi”, dice Twitter Blue, parlando anche di “piazzamento prioritizzato nelle conversazioni”.
Sto usando molto poco il mio account Twitter (sono passato da qualche centinaio di tweet a settimana a poche decine); mi limito ad annunciare i miei nuovi articoli o gli eventi di interesse generale.
Continuerò a mantenere il mio account, anche se “sbollinato”, perché comunque leggo molto le notizie diffuse via Twitter da giornali e fonti specialistiche che postano soltanto lì e soprattutto perché eliminare l’account farebbe sparire da Internet tutti i tweet che ho scritto, rendendo incomprensibili le tante conversazioni che ho avuto dal 2007, quando ho aperto l’account.
Fra l‘altro, secondo le stime di SensorTower citate da TechCrunch tutta questa confusa vicenda dei bollini blu avrebbe fruttato ben poco a Twitter: circa 11 milioni di dollari in tutto, che sono una goccia nel mare di debiti nel quale si trova l’azienda. Queste stime indicano che ci sono oltre 385.000 iscritti a Twitter Blue in tutto il mondo (246.000 di questi sono in USA).
---
2023/03/28 8:30 Elon Musk ha tweetato che a partire dal 15 aprile solo gli account “verificati” potranno comparire nella sezione “Per te” di Twitter che consiglia account da seguire o leggere, e che le votazioni dei sondaggi richiederanno account “verificati”. La giustificazione, dice, è che questo “è l'unico modo realistico per gestire la presa di controllo da parte degli sciami di bot di intelligenza artificiale avanzata”. In originale: “Starting April 15th, only verified accounts will be eligible to be in For You recommendations. The [sic] is the only realistic way to address advanced AI bot swarms taking over. It is otherwise a hopeless losing battle. Voting in polls will require verification for same reason.”
Va ricordato che “verificato”, nel lessico di Twitter e Elon Musk, significa semplicemente “pagante”. Twitter non fa alcuna verifica delle identità degli utenti ma si limita ad appoggiarsi agli (eventuali) controlli di identità effettuati dai gestori dei sistemi di pagamento.
Si sta man mano concretizzando un Twitter diviso in caste: da una parte gli utenti paganti, dall’altra gli utenti gratuiti, che saranno meno visibili e non potranno partecipare ai sondaggi. Ricordo però che qualche mese fa, a novembre 2022, Elon Musk aveva dichiarato che secondo lui il “sistema di nobili e plebei” dei bollini blu era “una stronzata” (in originale: “Twitter’s current lords & peasants system for who has or doesn’t have a blue checkmark is bullshit.”). A quanto pare, dividere gli utenti in “nobili e plebei” non è più “una stronzata” quando la divisione la decide Musk.
Podcast RSI - Midjourney 5, le foto sintetiche diventano perfette. Anche per le fake news
24 de Março de 2023, 4:39
È disponibile subito il podcast di oggi de Il Disinformatico della Radiotelevisione Svizzera, scritto, montato e condotto dal sottoscritto: lo trovate presso www.rsi.ch/ildisinformatico (link diretto) e qui sotto.
Le puntate del Disinformatico sono ascoltabili anche tramite feed RSS, iTunes, Google Podcasts e Spotify.
Buon ascolto, e se vi interessano il testo di accompagnamento e i link alle fonti di questa puntata, sono qui sotto.
---
[CLIP: “Hai mai messo in dubbio la natura della tua realtà?” dalla serie TV Westworld]
Pochi giorni fa è stata presentata la nuova versione di Midjourney, un software di generazione di immagini tramite intelligenza artificiale che finalmente produce immagini fotorealistiche sintetiche sostanzialmente indistinguibili dalle fotografie reali, prive dei difetti tipici delle foto sintetiche offerte sinora.
Questo spalanca le porte a un’ondata di fake news, di notizie false accompagnate e rinforzate da immagini che sembrano documentare, con la potenza emotiva tipica delle fotografie, degli eventi che in realtà non sono mai accaduti.
Per muoverci in questo strano, nuovo mondo dovremo imparare nuovi strumenti e dovremo abituarci, come i protagonisti della serie televisiva Westworld, a mettere in dubbio anche noi la natura della nostra realtà.
Benvenuti alla puntata del 24 marzo 2023 del Disinformatico, il podcast della Radiotelevisione Svizzera dedicato alle notizie e alle storie strane dell’informatica. Io sono Paolo Attivissimo.
[SIGLA di apertura]
Le notizie false, e le foto false usate per renderle più credibili, non sono certo una novità. Le prime fotografie alterate per “documentare” eventi mai avvenuti o per creare immagini di propaganda risalgono al 1860: due celebri foto del presidente statunitense Lincoln e del generale Grant furono fabbricate mettendo le rispettive teste sui corpi di altre persone.
Nella prima metà del secolo scorso, Stalin e Mao Tse-Tung avevano l’abitudine di far rimuovere dalle fotografie ufficiali le persone cadute in disgrazia. Governi, famiglie reali e testate giornalistiche hanno spesso pubblicato immagini falsificate o pesantemente alterate. Ma nell’epoca pre-digitale queste manipolazioni richiedevano tempo e talento e lasciavano tracce vistose, facilmente riconoscibili anche a un occhio poco allenato.
Diffondere una fake news accompagnata da immagini di supporto, insomma, comportava un investimento alla portata di pochi. Con la digitalizzazione delle immagini queste manipolazioni sono diventate meno impegnative, ma sono rimaste comunque rilevabili da un occhio attento. Risoluzioni differenti delle varie parti dell’immagine, ombre orientate in modo sbagliato, pose innaturali erano i sintomi più frequenti di queste falsificazioni.
Con il passare del tempo e l’evoluzione della tecnologia, insomma, il costo di realizzazione è sceso progressivamente, mentre il realismo è aumentato ed è diventato sempre più difficile accorgersi delle alterazioni fotografiche. Ma il costo è rimasto significativo, per cui i fabbricanti di fake news si sono dovuti accontentare di usare foto reali tolte dal loro contesto originale: abbastanza efficaci, certo, ma blande e generiche, e soprattutto smentibili usando servizi come la ricerca per immagini di Google oppure Tineye.com che ne trovino la datazione e la provenienza originaria degli elementi usati per comporre la foto artefatta.
Il recente arrivo dei generatori di immagini basati su software di intelligenza artificiale e machine learning, come Dall-E o Stable Diffusion, e delle applicazioni di deepfake ha migliorato ulteriormente il realismo ma non ha risolto la questione del costo: i deepfake ben fatti richiedono potenza di calcolo e soprattutto un archivio personalizzato di immagini della persona che si vuole simulare, mentre le immagini fotorealistiche prodotte dai generatori di immagini hanno difetti ben riconoscibili con un pizzico di allenamento, come la forma mostruosa e incoerente delle mani delle persone, gli occhi spaiati e disallineati o i denti totalmente implausibili.
Ma tutto questo è cambiato con la versione 5 del generatore di immagini Midjourney, uscita il 15 marzo scorso, che partendo da una semplice descrizione testuale della foto desiderata produce immagini fotorealistiche false con luci e ombreggiature coerenti e con mani e occhi perfetti.
È giunto alla fine il momento, atteso ma non per questo meno spiazzante, di mettere in dubbio la natura della realtà di qualunque fotografia.
Lo si è visto subito, molto concretamente, quando Elliot Higgins, fondatore e direttore del collettivo internazionale d’indagine giornalistica Bellingcat, ha pubblicato su Twitter le foto dell’arresto dell’ex presidente degli Stati Uniti Donald Trump, viste in poche ore da alcuni milioni di persone.
“Trump arrestato, ci sono le foto!”
Sì, avete sentito bene: sono state pubblicate delle foto dell’arresto di Trump, che però non è avvenuto, perlomeno al momento in cui chiudo questo podcast. Le fotografie lo mostrano attorniato da poliziotti, mentre si divincola, con una manica della giacca strappata, corre inseguito dagli agenti, e infine siede sconsolato in una cella sporca e illuminata da una luce fredda e cupa.
Ma nessuna di queste immagini è reale: sono state tutte generate da Higgins usando Midjourney versione 5.
Higgins non le ha contrassegnate sovrapponendo scritte o avvertenze per avvisare che si tratta di immagini sintetiche, anche se ha scritto nel suo tweet iniziale che si trattava di immagini generate, e per il momento è abbastanza facile capire che sono false semplicemente perché descrivono un evento che nessuna fonte giornalistica, pro o contro Trump, ha confermato. Ma per le tante persone che si “informano”, per così dire, usando soltanto i social network o i forum di “informazione alternativa”, queste fotografie rischiano di essere credibili e di soffiare sul fuoco di Qanon e di altre organizzazioni complottiste e violente.
Dal 15 marzo scorso, insomma, non possiamo più fidarci di qualunque foto trovata online, perché esiste un modo facile e a buon mercato per generare migliaia di fotografie false ma estremamente credibili di qualunque persona o evento, reale o di fantasia. Foto che non possono essere smascherate dalla ricerca per immagini, visto che non sono realizzate componendo porzioni di immagini preesistenti, e che possono essere composte con estrema precisione, su misura, per esempio per screditare un avversario politico o appunto per generare fiumi di fake news su qualsiasi argomento.
Il costo irrisorio della produzione di queste immagini, combinato con la generazione automatica di infiniti testi su misura offerta da ChatGPT e simili, rende possibile un vero e proprio artigianato della disinformazione. Chiunque, con un minimo di competenza informatica, può creare e diffondere notizie false, corredate da fotografie estremamente convincenti, e guadagnare attraverso la pubblicità online incorporata in queste notizie. Tutti possiamo diventare bugiardi bottegai delle bufale, imprenditori dell’impostura, falsari fotografici provetti che avrebbero suscitato l’invidia di tanti governi e dittatori.
In un certo senso, Midjourney 5 è la democratizzazione definitiva della disinformazione. È anche la giustificazione perfetta per chiunque venga fotografato in situazioni imbarazzanti o illegali: gli basterà dire che la foto è falsa e generata dal computer per seminare il dubbio. Per contro, potrebbe anche essere la salvezza di chi viene ricattato con la minaccia di pubblicare foto intime, perché potrebbe liquidarle come produzioni sintetiche di Midjourney.
Per il momento, non c’è assolutamente nulla che impedisca l’uso di Midjourney in questo modo. Certo, le sue condizioni d’uso vietano immagini o prompt che siano “intrinsecamente mancanti di rispetto, aggressive o altrimenti causa di abusi”, e molti social network, come TikTok, richiedono che tutte le immagini falsificate fotorealistiche siano chiaramente indicate come tali, ma si tratta solo di raccomandazioni. E ci sono servizi come HiveModeration.com che cercano di riconoscere le foto sintetiche realistiche tramite sofisticate analisi matematiche, che rivelano dettagli ed errori che sfuggono all’occhio umano, ma non sono perfetti e poche persone li conoscono e meno ancora li usano.
Ma anche se tutti i generatori di immagini riuscissero a implementare regole e filtri infallibili contro la creazione di foto false e fuorvianti, ormai questi software possono essere installati su personal computer di fascia medio-alta, sfuggendo a qualunque regola o controllo. Stable Diffusion e Dreambooth possono essere addestrati a generare, su uno di questi personal computer, immagini fotorealistiche false di qualunque persona della quale si abbia un buon numero di foto del volto.
Sono false anche le mie foto
In teoria ci sarebbe una difesa perfetta contro queste falsificazioni: controllare le fonti. Se una fotografia non è autenticata da una fonte attendibile, non va creduta. Il problema è che le fonti attendibili, come per esempio le testate giornalistiche, si sono già lasciate ingannare in passato da foto false, anche nell’era pre-Midjourney, e hanno pubblicato immagini artefatte come quelle del cadavere di Osama bin Laden o della candidata alla Casa Bianca Sarah Palin. La voglia di scoop ha avuto la meglio sul metodo giornalistico, che richiede di usare solo foto di provenienza accertata.
C’è anche un altro problema decisamente inaspettato. Se non ci si può più fidare delle foto fatte da altri, perlomeno sembra logico potersi fidare delle foto fatte da noi. Ma non è così, perché è emerso che alcuni smartphone di Samsung falsificano le fotografie. Lo fanno specificamente nel caso delle foto fatte alla Luna, che è un soggetto particolarmente difficile da fotografare senza una fotocamera professionale. Samsung, infatti, ha ammesso che alcuni suoi modelli di smartphone sostituiscono la Luna fotografata con una sua immagine migliore che hanno in memoria. E non è l’unico caso, visto che era già successo con Huawei nel 2019.
Molti smartphone, inoltre, includono filtri e correzioni automatiche di cui spesso l’utente è inconsapevole: smorzano le imperfezioni della pelle e riorientano lo sguardo, per esempio. I puristi dicono che da sempre la fotografia è finzione, ma l’idea che una fotocamera sostituisca arbitrariamente parti dell’immagine è un livello di falsificazione nuovo, che va considerato con molta cautela.
Ci salvano i video. Almeno per ora
Oltre al controllo delle fonti, c’è anche un altro rimedio al fiume di falsi reso possibile da Midjourney 5: affidarsi ai video. È relativamente facile falsificare in modo fotorealistico una singola immagine fissa, ma non è altrettanto facile falsificare un video. Naturalmente esistono da tempo gli effetti speciali e gli effetti visivi digitali, ma realizzarli in modo perfetto in un video è estremamente oneroso e limitante.
Ma anche questa barriera sta crollando rapidamente. Runway Research ha presentato da poco Gen-2, un servizio online che genera interi video partendo da una descrizione testuale oppure da una singola foto. Per ora è limitato a durate di tre secondi ed è abbastanza rudimentale, ma lo era anche Midjourney solo pochi mesi fa. E un altro software, ModelScope, fa la stessa cosa di Gen-2 ma su un buon personal computer.
Gen-2 e ModelScope potrebbero essere l’inizio di un nuovo modo di fare cinema, nel quale non servono più budget colossali, scenografie e attori, ma solo e soprattutto idee interessanti. Ma l’esistenza di questi software per i falsi video low-cost significa che anche i video non possono essere più considerati prova oggettiva, a meno che siano autenticati da fonti estremamente attendibili e magari multiple.
Mai come oggi, insomma, servono persone esperte e affidabili che sappiano usare gli strumenti informatici moderni per verificare le notizie e le immagini che le accompagnano; servono giornalisti e redazioni al passo con i tempi digitali sempre più straordinari. Altrimenti anche noi, come gli androidi di Westworld, non sapremo più cosa è reale e cosa è sintetico, e dovremo mettere in dubbio la natura della nostra realtà.
Fonte aggiuntiva: Ars Technica.
