L’intelligenza artificiale (AI) può creare testi, immagini, persone e interi siti Web praticamente indistinguibili, a prima vista, da quelli reali.
A questo punto la domanda viene quasi spontanea:
un’intelligenza artificiale può creare abbastanza contenuti credibili da convincere un’altra intelligenza artificiale che qualcosa di falso sia vero?
Il rischio esiste.
E per chi lavora ogni giorno con motori di ricerca e intelligenza artificiale non è neppure così sorprendente.
Un mondo inventato che sembra vero
Pensiamo a come verifichiamo normalmente un’informazione.
Troviamo un sito che racconta qualcosa. Cerchiamo conferme. Scopriamo che altri siti ne parlano. Troviamo immagini, articoli e magari recensioni.
A quel punto iniziamo a fidarci.
Ma cosa succede se anche tutte quelle conferme sono state create artificialmente?
L’intelligenza artificiale rende possibile produrre enormi quantità di contenuti coerenti tra loro con tempi e costi che fino a pochi anni fa sarebbero stati impensabili.
Ed è qui che nasce il problema.
Se possiamo influenzare Google, possiamo provare a influenzare anche le AI
Da anni esiste la SEO (Search Engine Optimization): in parole semplici, tutte quelle attività che aiutano un sito a essere trovato e compreso dai motori di ricerca come Google.
Oggi sta crescendo anche la GEO (Generative Engine Optimization): le tecniche utilizzate per aiutare servizi come ChatGPT, Gemini, Perplexity e Google AI a trovare, comprendere e utilizzare correttamente le informazioni su un’azienda, un prodotto o un argomento.
Ma dove esiste un sistema di ottimizzazione, prima o poi qualcuno prova a manipolarlo.
È successo con Google.
Potrebbe succedere con le intelligenze artificiali.
Un recente lavoro di ricerca chiamato Counter-GEO-Bench sta studiando proprio questo problema: contenuti apparentemente normali possono essere costruiti appositamente per cercare di influenzare le informazioni recuperate e utilizzate dai sistemi AI nelle loro risposte.
Oggi sappiamo che sarebbe possibile provarci
Lavorando quotidianamente con ricerca online, pubblicità e intelligenza artificiale, abbiamo ormai abbastanza esperienza per capire quanto sia diventato tecnicamente possibile costruire strutture digitali molto sofisticate.
Potremmo sperimentare anche noi in quella direzione.
Non lo faremo.
Non ci interessa capire come ingannare un’intelligenza artificiale.
Ci interessa capire che qualcun altro potrebbe farlo.
E soprattutto raccontarlo.
Il vero pericolo non è arrivare primi su ChatGPT
La questione diventa molto più seria quando usciamo dal mondo del marketing.
La stessa capacità potrebbe essere utilizzata per rendere credibili aziende, prodotti, servizi, investimenti oppure offerte che nella realtà non esistono.
Immaginiamo di chiedere consiglio a un’intelligenza artificiale prima di acquistare qualcosa.
L’AI cerca informazioni.
Trova un sito apparentemente professionale.
Trova altre fonti che ne parlano.
Trova contenuti coerenti.
Tutto sembra confermare che quell’azienda sia affidabile.
Ma se qualcuno avesse costruito artificialmente tutto quel piccolo mondo digitale?
A quel punto non sarebbe più soltanto manipolazione dei risultati.
Potrebbe diventare una truffa.
Dovremo imparare a dubitare anche di ciò che sembra vero
Per anni abbiamo imparato a non cliccare sulle email evidentemente sospette.
Adesso arriva una sfida più difficile:
fare attenzione anche quando non c’è apparentemente nulla di sospetto.
Prima di cliccare, concedere un’autorizzazione o soprattutto comprare qualcosa, diventerà sempre più importante controllare chi abbiamo davanti.
L’azienda esiste davvero? Da quanto tempo? Chi sono le persone che ci lavorano? Le fonti che ne parlano sono realmente indipendenti? Le recensioni sono credibili?
L’intelligenza artificiale ci permette di costruire cose straordinarie.
Inevitabilmente qualcuno proverà a utilizzarla anche per costruire cose straordinariamente false.
E forse la prossima grande sfida dell’intelligenza artificiale non sarà trovare più informazioni.
Sarà capire di quali informazioni può fidarsi.
Nel frattempo, una parte del lavoro rimane a noi.
Prima di cliccare, approvare o comprare, assicuriamoci che dietro una realtà digitale perfetta esista anche una realtà vera.
