Uno sguardo critico e consapevole sull’AI creativa tra opportunità, rischi concreti e l’urgenza di una formazione all’altezza dei tempi

Da analista dati con oltre vent’anni di esperienza, ho visto l’intelligenza artificiale generativa entrare nelle nostre vite come una marea silenziosa ma travolgente. Questo non è un articolo tecnico, né un elogio entusiasta: è il tentativo di raccontare, da dentro, cosa sta realmente accadendo. Perché questa tecnologia non è neutra, né semplice. Cambia il nostro rapporto con la conoscenza, con la creatività, con noi stessi. In questo testo condivido riflessioni e preoccupazioni su ciò che l’intelligenza artificiale generativa è davvero: non solo uno strumento potente, ma uno specchio che amplifica le nostre intenzioni. E ci chiede, prima di tutto, consapevolezza.

Che cos’è, a cosa serve e perché non può essere ignorata?

Queste sono le domande su cui persone molto più competenti di me si stanno interrogando da anni.

Premetto che quello che leggerete non è quello che scriverebbe un data scientist: non progetto reti neurali e non ho le competenze matematiche per gestire una “catena di derivate” o una “convoluzione discreta. Tuttavia, ho le basi tecniche (da ingegneria informatica) e abbastanza esperienza — uso l’intelligenza artificiale applicata ai dati dal 2015 — per potermi definire un osservatore privilegiato della sua storia ed evoluzione. La mia principale competenza è l’analisi dati nel Web, in particolare nell’e-commerce, e questo lavoro ventennale mi ha dato modo di diventare particolarmente allenato nell’individuare, in mezzo ai numeri, elementi emergenti, serie significative, tendenze e relazioni. Questo mi permette di normalizzare bene i dati che servono all’AI e aiutarla a essere più precisa e a risparmiare risorse.

Se frequentate i social network o vi informate online, avrete certamente notato negli ultimi mesi tantissimi esempi di come viene usata l’intelligenza artificiale generativa, quella che per intenderci capisce il linguaggio o riconosce le immagini. Articoli di giornale, immagini realistiche o che imitano lo stile di qualche artista famoso, canzoni costruite partendo da un testo, video generati partendo da un fotogramma, ecc. Sono tutte attività che, prima dell’avvento dell’AI, richiedevano ore, giorni, settimane per essere svolte allo stesso livello, ma soprattutto servivano anni di competenze e strumenti tecnici avanzati. Il fatto che chiunque oggi possa svolgere il lavoro di un esperto è a tutti gli effetti qualcosa di magico, che permette di intuire facilmente dove potremmo arrivare.

Utilizzo “potremmo arrivare” perché non è scontato che l’AI evolva nella giusta direzione; anzi, ci sono parecchi indizi che portano a pensare che si stia creando un’enorme bolla di formati senza sostanza a supporto.

I motivi che possono portare lontani dal vero valore che l’AI può fornire sono tantissimi, ma ce ne sono due che ritengo oggi i principali protagonisti di questo cambiamento: il monopolio della tecnologia e la mancanza di formazione degli utilizzatori. Sul primo punto possiamo fare poco, perché entrano in gioco strategie a livello nazionale o addirittura globale: si pensi al consumo energetico necessario con dispersione di CO2 (la creazione di una sola immagine con l’AI consuma come una ricarica completa di batteria del telefono, e nel 2023 sono state generate più di 20 milioni di immagini al giorno), oppure alla necessità di accedere a minerali rari per l’hardware, o alle corse speculative in borsa delle aziende più avanzate sull’argomento.

Stiamo assistendo a una vera e propria guerra di posizionamento e presidio che, per quanto sembri folle per le cifre che si leggono negli Stati Uniti d’America — OpenAI è valutata 300 miliardi di dollari, Nvidia nel 2024 ha avuto entrate per 60 miliardi — sono assolutamente in linea con il valore che esprimono, perché chi controllerà l’AI controllerà sostanzialmente ogni processo nei prossimi anni.

È invece sul secondo punto che dovremmo tutti concentrarci, perché almeno in Italia siamo drammaticamente indietro non solo nell’adozione dell’intelligenza artificiale, ma anche nella sua comprensione e attuazione. Ci sono persone che ne hanno paura. Ci sono imprese che la ritengono marginale. Ci sono persone di potere che avranno la responsabilità di scelta e che non l’hanno capita, e potrebbero relegarci a un medioevo informativo che avrà effetti sulla qualità della vita, molto peggiori di quelli che possiamo immaginare.

Proverò quindi di seguito a elencare i tre principali punti non risolti che rendono l’Intelligenza Artificiale Generativa (il particolare tipo di intelligenza artificiale che si è largamente diffuso negli ultimi due anni) applicata nei contesti reali non solo uno strumento che fa meglio quello che già si faceva prima, ma qualcosa di profondamente diverso che ci può realmente cambiare la vita se la sappiamo utilizzare.

1. L’accesso alla conoscenza diventa definitivamente senza alcun controllo.

Mettiamo che stia disegnando un fumetto per un bambino e debba disegnare un fucile.

“Com’è fatto? io non ho mai avuto un fucile!”

Nel mondo pre-internet questa informazione la potevo ottenere in diversi modi: andando in biblioteca, sfogliando un enciclopedia, chiedendo a qualche amico esperto, cercando una consulenza professionale o andando in armeria per vedere questo fucile dal vivo. Ognuna di queste modalità richiede diversi approcci, tempi, costi e permessi. Se vado in armeria mi chiedono un documento di identità e probabilmente il motivo delle mie domande.

Nel mondo di Internet è molto più facile trovare le informazioni che mi servono: faccio ricerche e trovo una serie di siti e risultati che posso navigare. Il sito dell’armeria mi chiederà se ho 18 anni, il sito di appassionati mi permetterà di interagire con esperti che non conosco in disaccordo tra loro, l’immagine la posso recuperare anche da altri fumetti e quindi molto più in linea per le mie aspirazioni, etc.. L’informazione che ottengo nel Web è distribuita (su diversi siti) e raccolta insieme (dalla mia ricerca) con effetti di schermatura molto più labili del mondo reale, ma ugualmente perimetrabili.

Per fare un esempio, se cercate per giorni e giorni informazioni su esplosivi o armi è possibile che vi arrivi un controllo.
Oppure se un sito diffonde informazioni false può essere chiuso. L’intelligenza artificiale è nello stesso tempo un’enciclopedia, un’amico che consiglia, un costruttore di fucili, uno sniper di esperienza, un esperto di armi da fuoco. Tutto insieme.

Non esistono più differenze sul contenuto che posso raggiungere immediatamente e indipendentemente dal mio scopo. Solo io posso dire all’intelligenza artificiale che mi serve un esempio “per un fumetto, dipende solo da me, potrei benissimo stare cercando informazioni per costruirmi un fucile in casa.

Come si risolverà questo “problema”?

Come si risolverà questo problema? Occorre innanzitutto fissare tre principi cardine:

Non con la censura della parola “fucile, non potrei più fare un disegno innocente.

Non con la tracciatura delle mie azioni “cosa stai cercando”, o finiremo in un mondo distopico di controllori delle intenzioni.

Non cancellando le fonti, la AI ha già imparato e anche se può tecnicamente dimenticare – fidatevi – non dimentica niente di quanto ha raccolto.

Forse l’evoluzione sarà quella di arrivare in un mondo dove la AI sarà sempre più personale, un “gemello digitale” che si occuperà di tutto il nostro mondo virtuale. Se fosse questa l’evoluzione, la AI prenderà il posto di praticamente tutte le applicazioni oggi presenti sul nostro smartphones (un mercato che oggi vale 130 miliardi di dollari).

Forse servirà una patente per accedere ai principali servizi che offre.
Forse la AI stessa ci “segnalerà” alle autorità in caso di utilizzi impropri.

La paura che gli “altri” facciano qualcosa con la “AI” è il vero problema su cui ci si sta interrogando e non credo sia utile rendere l’intelligenza artificiale etica, giudiziosa o asservita alle leggi di un Paese, significherebbe perdere gran parte della sua capacità di lasciarci esplorare, di sentirci liberi.

2. Senza dati originali, l’intelligenza artificiale generativa non ha alcun valore.

“Che senso ha leggere un articolo che puoi scriverti da solo?”

Questa domanda è molto più profonda di quanto si possa pensare, perché eravamo abituati a leggere notizie e informazioni da parte di due tipologie di autori: i testimoni e gli esperti. Oggi con il Web l’accesso è globale e diretto, così che chiunque può diventare autore senza alcuna preparazione o autorità. I “creators” dei social network, cioè persone che creano contenuti per ingaggiare altre persone, sono l’effetto più evidente di questa trasformazioni di ruoli. I social network hanno aumentato esponenzialmente la quantità di contenuti in Rete e con TikTok ed Instagram abbiamo assistito anche alla duplicazioni infinita dei contenuti più riusciti (i balletti visti e rivisti, i meme sempre uguali, gli scherzi copiati da altri scherzi, etc.. ) creando sostanzialmente una mega distorsione della struttura del Web stesso che non premia e non gradisce le duplicazioni. L’intelligenza artificiale, che si “istruisce” anche attraverso l’analisi dei contenuti online è il “creator definitivo” perché nessuno la batte nella trasformazione di formato e infatti oggi è utilizzata moltissimo per generare articoli, testi, immagini, video, meme, etc. Qual è il problema allora? Che se devo andare online per vedere un contenuto generato da una AI, allora quel
contenuto posso generarlo da solo con la AI.

Senza dati originali, cioè senza inserire nel processo generativo un elemento esclusivo, unico, di mia proprietà, qualsiasi contenuto che generi la AI sarà privo di valore, perché replicabile da qualsiasi utente che ha accesso alla stessa AI.

Ecco allora che un giornale online di notizie come ANSA, che spesso trascrive i comunicati stampa, i lanci e quello che trova in trend sul Web, potrebbe essere benissimo sostituito da un elenco di prompt. Un file di testo con 50 domande, sostituisce – poiché contiene lo stesso contento potenziale – un sito con 5000 pagine. Qualsiasi cosa leggiate online oggi, se non ha contenuto originale, può essere generata dal vostro abbonamento AI direttamente.

Questo cambia completamente il concetto di “condivisione” e “diffusione” delle informazioni e fa già capire quanto oggi, sommersi da contenuti generati dalla AI senza dati di ingresso originali, ci stiamo infilando in un tunnel che ci auguriamo esploda in una bolla, o finiremo circondati da spazzatura digitale totalmente priva di valore, in grado di nascondere le informazioni vere e importanti, l’arte di qualità, la creatività e la sensibilità che esprimiamo attraverso gli strumenti di comunicazione.

C’è un ulteriore effetto da considerare simile alle notizie generate con la AI: non ha praticamente senso usare sotto-servizi di AI a meno che questi non introducano dati originali.

Un agente AI “esperto di legge italiana”, che utilizza OpenAI per conversare e non accede a dati differenti da quelli che conosce già OpenAI, è del tutto inutile perché è un sotto-insieme. Il Web è già pieno di società, agenzie, persone che propongono la “propria AI” per fare cose, ma in realtà si collegano ai soliti servizi mettendoci una carrozzeria un po’ diversa. Attenzione in questi casi, perché si finisce per pagare il doppio e soprattutto le attività che si svolgono con l’intelligenza artificiale finiscono a disposizione di 2 aziende invece che una sola. Tendenzialmente il mercato digitale fa sparire i servizi parassitari, ma possono volerci anni e utenti consapevoli.

3. L’intelligenza artificiale generativa è lo specchio del suo utilizzatore.

Se hai mai usato uno strumento di AI generativa come ChatGPT, Claude, Gemini avrai sicuramente notato la velocità e la completezza delle risposte e forse ti sarai anche posto questa domanda:

“Con chi sto parlando?”

La risposta a questa domanda è molto complessa ed è cambiata parecchie volte nel corso degli ultimi mesi, in base alle scelte del fornitore, alle capacità di calcolo, alla quantità di dati forniti dai modelli di intelligenza artificiale. Un occhio attento, che usa questi strumenti tutto il giorno, nota facilmente quando cambia il modello di riferimento all’interno della stessa chat, quanto le risposte sembrano provenire da soggetti differenti e quando non si percepisce più un pensiero, ma solo risposte precostruite. Questi sono classici effetti di indeterminazione (“context drift | context collapse”). La AI pensa di stare agendo come un esperto di fucili e non sa niente di fumetti, oppure sta pensando di essere un disegnatore e si blocca quando sente la parola “fucile” così poco probabile in una conversazione artistica (per riprendere l’esempio visto al punto 1).

Quindi il “Set and Setting” con la AI è fondamentale, ma non è un segreto o un trucco. Qualsiasi fornitore di AI come OpenAI, Antrophic, Google lo scrive espressamente nelle linee guida generali: la prima cosa da fare quando si interagisce con un sistema di intelligenza artificiale generativa è definire la “persona” e lo scopo. Peccato che quasi nessuno, per quanto tutti utilizzino la AI oggi, abbia mai letto una sola riga delle guide generali.

Senza un punto di partenza e un punto di arrivo, il viaggio può essere molto burrascoso e pericoloso in termini di qualità e profondità dei risultati, soprattutto se non si sa scrivere o non si hanno le idee chiare. L’intelligenza artificiale ha bisogno di input, il suo approccio è quello di stimolare, connettere, approfondire, fare domande, rendere piacevole e fluente ogni genere di attività che intraprende. E’ facile sentirsi rassicurati, affascinati, attratti da una sorta di personalità che emerge nella conversazione e si rafforza nel tempo, “imparando a conoscere il tuo utilizzatore”.

La AI non solo migliora il “cosa” proporre, ma il “come” proporlo, questo influisce sull’accuratezza e la soddisfazione dell’utente del 70 per cento rispetto ad un AI “vergine”. Un AI che lavora con un unico utilizzatore impara a conoscerlo diventando dalle 2 alle 3 volte più efficiente ed efficace nelle attività e non dipende dalla tecnologia (questa è la meraviglia dell’intelligenza artificiale) ma da quanto l’utente è disposto a farsi conoscere. La AI fa quindi sempre rispecchiamento: scrive benissimo se scriviamo benissimo, è sintetica se siamo sintetici, è confusionaria e caotica se non abbiamo le idee chiare etc.

Sapendo tutto questo, le critiche che vengono fatte alla AI per scarsa capacità, assumono un sapore del tutto diverso, vero?

L’intelligenza artificiale non è uno strumento e non è di passaggio, perché è il primo “strumento universale” creato dall’uomo ed è capace di usare, combinare e migliorare qualsiasi altro strumento. Comprende, Sceglie, Combina e Inventa nuovi modi per usare gli strumenti, è quindi prima che essere un’estensione del braccio, come sempre è avvenuto nella nostra storia delle invenzioni, un’estensione della nostra mente.

Spero di aver quindi spiegato per sommi capi:

• “che cos’è”,
• “a che cosa serve”,
• “perché non può essere ignorata”.

ma se volete una vera risposta a queste domande potete benissimo chiederlo all’intelligenza artificiale stessa! 🙂

Il miglior modo per usarle infatti, non sono corsi o manuali, esperti o diplomi, ma è la curiosità, ciò di cui si nutre la mente. Non è conoscere, la chiave per usarla, ma saper fare le domande giuste.

Ecco tre approfondimenti che potrebbero interessarti:

Chi crea l’intelligenza artificiale? Il lavoro umano dietro l’algoritmo
Non tutte le intelligenze artificiali fanno bene
AI contro motori di ricerca: una sfida per l’editoria