Geotag:

CinaStati Uniti d’America

“La vita e i tempi di Multivac” e la moderna intelligenza artificiale

Dalla ricerca scientifica agli scenari di Isaac Asimov, l’AI ridisegna il modo in cui interpretiamo il presente e immaginiamo il futuro

Isaac Asimov e il rapporto fra fantascienza, Multivac e intelligenza artificiale
Isaac Asimov, uno dei più conosciuti autori di fantascienza di tutti i tempi, ha anticipato nei suoi scritti molte delle questioni che oggi stiamo affrontando a causa dell’avvento delle intelligenze artificiali

“La Vita e i Tempi di Multivac” (“The Life and Times of Multivac”) è un racconto di Isaac Asimov uscito il 5 gennaio 1975 sul New York Times Magazine. Secondo l’autore, fu il primo racconto di fantascienza mai commissionato e pubblicato dal NYT Magazine. In Italia è uscito il 18 dicembre 1977 sulla rivista Urania numero 738 di Mondadori Editore, nell’Antologia del Bicentenario numero 2. Chi scrive allora aveva l’interessante età di 13 anni: il cervello ancora dotato della plasticità dell’infanzia, attraversato dai cavalloni imbizzarriti della pre-adolescenza.

Il racconto è ben costruito per intrufolarsi a fondo in un cervello del genere: un’umanità post-apocalittica ridotta a 5 milioni di individui sparsi sul pianeta Terra, un supercomputer, Multivac, che soprassiede a tutto, gestendo ogni aspetto della vita degli esseri umani e mantenendoli in una soffocante bambagia digitale.

L’anelito alla libertà, a ritrovare una propria indipendenza, a ridare un senso alla propria vita porta il Consiglio degli Umani, in una riunione virtuale che oggi chiameremmo “call”, a processare il protagonista, reo di avere testimoniato contro un altro essere umano che aveva danneggiato, inutilmente, uno degli accessi a Multivac.

Ma quando sta per essere pronunciata la condanna al definitivo isolamento da ogni altra persona del pianeta, ecco il colpo di scena “alla Asimov”: il protagonista, il novantenne ma ancora giovanile Ronald Baskt, la cui propensione ai giochi matematici era stata via via ritenuta sempre più inutile dai suoi ex amici, rivela di avere topologicamente calcolato l’esistenza e l’ubicazione dell’unico snodo nella enorme e complessa rete di Multivac atto a mandarlo definitivamente in corto circuito.

E lo fa, dinanzi ai suoi allibiti accusatori: spegne Multivac, che non potrà mai più essere riattivato. Quindi, di fronte alla muta costernazione degli altri, pone la domanda fulcro del racconto.

“Stavate parlando di libertà – disse Baskt bruscamente – Adesso l’avete! Poi con un tono di voce incerto aggiunse – Non era quello che volevate?”

Le previsioni, azzeccate e no, della fantascienza

Chi, come il sottoscritto, è un “vecchio” lettore di science fiction rimane sempre stupito dalla capacità del “buon dottore”, soprannome con cui spesso ci si riferisce a Isaac Asimov, di anticipare problematiche che negli ultimi anni diventano sempre più pressanti, con mezzo secolo di anticipo.

Il fatto che lo scrittore non avesse previsto l’esistenza di Internet e degli apparecchi digitali personali non cambia minimamente l’efficacia del racconto; la complessità della rete che forma Multivac rappresenta benissimo l’odierno intricatissimo reticolo di cui siamo più o meno prigionieri, in relazione inversa rispetto alla nostra ignoranza di come tale reticolo operi.

I robot servizievoli, caratteristici del futuro allora previsto, sono diventati gli innumerevoli device di cui siamo forniti oggi, dall’ormai quasi superato smartphone agli apparecchi indossabili sempre più piccoli e spesso anche un po’ invadenti. E l’ansia di protezione, l’eccessivo zelo di Multivac nel mantenere al sicuro l’umanità non ricorda forse l’irritante sollecitudine, spesso al limite del servilismo, degli attuali LLM? Il tutto mentre il controllo asfissiante assomiglia non poco alla pubblicità sempre più personalizzata, talvolta in modo davvero inquietante, come ho avuto modo di sperimentare proprio in questi giorni. Per non parlare del nostro anelito alla libertà che si trasforma immediatamente in panico quando la otteniamo davvero.

Ma la fantascienza non è un genere letterario che vuole prevedere il futuro. In realtà è il perfetto erede della fiaba, così come la intende J.R.R. Tolkien nel suo omonimo saggio nel libro “Albero e Foglia”, con la sua capacità di analizzare la realtà attraverso il mezzo più potente che abbiamo: l’immaginazione.

Le scoperte della scienza e il ruolo dell’immaginazione

Spesso si tende a considerare scienza e fantascienza come una dicotomia:

“Questa è scienza, non fantascienza”.

Così recitava una pubblicità di qualche anno fa. In questo modo, però, dimentichiamo l’origine del significato del termine science fiction: scienza fantastica, o meglio ancora scienza speculativa.

E dimentichiamo che anche la scienza, pur nella severità metodica che la caratterizza, si basa sulla nostra capacità di immaginazione. Albert Einstein, padre della Teoria della Relatività, associava spesso il lavoro scientifico all’intuizione, all’immaginazione e al cambio repentino di prospettiva. Questi elementi sono alla base di molte delle maggiori scoperte scientifiche della storia.

Dove la scienza ha ovviamente il dovere di trasformare le intuizioni prima in ipotesi falsificabili o dimostrabili, e quindi in teorie più o meno coerenti e verificabili con l’esperimento, la fantascienza ha il potere di spingersi ben oltre con la speculazione. E non è un caso che molti ricercatori, ad esempio al MIT, come mi raccontava spesso il professor Bruno Coppi, con il quale ho collaborato un paio di anni per la comunicazione relativa al suo progetto Ignitor per la fusione nucleare, siano appassionati lettori ma spesso anche scrittori di fantascienza.

Ne abbiamo un ottimo esempio anche in Italia, seppur non sia il solo: Marco Casolino, fisico, dirigente di ricerca presso la sezione INFN di Roma Tor Vergata, docente al Dipartimento di Fisica dell’Università di Roma Tor Vergata, ottimo divulgatore scientifico e altrettanto ottimo scrittore di fantascienza.

MIT di Boston e rapporto fra ricerca scientifica, innovazione e fantascienza
Il MIT, Massachusetts Institute of Technology, di Boston, universalmente considerato uno dei più importanti e avanzati centri di ricerca universitaria a livello mondiale, è un esempio virtuoso di come l’incontro fra la scienza e la buona fantascienza possa portare a risultati positivi

Realtà, fantasia e loro distinzione

Chi poco conosce e poco ha letto buona fantascienza talvolta ritiene la stessa un genere minore, da ragazzini nerd che “fuggono la realtà”. Interessante notare che lo stesso Tolkien, ritenuto da molti il capostipite della moderna fantasy, ma che il sottoscritto considera “semplicemente” uno dei più grandi scrittori di epica del Novecento, ricusasse un’obiezione molto simile nei confronti della mitologia.

Nel già citato saggio “Sulle Fiabe”, riguardo all’associazione artificiosa fra favole e bambini, e alla confusione fra realtà e immaginazione, egli afferma:

“Io non avevo nessun particolare infantile ‘desiderio di credere’. Io volevo sapere. Credere dipendeva dal modo in cui mi venivano presentate le storie, dalle persone più anziane, o dagli autori, o dal tono e dalla qualità inerenti al racconto. Ma non ricordo che, in nessun momento, il piacere che mi dava una storia dipendesse dal fatto di credere che avvenimenti di quel genere potessero aver luogo, o avessero avuto luogo, nella ‘vita reale'”.

Niente può irritare di più un appassionato di fantascienza che sentirsi associato, ad esempio, a chi crede acriticamente all’esistenza degli UFO in quanto astronavi aliene. In realtà, una buona parte di coloro che apprezzano la fantascienza sono anche appassionati cultori di scienza. Non è un caso che in Cina, lo Stato con la più rapida crescita scientifica e tecnologica nel mondo attuale, il governo incoraggi con decisione la scrittura e la lettura di tale genere, in quanto capace di

“aprire le giovani menti”.

L’attuale polemica contro l’AI

Tornando all’argomento principale di questo editoriale, vi è molta, e giustificata, preoccupazione sulle possibili conseguenze negative di un uso spropositato delle attuali AI generative: in campo artistico-creativo, nel mondo del business, nel controllo di massa, nelle armi. Non si tratta di argomenti peregrini: i problemi esistono e sono importanti quanto le opportunità che si stanno aprendo.

Per capire meglio sia le problematiche che le opportunità facciamo un passo indietro. Quando si parla di intelligenza artificiale si parla in realtà di una serie di funzionalità piuttosto diverse, unite da un fattore comune: l’AI è capace di “programmarsi da sola”, imitando, anche se siamo piuttosto sicuri che l’intelligenza animale non funzioni proprio così, alcune funzioni del cervello. Oggi le AI più chiacchierate sono gli LLM, i Large Language Model: sono i modelli di linguaggio esteso, definiti anche AI generative in quanto capaci di generare testi, immagini, audio, video e musica su nostra indicazione.

Un LLM simula matematicamente, basandosi su funzioni statistiche, il funzionamento del linguaggio elaborato umano, che in effetti è una delle caratteristiche principali che distingue la nostra specie dalle altre. Non ha necessità di comprendere il significato reale dei termini, funziona un po’ come la “stanza cinese” di John Searle, di cui già abbiamo parlato in questo articolo. Ma ciò non le rende meno interessanti.

Grafico sulla crescita della capacità di calcolo e sulla Legge di Moore
La crescita delle capacità di calcolo dal 1900 a oggi: il grafico è semi-logaritmico, quindi la crescita “diritta” significa crescita esponenziale; ogni punto dell’asse X è una moltiplicazione per 100, ragione per cui alla fine della rappresentazione abbiamo una crescita di un fattore 10 miliardi di miliardi: l’illustrazione, che fa riferimento alla “Legge di Moore”, secondo cui la capacità di elaborazione dei processori raddoppia ogni 1 o 2 anni, è stata elaborata da Ray Kurzweil e viene costantemente aggiornata da altri ricercatori

Perché l’intelligenza artificiale è esplosa

Quando faccio vedere nelle mie classi il film “Il diritto di contare” (“Hidden Figures”), nel momento in cui una delle protagoniste spiega che il computer IBM 7090 acquistato dalla NASA nel 1961 per aiutarli nei calcoli delle traiettorie dei missili calcola

“ben 24.000 operazioni al secondo”,

fermo per qualche minuto la riproduzione e mostro questa semplice tabella:

  • 1959: IBM 7090 – 24 Kiloflops, ovvero 24.000 flops, operazioni al secondo in virgola mobile
  • 2018: iPhone XS Max – 410 Gigaflops, ovvero 410 miliardi di flops
  • 2023: iPhone 15 – 1,8 Teraflops, ovvero 1.800 miliardi di flops
  • 2024: iPhone 16 Pro – 2,4 Teraflops, ovvero 2.400 miliardi di flops
  • 2024: Apple M3 – 4 Teraflops, ovvero 4.000 miliardi di flops
  • 2025: Apple M4 Ultra – 27 Teraflops, ovvero 27.000 miliardi di flops

Seguita da questa:

  • 410 miliardi di flops / 24.000 = 17.083.333,333, ovvero 17 milioni di volte più veloce
  • 1.800 miliardi di flops / 24.000 = 75.000.000, ovvero 75 milioni di volte più veloce
  • 2.400 miliardi di flops / 24.000 = 100.000.000, ovvero 100 milioni di volte più veloce
  • 4.000 miliardi di flops / 24.000 = 166.666.666,667, ovvero 166 milioni di volte più veloce
  • 27.000 miliardi di flops / 24.000 = 1.125.000.000, ovvero 1.125 milioni di volte più veloce

Poi spiego agli attoniti allievi, almeno a quelli a cui interessa la questione, che i supercomputer attuali hanno raggiunto e superato il miliardo di miliardi di operazioni al secondo, cioè la soglia exascale, e che se avessimo delle astronavi proporzionalmente più veloci rispetto a quelle degli Anni 60, e se non esistesse il limite fisico della velocità della luce nello spazio vuoto, viaggeremmo non fra le stelle, ma fra le galassie.

In effetti, abbiamo raggiunto delle velocità di calcolo che fino a pochi anni fa sarebbero sembrate impossibili. Ed è questo uno dei fattori che ha permesso agli LLM di arrivare all’attuale efficienza.

Quindi è una semplice questione di forza bruta?

Assolutamente no.

La ricerca scientifica sull’AI va avanti da molto tempo e qui ci viene in aiuto ChatGPT:

“La ricerca sull’intelligenza artificiale ha circa 70 anni di storia.

Il termine “intelligenza artificiale” è stato coniato nel 1956 durante il Dartmouth Workshop, un convegno organizzato da John McCarthy, Marvin Minsky, Nathaniel Rochester e Claude Shannon. Tuttavia, le basi teoriche dell’IA risalgono a prima di quella data:

  • Anni 40 e 50: i primi studi sui neuroni artificiali, con McCulloch e Pitts nel 1943, e l’idea di macchine pensanti con Alan Turing e il suo test di Turing nel 1950
  • Anni 60 e 70: sviluppo dei primi sistemi esperti e dell’intelligenza simbolica
  • Anni 80 e 90: ritorno delle reti neurali grazie all’algoritmo di backpropagation
  • Anni 2000 e oggi: espansione del deep learning, con modelli sempre più sofisticati grazie alla potenza di calcolo moderna

Quindi, possiamo dire che la ricerca sull’IA ha radici profonde e si è evoluta nel corso di circa sette decenni“.

In particolare, negli ultimi anni, la messa a punto e la diffusione open source dell’architettura Transformer da parte di Google nel 2017, la disponibilità grazie alla Rete di enormi quantità di testo, l’avanzamento delle tecniche di addestramento grazie all’algoritmo di backpropagation, l’ottimizzazione dei modelli e i forti investimenti nel campo hanno portato alla situazione attuale.

Per approfondire questi argomenti in modalità divulgativa ma approfondita consiglio caldamente il corso gratuito “L’esplosione dell’Intelligenza Artificiale”, tenuto online da docenti dell’Università di Urbino.

HAL 9000 e rappresentazione cinematografica dell’intelligenza artificiale
HAL 9000, il calcolatore protagonista del film “2001 Odissea nello spazio”, è uno degli esempi più emblematici di come la fantascienza abbia concepito finora l’intelligenza artificiale: grazie a intuizioni veramente sorprendenti per l’epoca, Stanley Kubrick e Arthur C. Clarke già allora parlarono di “macchine pensanti” in grado di riprodurre, o secondo molti esperti imitare, la maggior parte delle funzioni del cervello umano

Ma quanto sono realmente intelligenti queste AI?

Innanzitutto, scordiamoci, almeno per diversi anni, HAL di “2001”, Skynet di “Terminator”, le macchine di “Matrix”, o le varie versioni di Multivac. Un po’ dispiace dirlo per un cultore di fantascienza, ma allo stato attuale siamo ben lontani dalla “macchina pensante” per come è stata presentata finora, il che per molti potrebbe risultare tranquillizzante.

Aggiungerei che la science fiction ha diversi meriti, ma anche alcune colpe.

Fra i meriti, sicuramente c’è quello di avere anticipato molte delle problematiche etiche che già oggi ci troviamo ad affrontare, in qualche modo preparandoci a quanto ci aspetta nell’immediato e nel medio futuro. E anche quello di averci abituato all’idea che, prima o poi, avremmo avuto a che fare con intelligenze “diverse” dalla nostra, cosa che effettivamente sta avvenendo.

Veniamo alle colpe.

L’eccessiva semplificazione, con le dovute eccezioni ovviamente, di molte storie di science fiction riguardanti l’intelligenza artificiale ci ha assuefatto all’errata equazione intelligenza = coscienza.

Da tempo sappiamo che non è così: pensiamo a molti comportamenti animali, a partire da quelli degli insetti organizzati in colonie, come formicai e termitai, che presentano capacità notevoli di problem solving. Nessuno è convinto che un termitaio possa essere consapevole di se stesso.

Secondo gli ultimi studi della neurologia non vi è correlazione neppure fra vigilanza e coscienza.

Infine, molta fantascienza ha creato una diffusa paranoia nei confronti delle AI, che in generale non appena si “svegliano” decidono, più o meno consapevolmente, di controllarci oppure di sterminarci. La maggior parte delle persone teme proprio questo.

Ma i problemi odierni sono ben altri, al di là di alcune dichiarazioni spesso un po’ gonfiate dalla stampa generalista o da CEO fin troppo interessati a reperire finanziamenti.

Fra bias e allucinazioni, matematica e sorprese

Tornando al concetto di modello di linguaggio esteso, o LLM, che attualmente è la tipologia di AI che colpisce di più l’immaginazione del pubblico, oggettivamente è anche quella dove vengono fatti i maggiori investimenti economici, insieme agli altri cosiddetti modelli di fondazione, o foundation models, che comprendono quelli multimodali, in grado di generare sia testo che immagini, audio e video, quelli specializzati in immagini e quelli ad apprendimento ottimizzato, o few-shot learning.

Questo ha portato inizialmente a una serie di incidenti e incomprensioni, come la convinzione di un ingegnere di Google di avere a che fare con un essere senziente, o i modelli che andarono chiusi poco tempo dopo la pubblicazione perché avevano “assorbito” i peggiori pregiudizi dalle interazioni con utenti poco raccomandabili.

Dall’uscita di ChatGPT 3.5 nel novembre 2022, l’argomento AI è diventato “di massa”, ma soprattutto ha dato il via a una corsa fra le aziende Big Tech, con un’unica eccezione, Apple, che sembra seguire una strada tutta sua, come non si era mai vista, con investimenti miliardari e successioni di dichiarazioni più o meno sensate da parte dei rispettivi CEO.

Schema dell’AI LaMDA di Google e discussione sulla coscienza artificiale
Lo schema dell’AI LaMDA di Google, di cui ci siamo occupati qualche anno fa. LaMDA fu al centro, poco prima dell’uscita di ChatGPT 3.5, di un caso mediatico basato sulle dichiarazioni di un ingegnere di Google, poi licenziato, fermamente convinto che il sistema avesse acquisito autocoscienza: questo problema di proiezione delle nostre caratteristiche umane sulle AI è uno dei problemi reali che stiamo affrontando

Abilità emergenti e allucinazione dell’AGI

In fisica esistono dei fenomeni definiti “transizioni di fase”. L’esempio più semplice è l’acqua che, al di sotto di una certa temperatura, diventa ghiaccio, mentre al di sopra di una certa temperatura diventa vapore.

Le transizioni di fase sono importanti e si presentano anche in fenomeni non prettamente fisici. Nel caso dei LLM, in un articolo scientifico pubblicato su arXiv.org nell’agosto 2022 si parla di fenomeni emergenti: capacità dell’AI non prevedibili sugli stessi sistemi a scala più piccola, che si presentano improvvisamente superato un certo livello di complessità. Transizioni di fase, appunto.

La complessità di un LLM si misura da tre fattori: numero di parametri, quantità di elaborazione, ampiezza del set di dati utilizzato per l’addestramento. Qualcuno ha pensato fin da allora che l’aumento della complessità e delle capacità di calcolo avrebbe portato a una transizione di fase pari a quella che in fisica si chiama “singolarità”, ovvero un passaggio improvviso delle AI ad AGI, Intelligenze Artificiali Generali, più potenti della mente umana e capaci di crescere in modo esponenziale modificando e migliorando se stesse. Ma ciò non è avvenuto, e oggi molti ricercatori ritengono che non siamo ancora sulla strada giusta per un’AGI, perché gli attuali algoritmi sono troppo limitati.

Apofenia meccanica e architettura delle attuali AI

L’apofenia, termine coniato dal neurologo e psichiatra tedesco Klaus Conrad nel 1958, è la tendenza umana a percepire collegamenti significativi fra fenomeni non correlati. Ad esempio, la pareidolia è una forma di apofenia che ci fa riconoscere volti o forme là dove effettivamente non esistono.

Si tratta quindi di un bias cognitivo, ovvero di una forma di distorsione della realtà, che tuttavia in molti casi si può rivelare utile nella fase creativa, se controllata dal pensiero critico. In caso contrario può invece portare a credenze e convinzioni del tutto irrazionali e avulse dal reale.

Ed ecco che, in un sistema che simula il nostro linguaggio elaborato, ma privo di qualunque esperienza del mondo e di una effettiva comprensione del significato dei termini, l’apofenia si traduce in un difetto funzionale di base degli attuali algoritmi, che può essere in qualche modo controllato e limitato, ma mai del tutto eliminato: l’allucinazione.

Allucinazioni dei Large Language Model e limiti delle AI generative
I Large Language Model come ChatGPT non hanno esperienza diretta del mondo e soffrono di allucinazioni strutturali a causa dei loro principi di funzionamento: il cervello umano tende a dimenticarselo di fronte alla loro apparente capacità di comprensione e questo è uno dei più seri problemi attuali dell’AI

Dall’apofenia all’epistemia

E qui veniamo a un punto nodale: esiste oggi un neologismo coniato da Walter Quattrociocchi, professore ordinario al Dipartimento di Computer Science dell’Università La Sapienza di Roma. Esso è “epistemia”, ovvero

“la confortevole illusione di conoscenza prodotta dall’interazione con l’IA generativa dei grandi modelli linguistici (LLM), là dove la plausibilità simulativa del discorso fluente e la coerenza narrativa sostituiscono l’efficienza cognitiva e l’affidabilità dei dati”.

Questo secondo l’enciclopedia Treccani.

Il fenomeno si basa sulla ben nota tendenza del nostro cervello a proiettare caratteristiche umane sui sistemi complessi, come ad esempio gli animali.

Il termine epistemia descrive come la coerenza narrativa, la plausibilità e la fluidità di linguaggio delle odierne AI generative portino una gran parte delle persone a scambiare risposte verosimili e ben strutturate per risposte veritiere e del tutto affidabili. L’epistemia porta all’illusione cognitiva già descritta dal cosiddetto effetto Dunning-Kruger, dove persone poco competenti sovrastimano la propria preparazione in specifici settori.

Così una spiegazione convincente e magari anche ben fatta, ma sempre divulgativa, e quindi estremamente semplificata, di ChatGPT sulle basi concettuali della meccanica quantistica ci porta a credere di essere in grado di discuterne alla pari con un ricercatore dell’Istituto Nazionale di Fisica Nucleare.

I criteri tradizionali di validazione delle fonti, già messi in crisi dalla poca preparazione scientifica del pubblico, come peer review, revisione fra pari e istituzioni accademiche, perdono ulteriormente autorevolezza rispetto a una conoscenza statistica e diffusa, almeno agli occhi dei non esperti.

Dai finti problemi dell’AI

Alla luce di quanto abbiamo esaminato nei vari punti dell’articolo, possiamo tranquillamente concludere che l’Intelligenza Artificiale Generale, in grado di ragionare autonomamente e auto-migliorarsi, e la coscienza artificiale sono obiettivi ancora piuttosto lontani. Per la prima, ci scontriamo con le limitazioni intrinseche delle attuali macchine: impostazione probabilistica, allucinazioni, incomprensione del significato, mancanza di esperienza.

Per la seconda, non abbiamo ancora una teoria scientifica universalmente appurata della coscienza, e quindi non abbiamo un’idea precisa dei principi secondo i quali un oggetto artificiale, per quanto complesso, potrebbe emularla. Questo è almeno il pensiero di chi scrive, alla luce di molti anni di interesse e approfondimento anche per motivi artistici, e alla luce di numerose discussioni tenute con esperti del settore.

A proposito di ciò, chi fosse interessato al racconto dal quale è stato tratto il romanzo “The Montecristo Project”, che parla appunto di coscienza artificiale da tempi non sospetti, 1993 per il racconto, 2010-2024 per il romanzo, può trovarvi un esempio interessante di punto di vista originale sull’argomento. Il racconto è disponibile online in italiano e in inglese: Baby.

…ai veri problemi dell’AI

Questo articolo non intende affatto sottovalutare la potenza degli attuali sistemi o la loro capacità di influenzare le nostre vite. Ma le questioni reali rimangono ben nascoste, sotto le maschere del marketing e gli equivoci della semplificazione.

Abbiamo oggi a disposizione dei sistemi in grado di trovare correlazioni e collegamenti che alla nostra analisi possono sfuggire; sistemi potentissimi e instancabili, che possono essere sfruttati per scopi nobili e meno nobili. E quale può essere la tentazione più antica e radicale che tali sistemi stimoleranno in alcuni di noi? Il controllo, il potere.

L’AI è sempre più utilizzata nelle guerre, non solo per dotare le armi, questione molto seria, di capacità decisionale autonoma in caso di perdita delle comunicazioni, ma soprattutto per controllare il campo di battaglia. L’insieme di AI, satelliti e droni sta diventando la nuova frontiera che ha reso superate gran parte delle tattiche militari utilizzate fino a pochi anni fa.

I sistemi AI generativi sono sempre più in grado di creare comunicazione plausibile e assai difficile da distinguere da notizie e dati basati su fonti autorevoli. Inoltre, sono in grado di creare molta più dipendenza rispetto agli algoritmi dei social, dove le legislazioni stanno arrivando a cercare di limitare questi ultimi con un decennio di ritardo, mentre l’abilità dei sistemi LLM cresce troppo rapidamente secondo gli stessi ricercatori.

Intanto un gran numero di adolescenti parla più con ChatGPT e sistemi simili che con qualsiasi amico o adulto.

Logo di Claude Mythos e rischi di cybersicurezza legati all’intelligenza artificiale
Il logo dall’aria innocua e amichevole di Claude Mythos, il nuovo modello AI specializzato in vibe coding, potrebbe nascondere una minaccia ai sistemi informatici mondiali molto superiore a quella del cosiddetto “Millennium Bug” del Capodanno 2000

I presenti e futuri utilizzi: chi ne sarà responsabile?

Negli Stati Uniti cresce un movimento di pensiero che ritiene di poter utilizzare l’AI senza troppi scrupoli per influenzare, guidare e dirigere l’intero Occidente, progetto dichiarato apertamente nell’ultimo libro scritto dal CEO di Palantir, Alexander Karp, “The Technological Republic: Hard Power, Soft Belief, and the Future of the West”, in italiano “La Repubblica Tecnologica: Potere Duro, Fede Morbida e il Futuro dell’Occidente”.

Palantir è una società il cui nome si ispira a Tolkien, però travisandone totalmente il vero significato: le “pietre veggenti”, alla fine della Terza Era nella Terra di Mezzo, erano infatti divenute non un modo per rivelare la verità, bensì un sistema di controllo mentale dei loro stessi utilizzatori da parte dell’Oscuro Signore Sauron.

Inoltre, i modelli specializzati in vibe coding come Claude di Anthropic, capaci di creare e analizzare codice informatico in ogni linguaggio di programmazione conosciuto, stanno arrivando a livelli di efficienza tali da risultare realmente preoccupanti. A quanto pare, l’ultimo modello di Claude, chiamato Mythos, è stato capace di trovare rapidamente delle vulnerabilità gravi in sistemi operativi come Linux, che è alla base della maggioranza dei server che fanno funzionare la Rete, dei grandi sistemi di banche, aeroporti e di altre funzioni sensibili, e in browser come Firefox. Vulnerabilità che non erano state mai individuate neppure dalla comunità di hacker.

Per adesso Claude Mythos non è stato rilasciato se non a poche grandi aziende, per dar loro il tempo di costruire le relative patch e ovviare a questi problemi di cybersicurezza. Ma quando sarà in mano anche alle organizzazioni dei criminali informatici, possiamo essere certi che tutti i sistemi sensibili bancari, ospedalieri, ministeriali e non solo saranno in grado di aggiornarsi in tempo?

Questi sono gli argomenti che approfondiremo nei prossimi articoli e che dovrebbero far riflettere tutti noi e i nostri governanti.

Apertus è l’AI open source svizzera che sfida i giganti globali

Il robot yankee Atlas nei panni di un perfetto assistente carpentiere

Michael von Liechtenstein su geopolitica e intelligenza artificiale

Robot umanoidi e AI fisica: come cambia la fabbrica del BMW Group

Ecco tre approfondimenti che potrebbero interessarti

LaMDA, Google e le virtù di una professoressa tascabile
Dai sogni alla realtà: le anticipazioni della fantascienza
L’intelligenza artificiale e l’etica globale dei tempi moderni

“La vita e i tempi di Multivac” e la moderna intelligenza artificiale
Palantir, società statunitense che collabora da tempo col Pentagono, conosciuta per l’utilizzo dell’AI in ambito militare e il cui CEO ha ultimamente scritto un libro che presenta posizioni alquanto preoccupanti, ha pubblicato sul proprio sito ufficiale un manifesto in 22 punti basato proprio su tali posizioni

Vedi sulla mappa

COMMENTI

Lascia un commento