Usare Emma oggi ci fa capire perché un LLM non è vera IA

Puoi ancora provare l'IA di Emma 5 online con le sue risposte sbagliate e capire perché i chatbot, tutti, non sono intelligenti per niente

Prima di tutto, per chi è interessato a giocare o rigiocare con l'ormai famosa IA Emma, che è stata ritirata dopo 48 ore di ilarità generale, può ancora farlo visto che il suo LLM open source originale è stato riproposto e messo online da un altro sito non ufficiale. Possiamo quindi sottoporre al chatbot un indovinello elementare su un chilo di piombo e uno di piume, per poi sentirsi rispondere con estrema serietà che il piombo pesa di più oppure che i 7 nani sono otto o duecento milioni. Questa esperienza surreale si può ancora provare testando la versione 5 del modello linguistico di Egomnia.

Piuttosto che limitarsi a deridere un software palesemente acerbo, possiamo sfruttare questo disastro informatico per capire in modo definitivo come ragiona una rete neurale e il motivo esatto per cui un LLM non rappresenta una vera mente pensante. La cosa più interessante è che grazie a Emma si è palesato il più grande equivoco mediatico di questi tempi, ossia il fatto che gli LLM su cui sono basate tutte le IA che conosciamo come ChatGPT, Grok e Gemini, non sono veramente IA e non hanno davvero alcuna intelligenza, mancano di ragionamento umano e non sono nemmeno capaci di dire "non lo so".

Il trucco dietro le frasi perfette ma prive di logica

Chi ha usato il software di Matteo Achilli ha notato un difetto che accomuna molti programmi di questo tipo. L'intelligenza artificiale risponde a tutte le domande di cui non conosce la risposta comportandosi come uno studente che non ha studiato nulla ma cerca di fregare il professore, ossia usando parole difficili e un tono autorevole. La grammatica è perfetta e i verbi sono coniugati bene, ma quello che dice è pura fantasia. Non solo, il testo generato fa anche delle correlazioni talmente assurde da sembrare quasi artistiche.

Questo accade perché questi sistemi non hanno un cervello che comprende i concetti, ma funzionano come un correttore automatico dello smartphone portato all'estremo. Non consultano un'enciclopedia per trovare la verità, ma calcolano quale parola ha più probabilità di venire dopo l'altra in base a miliardi di frasi lette su internet. Sono in pratica dei pappagalli matematici. Sanno imitare il modo di parlare di un essere umano, ma non hanno idea di cosa sia un chilo di piombo o una piuma nel mondo reale. Quando non sanno la risposta, non dicono di non sapere, ma inventano una frase che suoni convincente pur di non lasciare il vuoto.

Perché un modello piccolo sbaglia tutto

Il motivo per cui Emma faceva così tanti errori è legato a quello che in gergo si chiamano parametri. Immaginate i parametri come le pagine di un dizionario interno al software. Più pagine ci sono, più concetti il programma può collegare tra loro. Il modello italiano è partito con soli 550 milioni di parametri. Sembrano tanti, ma i sistemi che funzionano davvero ne hanno miliardi.

Avere pochi parametri è come cercare di spiegare l'intera storia del mondo usando un quaderno di poche pagine. Lo spazio per memorizzare le regole della logica è troppo poco. Senza una base di dati solida, il programma inizia a tirare a indovinare. Il risultato è un software che scrive bene ma ragiona male, finendo per dare risposte che fanno ridere chiunque abbia le basi della scuola primaria.

MarEmma usa lo stesso motore per fare satira

Mentre i server ufficiali chiudevano i battenti, in rete è comparsa in poche ore l'applicazione Maremma. Non si tratta di una parodia (come invece è la sorella di Emma molto divertente), ma proprio di come avrebbe dovuto presentarsi Emma al pubblico per non farsi deridere. Si tratta di un porting della versione 5 dell'LLM opensource originale rilasciato da Egomnia in formato aperto per gli sviluppatori e liberamente disponibile su huggingface.

Il creatore di maremma-app ha preso i file originali e li ha inseriti in un'interfaccia perfetta, anche migliore di quella originale, con un tuning più preciso che porta a risposte migliori, anche se quasi sempre sbagliate.

Se seguite la rotta di Navigaweb per installare questi piccoli modelli sul proprio computer, capirete che lo stesso identico codice può essere un disastro se venduto come strumento professionale, ma diventa un passatempo geniale se usato per fare satira. Il limite tecnico diventa così un punto di forza perché l'utente si aspetta risposte assurde e ne ride.

La differenza vera tra IA, LLM e SLM

Per evitare di cadere nei giochi di marketing delle aziende, bisogna fare chiarezza su cosa stiamo usando davvero quando scriviamo in una chat.

Intelligenza Artificiale (AI) è un termine enorme che include tutto, dal termostato intelligente al radar di un aereo. Non significa che la macchina pensi, ma solo che segue delle regole per fare un compito. L'idea di una macchina che ragiona come un uomo è ancora fantascienza.
Large Language Model (LLM) sono i giganti come ChatGPT. Sono enormi calcolatori statistici che leggono quasi tutto ciò che è stato scritto online. Sono bravissimi a scrivere testi e tradurre lingue, ma continuano a essere motori di probabilità, non menti coscienti.
Small Language Model (SLM) sono versioni ridotte e leggere, come quella di Emma e Maremma. Servono per girare su hardware economico o smartphone. Non vanno mai usati per sapere se un fatto è vero o falso, perché sono troppo piccoli per ricordare i dettagli e iniziano a inventare tutto.

Curiosità tecniche e dubbi comuni sui chatbot

Il modo in cui i bot assegnano un valore numerico alle parole per decidere quale scrivere dopo.
Il motivo per cui dopo qualche minuto di chat il programma dimentica quello che avete detto all'inizio.
Perché per far girare questi programmi a casa serve una scheda video potente e non basta il processore.
La differenza di qualità tra i modelli gratuiti delle università e quelli chiusi delle aziende che vogliono vendere abbonamenti.

Diario di bordo di Navigaweb

Abbiamo visto troppe volte aziende lanciare prodotti a metà solo per stare dietro alla moda dell'intelligenza artificiale. Costruire un modello che non faccia errori banali richiede miliardi di dollari e anni di test, non bastano due comunicati stampa e un sito web colorato. Mi fa piacere vedere come la comunità ha risposto con Maremma, perché dimostra che l'onestà intellettuale vince sempre. È molto più utile un software che ammette di essere un gioco piuttosto che uno che finge di essere il futuro della tecnologia mentre sbaglia i conti della spesa. Il mio consiglio è di continuare a usare questi strumenti per divertirsi e imparare, ma di non affidare mai a un chatbot una decisione importante o una ricerca storica senza controllare le fonti su un libro vero.