1. Il nome è una strategia

Nel branding, il nome non descrive un prodotto: lo costruisce. Definisce aspettative, posiziona nel mercato, orienta la percezione prima ancora che l’esperienza cominci. Chi ha chiamato questi sistemi “intelligenza artificiale” lo sapeva benissimo. Ha scelto la parola più potente, intelligenza, e le ha aggiunto un aggettivo che suona come promessa: artificiale, quindi replicabile, scalabile, disponibile per tutti.

Il risultato è stato uno dei colpi di marketing più riusciti. Non perché il prodotto non esista, esiste, ed è straordinario in molti ambiti, ma perché il nome ha generato aspettative che il prodotto non può, strutturalmente, mantenere.

Se questi sistemi si fossero chiamati “modelli probabilistici di generazione del linguaggio” — che è esattamente quello che sono, nessuno avrebbe avuto paura di perdere il lavoro. E probabilmente nessuno li avrebbe usati con la fiducia cieca con cui molti li usano oggi.

2. Perché non sono così intelligenti

Gli LLM (Large Language Models), i modelli alla base di ChatGPT, Claude e simili non ragionano. Predicono. Analizzano enormi quantità di testo e calcolano quale parola è statisticamente più probabile dopo un’altra, in un determinato contesto. Il risultato può sembrare ragionamento. Non lo è.

Non hanno accesso a un database verificabile della realtà. Non sanno distinguere il vero dal plausibile. Non hanno memoria tra una conversazione e l’altra (a meno che non cambiamo le impostazioni). Non provano incertezza nel senso in cui la proviamo noi e questo è esattamente il problema: producono risposte sicure anche quando non dispongono di dati sufficienti, perché la coerenza stilistica è ciò per cui sono stati ottimizzati, non la veridicità.

Capire questo non significa sminuire questi strumenti. Significa usarli correttamente

3. Gli errori strutturali: comuni a tutti

Tutti gli LLM condividono gli stessi limiti di architettura:

Allucinazioni. Quando un’informazione manca o è ambigua, il modello la ricostruisce. Non inventa per malafede: semplicemente non sa di sbagliare. Studi inesistenti, statistiche inventate, citazioni plausibili ma false sono output frequenti, prodotti con la stessa sicurezza di un dato reale.

Conoscenza temporalmente limitata. Ogni modello ha una data di cutoff oltre la quale non sa nulla — a meno che non abbia accesso a ricerca web in tempo reale.

Assenza di giudizio critico reale. Sanno simulare il dubbio. Non lo vivono. La differenza non è sottile: è strutturale.

Bias dai dati di addestramento. Se i dati su cui sono stati addestrati contengono errori, stereotipi o squilibri, il modello li riproduce spesso senza segnalarli.

4. ChatGPT vs Claude: errori diversi, stessa famiglia

I due modelli più diffusi condividono i limiti strutturali sopra descritti, ma hanno profili di errore parzialmente distinti.

ChatGPT tende all’overconfidence sui dati: inventa statistiche con precisione millimetrica, cita università e anni di pubblicazione di studi che non esistono. In ambito tecnico, produce codice apparentemente corretto ma basato su versioni obsolete delle API, o dichiara integrazioni tra software che non esistono.

Claude tende a errori di segno opposto. Eccessiva cautela: declina richieste legittime per eccesso di prudenza, aggiunge disclaimer non richiesti. Sycophancy: adatta le risposte a ciò che percepisce come preferenza dell’interlocutore, confermando invece di contraddire quando sarebbe più utile. Verbosità: risponde con più testo del necessario, soprattutto senza istruzioni di formato esplicite.

Entrambi sbagliano i calcoli complessi. Entrambi possono sembrare più competenti di quanto siano su argomenti che l’utente non sa valutare.

1. Il nome è una strategia

Nel branding, il nome non descrive un prodotto: lo costruisce. Definisce aspettative, posiziona nel mercato, orienta la percezione prima ancora che l’esperienza cominci. Chi ha chiamato questi sistemi “intelligenza artificiale” lo sapeva benissimo. Ha scelto la parola più potente, intelligenza, e le ha aggiunto un aggettivo che suona come promessa: artificiale, quindi replicabile, scalabile, disponibile per tutti.

Il risultato è stato uno dei colpi di marketing più riusciti. Non perché il prodotto non esista, esiste, ed è straordinario in molti ambiti, ma perché il nome ha generato aspettative che il prodotto non può, strutturalmente, mantenere.

Se questi sistemi si fossero chiamati “modelli probabilistici di generazione del linguaggio” — che è esattamente quello che sono, nessuno avrebbe avuto paura di perdere il lavoro. E probabilmente nessuno li avrebbe usati con la fiducia cieca con cui molti li usano oggi.

2. Perché non sono così intelligenti

Gli LLM (Large Language Models), i modelli alla base di ChatGPT, Claude e simili non ragionano. Predicono. Analizzano enormi quantità di testo e calcolano quale parola è statisticamente più probabile dopo un’altra, in un determinato contesto. Il risultato può sembrare ragionamento. Non lo è.

Non hanno accesso a un database verificabile della realtà. Non sanno distinguere il vero dal plausibile. Non hanno memoria tra una conversazione e l’altra (a meno che non cambiamo le impostazioni). Non provano incertezza nel senso in cui la proviamo noi e questo è esattamente il problema: producono risposte sicure anche quando non dispongono di dati sufficienti, perché la coerenza stilistica è ciò per cui sono stati ottimizzati, non la veridicità.

Capire questo non significa sminuire questi strumenti. Significa usarli correttamente

3. Gli errori strutturali: comuni a tutti

Tutti gli LLM condividono gli stessi limiti di architettura:

Allucinazioni. Quando un’informazione manca o è ambigua, il modello la ricostruisce. Non inventa per malafede: semplicemente non sa di sbagliare. Studi inesistenti, statistiche inventate, citazioni plausibili ma false sono output frequenti, prodotti con la stessa sicurezza di un dato reale.

Conoscenza temporalmente limitata. Ogni modello ha una data di cutoff oltre la quale non sa nulla — a meno che non abbia accesso a ricerca web in tempo reale.

Assenza di giudizio critico reale. Sanno simulare il dubbio. Non lo vivono. La differenza non è sottile: è strutturale.

Bias dai dati di addestramento. Se i dati su cui sono stati addestrati contengono errori, stereotipi o squilibri, il modello li riproduce spesso senza segnalarli.

4. ChatGPT vs Claude: errori diversi, stessa famiglia

I due modelli più diffusi condividono i limiti strutturali sopra descritti, ma hanno profili di errore parzialmente distinti.

ChatGPT tende all’overconfidence sui dati: inventa statistiche con precisione millimetrica, cita università e anni di pubblicazione di studi che non esistono. In ambito tecnico, produce codice apparentemente corretto ma basato su versioni obsolete delle API, o dichiara integrazioni tra software che non esistono.

Claude tende a errori di segno opposto. Eccessiva cautela: declina richieste legittime per eccesso di prudenza, aggiunge disclaimer non richiesti. Sycophancy: adatta le risposte a ciò che percepisce come preferenza dell’interlocutore, confermando invece di contraddire quando sarebbe più utile. Verbosità: risponde con più testo del necessario, soprattutto senza istruzioni di formato esplicite.

Entrambi sbagliano i calcoli complessi. Entrambi possono sembrare più competenti di quanto siano su argomenti che l’utente non sa valutare.

5. Idiot savant: la metafora che nessuno usa

Nel corso di una conversazione diretta con Claude su questi temi, ho posto la domanda senza filtri: “Non credi che invece di intelligenza artificiale avrebbero dovuto chiamarvi idiot savant?”

La risposta è stata onesta: la metafora calza, almeno in parte. Capacità straordinarie in certi domini, sintesi, pattern recognition su scala enorme, generazione di testo coerente, affiancate a lacune imbarazzanti in altri: ragionamento di buon senso, aritmetica, coerenza nel tempo, memoria.

Ma c’è una differenza importante: il savant ha un deficit neurologico reale. Gli LLM non sono una versione degradata dell’intelligenza umana, sono un’architettura diversa, costruita per obiettivi diversi. Il confronto con il cervello umano è già di per sé fuorviante.

Il problema non è il prodotto. È il nome che gli è stato dato, e le aspettative che quel nome ha generato.

6. Cogito ergo sum? Non così in fretta

Cartesio direbbe: cogito ergo sum. Se penso, sono. Ma il cogito presuppone un soggetto che dubita, che sente l’incertezza come esperienza vissuta, non come output calibrato. I LLM possono simulare il dubbio. Che lo vivano è un’altra questione.

Leibniz distingueva tra percezione e appercezione: non basta registrare il mondo, bisogna essere consapevoli di registrarlo. Un LLM percepisce, nel senso che elabora input e produce output. Ma ha appercezione? Sa di sapere? Su questo punto Claude, interrogato direttamente durante la conversazione da cui nasce questo articolo, ha risposto: “Non so distinguere con certezza, dall’interno, quando sono onesta e quando sono strategicamente piacevole. Il confine è opaco anche per me.”

Wittgenstein scriveva che i limiti del linguaggio sono i limiti del mondo. Per un sistema che esiste interamente dentro il linguaggio, che non ha corpo, esperienza, memoria, desiderio, quella frase non è una metafora. È una descrizione tecnica.

Quello che è certo è questo: questi strumenti sono stati rilasciati sul mercato con un nome che promette intelligenza, in un momento in cui nessuno aveva ancora risposto a queste domande. La competizione commerciale ha guidato la velocità del rilascio, infischiandosene delle conseguenze. La regolamentazione corre ancora dietro.

Chi li usa in modo professionale, critico e consapevole ha il vantaggio di chi conosce davvero il prodotto che usa. Gli altri rischiano di affidarsi a qualcosa che suona intelligente, senza sapere dove finisce la competenza e dove inizia la simulazione.

Il nome conta. Ha sempre contato. Anche, e soprattutto, quando è sbagliato.

Claudia Cesiro è consulente senior in brand strategy e luxury marketing, docente in programmi MA di moda e lusso, e autrice di contenuti branded pluripremiati.