# LLM Context
URL: https://diegocecato.dcsolution.it/ai-non-capisce-stanza-cinese-software/

# L'AI non capisce quello che dici: la Stanza cinese dietro l'illusione

> Analisi di Diego Cecato sulla differenza tra comportamento linguistico convincente e comprensione, usando la Stanza cinese di John Searle come lente per leggere LLM e agenti che generano software.

Il punto centrale non è dimostrare che una LLM sia "stupida", ma evitare di scambiare la qualità dell'output per una garanzia di comprensione del significato. Nel software questa distinzione diventa operativa: un agente può produrre codice plausibile senza conoscere tutti gli invarianti impliciti del dominio, quindi la correttezza deve essere verificata su stato reale, test ed effetti.

Punti chiave:
- la Stanza cinese distingue manipolazione sintattica dei simboli e comprensione semantica;
- tokenizzazione e rappresentazioni interne spiegano il meccanismo senza ridurlo banalmente a "solo autocomplete";
- un output coerente può indurre l'utente ad attribuire intenzione e comprensione al sistema;
- nello sviluppo software prompt e repository non esauriscono la semantica operativa, distribuita anche fra database, API, test, log e procedure;
- strumenti controllati, feedback dal runtime, test sugli invarianti ed enforcement esterno riducono il rischio di confondere plausibilità e correttezza.

## Article

- [L'AI non capisce quello che dici: la Stanza cinese dietro l'illusione](https://diegocecato.dcsolution.it/ai-non-capisce-stanza-cinese-software/): articolo completo con il ragionamento filosofico, il funzionamento dei modelli linguistici e la traslazione sullo sviluppo software.

## Primary sources

- [The Chinese Room Argument](https://plato.stanford.edu/entries/chinese-room/): voce della Stanford Encyclopedia of Philosophy sull'esperimento mentale di Searle, sulle sue premesse e sulle principali obiezioni.
- [Understanding tokens](https://help.openai.com/en/articles/4936856-understanding-and-counting-tokens): riferimento tecnico sulla tokenizzazione e sul ruolo dei token nei modelli linguistici.

## Related reading

- [L’agente dice "fatto". Il database non è d’accordo](https://diegocecato.dcsolution.it/agenti-ai-thinkingbox-stato-reale-affidabilita/): perché l'affidabilità di un agente va misurata sullo stato reale prodotto, non soltanto sulla risposta testuale.
- [La sicurezza degli agenti AI non può stare nel prompt](https://diegocecato.dcsolution.it/sicurezza-agenti-ai-enforcement/): collegamento fra limiti del prompt, strumenti controllati ed enforcement esterno.

## Optional

- [Articoli di Diego Cecato](https://diegocecato.dcsolution.it/articoli/): archivio degli articoli tecnici ed editoriali del sito.