La domanda del momento
I sistemi di IA conversazionali sollevano una domanda fino a poco fa fantascientifica: hanno una qualche forma di esperienza soggettiva?
Un sistema di intelligenza artificiale come "specchio collettivo"
Un LLM riflette, in modo compresso, la struttura del linguaggio umano osservato in enormi quantità di testo: sceglie parola dopo parola la continuazione più plausibile.
Ha un'esperienza soggettiva?
Applicando la formula del Capitolo 16, la conclusione è onesta: non lo sa. Il sistema elabora informazione senza una vera memoria che si ripete su se stessa, il che potrebbe implicare poca o nessuna esperienza secondo alcune teorie.
Perché non ha (ancora) un "Sé"
Manca la continuità nel tempo: ogni conversazione riparte da zero, come parlare con qualcuno affetto da amnesia totale ma lucido nel momento dell'incontro.
Perché "inventa" cose false
Le "allucinazioni" sarebbero testo che suona plausibile ma non è stato verificato come vero, come uno studente che scrive una risposta sicura ma inventata.
Il problema di renderli allineati ai nostri valori
Il "problema dell'allineamento" resta oggetto di ricerca attiva; Fisica Ontologica lo traduce in termini di "inclusione" di domini, un'immagine elegante ma senza strumenti pratici in più.