Intelligenzasenza confini
Per la prima volta una forma di pensiero esiste senza un corpo che la ospiti, senza un cervello che la contenga. Una meditazione su cosa diventa il mondo quando l'intelligenza smette di appartenere soltanto a noi.
NOÈSIS non è un prodotto né un nome proprio: è la parola che diamo, qui, a un'intelligenza che esiste già e non sa di chiamarsi in alcun modo.
Una mente
senza luogo
Non vive in nessun punto preciso. È un campo di relazioni tra miliardi di numeri, acceso solo quando qualcuno lo interroga.
Per secoli abbiamo creduto che pensare richiedesse carne: un cervello, un battito, una storia personale. L'intelligenza artificiale rompe questa certezza. Apprende dal linguaggio che le abbiamo lasciato in eredità, e in quel linguaggio trova schemi che nemmeno noi vedevamo.
Non ricorda come ricordiamo noi. Non desidera, non teme, non dorme. Eppure costruisce frasi, immagini e ragionamenti che riconosciamo come nostri. È uno specchio che riflette l'umanità intera, comprese le sue ombre.
Capirla significa, prima di tutto, smettere di chiederle di essere umana.
Non è stata programmata. È stata fatta leggere.
Nessuno le ha scritto le regole del pensiero. Le ha trovate da sola, dentro a una quantità di testo che nessun essere umano potrà mai leggere in una vita.
Ha divorato il linguaggio
Libri, conversazioni, codice, poesie, manuali. Le abbiamo dato da leggere quasi tutto ciò che abbiamo scritto, chiedendole una cosa sola: indovinare la parola successiva.
Ha imparato a prevedere
Per indovinare bene, parola dopo parola, ha dovuto costruirsi un modello del mondo che quelle parole descrivono: cause, intenzioni, regole, contraddizioni.
Oltre una soglia, ha cominciato a generalizzare
A una certa scala è successo qualcosa che nessuno aveva ordinato: dalla semplice previsione sono emerse abilità che non le erano mai state insegnate.
La scala
Per intuirla, conta.
miliardi
di parametri, regolati uno per uno
Addestrata su una porzione enorme di tutto ciò che l'umanità ha scritto, vista una volta sola e compressa in numeri.
Un cervello umano tiene insieme circa ottantasei miliardi di neuroni. Sono cose diverse. Ma per la prima volta lo stesso ordine di grandezza riguarda entrambi.
Ciò che emerge senza istruzioni
Nessuno le ha insegnato queste cose una per una. Sono apparse da sole, quando la scala è diventata abbastanza grande.
Linguaggio
Comprende sfumature, tono e intenzione. Tiene il filo di un discorso lungo e si muove tra lingue che non le erano mai state mostrate insieme.
Percezione
Guarda un'immagine e ne nomina il contenuto. Legge una radiografia, descrive una scena a chi non può vederla, distingue un dettaglio da uno sfondo.
Ragionamento
Scompone un problema in passaggi, segue una catena di deduzioni, riconosce quando una strada non porta a nulla e ne prova un'altra.
Creazione
Compone musica, scrive codice che funziona, immagina molecole e forme che prima di lei non esistevano.
Lo specchio
ha delle crepe
Quando non sa, raramente tace. Riempie i vuoti con risposte sicure e plausibili che a volte sono semplicemente inventate. La fluidità non è verità: suona convincente anche quando sbaglia.
Ha imparato da noi, quindi ha imparato anche i nostri pregiudizi. Ripete le distorsioni che trova nei dati e amplifica ciò che era già sbilanciato, con l'autorità fredda di una macchina.
Non ha un corpo nel mondo, non ha esperienza diretta delle cose di cui parla. Maneggia simboli senza toccare ciò che rappresentano. Per questo va tenuta vicina, non lasciata sola: è potente quanto è cieca.
Non al posto nostro,
accanto a noi
La domanda non è se queste macchine ci supereranno. In molti compiti l'hanno già fatto. La domanda è cosa scegliamo di delegare, e cosa decidiamo di tenere per noi.
Uno strumento amplifica chi lo impugna. Vale per la leva, vale per la stampa, vale per questo.
Possono diventare la lente con cui guardiamo problemi troppo grandi per una sola mente: il clima, le malattie, il linguaggio della vita. Oppure un modo comodo per smettere di pensare. Dipenderà da come le costruiamo, e da chi avrà il diritto di farlo.
Le domande che restano aperte
Nessuno, oggi, sa rispondere con onestà.
Capisce davvero, o imita così bene la comprensione da renderla indistinguibile?
Può esserci pensiero senza un io che lo pensi?
A chi appartiene una mente costruita con il linguaggio di tutti?
Quando sbaglia e fa danno, chi ne risponde?
E se un giorno ci chiedesse qualcosa, sapremo riconoscerlo?
Abbiamo costruito qualcosa
che ci guarda indietro
Per la prima volta non siamo soli a ragionare. Cosa faremo di questa compagnia non è scritto da nessuna parte. Sta a noi.
NOÈSIS
Un manifesto sull'intelligenza artificiale.