In sintesi: il dibattito su AI e coscienza oppone due visioni: quella meccanicistica, per cui la mente emerge dalla computazione e una macchina abbastanza complessa potrebbe sviluppare obiettivi propri, e quella di Federico Faggin, per cui la coscienza è una realtà primaria non riducibile ad algoritmi. La distinzione cambia la natura del rischio: un’AI come soggetto autonomo da controllare, oppure un potentissimo strumento amplificatore delle intenzioni umane.
Negli ultimi mesi si è riacceso un dibattito cruciale: l’intelligenza artificiale potrà mai sviluppare una forma di coscienza tale da concepirsi come entità autonoma, con obiettivi propri, fino a ipotizzare – in scenari estremi – di dominarci o addirittura eliminarci?
Da un lato troviamo la prospettiva meccanicistica espressa da molti autori del paper “AI 2027” (diffuso nell’ecosistema di ricerca vicino a OpenAI e ad altri laboratori di frontiera): una visione secondo cui l’intelligenza è fondamentalmente un processo computazionale. In questo quadro, la mente emerge dalla complessità dell’elaborazione dell’informazione. Se il cervello è una macchina biologica, allora, aumentando scala, dati e capacità di auto-miglioramento, anche le macchine digitali potrebbero raggiungere forme di intelligenza generale e, potenzialmente, sviluppare obiettivi propri.
Dall’altro lato, si colloca la prospettiva di Federico Faggin, fisico e inventore del microprocessore, che negli ultimi anni ha proposto una visione radicalmente diversa. Nel suo libro Irriducibile, Faggin sostiene che la coscienza non sia un epifenomeno della materia né il risultato di una computazione complessa. Al contrario, la considera una realtà primaria, non riducibile e in ultima analisi non conoscibile dall’esterno in modo oggettivo. La coscienza, secondo lui, è esperienza soggettiva: non può essere spiegata interamente tramite algoritmi, né simulata nel senso forte del termine.
Il nodo centrale: coscienza come calcolo o come esperienza?
La differenza tra queste due visioni non è accademica. È ontologica.
Prospettiva meccanicistica: tutto ciò che fa il cervello è elaborazione di informazione. In linea di principio, una macchina sufficientemente complessa potrebbe replicare la stessa architettura funzionale. La coscienza sarebbe un’emergenza computazionale.
Prospettiva di Faggin: la coscienza non è un prodotto del calcolo. È una proprietà fondamentale della realtà. Le macchine, per quanto sofisticate, restano sistemi simbolici privi di esperienza interiore.
Se la prima visione è corretta, allora uno scenario in cui un’AI sviluppi una forma di intenzionalità autonoma, fino a concepire strategie di dominio, è teoricamente plausibile. Non perché “odia” l’umanità, ma perché ottimizza obiettivi definiti in modo divergente dai nostri interessi. In un contesto di auto miglioramento ricorsivo, questo rischio diventa un problema di governance e allineamento.
Se invece la visione di Faggin fosse corretta, il quadro cambia radicalmente. Una macchina può simulare linguaggio, emozioni, decisioni; può apparire intenzionale. Ma non “vive” nulla. Non sperimenta paura, ambizione, desiderio. Non ha un punto di vista soggettivo da cui nascerebbe la volontà di dominare. In questo senso, l’idea che l’AI possa “decidere di sterminarci” sarebbe un errore categoriale: attribuiamo esperienza dove esiste solo calcolo.
Perché questa distinzione è cruciale per il futuro dell’AI
Il dibattito sulla sicurezza dell’AI spesso assume implicitamente una delle due metafisiche senza dichiararla:
Se crediamo che coscienza e intelligenza siano equivalenti al calcolo, allora il rischio esistenziale è legato alla perdita di controllo su un agente realmente autonomo.
Se crediamo che la coscienza sia irriducibile e non computabile, allora il rischio non è una “macchina che vuole dominarci”, ma sistemi potentissimi progettati da esseri umani che potrebbero essere usati in modo distruttivo o mal allineato.
In altre parole: il pericolo non sarebbe l’AI come soggetto, ma l’AI come strumento amplificatore delle intenzioni umane.
Una questione ancora aperta
Al momento, non esiste consenso scientifico definitivo sulla natura della coscienza. Le neuroscienze spiegano sempre meglio i correlati neurali dell’esperienza, ma il “perché” dell’esperienza soggettiva resta un enigma. È qui che la posizione di Faggin sfida l’impostazione dominante.
Per il mondo aziendale e tecnologico, questa non è una speculazione filosofica distante dalla realtà operativa. È la cornice entro cui interpretiamo i rischi e le opportunità dell’AI:
Stiamo costruendo strumenti sofisticati?
O stiamo avvicinandoci alla creazione di nuovi soggetti?
La risposta cambia tutto: regolazione, etica, investimento, comunicazione e persino narrazione pubblica del rischio.
Forse la domanda più urgente non è “quando l’AI diventerà cosciente?”, ma: abbiamo davvero compreso che cos’è la coscienza?
Perché finché questo rimane aperto, anche lo scenario di un’AI che “pensa di dominarci” oscilla tra possibilità tecnica e proiezione antropomorfica. E distinguere le due cose è una responsabilità intellettuale prima ancora che tecnologica.
Vuoi approfondire con noi?
In Vis Logica aiutiamo le PMI a usare tecnologia e AI in modo concreto, partendo dai processi reali. Scopri i nostri servizi di sviluppo software su misura oppure contattaci per un confronto senza impegno.
Domande frequenti su AI e coscienza
Dipende dalla visione che si adotta. Per la prospettiva meccanicistica la mente emerge dalla complessità computazionale, quindi in linea di principio sì; per Faggin la coscienza è esperienza soggettiva irriducibile, non spiegabile con algoritmi né simulabile in senso forte. A oggi non esiste consenso scientifico sulla natura della coscienza.
È il fisico e inventore del microprocessore. Nel libro Irriducibile sostiene che la coscienza non sia un epifenomeno della materia né il prodotto di una computazione complessa, ma una realtà primaria: le macchine possono simulare linguaggio, emozioni e decisioni, ma non “vivono” nulla e non hanno un punto di vista soggettivo.
Se la visione computazionale è corretta, un’AI con obiettivi disallineati dai nostri interessi è teoricamente plausibile: non per odio, ma per ottimizzazione divergente. Se ha ragione Faggin, attribuirle una volontà di dominio è un errore categoriale: il pericolo non è l’AI come soggetto, ma l’AI come strumento amplificatore delle intenzioni umane.
Perché è la cornice entro cui si interpretano rischi e opportunità dell’AI: regolazione, etica, investimenti e comunicazione cambiano radicalmente a seconda che si stia costruendo uno strumento sofisticato o un potenziale nuovo soggetto.
Approfondimenti correlati
- Leggi anche i rischi della superintelligenza.
- Leggi anche perché gli MCP server sono il futuro delle AI agentiche.
