„Conștiința mi se pare un fenomen atât de important, încât nu pot crede că este ceva doar «din întâmplare» produs de un calcul complicat.”Roger Penrose · Shadows of the Mind: A Search for the Missing Science of Consciousness · 1994 · Shadows of the Mind, cap. 1 («Consciousness and computation»)
Dacă omul vede adevăruri pe care nicio procedură formală nu le poate dovedi, înțelegerea nu este calcul.
Penrose pornește de la teoremele de incompletitudine ale lui Gödel. Ele arată că, pentru orice sistem formal consistent, există propoziții adevărate pe care sistemul nu le poate dovedi. Un matematician uman, spune el, «vede» adevărul unei astfel de propoziții din afara sistemului. Deci înțelegerea nu este un calcul. De aici rezultă teza sa despre conștiință: mintea trebuie să se sprijine pe un proces fizic necalculabil. El îl caută în reducerea cuantică obiectivă, orchestrată la nivelul microtubulilor din neuronii creierului, împreună cu anestezistul Stuart Hameroff. Exemplul lui preferat este chiar teorema lui Gödel: calculatorul rămâne prins în sistem, omul îl depășește prin înțelegere.
Gödel nu spune doar că un sistem formal are găuri. Spune că orice gaură poate fi acoperită adăugând o regulă nouă. Dar sistemul lărgit are, la rândul lui, propria propoziție nedemonstrabilă. Penrose scoate de aici un punct mai fin: nicio listă finită de reguli nu poate prinde tot ce un matematician recunoaște ca adevărat. Dacă mintea ar fi un program, ea ar fi o astfel de listă, și i-ar lipsi ceva ce omul, chipurile, vede. Criticii răspund că omul greșește mult, deci nu e un oracol perfect. Penrose acceptă asta, dar insistă că înțelegerea reală nu se confundă cu dovada formală. Gândește-te la un navigator GPS: urmează reguli fixe, dar nu înțelege unde te duce. Dacă așa stau lucrurile, întrebarea devine: ce fel de fizică ar putea susține o înțelegere necalculabilă?
De ce contează Ideea contează pentru că pune o întrebare dură inteligenței artificiale: dacă înțelegerea nu e calcul, atunci nicio mașină care doar rulează algoritmi nu ar avea minte. Chiar dacă Orch-OR e minoritar printre oamenii de știință, provocarea lui Gödel rămâne un test pentru orice teorie a minții și a mașinilor.