„Conștiința mi se pare un fenomen atât de important, încât nu pot crede că este ceva doar «din întâmplare» produs de un calcul complicat.”Roger Penrose · Shadows of the Mind: A Search for the Missing Science of Consciousness · 1994 · Shadows of the Mind, cap. 1 («Consciousness and computation»)
Dacă omul vede adevăruri pe care nicio procedură formală nu le poate dovedi, înțelegerea nu este calcul.
Penrose pornește de la teoremele de incompletitudine ale lui Gödel. Ele arată că, pentru orice sistem formal consistent, există propoziții adevărate pe care sistemul nu le poate dovedi. Un matematician uman, spune el, «vede» adevărul unei astfel de propoziții din afara sistemului. Deci înțelegerea nu este un calcul. De aici rezultă teza sa despre conștiință: mintea trebuie să se sprijine pe un proces fizic necalculabil. El îl caută în reducerea cuantică obiectivă, orchestrată la nivelul microtubulilor din neuronii creierului, împreună cu anestezistul Stuart Hameroff. Exemplul lui preferat este chiar teorema lui Gödel: calculatorul rămâne prins în sistem, omul îl depășește prin înțelegere.
De ce contează Ideea contează pentru că pune o întrebare dură inteligenței artificiale: dacă înțelegerea nu e calcul, atunci nicio mașină care doar rulează algoritmi nu ar avea minte. Chiar dacă Orch-OR e minoritar printre oamenii de știință, provocarea lui Gödel rămâne un test pentru orice teorie a minții și a mașinilor.