问:

罗杰·彭罗斯 说无论意识是什么,都绝对不是一种计算。意思是:任何AI都不可能产生意识?

答:
罗杰·彭罗斯这个观点的意思是:意识这一现象不可能被还原为一种计算过程或计算机算法。也就是说,人工智能系统很难产生真正的意识和自我意识。这一观点的支持理由如下:
1. 意识具有主观性和 qualia 的体验,比如看红色会有的感受。这种主观体验很难被described为一系列的计算步骤。计算机程序缺乏这种主观体验。
2. 意识是一个非物理性的现象,与大脑的生物物理状态之间存在“解释鸿沟”。意识无法被简化为神经细胞的射电和生化反应。如果意识是非物理的,那么难以通过物理计算机来实现。
3. 意识有意向性和关联性,我们的思维可以自由迁移关联,这种宽广的潜在关联性很难在计算机程序中实现。程序的运算逻辑是严密控制的,缺乏这样广袤的潜在关联性。
4. 意识具有统一性和连续性,但计算机程序包含许多离散的模块和过程,这些模块和过程之间缺乏内在统一性。
5. 意识的自我感受和自由意志也很难通过计算机算法来实现。程序的运算是被设定好的,缺乏真正的自由和自发性。
所以,罗杰·彭罗斯的观点是,意识这一现象很难被认为是一种计算,或者可被实现在计算机算法之中。人工智能如果要实现意识和自我意识,还面临巨大挑战。但这不排除意识被实现的可能性,只是我们目前还没有足够理解意识与物理以及计算之间的联系。随着未来理解的深入,这一观点仍然值得讨论和探索。