机器有思想吗？
欢迎来到人工智能书评，这是一系列探索人工智能最新文献的文章。
你会在媒体上读到的很多内容是，人工智能的进步已经到了越来越难以区分人类和机器的地步。
但更准确地说，人类和人工智能之间表面上的相似之处使得我们很难看到仍然存在的潜在差异。我最近一直在思考这个问题，因为我一直在关注围绕Google LaMDA 和 AI 感知的争议、深度学习系统在复杂游戏中超越人类的能力不断增长，以及使用生成模型来创造令人惊叹的艺术品.
显然，当前的人工智能系统与人类思维完全不同。尽管他们取得了惊人的成就，但当他们与人类智能的多功能性和灵活性相抗衡时，他们的缺陷就很容易被发现。
但我们也不能认为他们是愚蠢的。那么，我们如何检查和定义我们今天在机器中看到的不断增长的“认知”（如果这是正确的术语）能力呢？
Philip Ball 所著的The Book of Minds帮助我更好地调整了我对快速发展的人工智能世界的看法。对我来说，关键是首先要改变我对“思想”的看法。这本书讨论了从人类到动物到机器和外星人的各种思想，为您提供了一个框架，可以让您摆脱通过自己的思想和经验来看待事物的本能倾向。
定义心灵
鲍尔书中反复出现的主题之一是人类中心思想的谬误，即按照我们自己的思想来评估其他代理人（无论是否活着）。这种错误的观点可以朝不同的方向发展。在光谱的一端，我们认为所有其他生物都是愚蠢的，因为它们没有像我们这样的头脑。另一方面，我们将所有事物拟人化，从宠物到汽车再到计算机，根据人类智能来解释它们的行为。
“我们把动物当作愚蠢的人类对待的习惯，在很大程度上解释了我们对动物福祉的漠视；让他们完全成熟，迪斯尼化的人类思想只是同一枚硬币的反面，”鲍尔在《思想之书》中写道。
这种习惯剥夺了我们看到这些其他思想的真实面目的能力。首先，我们必须承认有不同类型的心智，存在一个多维度的“可能心智空间”。其次，我们必须摆脱以人类为中心的思维空间的“前哥白尼”观点。然而，我们可以尝试根据它们在思维空间维度上的属性来猜测其他思维与我们的思维有多接近。
最后，我们必须定义什么是“心”和“心”——这本身就是一项艰巨的任务。
正如鲍尔所说，“‘心智’是那些概念之一——就像智力、思想和生命——听起来很技术化（因此可以定义），但实际上是口语化的，不可简化的模糊。除了我们自己的思想（以及我们由此推断出的人类同胞的思想）之外，我们无法确定思想应该或不应该意味着什么。”
尽管如此，鲍尔还是确定了以下定义，该定义是根据哲学家托马斯·内格尔（Thomas Nagel）的理论制定的：
一个实体要想有思想，就必须有某种东西成为那个实体。
尽管这是一个模棱两可的定义，但它可能会有所帮助。“我们所知道的唯一心智是我们自己的，并且有经验。我们不知道为什么它有经验，但只知道它有。我们甚至不知道如何描述经验，但只知道我们拥有它。在试图理解心智时，我们所能做的就是小心翼翼地向外移动，看看我们可能觉得能够（非常小心地）概括我们经验的哪些方面，”鲍尔写道。
我们还必须承认，并非所有事物都有思想，有机体需要一定程度的复杂性才能成为类似的东西。例如，我们可以将思想归因于狗、黑猩猩或（也许）苍蝇。但是考虑真菌是否有意义？鲍尔强调，头脑不是全有或全无的实体，而是程度的问题。
“我认为询问某物是否有思想并没有帮助，而是询问它具有哪些思想品质，以及其中有多少（如果有的话），”鲍尔写道。
在《心灵之书》中，鲍尔提出了绘制思维空间的不同方法，包括沿着经验、能动性、智力、意识和意向性等维度。虽然深入研究这些概念中的每一个都超出了本文的范围，但很清楚的是，思维跨越了多个维度，没有一个思维能够在每一个维度上都表现出色。
然而，我们必须小心我们在思想平台中适合什么样的属性，鲍尔警告说，因为“摆脱对我们自己物种的旧偏见的动机良好的愿望不断冒着成为一种将其他有机体拉向我们自己的练习的风险。自己的水平。”
“它通常看起来像另一个‘思维俱乐部’事件：我们承认谁（因为我们的思维被认为有点像我们的），我们在门口拒绝谁？”鲍尔写道。
显然，有些动物在特定技能方面超过了我们，例如运动功能、听觉敏锐度、导航能力、短期记忆、位置记忆等。另一方面（我们稍后会谈到），人工智能和计算机可以在诸如数学计算和解决需要蛮力数字运算的问题等任务上超越我们。但是，虽然这些是我们经常用来衡量人类智力的标准，但它并没有告诉我们其他人的思想。
“[Thomas] Nagel 提出的问题仍然是一个挑战：这种认知能力对动物心智的主观性意味着什么？”球注。
人工智能和具身智能
Ball 指出，“关于人工智能危险的大部分讨论都被我们坚持赋予机器（在我们的想象中）像我们这样的思维所扭曲。”
例如，记者、分析师甚至科学家经常谈论AlphaZero和GPT-3等 AI 系统，就好像在谈论人类一样。这在很大程度上受到大脑“计算视图”的影响，其中人脑被视为数据处理机器。科学家们根据这个概念设计了计算机。反过来，计算的进步也强化了思维的计算观点。
计算视图的特征之一是它变得与心灵的物理基础无关。一个东西只要能表现出大脑的数据处理功能，就可以认为它具有某种思想。
鲍尔驳斥了这种思想观点。“我的预感是，没有真正的头脑会像今天的计算机那样，在输入一些数字来处理之前，它们一直处于静止状态，”他写道。“当然值得注意的是，进化从来没有产生过像这样的计算机一样工作的大脑。这并不是说它一定不能——进化对它已经找到的解决方案充满了承诺偏见，所以我们对它可以产生的全部范围几乎没有概念——但我的猜测是，这样的事情不会被证明是非常强大的。”
鲍尔认为，具身化在塑造心灵方面发挥着重要作用，这一观点得到了许多科学家的认同。在每一个物种中，心智、大脑和神经系统的进化都是紧密相连的。此外，在大多数生物体中，大脑和神经系统与身体一起生长。随着身体年龄的增长，大脑的学习模式和能力也会发生变化。因此，头脑不能被认为是安装在大脑上的一个软件。
“[思想和大脑之间]的互动比这更加流畅。你可以说，头脑所建立的世界是基于对它做某事的可能性（包括对自己的身体做某事或用自己的身体做某事）。因此，大脑构建的世界类型取决于它可以采取的行动类型，”鲍尔写道。“换句话说，心智的一个核心特征是它是具身化的。它基于对有机体可能进行的干预的假设和推论构建了一个世界。”
机器有思想吗？
有趣的是，虽然鲍尔的书致力于让读者更广泛地了解不同思维的样子，但他并不认为计算机有思维。
“让我们明确一点：（在这个星球上）建造的每一个机器人和计算机都是无意识的。在断言这一点时，我感到有些不安，因为我可能只是在重复我曾经痛恨的对动物思维的偏见，”他写道。“尽管如此，我认为这种说法是正确的，或者至少会被该领域的专家普遍认为是正确的。”
他接着说，当你嘲笑他们时，当前的 AI 助手不会感到难过，机器人不需要道德权利。在鲍尔看来，摒弃机器思维的主要原因是逻辑电路设计原理与意识的推测理论之间的差异太大。
“今天的计算机，尽管具有惊人的能力，但仍然更接近于复杂的电灯开关阵列，而不是基本的昆虫大脑，”鲍尔写道，这一声明无疑会受到当今许多科学家的欢迎。
然而，他确实提出了两个警告：首先，不能保证在由有机大脑中发现的湿件（例如电子元件）以外的其他东西构建的设备中不会出现类似心智的东西。其次，我们不确定今天的人工智能是如何工作的，这对于非常大的神经网络来说至少是正确的。
由此，他得出结论，我们应该将当前的人工智能系统比喻为“原始思维的集合”，就像早期埃迪卡拉生物的神经系统一样。
“我们不知道它们是否真的是那种可以承载真正思想的东西——永远不会有某种东西就像是一台机器。然而，我们可以而且应该开始从认知角度考虑当今的计算机和 AI：从概念上（如果不是道德上）将它们视为思想，”他写道。
如果我们回到“具身心灵”理论，那么我们必须得出结论，今天的人工智能拥有的心灵与我们的非常不同。此外，我们必须承认，人工智能（尤其是机器学习）目前的发展方向并不是复制人类思维。扩展当今的神经网络架构并向其投入更多的数据和计算能力并不能弥补这一差距。
Ball 引用认知科学家和 AI 专家 Josh Tenenbaum 和其他 AI 专家的话说：“我们相信未来几代的神经网络将与当前最先进的神经网络大相径庭。他们可能被赋予了直觉物理学、心智理论、因果推理和其他[类似人类的]能力。”
我们正在达到我们的人工智能系统越来越有能力处理复杂任务的地步。在某些情况下，人工智能系统被赋予了敏感的任务，例如驾驶汽车、做出财务和招聘决策以及诊断患者。对人工智能“头脑”有正确的看法将有助于我们更好地理解我们可以信任他们的任务类型以及他们在哪里达到了极限。
“虽然我们缺乏对人工智能工作推理的任何掌握，但我们更有可能沉迷于拟人化的习惯，将类似人类的认知投射到它不存在的地方，”鲍尔写道。“但把头脑归于愚蠢的事情是一回事。将错误的思维归因于真正拥有某种认知能力的系统是另一回事，也许更危险。我们的机器不像我们那样思考——所以我们最好了解它们。”
