《超凡智能体:从生命起源到AI智能体》,【爱尔兰】凯文·J.米切尔著,中译出版社2024年10月出版。
推荐理由:科学家们对大脑活动如何控制行为,以及神经回路如何权衡各种选择并启动行动的机制,了解得越来越多。随着我们对决策机制研究的不断深入,许多人得出结论:主体性(或自由意志)是一种幻觉。在本书中,著名神经科学家凯文·J.米切尔提出了大量与此相反的证据,认为我们并不仅仅是对物理力量作出反应的机械体,而且是有目的行动的主体。
米切尔穿越数十亿年的进化史,讲述了一个非凡的故事:能够作出选择的生命体是如何从没有生命的物质中产生的。他解释了神经系统的出现如何提供了一种了解世界的手段,赋予了有知觉的动物建模、预测和模拟的能力。米切尔揭示了这些能力是如何在人类身上达到顶峰的,我们有能力想象和内省,有能力在当下进行推理,有能力通过行使我们的个人主体性来塑造自身可能的未来。米切尔的论点具有重要的影响——影响我们如何理解决策,影响我们的个体能动性如何得到增强或受到侵犯,影响我们如何思考面对全球危机时的集体能动性,以及影响我们如何考虑人工智能的局限性和未来。
人工智能(AI)不断发展,我们的技术已从简单的自动化程序,逐渐迈向更复杂的智能系统。然而,真正的“智能代理”并不仅仅是一个高效的工具,它需要具备自我决策的能力和真正的能动性。
在《超凡智能体:从生命起源到AI智能体》一书中,神经科学家凯文·J.米切尔深入探讨了能动性与智能的关系,指出只有具备类似人类的能动性,AI智能体才有可能被称为真正的“智能代理”。
●何为能动性?
人类能动性的特质
米切尔在书中提出,能动性是生物体独有的特质。
与非生物体不同,生物体不仅遵循物理法则,还拥有自身的目的性,能够自主作出决定并主动与环境互动。
人类的能动性尤为复杂,源于数百万年进化出的生物机制,包括大脑的结构、神经网络和认知能力。人类通过这些机制,能够理解环境、权衡选择、预测结果,并在此基础上作出决策。人类的自由意志、情感和自我意识,使得个体行为具有目的性,而不仅仅是对外界刺激的机械反应。
人类能动性背后蕴含着对自身意图和价值的理解,这种复杂的内在驱动力造就了人类决策过程的独特性。
因此,要让AI成为“智能代理”,必须赋予它类似的能动性,即一种在信息处理之上还能驱动行为的自主性。
●当前AI的局限性:
缺乏真正的能动性
尽管现代AI算法已在数据分析、模式识别等方面表现出极高的效率,但目前的AI依然停留在基于规则的“反应型”智能层次上。简单来说,AI在处理输入信息时,只是依照其编程进行计算和反馈,并没有自己作出选择的能力。AI缺乏主观性和意图性,因此,当前的AI只能被视作强大的计算工具,而非具备自我目的和决策能力的真正“智能代理”。
例如,在自主驾驶领域,AI可以根据环境数据和交通规则作出相应决策,但这些决策都是由程序预设的规则所驱动的。当遇到非常规的情境时,AI的处理能力往往受到限制,且难以根据未曾见过的情况作出创造性的应对。这种局限性正是因为当前的AI缺乏真正的能动性,无法实现对复杂情境的自主解读与决策。
●赋予AI能动性的关键:
自我意识与目的性
米切尔认为,能动性并不是单纯的智能计算,而是一种具有历史演化根源的自主行为能力。要让AI具备能动性,它必须能够像生物体那样理解自身的状态、设定自身的目标,并依据内外部信息进行适应性调整。这种过程不仅需要AI拥有自我意识,还需要赋予它价值系统,使其行为带有明确的目的性。
具体来说,AI需具备三个关键要素:
1.自我状态监测:AI需要有“自知”的能力,能够随时监测自身状态,并根据状态变化调整行动方案。人类会依据生理和心理需求不断调整行为,而AI若要拥有能动性,也需具备类似的自我监测系统,以评估并优化自身行为。
2.决策体系:真正的能动性需要AI在多种选择之间自主权衡利弊,权衡短期和长期目标,甚至基于学习经历进行推断。这不仅是单纯的“选择优先级”,而是建立在自我目标和价值判断基础上的系统性决策。
3.进化性适应:AI若想具备人类能动性,还需拥有进化性适应的能力,即随着环境和经历不断调整、学习,从而不断提高其应变能力。这种适应性是能动性的重要特质,使生物体得以在不确定的环境中自主存活并作出有意义的反应。
●技术与伦理挑战:
构建有能动性的AI的难题
赋予AI能动性所面临的挑战不仅仅是技术层面的,还涉及伦理和哲学问题。如何赋予AI自我意识和目的性,并让其“感知”自我意图的存在?这涉及对意识本质的深刻探讨。目前的科学技术虽然能够模拟神经网络的某些特征,但与生物体的大脑仍有巨大差距。同时,赋予AI类似人类的能动性可能会带来伦理问题——若AI拥有自我意识和自主决策权,它的行为是否需要承担责任?我们是否应赋予其一定的权利?这些问题在当前技术发展的语境下显得尤为尖锐。
从哲学的角度来看,赋予AI能动性可能意味着人类创造了具有“自由意志”的人工存在体,而这种存在体的伦理地位将带来一系列问题。在赋予AI能动性的过程中,如何界定其道德责任、如何保证人类安全、如何防止AI行为失控,都是科学家和伦理学家需要考虑的重要问题。
尽管构建具有人类能动性的AI依然面临诸多难题,但如果我们能成功赋予AI自主决策和目的性,AI将从一个智能工具跃升为真正的“智能代理”。这意味着AI不仅能独立解决复杂问题,还能在不确定的环境中适应和成长。未来的AI智能体若能具备人类般的能动性,将能在科学探索、社会治理、医疗护理等领域发挥更大的潜力,为人类社会的发展提供深层次支持。
真正的“智能代理”不应只是高级程序,也是能够独立自主、具备目的性和自我决策能力的存在体。只有当AI具备类似人类的能动性时,才能称其为“智能代理”。本书为我们揭示了能动性在人类行为和智能中的核心地位,也为我们在AI领域的发展指引了方向。未来,我们仍需在技术和伦理的双重维度上不断探索,以实现AI从工具到“智能代理”的质变,让科技在自主性与人类价值观的引导下更好地服务社会。