王彦雨：基于意向性的强人工智能目前没有可行性

中新经纬12月21日电 (薛宇飞)近日，清华大学社会科学学院社会学系、中国科学院学部-清华大学科学与社会协同发展研究中心主办了“伦理立场、算法设计与企业社会责任”研讨会。在研讨会上，中科院自然科学史研究所副研究员王彦雨表示，无论是外界干扰还是自我演化，只要人工智能可以形成区别于初始目标的新目标，并根据新目标自主行动，就可以看作是强人工智能形式。但机器所形成的新目标并不是基于意向性，而是基于目标变化而产生了与原始目标不同的新东西，成为相对于原始智能机器的异化体。基于意向性的人工智能，至少到现在还没有任何可行性。

中科院自然科学史研究所副研究员王彦雨。主办方供图

强人工智能概念在1980年提出，相对于弱人工智能，强人工智能概念有以下共同特征：一是达到或者是超越人类智慧；二是具有意向性，拥有自我目标设定与自我评价及认知能力；三是强AI必须有通用性，拥有完整的人类能力谱系。

王彦雨分享了人工智能研究共同体和哲学科学社会界对于强AI的看法和态度转换过程。20世纪50年代中期至70年代初期，是人工智能的第一个黄金期，随着人工智能技术的进步，这一时期的人工智能界对于强AI非常乐观，当时的许多人工智能科学家认为10年、20年以后的机器就可以做人类能够完成的任何事情。但这一时期，哲学社会科学界共同体是以强AI的反对者身份出现的，他们基于人脑功能的特殊性(如心灵的整体性、感知的综合性、经验的情景性等)，对当时的强AI乐观思潮进行了批判。

在20世纪70年代中期至80年代末，人工智能研究进入寒冬期，强AI概念逐渐衰落。1966年美国自动语言处理咨询委员会发布“ALPAC 报告”，以及1973年英国的“Lighthill Report”，均指出当时的人工智能技术难以解决诸如语义消歧、智能爆炸、不具备学习能力等问题。在他们看来，当时的人工智能并不智能，更多的是依赖一系列已经给出的固定程序来执行命令，没有学习能力。在这一时期，一种新的理念“智能增强”——强调人工智能研究目的是为了简化人机交互，而不是为了制造超越人类智慧的终极机器，开始吸引到越来越多的科学家。

从20世纪90年代初至90年代末，人工智能界基本不再提及强AI概念，怕被贴上“白日梦”标签。不过，那时候开始出现了“奇点议题”，如机器人专家莫拉维克、弗诺·文奇等通过写作科幻小说，来宣扬未来可能会出现超级智能机器，它的兴起为21世纪初的哲学社会科学界的强AI思潮提供思想基础。进入21世纪，基于摩尔定律的印证，哲学社会科学界开始复兴奇点议题，从2010年到现在，随着深度学习理念的提出，强AI的论调开始盛行。

那强AI到底强在哪里呢？他介绍，它拥有以深度学习为代表的学习模式，更类似于人，这种类似包括结构和学习过程等。而且，数据存储、搜索能力也比较强，拥有一个强大的泛化能力与进化能力。此外，当前基于深度学习技术的人工智能产品，具有更快的进化速度，以围棋AI为例，Crazy Stone的进化单位是按年计算的，阿尔法狗(AlphaGo)是以月为单位进行功能提升的，而最新的AlphaGo Zero则呈现出以天/小时为单位的功能提升模式，这种进化效率令人担忧。此外，人们的担忧还包括AI的自主性，包括决策自主性与行动自主性，且纯自主的机器人已经出现。

但这并不意味着人工智能能超越人类，因为人类的思维具有其独特品质。王彦雨说：人的思维由主动的意识起，是基于已有的背景知识、需求甚至责任等等方面而形成的自主目标，这个目标是主动提出的，而阿尔法狗(AlphaGo)等智能机器的目标则是先赋的、由人设定的，这与人类有着根本区别。此外，人脑思维具有更高阶的思维模式，比如智慧、直觉、灵感，这是人工智能没有的。

“我们还提出强人工智能2.0概念，无论是外界的干扰，还是自己的演化，只要人工智能可以形成新目标，根据这个目标自主行动，就可以看作是强AI形式。新目标不是基于意向性，而是基于目标的变化，产生了一些与原始目标不同的新东西，就可以称为强AI。”他说。

弱AI与强AI是两个不同的机制，强AI在外部的入侵与干扰、内部的演化下可以做到原始目标的偏离，这在科学上可以实现，更具有可行性，如俄罗斯机器人Promobot IR77在没有预先训练的情况下独自走出实验室寻找“充电桩”，一些机器人可将所习得的常识自主运用到新场中等。但基于意向性的人工智能，至少到现在还没有任何可行性。

王彦雨指出，在未来社会，除了作为工具的人工智能带来的风险，还有可能出现更多具有强AI2.0特质的智能体所带来的风险，这需要引起关注；另外，从哲学角度来讲，未来可能会出现人工智能机器自己生产知识的形式，随着这种知识体量的增大，会对人际关系等带来新的社会影响。(中新经纬APP)

>相关《王彦雨：基于意向性的强人工智能目前没有可行性》内容：

理财鱼小提示：三只松鼠就模特妆容道歉：基于个人特征打造，无刻意丑化 12月26日，“三只松鼠模特”相关话题登上微博热搜。有网友晒出三只松鼠2019年10月的产品宣传海报，海报中模特“眯眯眼”、“厚嘴唇”的妆容， 部分网友认为三只松鼠在故意丑化国人，引发广...【继续阅读】

理财鱼小提示：三只松鼠海报模特眯眯眼妆容被指丑化国人，公司回应：妆容基于模特特征打造 今日，三只松鼠被骂上热搜。 起因是三只松鼠一系列酸辣粉、螺蛳粉等食品广告宣传海报，被网友认为存在丑化中国人的问题。 那么，这件事来龙去脉到底是怎样的呢？我们先来...【继续阅读】

观点网讯： 12月24日，朸濬国际集团控股有限公司披露有关租赁中国物业的意向书。 于2021年12月24日（联交所交易时段后），深圳朸浚即朸濬国际的间接全资附属公司与深圳市招华会展实业有限公司订立意向书，据此，深圳朸浚可向深圳招华租赁中国深圳正在开发...【继续阅读】