2022年10月05日 欢迎进入工程科技颠覆性技术专题数据库!

2022世界机器人大会精彩回顾:张钹、王天然、乔红三位院士纵论了《未来机器人:目标、路径和挑战》这一宏大话题

2022年09月09日

我们的愿望是和机器人成为兄弟,但是有没有可能成为兄弟,主要在于我们跟他会不会演变为互相伤害的关系。

从阿西莫夫提出机器人三定律已经过去70多年了。

现在,科技巨头试水机器人的新闻也密集起来。比如8月里,小米发布了全尺寸人形仿生机器人“CyberOne”,别号“铁蛋”。特斯拉宣布将在今年9月30日推出人形机器人Optimus(擎天柱)原型机(马斯克称其为特斯拉今年“最重要的产品”)。腾讯发布了一款能在梅花桩上旋转踏步、单桩跳跃、双轮站立的多模态四足机器人。

此外,Meta公司的聊天机器人Blender Bot 3语出惊人,称公司为赚钱而剥削人,而扎克伯格却满不在乎;还打趣道,他有这么多钱,却总穿同样的衣服……

近日,在2022世界机器人大会上,三位院士纵论了《未来机器人:目标、路径和挑战》这一宏大话题。整场对话由世界工程组织联合会前任主席、中国电子学会副理事长龚克担任主持,中国科学院院士、清华大学人工智能研究院名誉院长张钹,中国工程院院士、中科院沈阳自动化研究所机器人技术国家工程研究中心主任王天然,中国科学院院士、中国科学院自动化研究所研究员乔红担任对话嘉宾。

机器人的发展目标是什么?机器人和人工智能的关系是什么?机器人有伦理道德方面的问题吗?研究机器人的人应该怎么做?

image.png

谈工作经历


我们做的机器人一般是笛卡尔坐标的,

王天然:我一直在中国科学院沈阳自动化研究所工作。上世纪70年代,我在我们老所长蒋新松院士领导下,开展机器方面的工作。

我的主要工作是在工业机器人领域,后来我们把工业机器人控制系统变成产品、让它产业化。在我们的共同努力下,我们建立了一家以工业机器人自研技术为主的企业,成为中国第一个上市的机器人公司。

中国科学院沈阳自动化研究所有机器人学国家重点实验室和机器人技术国家工程研究中心,我目前也是研究中心的主任。

image.png

乔红:我自己最初是从事机器人偏机械的工作。我从西安交大毕业后就出国,2004年回国,察觉到模式识别非常热,可以成为机器人的眼睛,所以我开始对模式识别感兴趣。我们做的机器人一般是笛卡尔坐标的。但是人就是这样活生生的人。他们怎么能够成为朋友?后来我又对人的神经科学产生了兴趣。

现在我是多模态人工智能系统实验室的主任,这是一间新成立的全国重点实验室。我们想把人工智能和机器人结合起来。

image.png

谈机器人与人工智能的分野

机器人让大家误解成他是一个人,人工智能让大家以为人工智能是做智能的

乔红:人工智能和机器人智能有关系,但是机器人有硬件。机器人有本体,它启动之后本体一直在循环之中,而且行动目标不一样。它的本体意味着软硬件的充分结合,所以我认为人工智能和机器人是有交叉的。本体做不到的时候,人工智能和控制可以帮助硬件部分去实现目标。

王天然:不好说将来的机器人究竟什么样。因为有人已经提出分布式工业机器人。谁规定机器人胳膊都得连在一起?你要能分开,那就厉害了。所以将来会五花八门。如果今天真的有人造肌肉可以代替钢铁机械臂,那么过去人们搞的动力学、运动学都要重写了。这将会是颠覆性的。

张钹:从现在的情况来看,机器人跟人工智能是完全独立的两个领域。这两个领域或者学科的目标是完全不同的。人工智能的目标是什么?是用机器来模仿人类的智能行为,追求的是机器的行为跟人类的行为越相似越好,追求的是所谓的similarity(相似)。但模拟人类的智能行为只是机器人的手段之一。它的目标是协助人类完成某种任务,这个任务原来是由人来完成的。它追求的目标是functionality(实用)。

机器人的研究内容大致可概括成三大方面:第一,执行机构。机器人要在物理世界里去完成一定任务,它必须得有执行机构。执行机构可以是仿人、仿动物,也可以不仿。从目前具体情况来看,很多机器人是建立在电机跟齿轮传动结构的基础上。人工智能不一定要做执行机构。第二,能源。对移动机器人来讲,要完成一定任务,高效的能源是一个关键问题,而人工智能不研究能源的问题。第三是个“大口袋”问题,我们把它叫做智能控制。包括控制、人工智能、传感器、环境感知。机器人的第三个问题才跟人工智能有些重叠,这个重叠体现在智能机器人的一部分工作上。总结来讲,机器人不是人,是机器。机器人这个名字让大家误解成他是一个人。人工智能这个名字也不好,让大家以为人工智能是做智能的。但其实我们现在对智能的了解非常非常少,我们没法去做智能,我们只能模仿智能的行为——智能的外部表现。所以请大家要注意这两个区别。至于它的前途,我认为会是多种多样的。在机器人和人工智能里也有这方面的争论——通用的人工智能要不要弄?这件事的必要性和可能性都有可以争论的地方。有必要去做个机器来代替人吗?我们人还不够吗?如果我们需要人的话,我们自己多生一些人不就完了,非得造一个跟人完全一样的人?所以我认为必要性本身不是很大。

谈机器人与人类的关系

我们和机器人有没有可能成为兄弟,主要在于我们会不会演变为互相伤害的关系

王天然:有人说将来机器人统治人类了、很危险了,我认为这个东西是过于科幻。如果人造机器的话,它就不可能达到这个目标。

现在还有一种说法,造出机器人就是为了取代人。我认为,机器人可以在某些环境下代替人做艰苦的劳动,但他的目的不是要跟人争夺同样的岗位。

将机器人说成取代人,这是故意把人和机器的矛盾挑起来。其实不是这样的。

人和机器到底应该是什么关系是很重要的一件事情。将来最好的办法是他要能替你服务,最好是伙伴关系,最好是他宛如同类。

乔红:我们原来做了一个科技部的重点项目,这个项目里当时有机器人智能发育的题目。发育这个词,我觉得有点超前,但是是指南里面写到的。我们还是期望人和机能够更近一点。

我觉得咱们国家现在的科研确实特别的宽容。有的机器人研究是从功能倒推问题的——我需要这个功能,我要怎么办?

还有一种研究给了我们胡思乱想的机会。例如,人有这个特点,它的机理是什么、能不能复制到机器上。

我们当时是这样定义机器人的智能发育的,发育就是指,第一它可以自主学习,第二是越来越复杂,第三是lifelong永远地学习。

这三个要求实际上挺难做到。我认为,机器人和人之间特别大的一个区别是,人有意识、有情感、有自己目标,但机器人没有目标,也没有真实的情绪。

人有杏仁核和前额叶,导致人有理性和感性。这个部分要不要复制也是一个问题,目前并没有在机器人里产生真正的复制。

王天然:机器人现在可以手把手地施教。现在有人会租机器来使用。工业机器人、协作机器人现在仍然有一定的局限,但是它的发展目标是将来跟人的关系像师徒关系一样,我跟着师傅学,然后帮着师傅干活,人是师傅,它是徒弟。

还有一种像现在医疗上的外骨骼机器人,可以帮人解决残疾,可以助力。但是人身上背着一个钢铁的东西还是相当不舒服的,也不能很好地协调。未来最好是能实现,人怎么想,机器人都知道;机器人要怎么做,人也都能知道。

所以我给机器人定的发展目标是宛如手足,将来最好是能宛如同类。

张钹:master,slave,或者我们大家是brothers。我们的愿望是(和机器人)成为兄弟,但是有没有可能成为兄弟,主要在于我们跟他的关系会不会演变为互相伤害的关系。

这是现在人工智能治理提出来的问题。目前我们大家越来越认识到这个可能性是存在的。

当初包括阿西莫夫、霍金他们提出来这个观点时,认为这个问题在机器身上,如果机器发展到有意识,它的智能超过我们,我们就失去了对它的控制。因此人类对这样的机器人要加以限制、治理。

但随着人工智能发展起来以后,大家发现这个问题不完全是这样。

当机器人智能很低的时候,我们就处在危险的状态了。为什么?我们处于不可控的状态。比如说,现在用深度学习的方法来做一些事情,这个人工智能算法是非常危险、非常不鲁棒(注:是在异常和危险情况下系统生存的能力)、没有可靠性保障的。如果我们运用了人工智能的算法,它必然会带来对人类的伤害,所以它已经变成了一个现实问题。

所以我们提出来的第三代人工智能,就是要解决第二代人工智能算法不安全、不可靠、不可信、不可控的问题。

今天法国科学家、Verimag实验室创办人兼退休高级CNRS研究员、2007年图灵奖获得者Joseph Sifakis也讲到这个问题。他最后提出来的模型,是加上端对端的学习。实际上大家一样认识到,纯粹靠数据驱动的方法,必然是不鲁棒的,必然是不可解释的,必然是不可靠的。这个是必然性。

怎么来解决这样问题?唯一的可能性就加上知识。Joseph Sifakis说加上模型。

第一代人工智能主要方法是知识驱动。第二代人工智能最主要的方法是数据驱动。这两个办法都有片面性,必须把两个方法加起来,机器才有可能发展出来,成为可靠的、安全的、可信的人工智能,进而发展出可信的智能机器人。

寄语年轻工作者

机器人是eater,啥技术都吃,年轻人应具备宏观力、执行力和开放度

张钹:因为这个是世界机器人大会,所以我认为我们刚才谈的那些问题都可以通过全世界团结起来,共同来发展,合作创新,能够让机器人健康发展,造福全人类。

治理的问题有很多难题,但是从技术上,很多人提出有三方面的工作可以来解决治理问题。一方面的工作,要研究新的分析工具,主要是形式逻辑加上伦理推理或者伦理的分析。

第二方面,在那些道德与不道德很难做出定义的地方,我们可以给出样本。对那些没法定义的问题,可以通过标注数据来学习。

最后一个是模拟仿真。像无人车就是这样,你要大量的做实验,让他跑。通过实验、通过模拟来发现他的问题,逐步解决。

王天然:上世纪末,2000年以前,我们工作的重点都在工业机器人的精度,可靠性、控制多少轴,怎么用的好、灵巧性。相关的技术不断支持下,机器人的前途将非常灿烂。因此有人说,现在是机器人发展的黄金时代,各个学科的融合又会在机器人身上充分体现。

我记得当年好像有一个意大利学者就管机器人叫eater,它是啥的技术都吃。所以我想其实机器人研究需要全世界各地的人,包括我们中国青年,抓住这样的机会,去发现、创造出新的东西来。

乔红:我也讲三个很抽象的点。第一句话,我觉得年轻的学者首先还是要保持宏观力。这个宏观力就是宽容度,社会对你的需要,他人对你的期望,不同领域不同的声音,这还是需要的。如果没有这种flexibility,你就不能够接触社会对你的期望、社会对你的支持。

第二个部分还是要自强自立,就是执行力。怎么把这件事情一步一步的坚定地执行下去,需要逻辑力、执行力和坚定的意志。

一个是宏观的Flexiblility,一个是强硬的执行力。

第三个我觉得很重要是开放度。很多的年轻的学者本身很强,但是他不能够接纳其他的人进入他的小领域。这个就造成了他不能够学习和成长。所以我就送给大家这三个词,就是宏观力、执行力和开放度。

(来源:图灵人工智能       作者:AIII研究院)

【关闭】