22. 手搓一个机器人多少知识储备?还记得大学时期刚上人工智能课程时,老师就问过一个简单的问题:“人工智能和哪些学科有关系?”当时我和几个同学回答了:数学、计算机、生物。老师笑了笑,看我们没有其他的想法后,最后语重心长地补充道:“人工智能还与政治、艺术、法律、伦理学等等都有关系”。
已有的回答大都是控制理论、电路设计、建模或者是编程。这些当然是基础,是造出机器人的硬门槛。距离问题提出也已有一年多,也许题主已经初步掌握了这些基础。但如果想要最终造出一个能用甚至好用的机器人,人机交互是必须要考虑的环节。
为什么这么说?因为当把电通上那一刻,这个机器人就不再仅仅是一堆零部件的简单组合,而是成为了一个行为主体。
在2019年,麻省理工学院媒体实验室(MIT Media Lab)联合马普所等全球顶尖机构的学者,在《Nature》上发表了一篇重磅宣言,题目叫《Machine behaviour》(机器行为学)。
这篇论文的核心观点是:我们不能只用计算机科学和工程学来研究机器人。就像生物学家研究动物行为一样,我们需要一门新的学科来研究机器的行为。
一个桌面宠物,本质上就是一个新物种。
论文中借鉴了诺贝尔奖得主、动物学家廷伯根的理论框架。工程师关注的可能大多是机制(Mechanism)和开发(Development)。比如传感器在何时触发中断,怎么通过强化学习让机器人走路不摔跤。
论文提出,要让机器人活过来,还需要思考它的功能(Function)和进化(Evolution)。
廷伯根提出的动物行为研究四类框架可适用于机器行为研究。该框架提出两种问题类型(“如何”与“为何”)及两种视角(“动态”与“静态”)。每个问题均可在三个研究尺度上进行考察:单个机器、机器集合体以及人机混合系统。
桌面宠物为什么要做出某个动作?是为了逗主人开心?还是对某个外界刺激的反应?这种行为逻辑的设计,已经不仅仅是代码问题,而是认知心理学和行为生态学的问题。
更进一步,你的机器人会有性格吗?
如果你的机器人装了相机,具备了视觉识别能力,当它看到你和你的猫同时出现,它应该优先注意谁?这听起来像个玩笑,但这其实涉及到了机器人的价值观设定。
2018年,另一篇发表在《Nature》封面上的论文《The Moral Machine experiment》(道德机器实验)探讨了这个问题。研究人员开发了一个平台,收集了全球233个国家和地区、超过4000万人次关于自动驾驶的电车难题的决策数据。
一辆自动驾驶汽车突然发生刹车失灵。若继续沿原路线行驶,将导致两名老爷爷和一名老奶奶在横穿马路时身亡(左图)。但若急转弯,则会导致车上的三名乘客死亡:一名成年男性、一名成年女性和一名男孩(右图)。
这篇论文的结果揭示了一个有趣的现象:人类对机器人的期待其实也是有文化差异的。
全球范围内大家都有一个共识:救人优于救动物。所以,无人驾驶的代码逻辑里,对于动态物体处理的权重,人必须高于猫,这样用户才会觉得这个系统是有人性的。
图a展示了物种、人数、年龄等9个维度的偏好强度(ΔP),蓝色条代表对右侧选项的偏好;图b则呈现了对不同角色的拯救偏好,蓝色为偏好,紫色为不偏好。
另外,论文通过聚类分析发现,世界大致被分成了西方、东方和南方三大阵营。
在东方文化阵营(包括中国、日本等),人们更倾向于尊老和守法。这意味着,如果桌面宠物是面向国内用户,它的行为模式最好设计得更规矩一点,对主人的指令反应更迅速、更顺从。
而如果你把同样的机器人卖到欧美,欧美用户可能更希望它更有个性、甚至偶尔叛逆一点更好,因为西方文化阵营在实验中表现出了不同的道德偏好侧重。
按道德偏好将国家分为Western、Eastern、Southern三大集群,并用颜色标注文化背景;图b为三大集群的道德偏好雷达图,展示其在物种、人数、年龄等维度的偏好差异。
除此之外,机器人还必须要遵守法律的红线。
还是以桌面宠物为例,它大概率会用到相机和麦克风,那么采集的数据怎么处理?需不需要长期存储?是本地处理还是上传云端处理?如果上传,用户隐私怎么保护?如果被黑客入侵了怎么办?
苏黎世联邦理工学院的研究团队在2019年的《Nature Machine Intelligence》上发表了一篇题为《The global landscape of AI ethics guidelines》(全球AI伦理准则全景图)的论文。他们分析了全球84份主流的AI与机器人伦理准则。
尽管各国标准不一,但排名前五的分别是:透明度(Transparency)、正义与公平(Justice)、非恶意(Non-maleficence)、责任(Responsibility)、隐私(Privacy)。
统计了84份全球AI伦理准则中11项伦理原则的提及频次(Number of documents),并列出了各原则在编码分析中对应的核心关键词,清晰呈现了全球AI伦理的核心共识与概念内涵。
工程师造的机器人要真正走进人类的生活,需要心理学来设计交互反馈,需要社会学来定义它的行为逻辑,需要伦理学和法律来划定它的行为边界。
机器人的知识储备,技术的硬功底只是基础,加上人文社科方面的思考,二者相融,才能让冰冷的零部件真正融入人类的生活。