始终被人掌控才是人工智能的方向

■ 张田勘

英国物理学家霍金一再就人工智能的发展提出警告称，人类创造了可以毁灭世界的人工智能，却至今仍无能力避免这个灾难。人类的科技进步太过迅速，而这个巨大的步伐却可能经由生化或核子战争的方式摧毁人类。或者说，世界的毁灭或已逼近，人类创造了可以毁灭地球的科技，却没有建立有效的机制去防止毁灭的发生。

人工智能对人的诱惑似乎像极了好奇害死猫！仅仅从霍金一再警告来看，除了用心良苦，还有可能是多虑了。在从事人工智能的研究人员看来，人工智能目前仍然十分初级和幼稚，不仅离完成人的日常工作和重大任务还相距甚远，而且离机器取代甚至统治人类更是遥遥无期，因此，人工智能毁灭人类就是一种梦幻，甚至呓语。

但是，有人一而再，再而三地提出人工智可能毁灭人的警告也并非没有事实基础和想象的空间，最有说服力的事实就是，人工智能的失误杀死了人。人工智能支配的机器人害死人的首个记录可能要追溯到1979年1月25日，年仅25岁的美国福特工厂装配线工人威廉姆斯在密歇根州的福特铸造厂被工业机器人手臂击中身亡。法院裁定威廉姆斯的家人获得1000万美元的赔偿。

不过，很能吊起人们胃口的是，今天，机器人失误杀死人的事情好像增多了。最让人惊讶的是，2015年7月，大众汽车德国工厂中的一名21岁工人被装配机器人袭击，当场死亡。

细心考量，即便机器人失控和失误，未必就会毁灭人。比较起来，人自身的失误和失控（如精神疾病）每年都要杀害无数的人，更可以称为人类毁灭人类自身。例如，中国每年发生交通事故约50万，死亡的人数在10万以上。

或许，从这个类比上可以看到，表面上看交通事故的杀人犯是机器，是人造出来的汽车在害人，但实际上，杀死人的是人，因为，是人在驾驭汽车，并且是因为不守规则而造成事故。

即便汽车安装了人工智能软件出车祸，害人的也是人，而非人工智能。

2016年5月，一位名叫约书亚·布朗的驾驶者驾驶Model S与一辆卡车相撞丧生。当时布朗驾驶的Model S处于部分自动驾驶状态，使用的是特斯拉的Autopilot自动驾驶软件，这也是全球第一起因自动驾驶而致人死亡的事故。

经过半年多的调查，美国国家高速公路交通安全管理局于2017年1月19日宣布，未发现Autopilot功能存在问题。事故的原因是，强烈的日照和卡车白色车身让Model S的Autopilot系统摄像头短暂“失明”，未能够在白天强光下及时发现拖车白色侧面的反光，导致在自动驾驶模式下的刹车功能未能紧急启动，Model S与卡车相撞。

这也意味着，布朗的死亡并非人工智能的问题，而是人类设计的人工智能还不足以分辨道路上瞬息万变的复杂情况，从而导致人工智能不能像人一样正确发出指令，果断地避免撞车。

其实，这也提出了人工智能的一个本质问题，只有达到人的智能并能始终被人掌控的人工智能才是真正的人工智能。这两点——达到人的智能水平和始终被人掌控——在今天都还做不到。但是，人工智能始终能被人掌控已经列入人工智能发展的重要议题。这也符合霍金的另一个思路，人类唯一的办法，就是运用其逻辑与理性去控制人工智能可能对人类的毁灭。

现在，美国麻省理工学院计算机科学与人工智能实验室的研究员詹森·多夫曼团队的研究结果让人们看到了阻止机器人杀人和毁灭人的曙光，也即让机器人自始至终受人掌控，不会出错。

研究人员研发了一个反馈系统，能够让人类操作者仅通过大脑信号就能实时纠正机器人的错误，并作出正确的选择。具体程序是由一台名为Baxter的人形机器人采用脑电图（EEG）检测器来完成。因为EEG能够记录大脑的活动，当机器人执行某个分类目标任务时，通过使用脑电图检测器输出数据，可以识别出人类是否注意到机器人犯错误，实际上这就是一种脑控机器人，也称为人脑-计算机界面。

大脑中有一种被称为“误差相关电位”（ErrP）的大脑信号，只要人的大脑意识到了一个错误，该信号就会自动生成。当机器人打算给自己做出选择的时候，反馈系统就会使用ErrP信号来判断人类是否同意机器人的这个决定。而研究团队研发的新款机器学习算法能够帮助系统识别10到30微秒的脑电波，从而能够让人类操作者仅通过大脑信号就能实时纠正机器人的错误，并做出正确的选择和指令。

这种人工智能也意味着，人必须时时刻刻守着机器人，观察其操作是否正常，如果不正常，人的大脑发出的脑电波就能指示机器人改正错误，所以人工智能意味着离不开人，并且必须受人掌控。