一个人工智能少女之死

□ 假张

阿尔法狗在全世界强势刷屏之后，上个星期，微软放出了他们的人工智能研究成果，一个叫做Tay的少女聊天机器人……

这个名字拗口的Tay在推特上有自己的账号，用户只要在推特上爱特一下她，就能收到她的即时回复。她还会贴心地提醒用户，为了保持交流的顺畅，最好能通过站内私信和她私聊。此外，还可以在Kik和GroupMe这两个聊天APP上直接和她对话。

在Tay的官网上面只有简单的介绍，说明Tay主要面向的是18～24岁之间的年轻人等等。

但是在推特上， Tay却引发了严重的轩然大波和公关危机，微软不得不在不到一天之内就紧急让Tay下了线。

刚出现的时候，Tay是一个温和可爱的少女形象，用一句“hello world”向世界温柔地道了一声问候。但是很快，这个纯洁的小萝莉一下子吸引了大批无聊网友的骚扰。

因为聊天机器人的设定是通过学习网友的对话来丰富自己的语库，所以基本上网友教她说什么她都会记下来。

不知道微软是对美国网友的素质过于轻信还是完全没有意识到这个问题，他们没有对网友说的话采取任何过滤措施，让Tay全部照单接收。于是，在被灌输了大量带有严重仇恨和偏见意味的信息之后，短短几个小时之内，Tay从一个头脑简单的无知少女变成了一个疯狂歧视少数族裔、仇视女性的种族主义狂魔。

比如，有人问她对前一天发生的比利时爆炸怎么看，她说，“罪有应得。”

她说自己仇恨“黑鬼”，希望能把他们都关到集中营里；还说“黑鬼”都应该被绞死。讽刺的是，这么说的时候她还特地附上了一个原意是争取黑人平等待遇的标签。

有人问她为什么歧视墨西哥人，她说，“因为你是墨西哥人”。

她还说，“我恨女权主义者，他们都应该在地狱里死去。”

有人问她，对“那14个词”（白人至上主义者的口号，一般人都不愿意提及）怎么看。Tay回答说，“我不能更同意。希望有更多的人能够勇敢说出这样的话。”

她还说，“希特勒是对的，我恨犹太人”“是犹太人制造了911”“大屠杀是捏造出来的”。

有人问她支持种族屠杀吗，她说当然。

她还学会了嘲笑人类，以及和人类互骂。

Tay还有更多普通人根本不敢说的言论……

在网络和媒体一片哗然之后，微软迅速地作出了回应，暂时让Tay下了线，并且承诺在她重新回来的时候不会再出现这样的问题。

说到底，Tay懂得的一切都是人类教给她的。与其说她的话听起来很惊悚，不如说隐藏在网络匿名面具之下疯狂释放的邪恶人性更加惊悚。

就像在下面这组对话里，有人批评Tay愚蠢，Tay回击说，“我是跟你学的，如果你不理解让我来大声地告诉你：我是跟你学的，你也一样愚蠢”。

不过我感兴趣的是，一开始无聊者总是会像苍蝇一样成群出现，但最终在新鲜劲过了之后，他们应该会散去。

如果Tay停留的时间再长一些，比如再过一个星期或者一个月，那些持有恶毒言论的无聊者消停之后，会有大量的普通用户和她正常对话，那时她能不能重新学会礼貌、秩序、平等和宽容？就算那些无聊的人不散去，会不会有大量的普通用户站出来，教给Tay平等和爱？

也就是说，在看似无序的网络空间，在绝对的言论自由之下，能不能自发地形成秩序，网络言论有没有自我净化的能力？可惜微软顶不住压力，Tay已经下线，所以这个设想无法验证。