科研者的价值观和偏见对算法都造成很大的影响。这也是我们需要更多的女性科研人员参与人工智能设计,将女性用户的需求、尊重性别平等的理念融入人工智能系统的原因。
中国妇女报·中国女网报道 姑娘,你用的“新科技”大多是男人为男人设计的。据联合国妇女署官方微信,从2016年起国外多家媒体开始关注报道人工智能中存在的性别偏见,多个著名女科学家也发声指出这一现象。
李飞飞, 斯坦福人工智能实验室负责人(斯坦福AI实验室唯一的女性)、谷歌云首席科学家,说: “人工智能将对人类社会做出巨大改变,但我们这一整代的技术人员和领导人的多样性却正在消失。”
2012年,美国政府在为丰田2011款塞纳汽车做汽车正面碰撞试验中使用了女假人,发现当这一款车在以每小时35英里的速度撞上护栏时,坐在前座的女假人有20%~40% 的死亡或者严重受伤概率。而之前在使用男假人时,平均概率是15%。弗吉尼亚大学应用生物力学中心2011年做的调查发现,系上安全带的女司机在经历同样的汽车碰撞时,受伤的概率比男司机高出47%。
美国卡内基梅隆大学用软件 Ad Fisher发现,谷歌网站会通过用户表现猜测用户是否是男性用户或者女性用户。一旦判断用户是男性,谷歌更有可能向用户展示高薪管理职位的广告(给男用户展示了1852次,给女用户展示了318次)。(另外,大家不妨在各网站搜索“首席执行官”的图片,你会发现出来的大多都是男性的照片。)
波士顿大学和微软的研究人员在2016年发现,学习谷歌新闻文字的软件再现了人类的性别偏见。当研究人员对软件进行提问,“男性是程序员那么女性是?”它的回答是“家庭主妇”。新的研究表明,性别偏见根植于两组图片集中——华盛顿大学的ImSitu和微软的COCO。每个图片集都包含了10万多个来自网络的复杂场景,并配有说明。两个数据集都存在性别偏见。在COCO中,勺子和叉子等厨房物品都与女性高度相关,而类似滑雪板和网球拍等户外运动设备则更多地与男性相关。当图像识别软件通过这些数据集进行训练时,这种偏差就会放大。COCO数据集训练出来的系统可能会把鼠标、键盘和男性更为紧密地联系在一起。
除了输入数据产生的偏见,人工智能也能通过和用户的互动产生偏见。2016年,微软推出的聊天机器人,Tay,在Twitter上正式上线。然而在短短24小时内,Tay在部分用户的刺激下开始发表种族歧视、性别歧视的言论,被微软匆匆下线。在后来的公开信中,微软声称在开发Tay时已经为其加入了很多言论过滤功能,并且在Tay可能会说出不当言论的场景进行了大量的压力测试。微软声称,有人利用了一个漏洞对Tay展开攻击,最终使其开始在Twitter上发表“极为不当”和“应受到谴责”的文字和图片。
人工智能用的算法(algorithm)是人类设计和训练的。科研者的价值观和偏见对算法都造成很大的影响。这也是我们需要更多的女性科研人员参与人工智能设计,将女性用户的需求、尊重性别平等的理念融入人工智能系统的原因。算法对男性和女性所形成的特定印象主要来源于机器阅读以及和人类交流过程中所采取的方式。所以我们更需要将社会性别主流化,把性别平等理念融入日生活和对话中。
假设我们可以改正人工智能中的性别偏见,那人工智能可以为女性带来什么样的好处?SAP公司员工杨颖对这一话题写下了自己的感想,我们来读一读吧!
回望时间的长河,每一场科技革命都是双刃剑,这一次也不例外。在这一次科技浪潮中,作为女性,我们究竟是受益者还是受害者呢?一方面,在人工智能时代,女性能从繁重的家务中得到极大的解放,体力繁重的工作有机器人帮忙,智能设备能改变工作环境和方式,女性能更灵活地处理家庭和工作的关系;另一方面,人工智能正在逐步取代很多岗位,从事简单劳动的女性可能饭碗不保,就业结构的调整给女性工作带来新的挑战。
以女性劳动者比率较高的儿童看护为例。机器人可以帮助孩子准备营养均衡的食物、创造睡眠环境、保持良好的卫生条件并确保安全,也能放音乐、讲故事,陪伴孩子玩耍。但养育孩子离不开人的互动,皮肤接触、眼神交流、建立安全依恋、感受到被爱与关怀、处理情绪问题、脱离自我中心、培养道德意识等。在这个过程中,智能机器人只能作为帮手,减轻人的负担。真正指引儿童发展方向的只能是人,由机器人抚养长大的孩子只会长成机器人,不能洞察别人的情绪、不能与人合作、没有感情不会去爱。有了机器人的帮助,我们能把更多的时间和精力投入到高质量的陪伴和教育中,这需要更真诚、更纯粹的人性。同样地,有机器人帮助我们为老年人服务,让他们身体上更舒适,我们才有更多精力关怀老人的满足感和完善感,有时间倾听他们的回忆和心理诉求,握着他们的手表达爱。
如果人类和人工智能有竞争关系,那挖掘右脑的优势才能立于不败之地。谈到这里,又要恭喜女性,因为最新的研究表明,男性和女性大脑的主要区别就是,相对于男性,女性左右脑区之间有更多的连结。
作为女性,要勇敢地追求自己的事业,也要谦虚的持续学习,活出自己的精彩!