AI应用准则首提防性别歧视

中国妇女报·中国女网记者王慧莹 发自北京 近日，旷视科技有限公司正式全文公布基于企业自身管理标准的《人工智能应用准则》（下称《准则》）。《准则》从正当性、人的监督、技术可靠性和安全性、公平和多样性、问责和及时修正、数据安全与隐私保护六个维度，对人工智能（AI）正确有序发展做出明确规范。其中，《准则》强调，无论年龄，性别，种族或其他特征如何，所有人都应该可以使用人工智能解决方案。这则被称“国内首个人工智能应用准则”中，“性别视角”没有缺席。

《准则》中关于“公平和多样性”是这样表述的：人工智能技术的开发人员应尽量减少人工智能解决方案的系统性偏差，这种系统性偏差可能来自于用于开发解决方案的数据和算法中固有的偏差。无论年龄，性别，种族或其他特征如何，所有人都应该可以使用人工智能解决方案。如果发现应用中存在问题，如何解决？《准则》中“问责和及时修正”条款规定：人工智能解决方案应该是可审核、可追责的。人工智能解决方案的错误、缺陷、偏见或其他负面影响，一经发现，应立即予以承认并积极地加以处理。“人的监督”条款中，也有相关规定：人类应该能够监督人工智能技术的发展以及人工智能系统的决策，并在必要时进行干预。

据了解，这也是国内首家人脸识别企业从技术安全和伦理角度发布应用准则。国内方面，从企业自身层面推出应用准则的企业并不多见。国际上，谷歌、微软等科技公司也曾从企业自身角度推出过关于AI技术使用的安全和伦理道德规范。无独有偶，在谷歌推出的“谷11条”和微软6大准则中，均强调人在AI使用过程中的自主性，而注重隐私安全，以及防止AI带来偏见等成为企业共同关注的准则。其中，谷歌人工智能原则中的第二条就是“避免制造或加强不公平的偏见”。微软CEO纳德拉提出的人工智能安全6大准则之一即“防偏见准则”：应通过研究确保AI不会存在偏见，歧视特定群体。

据了解，旷视曾先后参与19项人工智能相关的国家及行业标准制定。此次发布《准则》，旷视称，希望能够对人工智能行业起到示范作用，唤起各界对善用技术的重视，倡导行业提早建立可持续发展的生态。