前不久，ibm首席执行官阿里德·克里希纳表示，将不会继续研发并向客户提供人脸识别分析软件。另一家美国大企业亚马逊则宣布，将暂停警方使用人脸识别技术一年，同时也为自己留了退路：“如有需要，我们将随时准备提供帮助。”
对于人脸识别等人工智能技术，中国知名企业和专家怎么看？我们是否要在技术研发、产品开发及其应用上加以限制？解放日报·上观新闻记者采访了旷视科技首席运营官、旷视ai治理研究院院长徐云程和中国科学院自动化研究所研究员、科技部新一代人工智能治理委员会委员曾毅。
技术好坏应放在场景里讨论
本周五下午1时，世界人工智能大会治理论坛将在线播出。在科技部战略规划司和上海市科委的指导下，治理论坛将以“发展负责任的人工智能”为主题，探讨“技术+制度”双轮驱动的治理综合解决方案，探寻人工智能治理新模式。本届治理论坛上，以各种形式演讲和分享的嘉宾有30位，其中国际嘉宾近20位，包括：图灵奖获得者约翰·霍普克罗夫特、联合国人工智能和机器人中心主任伊莱克利·伯利兹、中国科学院院士何积丰、旷视科技联合创始人兼首席执行官印奇等大咖。
在各种人工智能技术应用中，人脸识别受到的争议比较大。徐云程认为，任何一种技术的好坏都应放在具体的场景里讨论。在一些场景里，人脸识别是很有用的，可以得到公众的广泛认同。比如在寻找走失的儿童和老人场景里，这种技术应用有非常强的优越性，其效率明显高于其他技术和方法。
而在有些场景里，采用人脸识别技术则需审慎。比如旷视ai治理研究院评选出的“全球十大ai治理事件”中，“中国人脸识别第一案”榜上有名：去年10月，浙江理工大学副教授、法学博士郭兵收到了杭州野生动物世界发来的短信，说年卡用户需要“刷脸”才能入园。郭兵不愿接受被采集人脸信息，要求退卡遭拒，于是将杭州野生动物世界告上法庭，要求全额退款。11月1日，杭州富阳法院受理该案。消费者起诉商家涉及人脸识别的民事诉讼，在我国很可能是第一起。
徐云程还指出，包括人脸识别在内的所有人工智能技术都要有它的应用界限，这条界限在技术研发和产品开发时应成为前置的考量因素。“在人工智能领域，我们不能先发展后治理，而是应边发展边治理。”
本着这一理念，旷视科技已成为国内ai企业中探索人工智能治理的先行者。去年7月，这家企业发布了《人工智能应用准则》，将正当性、人的监督、技术可靠性和安全性、公平和多样性、责任可追溯、数据隐私保护等6个维度作为本公司人工智能治理的依据，并呼吁同行和合作伙伴重视这方面工作。今年1月，旷视成立ai治理研究院，开始就全球人工智能治理的共性问题与社会各界广泛沟通。
企业开发产品要主动讨论伦理
在曾毅研究员看来，我国无论是企业还是政府，近年来在人工智能治理方面都积极作为。作为科技部新一代人工智能治理委员会委员，他参与撰写了《新一代人工智能治理原则——发展负责任的人工智能》。这份去年6月发布的文件制定了中国人工智能治理的框架和行动指南，提出和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理等8条原则。
“一些西方媒体夸大了中西方在人工智能治理和伦理上的差异，其实，尊重隐私、公平公正等原则在中西方国家是共通的。”曾毅说，“儒家文化主张‘和而不同’，各个国家和地区有不同的文化，我们需要通过坦诚交流谋求共识。”
据介绍，联合国教科文组织正在推动《全球人工智能伦理建议》制订工作。起草伦理建议的专家由个会员国推荐，从中再遴选出24位专家，组成起草伦理建议的专家组。曾毅是全球24位专家之一，今年参与完成了《全球人工智能伦理建议草案》。这份草案的中英文版已经在联合国教科文组织