IBM、亚马逊限制人脸识别，中国企业和专家怎么看？

1370588516

前不久，IBM 首席执行官阿里德 · 克里希纳表示，将不会继续研发并向客户提供人脸识别分析软件。另一家美国大企业亚马逊则宣布，将暂停警方使用人脸识别技术一年，同时也为自己留了退路：" 如有需要，我们将随时准备提供帮助。"
对于人脸识别等人工智能技术，中国知名企业和专家怎么看？我们是否要在技术研发、产品开发及其应用上加以限制？解放日报 · 上观新闻记者采访了旷视科技首席运营官、旷视 AI 治理研究院院长徐云程和中国科学院自动化研究所研究员、科技部新一代人工智能治理委员会委员曾毅。
技术好坏应放在场景里讨论
本周五下午 1 时，2020 世界人工智能大会治理论坛将在线播出。在科技部战略规划司和上海市科委的指导下，治理论坛将以 " 发展负责任的人工智能 " 为主题，探讨 " 技术 + 制度 " 双轮驱动的治理综合解决方案，探寻人工智能治理新模式。本届治理论坛上，以各种形式演讲和分享的嘉宾有 30 位，其中国际嘉宾近 20 位，包括：图灵奖获得者约翰 · 霍普克罗夫特、联合国人工智能和机器人中心主任伊莱克利 · 伯利兹、中国科学院院士何积丰、旷视科技联合创始人兼首席执行官印奇等大咖。
在各种人工智能技术应用中，人脸识别受到的争议比较大。徐云程认为，任何一种技术的好坏都应放在具体的场景里讨论。在一些场景里，人脸识别是很有用的，可以得到公众的广泛认同。比如在寻找走失的儿童和老人场景里，这种技术应用有非常强的优越性，其效率明显高于其他技术和方法。
而在有些场景里，采用人脸识别技术则需审慎。比如旷视 AI 治理研究院评选出的 "2019 全球十大 AI 治理事件 " 中，" 中国人脸识别第一案 " 榜上有名：去年 10 月，浙江理工大学副教授、法学博士郭兵收到了杭州野生动物世界发来的短信，说年卡用户需要 " 刷脸 " 才能入园。郭兵不愿接受被采集人脸信息，要求退卡遭拒，于是将杭州野生动物世界告上法庭，要求全额退款。11 月 1 日，杭州富阳法院受理该案。消费者起诉商家涉及人脸识别的民事诉讼，在我国很可能是第一起。


徐云程还指出，包括人脸识别在内的所有人工智能技术都要有它的应用界限，这条界限在技术研发和产品开发时应成为前置的考量因素。" 在人工智能领域，我们不能先发展后治理，而是应边发展边治理。"
本着这一理念，旷视科技已成为国内 AI 企业中探索人工智能治理的先行者。去年 7 月，这家企业发布了《人工智能应用准则》，将正当性、人的监督、技术可靠性和安全性、公平和多样性、责任可追溯、数据隐私保护等 6 个维度作为本公司人工智能治理的依据，并呼吁同行和合作伙伴重视这方面工作。今年 1 月，旷视成立 AI 治理研究院，开始就全球人工智能治理的共性问题与社会各界广泛沟通。
企业开发产品要主动讨论伦理
在曾毅研究员看来，我国无论是企业还是政府，近年来在人工智能治理方面都积极作为。作为科技部新一代人工智能治理委员会委员，他参与撰写了《新一代人工智能治理原则——发展负责任的人工智能》。这份去年 6 月发布的文件制定了中国人工智能治理的框架和行动指南，提出和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理等 8 条原则。
" 一些西方媒体夸大了中西方在人工智能治理和伦理上的差异，其实，尊重隐私、公平公正等原则在中西方国家是共通的。" 曾毅说，" 儒家文化主张‘和而不同’，各个国家和地区有不同的文化，我们需要通过坦诚交流谋求共识。"
据介绍，联合国教科文组织正在推动《全球人工智能伦理建议》制订工作。起草伦理建议的专家由 193 个会员国推荐，从中再遴选出 24 位专家，组成起草伦理建议的专家组。曾毅是全球 24 位专家之一，今年参与完成了《全球人工智能伦理建议草案》。这份草案的中英文版已经在联合国教科文组织官网上发布，处于征求意见阶段。根据计划，今年年底或明年年初举行的联合国教科文组织大会上，193 个会员国将共同签署《全球人工智能伦理建议》同意书，用于规范人工智能技术在教育、科学、文化等各个领域的研发和应用。


曾毅认为，人工智能敏捷治理体现了我国的一个制度优势。近年来，国内发生过一些与人工智能相关、引发社会争议的事件，中央和地方相关部门通过与涉事单位充分沟通，及时了解事件经过、妥善应对事件的影响，充分照顾到公众对于事件的关切，也对技术未来的应用进行了全面探讨。这种敏捷治理的效率和效果，是显而易见的。
人工智能治理是个社会参与度很高的话题，政、产、学、研等各个方面都在参与进来。其中，企业的作用不可或缺。以旷视为例，徐云程介绍说，公司正在将《人工智能应用准则》应用于研发、产品、销售、培训等 4 个领域。虽然在推行中，一些员工有不同意见，认为把伦理讨论引入产品开发为时尚早，然而经过一年磨合，大家发现，把 AI 治理这个成本放在事前讨论，比放在事后补救更有成效。渐渐地，员工愿意积极地接纳治理理念，为今后企业进一步推进工作开了个好头。"AI 治理需要理性的关注、深度的研究、建设性的讨论、坚持不懈的行动。" 徐云程说，" 企业的 AI 治理，行胜于言。"
栏目主编：黄海华 本文作者：俞陶然 文字编辑：俞陶然