当前，新一代人工智能技术在全球蓬勃兴起，迅猛发展，与大数据、区块链、5G等新技术相互融合、相互因应，为经济社会发展尤其是数字经济发展注入新动能，正在深刻改变社会生产生活方式。与此同时，如何在新技术变革浪潮中始终立于主动，实现人工智能等前沿科技领域有效治理，确保其持续健康发展，也随之成为一个国际国内、社会各界都广泛关注的重大现实问题、重大时代议题。


　　人工智能治理是复杂性、系统性很高的社会议题，涵盖政策、技术、产业、法律、传播、伦理、安全、国际关系、意识形态等诸多领域。与之相应，对国际国内人工智能治理标志性事件开展研究，也必然需要各界协同，共同推动。为此，人民智库与旷视AI治理研究院成立联合课题组，共同开展“2020年度全球十大人工智能治理事件”遴选、评议，组织相关领域权威专家学者，从AI与公众福祉、AI与公平正义、AI政府（企业）治理、AI系统安全性与数据隐私安全等四个主要维度出发，依据理论价值、实践价值、新闻价值、研究价值等四个评价标准进行评议，并面向社会公众开展在线问卷调查，对人工智能产业领域从业者，相关部委、行业协会领导专家等典型群体进行深入访谈。经综合各方面资料、数据、意见、观点，最终得出2020年度全球十大人工智能治理事件。


　　这些事件，反映人工智能治理领域实践探索和前沿趋势，反映新一代人工智能技术的广泛应用前景，反映公众对AI（人工智能）治理，引导科技向善，助力政府、机构、企业的多层次、多样化参与，通过新一代信息技术的良性发展增进人类福祉、改善民生的热切期待。


1
AI成“监工”：算法下外卖骑手挑战交通规则，“助手”可能变“杀手”


得票率：51.2%


案例描述：


为提高配送效率，一些外卖平台研究开发了实时智能配送系统。借助AI算法，平台可以最优化地安排订单，也能给骑手规划最合理的路线。但出于平台、骑手和用户三方效率最大化的目标，AI算法将所有时间压缩到了极致，为了按时完成配送，骑手们只能用超速去挽回超时这件事。超速、闯红灯、逆行……外卖骑手挑战交通规则的举动是一种逆算法，是骑手们长期在系统算法的控制与规训之下做出的不得已的劳动实践，而这种逆算法的直接后果则是——外卖员遭遇交通事故的数量急剧上升。同时，这也意味着，在很多人类劳动者和AI的协作专业工作中，人类将处在被管辖和被监督之下。（来源：《人物》杂志）
专家点评：
徐云程 


旷视首席发展官、旷视AI治理研究院院长
这个案例虽然讲的是外卖骑手，但我们可以思考，当AI算法嵌入到人类社会的方方面面，人类在不知不觉中已经作为一个数据被算法研究，人类每天看到的信息究竟是算法推送还是客观公正的？当算法的技术不断臻于完美，商业利益不断迭代，对人类福祉的影响到底是什么？对AI企业来说，应在早期产品实验室研究过程和产品化过程中考虑到平等问题；作为个人，在推动AI治理时，应思考如何贡献更多前瞻性看法。


梁正 


清华大学公共管理学院教授、清华大学人工智能国际治理研究院副院长


“选择该案例并不是因为这是一个现象级问题，而是可以看出人工智能治理问题不是某一个单一主体可以解决的。我们可以看到，在这个案例里还包括交通规划、收入保障体系不到位等问题，我的结论是——我们需要一个多元主体共治的治理体系。


”
徐勇 


哈尔滨工业大学深圳研究生院教授、博导


AI技术的发展与普及给人类生活带来了极大的便利，但由于商业驱动产生了以盈利为导向的技术优化，使得劳动人员在技术监管下对现实社会规章制度产生破坏行为。AI技术的应用应有利于人类社会良性发展，我国处于AI技术高速发展的阶段，企业以AI技术压榨人力劳动术来增加商业利益无疑是一种舍本逐末的行为。需要运用法律和道德对AI技术的研发和应用进行约束，正确引导企业的价值观。在人工智能普及的时代，也应充分保护劳动者的合法权益，人工智能算法的应用在追求效率和利益之外，不可忽略人性与理性，不能让机器的冰冷碾压人性的光辉。
”
2人工智能可以翻译大脑想法将大脑信号转化为文本数据，“读懂意识”让隐私无处遁藏


得票率：50.09%


案例描述：
加州大学JosephMakin博士在《自然神经科学》杂志上发表了研究，其开发了一个系统，可以将大脑活动转化为文本数据，单句错词仅3％。


实验参与者被要求多次朗读50个固定句子，研究者们跟踪了他们讲话时的神经活动。这些数据随后被输入到机器学习算法中，系统能将每个口述句子的大脑活动数据转换为数字字符串。不过，由于通过脑机接口翻译大脑想法的技术对人们的隐私构成了强大的威胁，因此也一直伴随着不小的争议。（来源：综合新浪、凤凰网）


专家点评：
喻丰 
武汉大学哲学学院教授


“机器人实际上是人所创造出的客体，但在未来社会它可能会同人这个本体相脱离，成为本体的存在，而且反客为主，反过来束缚、支配、乃至压抑人类。我们这些站在食物链顶端的人类会在不久的将来面临前所未有的危机和挑战，比如算法开始替代人类作出选择，一些原来只有人类能做的工作将会被机器所取代。


”
徐勇 
哈尔滨工业大学深圳研究生院教授、博导


“人工智能可简单看做是一种模拟和扩展人类智慧的科学技术。对人类大脑运行机制的解析，一方面有助于人对自身的深入认知，另一方面有助于人们生活的便捷化与智慧化。上述技术的改进及成熟化应用，也许有助于聋哑人等残疾人士的交流，助力于他们的生活。但是，假如相应技术被滥用或误用，也可能使得人们大脑中的想法无任何隐私可言；人类大脑这一“潘多拉盒子”被打开的程度与方式是全社会需要


3
全国首例：法院认定人工智能生成文章构成作品，拥有著作权


得票率：49.78%
案例描述：
2020年1月，广东省深圳市南山区人民法院一审审结原告深圳市腾讯计算机系统有限公司诉被告上海盈某科技有限公司侵害著作权及不正当竞争纠纷一案，认定人工智能生成的文章构成作品。此案系全国首例认定人工智能生成的文章构成作品案件。该案明确了人工智能生成物的独创性判断步骤，并在如何看待人工智能生成物的创作过程以及相关人工智能使用人员的行为能否被认定为法律意义上的创作行为的问题上做出了探索，认定人工智能生成的文章构成作品，对于今后同类型案件的审理有一定的借鉴意义。（来源：人民网深圳频道）
专家点评：
卢瑞昌 
北京大学光华管理学院金融学助理教授
“
这个案例很重要，这是关于法律是如何定义人工智能的。随着社会发展，未来人工智能在各行业的应用、人工智能的归属权、法律是否将其定义为一个法律主体，将是很重要的一个争执点。
梁正 
清华大学公共管理学院教授、清华大学人工智能国际治理研究院副院长


“这个案例是从法律的层面上讨论AI生成作品一事，但我们需要注意到AI可能会对很多产业产生革命性的作用，并且要理性思考AI还可以应用到什么领域。


4


欧美、韩国相继出台AI治理新规，严格限制、甚至禁用相关人工智能技术在某些场景的发展和应用
得票率：49.73%
案例描述：


欧盟委员会发布《人工智能白皮书》，希望通过不断实现科学突破，维护欧盟的技术领先地位并确保新技术在尊重人权的基础上，改善人们生活。当前欧洲采取了一致的方法来应对AI对人类和社会道德的影响，并思考了如何利用大数据进行创新。欧盟正在考虑禁止在公共场所使用人脸识别技术长达五年，以便有时间研究如何防止这种技术被滥用。欧盟委员会表示，在为期3至5年的禁令期间，“可以确定和制定评估这一技术的影响和可能的风险管理措施的健全方法”。欧盟文件称，对于安全项目以及科技研发活动，禁令可能会有例外。该文件还建议，对人工智能的开发者和用户都施加一些义务，欧盟国家的政府应该指定监管机构来监管新规则。