孙明俊 
中关村智用人工智能研究院执行院长、中视科技CEO


“面部识别作为自动化分析的代表性应用，在政府部门的应用中与现有的发达国家的法律制度有很大的不兼容性。首先，公众“棱镜门”丑闻再次出现的警惕。


2007年美国国家安全局启动的网络监控计划“棱镜（PRISM）”将任何涉外通讯列为监听对象。2013年该项目由美国特工爱德华斯诺登曝出。“棱镜门”直接使得欧洲美国之间的个人数据流通协议作废，并增加了美国公民对政府的不信任。


其次，隐私权，即公权力无权侵入私人生活，是美国公民和欧盟公民最重要的宪法权利。面部识别，结合云计算，具备的强大分析功能，可能会使公权力完整记录私人行踪的轨迹成为可能。欧盟法院曾经在“数字权利爱尔兰”一案中，将政府的大范围数据分析裁定为非法。


最后，面部识别在公权力的应用是否符合人类中心原则是模糊的。欧盟、日本、韩国和电气电子工程师学会（美国）的人工智能文件中都提到了人工智能开发的人类中心原则，人工智能开发应以增进人类福祉为目的。但基于统计方法的面部识别技术在公权力，尤其是行政机关，的应用很可能将机器凌驾于人之上。
”
5
AI向善，技术预警独居老人水表及校园暴力行为
得票率：49.69%
案例描述：
“水表”和“老人安全”看似没有关联，但在上海市长宁区江苏路街道“一网统管”平台，隐藏背后的逻辑清晰可见——当独居老人家中超过12小时用水不足0.01立方米时，系统会判断老人家中有事，并及时向居委会预警。一个小小的设计，没有像摄像头那样不得不关注老人过多的隐私，也无需大量的经济和人力投入，就能实现对老年人的关爱，甚至关键时刻能挽救老人的生命。


北京某科技公司生产的校园暴力AI防控语音侦测设备，可以作为视频监控的弥补而出现在校园安全解决方案当中，为平安校园再添新色彩。该产品通过AI音频识别，全天候监控异常声音，自动报警及声光驱离等技术，重点勘察校园视频监控“死角”，在校园霸凌事件发生中及时干扰、阻止，制止校园暴力的发生。（来源：北京日报）


专家点评：
张勇 
深圳大学教授
“
AI技术的落地应用，在一定程度上可有效提升人们生活的安全性，这两个案例中第一个是通过水表对独居老人进行安全预警，体现对独居老人的无感关爱，这对当前促进社会民生改善有一定参考价值。
当然，这个案例中要提高水表计数的敏感度和数据采集的及时性与准确性，才能降低误报率。第二个案例AI技术应用，可有效减少校园暴力事件的发生，当然，这需要AI技术更智能，包括对异常声音的识别，这里的异常声音包括肢体动作发出的声音、呼救的声音、威胁的声音等，并且需要提升拾音效果。另外，采用语音侦测较视频侦测的另一个好处就是可保护未成年人隐私。
卢瑞昌 


北京大学光华管理学院金融学助理教授
“
该案例是用AI防止校园暴力，虽然是一个正面案例，但也要考虑到无限的监听会引发隐私及对其他问题的担忧。
”
6
美国科技巨头依据自身道德判断，加强企业自律及对人工智能技术的监管
得票率：49.55%
案例描述：
据外媒消息，IBM将不再提供、开发或研究面部识别技术，并表示“IBM坚决反对并且不会容忍将任何面部识别技术用于大规模监视、侵犯基本人权和自由或与我们的宗旨不符的任何行为。”此外，亚马逊、微软也均表态要支持种族平等，叫停人脸识别：亚马逊声明暂停向警方提供人脸识别技术一年时间；微软也表态停止向警方销售人脸识别软件，直到有相关国家法律出台。
欧盟有关方面和微软、IBM等科技巨头共同签署了《人工智能伦理罗马宣言》，讨论如何规范人工智能的社会影响，这是欧盟推动全球数字经济监管新标准的最新举措。与美国不同，在数字经济和人工智能领域，欧盟采取的是先规范后发展的路径。《人工智能伦理罗马宣言》指出，人工智能技术应尊重个人隐私，以可靠而无偏见的方式工作，考虑所有人的需求，并以透明方式运作。这些表述显示欧盟担忧人工智能的负面影响，认为人工智能系统尚处于研究阶段，其做出的决定往往难以预测。


Google启动了800多名员工的初始“技术道德”培训，并还针对AI原则问题发现了新的培训。Google最近发布了此培训的一个版本，作为面向客户的Cloud团队的必修课程，已有5，000名Cloud员工参加了该培训。这些员工提出了一些关键问题来发现潜在的道德问题，例如AI应用程序是否会导致经济或教育上的排斥或造成身体、心理、社会或环境伤害。（来源：综合人民网等）


专家点评：
卢瑞昌 
北京大学光华管理学院金融学助理教授


我们需要思考AI与企业治理的关系，AI伦理如何嵌入到商业运行之中。谁来做企业开发AI算法时的最后判断者？我们应该从哪个环节切入，思考人工智能所导致的结果。


从防卫意义上讲，谷歌提供“技术道德培训”是很重要的，谷歌的培训能否应对AI道德伦理的挑战，力度够不够、能否完成，这都是一个争论点。IBM等公司不再提供、开发或研究面部识别技术也值得关注。