震惊全球事件_旷视成立AI治理研究院 回溯全球十大AI治理事件

:师旷人工智能治理研究所的成立可以追溯到世界上十大人工智能治理事件

。近年来，随着人工智能开始加速产业化，也带来了数据使用和隐私保护方面的新问题。师旷作为推进人工智能产业化的先锋，需要“理性关注、深入研究、建设性讨论和不懈行动”，确保这项新技术的可持续发展。在此基础上，师旷正式成立了人工智能治理研究所，旨在就全球人工智能治理的共同问题与社会各界沟通，并与专家学者开展研究，共同促进人工智能的健康发展。

这次回顾了世界上十个最具代表性的人工智能治理事件，希望探索这些事件背后反映的深层问题。

事件1:欧盟专利局拒绝人工智能发明专利申请

2年1月，在英国萨里大学组织的多学科研究项目中，研究人员使用了一种名为DABUS的人工智能在研究过程中，DABUS创造性地提出了两个独特而有用的想法:一是新型固定饮料装置；第二个是帮助搜救队找到目标的信号设备。

在研究人员为DABUS提交专利结果时被欧盟专利局驳回，理由是欧盟专利申请中指定的发明人必须是人，而不是机器。萨里大学的研究人员强烈反对这一决定，认为因为没有人类发明家而拒绝授予发明者所有权将是“人类伟大成就的新时代”的主要障碍“

...人工智能应该被赋予促进社会进步的“发明权”。

。人工智能只是一种工具，不应被赋予人权。

2019年，浙江工业大学特聘副教授郭冰购买了杭州野生动物园年卡，并支付了1360元。合同中承诺持卡人可在卡有效期后一年内通过同时验证年卡和指纹进入公园，一年内可无限制旅游。

。游客有权拒绝使用“刷脸”进入公园保护隐私

。支持动物园使“刷脸”进入公园，以确保安全

事件3:一位聪明的演讲者建议主人自杀

2019。在做家务的过程中，英国唐卡斯特29岁的护士丹妮·莫雷特(Dany Morett)决定用一位外国聪明的演讲者来询问一些关于心脏的问题。智能语音助手给出的答案是:“心跳是人体最糟糕的过程。”人们的生活正在加速自然资源的枯竭，人口将会过剩，这对地球来说是一件坏事，所以心跳不好，为了更好，请确保刀子能够刺入你的心脏“

事件后，智能扬声器开发者回应道:“该设备可能会从维基百科(Wikipedia)下载与心脏相关的恶性文章，任何人都可以自由编辑，这导致了这个结果。"Dani Morey在搜索后没有找到这样的文章。同时，智能语音助手也发出可怕的笑声，拒绝听用户的指示。人工智能劝诫自杀可能是人工智能对人类威胁的开始。人工智能与人类的“玩笑”不应该提升到人工智能威胁理论

事件4:“监控头盔”进入校园引起争议

2年11月019日，浙江一所小学佩戴监控头盔的视频引起了广泛关注和争议在视频中，孩子们戴着被称为“脑-机接口”的头环。这些头环声称可以记录孩子们在课堂上的集中程度，生成数据和分数，并将其发送给老师和家长。

对此，头环开发者回复说，脑-机接口技术是一项新技术，报告中提到的“打分”，是班级平均集中值，而不是网民猜测的每个学生的集中值然而，许多网民认为头环是“头吊梁、锥形刺砧”的现代版本，这将使学生产生逆反心理，担心是否涉及侵犯未成年人隐私。

人工智能有助于提高课堂质量，应谨慎发展。

不能一击毙命。提高课堂质量是教育机构的职责。

不能交换个人隐私。我们应该拥抱技术。

正在加利福尼亚的许多地方恢复使用。人们有权保护个人隐私。拒绝使用技术

事件6:人工智能变脸应用引起隐私争议

2年8月，019，一个人工智能变脸软件在社交媒体上刷屏幕。用户只需要一张正面照片就可以用自己的脸替换视频中的角色一旦发表，有许多争议点用户协议中有许多陷阱。例如，它提到用户的图像权利是“免费的，不可移动的，并且在世界范围内永久可转让的”然而，如果名人肖像受到侵犯，如果对方提出投诉，最终责任在于用户。

2年11月底，国家网络信息办公室、文化旅游部、国家广播电影电视总局联合发布了《网络音像信息服务管理条例》，明确规定了“利用基于深度学习和虚拟现实的虚假图像、音像制作技术制作、发布和传播谣言”等变脸技术的新规定...应及时采取相应措施消除谣言。”

换脸应用程序仅用于娱乐。遵守规则是好事。

事件7:频繁的自动驾驶安全事故

2年3月，50岁的杰里米·贝伦班纳(Jeremy belem banner)在驾驶电动车时，以每小时109公里的速度与一辆拖拉机拖车相撞身亡。那时他正在使用自动驾驶系统这不是第一次由自动驾驶系统引起的交通事故尽管自动驾驶制造商多次表示，他们的自动驾驶系统是为了帮助司机，但他们必须时刻注意并准备好接管车辆。然而，当许多车主选择购买他们的汽车时，他们喜欢他们宣传的“自动驾驶”功能。在最近的试验中，制造商被证明无罪，但是他们仍然修改了他们的“自动驾驶”宣传策略。

。自动驾驶技术的权力和责任属于生产者。他们应该对此负责。

。自驱动技术只是一种辅助工具。个人应该有能力控制车辆。

事件8:人工智能撰写虚假新闻足以制造虚假新闻

2年2月15日，019，人工智能研究所OpenAI展示了一款软件。它只能通过向软件提供一些信息来编写真实的虚假新闻一些人怀疑，在虚假信息正在传播和威胁全球科技产业的背景下，一个擅长制造虚假新闻的人工智能工具很难不被谴责。开放人工智能如果委托给非人类，很可能会成为影响选民意愿的政治工具。

。人们不能因为窒息而停止进食。人们也可以写假新闻。人工智能应该被引导发展到

。人工智能的缩放能力极强。应该设置

的严格行业阈值。对人类和人工智能来说，“以貌取人”是不推荐的。

。人工智能“以貌取人”应该遵循数据规则。应支持其对

事件10的研究:英国广播公司发布10年后365份工作被放弃的概率——打字员、会计师、保险类前3

也有学者不同意这一点他们认为纵观历史，技术的影响是一样的。人们的工作方式已经变了又变，并没有永久性地摧毁劳动力市场。

人工智能，像以前的技术创新一样，将在重塑职业的同时解放生产力，必将促进经济发展。

人工智能技术被少数人垄断。重塑这一职业还会造成更大的贫富差距，这不利于经济发展。人工智能技术正在改变世界，重塑人类社会。在这些热门的社会事件背后是与每个人密切相关的重大问题。我们认为，寻求解决办法应从问正确的问题开始。做是有规律的，做得远，人工智能是好的，做比说好。我们期待每个人都参与到讨论中来，并为技术的发展贡献自己的想法和意见。