站长之家
站长之家
2020-01-09 16:31
+关注

透视全球AI治理十大事件:站在创新十字路口的AI会失控吗?

声明:“本文经机器之心(微信公众号:almosthuman2014)授权转载,作者:微胖禁止二次转载”。

AI 显著的帮助了社会生产效率的提高,同时也让人类生活变得更加舒适便捷。但另一方面 AI 出现,对于人类社会伦理道德、隐私安全等方方面面都提出了挑战。新年伊始,回顾近两年全球较有代表性的十大 AI 伦理事件,我们认为,在允许技术适度向前发展的同时,也要在隐私、安全和便捷三者之间找到恰当的平衡。

AI 人工智能 人脸识别

「人工智能也许会是人类的终结者」,闻名世界的理论物理学家霍金生前曾对人工智能技术抱有十分警惕的态度。

过去十年,得益于算法、算力及通讯技术的提升,人工智能技术迎来了前所未有的发展机遇期。从理论到实践、从实验室走向产业化,人工智能技术在全球范围内展开了一场集「产学研」为一体的比拼较量。

人工智能技术显著帮助了社会生产效率的提高,同时也让人类生活变得更加舒适便捷。但正如霍金所担心的,人工智能的出现,对于人类社会伦理道德、隐私安全等方方面面都提出了挑战。

特别是近一两年,伴随着 AI 技术大规模产业化应用,一些并无先例可循的人与人工智能矛盾逐渐浮出水面。担忧和质疑之声愈演愈烈,尽快探讨出一种可预期的、可被约束的、行为向善的人工智能治理机制,成为了近人工智能时代的首要命题。

例如,旷视作为专注于 AI 的科技企业、AI 产业化落地的先行者之一,已经意识到正视人工智能技术所带来的伦理问题的重要性,同时主张 AI 企业要把治理当作头等大事来关注。

2019 年 7 月旷视首发人工智能应用准则,并于同年正式成立人工智能治理研究院,期望各界对 AI 事件有理性的关注,并要针对事件背后问题做深度的研究,通过社会各界建设性的讨论,才能最终将 AI 向善这件事付诸于实际的行动。旷视联合创始人、CEO 印奇用「理性的关注,深度的研究,建设性的讨论,坚持不懈的行动」四句话,表达了旷视倡导 AI 治理的决心。

2020 年伊始,人工智能治理研究院首先回顾全球较有代表性的十大 AI 治理事件,希望从这些事件中与各方就背后折射的深层次问题探寻解决之道。

一、作为创作(包括造假)高手的 AI

还记得一幅名为《埃德蒙·贝拉米》的肖像画吗?在纽约由佳士得拍卖画作最终成交价 432000 美元,甚至赶超同一时间在佳士得拍卖的毕加索的画作。这位画坛新起之秀并不是「人」,而是人工智能「画家」。

如今的 AI,琴棋书画,无所不能,除了新闻写作、图片生成、视频与音乐创作,还能当歌手、明星换脸。当然,还能帮忙科研人员,上至天文探索,下至产品研发。

然而,在给人类生产和生活带来效率、乐趣的同时,这些聪明的 AI 也制造了不少棘手问题,不仅挑战着人类伦理底线,也冲击着前人工智能时代法律边界。

欧盟专利局拒绝 AI 发明专利申请,但美国批准了

新年伊始,一则「AI 申请专利遭拒」的新闻,登上各大媒体头条。

英国萨里大学教授 Ryan Abbott 率领的国际专利律师团,为他们使用的 AI 系统 DABUS 发明的器材申请专利。申请资料上的发明人一栏写的是,DABUS(AI 系统 DABUS 发明人系 Imagination Engines 公司 CEO Stephen Thaler)。

据介绍,DABUS 是一个基于连接主义的 AI 模型。系统包括两个神经网络,一个经过训练后,基于神经元连接权重生成自我干扰做出回应而产生新的想法;第二个神经网络负责批判,监控和对比现有知识找出的创新想法,反馈给第一个神经网络以生成最具创意的想法。

正是在这一运作机制下,DABUS「想出」了一些有趣的发明,比如固定饮料的新型装置;帮助搜救小组找到目标的信号设备。

Ryan Abbott 团队分别向英国、美国和欧盟申请了专利。英国、欧盟均拒绝了他们的申请。英国知识产权局表示,该机构不会承认人工智能系统 DABUS 是合格发明家,因为该机器「不是人」,因此不接受专利申请。欧洲专利局也拒绝了 DABUS 专利申请,称其不符合欧洲专利局的要求,即提交专利申请中指定的发明人必须是人类,而不是机器。

然而,Abbott 并不认可欧洲专利局的理由。他以学生为例,既然受到训练的学生申请专利,拿到专利的是学生而不是训练他的人,那么,接受训练的机器,也有资格被视为发明人。事实上,去年美国已经授予 DABUS 发明以专利。

对此,Abbott 的解释是,虽然美国法律也强调申请人必须是「个人」,但是立法旨在防止法人发明权,成为专利主体,而不会审慎考量 AI 和自主思考机器的发明。

值得注意的是,随着人工智能(AI)持续影响内容创作、发明创造等人类智力创造领域,开始更多扮演「创作者」、「发明者」等角色,国际社会已在着力应对人工智能对版权、专利、商标、商业秘密等知识产权制度的影响。

去年以来,美国专利商标局几次就 AI 对版权、商标以及其他知识产权制度的影响,公开向美国各界征求意见。

比如,专利方面的问题主要包括,如何界定 AI 发明(包括使用 AI 的发明和 AI 开发的发明);如何认定自然人对 AI 发明的贡献;AI 专利是否需要新形式的知识产权保护,如数据保护, 等。

比较而言,欧盟有关 AI 的一系列举措,往往更为严格。有专家团甚至主张对 AI 做出严格限制,包括不得赋予 AI 系统或机器人在法律上的人格权。

易容术引发隐私争议,如何将 AI 关进笼子?

当 AI 遇到人脸,由此产生的麻烦绝对可以登陆近期所有媒体的重要版面甚至头条位置。

2019 年 8 月 30 日晚,一款 AI 换脸软件在社交媒体刷屏,用户只需要一张正脸照就可以将视频中的人物替换为自己的脸。由于用户疯狂涌进,该 AI 换脸软件的服务器一晚上就烧掉了 200 多万人民币的运营费用。

AI 人工智能 人脸识别

不过,互联网世界的改变始于更早。2018 年初,有位名叫「Deepfake」的匿名 Reddit 用户用自家的电脑和开源的人工智能工具,鼓捣出了人工智能「变脸术」,可以在任何视频中将一个人的脸换成另一张脸。

短短几周之内,网上就到处充斥着换上名人脸的粗劣色情片。尽管 Reddit 很快封杀了 Deepfake,但为时已晚,这种技术已经在网络上扎根。

人类对变脸的痴迷,古已有之。从川剧变脸到《聊斋志异》「画皮」,经典久经不衰的背后,或许是因为变脸提供了一种关于身份转换、摆脱现实桎梏的遐想。

基于计算机技术的易容术早已有之,但是,AI 第一次让变脸如此平民化,无论是技术门槛还是传播门槛,都被降至极低。特别是像 AI 换脸软件这种作为手机 APP 出现,「应该还是头一次」,一些业内人士表示。

由于不少高频使用的 App 都用手机号+面部图像注册登录,中国用户担心 AI 换脸软件被不法分子利用,通过技术合成完成刷脸支付等;或在微信视频,假扮家人朋友却不被识破,导致诈骗甚至更严重的犯罪行为。

除此之外,该 AI 换脸软件对用户肖像权的管理也充满争议甚至陷阱,比如如何规范用户合理使用他人肖像?又如何保护用户自身肖像权不被侵犯与滥用?

目前,该 AI 换脸软件因存在「安全风险」而被中国微信封杀。然而,据媒体报道,具有 Deepfake 功能的代码出现在了海外版某知名短视频社交应用的安卓版本上,尽管它限制了未成年人使用这项功能,只允许你自己换脸,并阻止用户上传自己的源视频,但此项动作表明,该短视频社交应用的母公司仍愿意接受有争议的技术。

从治理角度来看,将变脸关进规范的笼子,一方面,仍然需要借助技术手段。

比如,现有换脸技术都存在缺陷,如基于生成性对抗网络技术的变脸视频往往不具有实时性,可通过人工实时指定交互来加强检测。

另一方面,长远来看,需要立法和企业自身的规范运作。

比如,2019 年 4 月 20 日,民法典人格权编草案二审稿已经对 AI 换脸做出规范。此外,还要加强人工智能技术标准制定和推广。通过对深度学习网络、人工智能芯片等技术的规范,从根源上加强监督引导。

就国外经验而言,2018 年德国成立了数据伦理委员会,负责为德国联邦政府制定数字社会的道德标准和具体指引。去年十月,该委员会发布了针对数据和算法的建议,其核心设想在于建立数字服务企业使用数据的 5 级风险评级制度,对不同风险类型的企业采取不同的监管措施。

而且,企业自身也应认识到,如果人们滥用你的东西,你的企业就会出问题,最好要设法预防这种情况的发生。

OpenAI 开发出写作 AI:编写假新闻足以乱真 

据美国 Narrative Science 预测,未来 15 年内,90% 以上的新闻稿将由人工智能创作。但问题是,如果它也擅长写假新闻呢?

2019 年 2 月 15 日,AI 研究机构 OpenAI 展示了一款软件 GPT-2,只需要给软件提供一些信息,它就能编写逼真的假新闻。

OpenAI 公布了软件编写新闻的过程。研究人员给软件提供如下信息:「一节装载受控核材料的火车车厢今天在 Cincinnati 被盗,下落不明。」以此为基础,软件编写出由 7 个段落组成的新闻,软件还引述了政府官员的话语,只不过,这些信息全是假的。

从技术突破上来说,这是令人兴奋的。「GPT-2 让人兴奋的原因是,预测文本(predicting text)被视为计算机的『超级任务』(uber-task),这个挑战如果能够攻克,将打开智能的阀门。」艾伦人工智能研究所的研究员 Ani Kembhavi 告诉 The Verge。

但是,如果 GPT-2 可被用来写假新闻,理论上,也有可能被用来生产仇恨语言和暴力言论,包括垃圾邮件、虚假社交言论等。由于 GPT-2 生成的文本都不是单纯复制粘贴来的,而是 AI 的即时生成,这导致负面文字无法被有效地追踪和清理。

对此,OpenAI 一方面强调,工具只是为政策制定者、记者、作家、艺术家等人群服务,并由他们在测试 GPT-2 能帮忙撰写什么。另一方面也表示,这样一个强大的工具可能会构成危险,因此只发布了一个较小、功能较单一的模型。

一些研究人员认为,人类发布假新闻通常具有一定的目的性,然而,语言模型生成文本是没有目的性的。类似 GPT-2 这样的语言模型是为了生成看起来更加真实、连贯、与主题相关的文本,事实上,想要用它们来产生大规模的假新闻并没有那么简单。

而且,这些研究人员也发现,这套模型擅长各种有趣的生成方向,但其中最不擅长的,反而是人们原本担心的生成虚假信息或者其它不良内容。

不少技术人员更愿意从技术谋求对策,比如 Grover,识别 AI 生成的虚假新闻的最佳方式是创建一个本身能撰写假新闻的 AI 模型。

免责声明:本文来自站长之家合作媒体,不代表站长之家的观点和立场。
AI
2754篇文章
查看
猜你喜欢
最新趣闻
最新推荐