刘权的个人空间

博客

人工智能的隐忧及法律规制

  不久前,DeepMind公布了AlphaGo的最新升级版本AlphaGo Zero,并在《自然》杂志上对其使用的相应技术做出详解。DeepMind称:“AlphaGo Zero与AlphaGo最大的不同是做到了真正的自我学习,经过3天的训练,就以100:0的战绩完胜前代AlphaGo。”曾与AlphaGo有过交战的柯洁也在第一时间做出回应,柯洁表示,“对于AlphaGo的自我进步来讲……人类太多余了”。

  近些年来,人工智能持续升温,成为全球科技研发的新热点。Google、百度、阿里、腾讯等不少国内外大型互联网企业,都在加大资金与人才投入,试图抢先占领人工智能技术的高地。在国家层面,很多政府也纷纷出台政策支持人工智能的发展。如2014年欧盟发布了《欧盟机器人研发计划》,2016年美国发布了《国家人工智能发展与研究战略计划》,2017年法国发布了《人工智能战略》。我国政府也于今年7月发布了《新一代人工智能发展规划》。

  人工智能存在隐忧

  人工智能到底会让人类的生活变得更美好,还是更糟糕?在人工智能突飞猛进的同时,也伴随着质疑甚至抵制。确实,人工智能如果运用不当,的确可能产生很多问题。

  首先,人工智能可能引发大量技术性失业。创新工场董事长李开复在2016WISE大会上表示,未来十年,世界上50%的工作都会被人工智能所取代。准确的数据可能无法预测,但人工智能必然会使很多职业消失,可能导致就业停滞,从而可能给社会带来不稳定性因素。

  第二,人工智能可能导致新的不平等。开发者可能存在种族偏见、性别歧视、特定疾病歧视,基于此而开发出来的人工智能就可能存在算法歧视,从而造成新的不平等。而且,由于人工智能导致的就业停滞和生产力提升,可能导致财富向更加少数人集中,从而也可能引发新的资本不平等。

  第三,人工智能可能导致责任空白。对于人工智能产生的损害,如何承担分配责任还远未达成共识,开发者、生产者是否应当承担瑕疵担保责任,能否确立人工智能的法律人格地位还不得而知。当开发者、生产者由于破产等因素无法、无力担责时,受损者可能无法得到赔偿、补偿。

  第四,人工智能可能失控,成为后人类的敌人。开发者与使用者可能基于不正当目的开发、使用人工智能,从而可能给人类带来毁灭性的灾难,例如一些极端恐怖组织可能滥开发、滥利用人工智能。而且,目前人工智能已经具有深度学习能力,会不断演化进步。英国物理学家史蒂芬·霍金警告说,人工智能的发展可能意味着人类的灭亡,“由于受到缓慢的生物演化的限制,人类不能与之竞争,最终将会被代替”。

  对人工智能担忧并非杞人忧天

  由此可见,对人工智能的出现存在隐忧,是有一定道理的。很多新生事物刚出现时,往往不被广泛接受甚至受到极力抵制。就如同百年前的“车马大战”,汽车刚产生时就受到了马车行业的大力抵制,因为汽车严重影响到了马车夫、马车生产商、马厩管理员、马粪清理工等许多人的生计。但是,进步的科技终将无法阻挡,汽车最终取代了马车。

  人工智能必将给未来人类社会带来翻天覆地的变化。但对人工智能的诸多担忧并非杞人忧天,如果没有法律的有效规范,人工智能不仅不可能成为人类的福音,反而还可能成为人类的丧钟。然而,也不能因噎废食,由于人工智能可能存在隐患,就全面禁止或不当限制其发展。相反,应当积极运用法律,对人工智能进行适度有效的规制。

  规制人工智能就是要规制人的智能

  人是人工智能的总开关,所以规制人工智能首先需要规制人的智能,需要对人工智能的开发者进行规制。开发者在设计人工智能时,应当以人为本,以有利于社会福利最大化而非利润最大化为理念,遵守基本的社会伦理道德,消除各种歧视观念,遵守平等原则。禁止基于不正当目的,开发人工智能。开发者应当审慎设计相关代码程序,如果某项人工智能所促进的社会公共利益,与其所造成的损害明显不成比例,违反比例原则,或者可能失控,就应当及时放弃。

  其次,应当对人工智能的销售者与使用者进行规制。销售者应当建立并执行人工智能产品进货检查验收制度,验明人工智能产品合格证明和其他标识,禁止销售不合格的人工智能产品,不得伪造或者冒用认证标志等质量标志。使用者应当合理利用人工智能,不得损害国家、社会及他人合法权益,法律应当合理设定相应的使用条件与标准。

  第三,明确人工智能致损的责任分担机制。如果开发者在设计时存在故意或重大过失,导致损害发生,则应由开发者承担责任。如果由于开发者当时的认知局限,没有预见到未来发生的状况,导致损害发生,开发者也应当承担责任,即瑕疵担保责任,因为开发者有所获益,就应当承担相应的风险,而且如此更能促使开发者审慎地设计相应的代码程序。在索赔方式上,使有者、受害者可以直接找开发者索赔,也可以找销售者索赔。如果销售者与使用者存在过错,则应承担相应的责任。此外,应当逐步建立完善的人工智能产品保险制度。

  技术中立不代表可以脱离法治

  科技需要在法律的轨道下发展,技术中立并不表明技术可以脱离法治。尽管存在隐忧,但只要法律规制适当,具有诸多优势的人工智能必定会给未来人类社会带来无穷大的正能量。

  因此,应当对人工智能进行适度有效的规制,及时立、改、废相关法律制度。我国国务院在《新一代人工智能发展规划》中提出,“建立人工智能法律法规、伦理规范和政策体系,形成人工智能安全评估和管控能力”。在规制人工智能时,政府应当处理好科技创新与法律规制的关系,按照“鼓励创新、包容审慎”的原则,确立事前备案、事后惩处的机制,使法律既能有效保障公民权利,又能支持促进科技创新。

阅读(35 评论(0
我要评论
欢迎您

最新评论

北大法律信息网
www.chinalawinfo.com
法律动态
网站简介
合作意向
网站地图
资源导航
版权声明
北大法宝
www.pkulaw.cn
法宝动态
法宝优势
经典客户
免费试用
产品服务
专业定制
购买指南
邮件订阅
法律会刊
北大英华
www.pkulaw.com
英华简介
主要业务
产品列表
英华网站
联系我们
用户反馈
返回顶部
二维码