人工智能法律主体资格实现路径:以商事主体为视角
2021/5/7 9:00:30  点击率[330]  评论[0]
【法宝引证码】
    【学科类别】人工智能
    【出处】《中国政法大学学报》2021年第3期
    【写作时间】2021年
    【中文摘要】人工智能能否具备法律主体资格地位至今为止争执不休,并形成法律主体说、法律客体说与折中说三种观点。透过莫衷一是的学术争论背后可发现,实践需求与技术发展需要为人工智能提供一定的法律地位。对此,传统的应对路径有两种,一是创设全新法律主体,但此种路径会消耗大量宝贵的立法成本,且在短期内也无此迫切需求。二是通过寻求对现行法律规范的解释认可人工智能主体地位,但此种路径只能通过“类推”或“拟制”的办法承载人工智能主体资格,无法真正实现其法律地位。而在商事组织范畴中,介于公司与合伙之间的LLC因其具有无成员与内部治理灵活性的特点,可作为人工智能法律主体的壳,并以较低制度成本实现其法律地位。我国在植入LLC中应采取“区分有无成员、区分目的是何”的双重区分原则实现LLC的本土化构建,以助推人工智能的发展。
    【中文关键字】人工智能;法律主体;商事主体;LLC;实现路径
    【全文】

      人工智能发展自1956年达特茅斯会议肇始,便逐年呈现出迅猛腾飞之势。尤其近年来大数据、神经网络技术等科学技术及算法不断更迭换代与突破,更是令人工智能技术发展如虎添翼,并将迎来“黄金时代”,其或遵循由弱人工智能发展至强人工智能甚达致超人工智能的“进化”路径。[1]实际上,现阶段弱人工智能所展示出智慧程度早已令人应接不暇。2017年5月,仅安置单一神经网络的名为“阿尔法”的机器人便以3:0的比分胜过人类排名第一的围棋手。[2]同月,微软智能机器人“小冰”正式出版其原创诗集《阳光失了玻璃窗》。然,在人工智能发展的过程中,亦招致令人错愕的人工智能反攻人类的情形。1978年,日本一家工厂的切割机器人突然转身将工人钳制并执行切割指令,从而酿成世界机器人杀人第一案。无独有偶,1989年人工智能机器人在败北苏联围棋冠军之后,其旋即释放电流致死冠军。2016年聊天机器人Tay在部分用户的挑衅之下发表种族歧视、性别歧视等言论。凡此种种机器人招致人类受害,机器人对人类进行语言或人身攻击的情形,早已屡见不鲜、不胜枚举。有鉴于此,是否应当对人工智能赋予法律主体资格地位也争论不断、莫衷一是。然而,这些学术激辩的背后,既存在“萝卜白菜、各有所爱”的不同轨道式辩论,同时也忽视了法律稳定与技术发展之间的张弛性,这在很大程度上也导致人工智能法律主体资格的争论至今未能尘埃落定的局面。故此,本文拟另辟蹊径,从商事组织范畴出发,探析采用美国的LLC作为人工智能法律主体资格的承载形式,试图在降低法律制度成本与回应智能科技发展之间取得平衡。
     
      一、人工智能法律主体资格之论争
     
      (一)法律主体说
     
      法律主体说认为在人本位前提下,可赋予智能机器人一定法律主体地位。法律主体说认为人工智能的高度智能性所彰显的类人之意志独立性及精神状态可体现为人的情感与理性,鉴于民法法律主体理论的扩张趋势而赋予人工智能法律人格并无不当。历史上,经历了排除黑人、奴隶法律人格到承认的变迁,[3]亦出现赋予宗教寺庙法律人格的历史阶段,近现代来具有拟制法律人格的法人在社会生活中大行其道,甚或是近年来动物权亦崭露头角。持法律主体论的学者遂指出,即便是作为并无思维、情感、自我意识的法人尚可获得法律主体制度的荫庇,具有语言思维、学习创作、独立表意等能力的人工智能却甚至无法被赋予部分法律主体资格,这显然不合法理与情理。[4]
     
      虽观点大体一致,然持此观点的学者之论证角度与方法却不尽相同。其中代理说与电子人格说的论证路径可谓甚嚣尘上,持代理说的学者将人工智能视为其所有人的代理人,而电子人格说则认为可将人工智能视为电子人并为其申请电子人格,从而使其可作为独立主体作出自动化决定并与第三人交流。[5]除代理说与电子人格说外,其他学者亦见仁见智。如张长丹教授认为,人工智能将拥有与人类同等甚至更高智力水平,其在当前已能影响民事主体的生存、行动及死亡,并将在未来独立活动并与自然人建立法律关系。因而自然人与人工智能的关系不再仅仅是所有人与物的关系,故支持在一定程度上认可符合一定条件的人工智能法律主体地位。[6]袁曾博士则认为,人工智能具有高度智慧性与独立的行为决策能力,并符合斯通纳所主张的法律权利三要件,故因其具有精神而应当享有权利并应承担义务。其亦同时指出,此等法律人格不等同于法人及自然人的人格,因人工智能不具备完全责任能力,故其注定仅具有限人格。但可通过“刺破人工智能面纱”与强制保险责任来弥补人工智能责任能力不足之缺憾。[7]李士林教授即认为,赋予人工智能法律主体资格可促使其在自我责任下高效服务人类,且机器人在某种程度上可实现与自然人的融合。
     
      (二)法律客体说
     
      法律客体说认为人工智能系人类利用大数据、超级芯片等技术与算法制造而产生,其仅为程序运作的结果,最终仍体现为人类的意志,虽其于某些方面具有类人的特性,但仍属于物的范畴。[8]持法律客体说的学者们通常从人工智能与自然人之实质差别出发论证人工智能的法律客体属性,并不约而同地指出人工智能对于情感、道德伦理感、直觉、自我意识等彰显人之本质特征的获取几无可能,故其不应具有独立法律人格。现存法律制度安排及调整尚可解燃眉之急,为现存知识产权归属、侵权责任等问题提供差强人意的解决路径,毋需通过赋予人工智能法律人格这一严重冲击现存民法体系根基的方式予以救济,此种做法无异于破釜沉舟。
     
      诸学者在论证人工智能的法律客体属性并批驳法律主体说的路径上,又呈百花齐放之态。具观之,杨立新教授认为应从生理学要素、心理学要素、社会学要素综合判定法律人格的有无,人工智能至多可被称为“人工类人格”,但仍属物的范畴。[9]赵万一教授则认为,同时满足哲学意义上与法律意义上的人之标准方可获得法律主体资格。但人工智能不具有道德、良心、伦理、宗教等,其能与人类一样基于内心观察、判断并进行决策无异于天方夜谭。[10]房绍坤教授则指出人工智能之智慧与意思体现,完全基于计算机软件程序的逻辑推演,程序的限制性与信息的有限性决定了人工智能不可与自然人同日而语。[11]吴汉东教授则从主客体二分法角度出发,指出机器人既不属于具有生命的自然人,亦区别于体现为人的意志集合的法人,故赋予其法律人格与法理相悖。[12]龙文懋教授的论证观点则独树一帜,其主张由于人工智能不具备欲望的机制,故而其不具备主体性。[13]刘洪华教授亦补充指出,强人工智能及超人工智能阶段所蕴含的深不可测的风险使得人工智能不得不处于人类的控制与支配之下,其智能性及自主性的体现可反映在其作为特殊物的特殊性之上,但从本质上而言人工智能仍只是人类的强大工具而已,除此则别无他物。[14]
     
      (三)折中说
     
      折中说采取一种审慎谦抑的观望态度,认为对人工智能进行法律规制毋庸置疑,是否赋予其法律主体地位则应根据人工智能的自主程度、自我意识进行具化判定,但现阶段的人工智能技术水平下认可其法律主体资格尚不具备立法条件。该说采取一种开放式的态度应对人工智能法律人格赋予与否的论证,其一方面指出当前人工智能水平尚不足以以动摇民法主体理论根基为代价来解决现实问题,另一方面亦指出应根据人工智能未来之发展状况对社会生活的影响程度来判断是否有赋予法律主体资格的必要。[15]
     
      持此等学说的学者可谓凤毛麟角,其中孙占利教授指出应将自主意识、人性化作为是否赋予人工智能法律人格的标准,并根据人工智能的自主、自我意识程度决定是否赋予法律人格及赋予法律人格的条件。其同时指出,人工智能的发展程度不同,其法律地位将经历工具论、控制论、拟制论的认知阶段。但目前阶段,应采工具论认知人工智能,并以最小化原则与程序性原则处理当前问题。[16]***博士则从法律主体理论构造的角度出发,指出主体资格应以基于理性的抽象性人格特征为判定标准。他认为抽象人的法律主体理论使类人主体扩张成为可能,人工智能成为法律主体需满足一定条件,即便其不成为法律主体,法律仍应于人工智能内部确定一套内部规则。[17]陈吉栋博士则指出,法律主体说及法律客体说均存在其内生性弊端,应从法释义学的角度出发,采取开放式立法结构体系,即以人工智能客体论为原则,并采用拟制法律技术在特殊情形下赋予个别人工智能法律主体地位,以便为司法机关因技术发展处理相关法律问题预留一定空间。[18]
     
      二、前置性问题:人工智能法律主体资格的必要性?
     
      本文之所以对上述三个阵营的各个观点一一罗列,主要是表明,姑且无论是肯认人工智能作为法律主体,抑或对此持否认态度,又或左右摆动、犹豫不定的折中立场,这些论争的背后,事实上存在一个不容忽视的前置问题:即是否有必要赋予人工智能以法律主体地位?如果无此需要,赋予人工智能法律主体地位实无必要,大论特论人工智能法律主体地位不仅无病呻吟,更可能是一种“假问题”的制造、跟风和放大。[19]然而,如果赋予人工智能法律主体具有强烈的需求,则此种情况下,对该问题的讨论显然就不是“依靠幻想拼凑起来的幻影”,而是切切实实运用(创新)法律回应实践的“真问题”。故此,笔者认为,对人工智能是否能赋予其法律主体地位,关键之处并不在于人工智能与“人”之间究竟存在何种(程度)的差异或同质,比如,当学者论述人工智能从根本上不具有道德意识因而不能成为法律主体时,另一名学者则论述人工智能的未来发展会具有一定的“自主意识”并因而具有成为法律主体资格的必要性。显然,上述这种争论并不具有“争锋相对”的真正意义上的论辩色彩,因为否认人工智能具有道德意识是一种常识,至少在现阶段是一种众所周知的公认事实。而后者所论述的人工智能具有一定的“自主意识”则是基于“人工智能发展到一定程度”为前提,且何种具体程度尚不明确。再者,“自主意识”与“道德”显然也并非等同,彼此之间并不能相互论证抗衡。由此可见,这种关于人工智能主体资格的论辩,在某种程度上就是基于一种可能的“幻想”而“虚构”出来的画面,并极易使法学研究披上一种“玄学”或“科幻主义”的外衣。为避免重蹈覆撤,陷入上述法学研究的怪圈,笔者另辟蹊径,秉持“以真问题替代伪问题”的立场,以实践需求为导线,追问一个前置性问题:人工智能是否有成为法律主体的必要性?
     
      (一)实践需要的维度
     
      事实上,人工智能成为“法律主体”或者“电子人”的授予或确认已有一定的实践支撑,比如日本有一个备受欢迎的宠物机器人,名字叫帕罗,能够对外界进行一定的“意思表示”:眨眼和发声等。2010年11月,帕罗被授予户籍,户籍上的父亲一栏是它的发明人。有学者认为,这意味着机器人已超越了财产的定位,而具有作为一种享有权利的存在体的法律地位。[20]在美国,国家公路交通安全管理局就联邦机动车安全标准是否适用于自动驾驶系统问题向谷歌公司回复明确,自动驾驶汽车中的自动驾驶系统可视为“驾驶员”,因此可以适用联邦机动车安全标准。备受关注的是欧盟委员会法律事务委员会于2016年5月31日提交动议,主张将最为先进的自动化机器人工人认定为电子工人,并赋予其劳动权并开设资金账户,以解决以后可能出现的机器人引发损害的责任。[21]此外,“小冰”的出现,索菲亚公民身份的认定,似乎让人看到人工智能具有法律主体资格的曙光。确实,上述种种现象,在某种程度上佐证了人工智能具有一定法律主体的实践基础。
     
      然而,上述程度不一的“立法”或“现象”仍然没有回答本部分所要深究的问题,即是否有必要赋予人工智能法律主体资格?充其量,其仅仅表明已有不少国家和地区已意识到人工智能具有“可能”之主体的地位,并率先行动,仅此而已。然而,香港出现的一款名字叫VITAL(Validating Investment Tool for Advancing Life Sciences)的人工智能工具,在很大程度上可以解释人工智能为何需要被赋予法律主体资格。2014年5月,研究生物科技与再生医学的英国公司Aging Analytics启动VITAL,并授权香港的风投公司Deep Knowledge Ventures将该人工智能用作该公司投资委员。由于人容易受各种情绪的影响,在面对是否投资以及如何投资时,“人性”可能会战胜“理性”并最终使公司做出“非理性”的决策。[22]故此,使用VITAL,一方面可以避免此种“人之本性”,以最大程度的理性衡量各项投资决策,另一方面,在大数据应用广泛的情形下,可以在数据输入和算法设计方面扩大投资决策的各个考量因素,并依据具体项目使得VITAL可自主做出判断。事实上,VITAL已帮公司批准了两个项目投资,一是投资一个以抗衰老医药为领域开发计算机辅助方法的Silico Medicine公司,另一个项目则是投资选择个人化抗癌治疗方法的Pathway Pharmaceuticals公司,这两个项目均被证明是成功的投资。如果VITAL仅仅是作为辅助功能,为投资委员会其他委员提供决策参考,则其仍然停留于“投资顾问”的辅助阶段,充当着决策的工具,自不至于上升至讨论其法律主体的高度。然而,根据Aging Analytics公司的说法,VITAL与投资委员会其他委员一样,具有平等的地位。然而,我国香港地区公司法并不承认“非人”作为董事,因此,VITAL的出现就出现了法律的尴尬:一方面,VITAL行使着与其他法律主体(董事)同等的权利,扮演着“董事”的角色;另一方面则因法律的缺位导致其成为“黑户”,身份不明不白。此外,如果VITAL的行为导致投资失误需要追究责任之时,如何合乎法律逻辑的追究责任,也是一大问题。是故,此情况下,赋予VITAL以法律主体资格,使其可以光明正大地与其他委员真正的平起平坐。此外,在其须承担责任时,也可以通过明确“刺破人工智能面纱”的归责原则使得责任追究不至于虚无缥缈。故此,赋予人工智能以法律主体资格,显然具有迫切的现实需求。
     
      (二)技术需求的维度
     
      除上述VITAL的出现外,事实上,现代人工智能技术的发展,也迫使法律不得不正面直视其是否为主体问题。虽然人工智能早在上世纪六十年代就已昙花一现,但传统的技术设备仍然受到人类控制,是一种不具有“自主”意识的高发展技术。比如,操作系统所作出的反馈、传统机器人所作出的动作,其实都是在人类预设的模式下,通过信息输入(比如鼠标点击)和行为反馈(比如结果显示)来呈现,并没有真正得到人工“智能”的阶段。然而,随着大数据技术的出现以及深度学习的拓展,(部分)人工智能已有一定的“自主”状态,典型如投资组合的测算或自动驾驶,这种人工智能一旦独立而成,事实上可以(或已经)摆脱人类的控制而自主运行并独立作出判断。故此,有学者认为,只要机器被启动运行后,在某些领域中不受任何形式的外在干预,可无障碍地执行复杂任务,则可视为该机器具有“自主”意识。[23]在机器具有此种不受人类积极干预便可独立行动的情况下,其不可避免地会产生“预见性”问题。因为与人类的局限性认知相比,人工智能程序可以在既定时间之内寻找更多的可能性,进而可以分析人类尚未涉足或较少尝试的方案。当可能性足够集中、数据足够充分、算法足够复杂时,人工智能甚至还能偏离传统的人类认知过程。[24]
     
      因预见性所产生的偏离会不可避免的出现“控制”问题,[25]即人工智能之运行会超出人类所能控制的范围之内。事实上,随着人工神经网络的不断完善、机器深度学习的突破以及量子计算机的进一步应用,人工智能所能执行的任务也愈发复杂,这种自我学习型的人工智能与背后的设计者、生产者、编程者之间的隔阂和层级会愈发模糊。一个机器的运转失误,既可能是设计者的错误,也可能是生产者的原因,更可能是编程者的责任,也不排除是其他原因(比如运输)所导致,更有可能是人工智能的运行规则自运行过程中“自我”修改。[26]不管是对哪一个主体责任的追究,均会产生“责任缝隙(responsibility gap)”的问题,即在不承认人工智能作为主体的情况下,无法依据传统的普通归责规则进行责任划分与问责确定。当然,也有一种声音认为,对此种经深度学习后具有自主意识的人工智能,对其责任的归咎并不一定以其具有主体为前提,通过改变传统的归责原则或方式也同样能够实现,比如通过探究与机器人行为相关的因素也可以确定具体“侵权人”的责任归属。诚然,改变传统规则也能解决这一问题,但这一解决路径是暂时的,并不能从根本上或长远上消解这一困惑。随着人工智能所受限的五个条件(即“确定性信息”“完全信息”“静态的”“单任务”“有限领域”)被逐渐攻破,且人工智能本身行为与决策的某种闭锁性与不可解释性,试图完全查清机器人某个失误行为的原因并非总是那么容易(或者很难),因为即便对于程序员而言,机器学习模型的内部决策逻辑也并非总是能让人理解。[27]有鉴于此,赋予人工智能以某种法律主体身份,不仅可以回应实践需求,也能一劳永逸地解决因技术发展而产生的“主体缺位”之法律难题。
     
      三、传统的应对路径
     
      既然赋予人工智能以某种法律主体具有强烈的实践需求,也是应对技术发展的迫睫之道,则如何实现其主体地位显然至为关键。颇为遗憾的是,学界热火朝天的关于人工智能主体的争辩背后,并没有触及这一核心问题。大多数肯认人工智能应当视为(或确认为)法律主体的学者,只是探讨其确认为主体后应当施加的配套制度或注意的伦理问题。然而,既然肯认人工智能为法律主体,那么应当认定为何种主体?是与自然人、公司、合伙企业等并肩同行的全新主体?抑或是借助既有的制度资源实现其法律地位?之所以发出这一灵魂拷问,是因为人工智能作为主体本身具有多种实现的可能性,路径不一,但各有利弊。
     
      (一)全新主体的构建
     
      首要可能性是将之视为一种全新的法律主体,或者说一种与现有法律主体并驾齐驱的法律主体。依此路径,人工智能法律主体资格的问题便可迎刃而解,且从根本上回应了人工智能法律主体资格的各种学说论争,但这种制度安排可谓牵一发而动全身。在既有法律框架范围内凭空建造一个法律主体,不仅会导致现有法律的全方位变革和体系性修改,也会极大冲击固有的法律主体根基,因为将人工智能视为人至少在现有的民法理论中难以得到合理的解释,[28]制度供给的空白以及法律资源的重大调整,不仅会使得这一路径耗时耗力,更会大量消耗宝贵的立法资源,从制度成本而言,显然得不偿失。从长远来看,这固然有较大可能性,但从短期而言,并不符合我国的实际情况。因此,将人工智能视为一种全新的法律主体,在制度上增添多一种法律主体,并不符合我国经济效益和现实可能性。
     
      (二)现行法的解释
     
      既然将人工智能视为一种全新的法律主体并不可行,则如果可从现行法律规范中寻找可将之纳入解释范围的制度资源,则两全其美。事实上,《民法总则》第128条的规定似乎可以将人工智能纳入主体的解释框架之内。该条规定:“法律对未成年人、老年人、残疾人、妇女、消费者等的民事权利保护有特别规定的,依照其规定。”根据这一规定,该条中的“等”似乎可以扩大解释,并将人工智能囊括在内。然而,《民法总则》第128条仅是引致条款,不能作扩大解释。其次,即便勉强扩大解释,根据该条前面的表述,后面所谓的“等”实际上是针对“未成年人”“老年人”“残疾人”和“妇女”之类的弱势群体,如果将人工智能纳入“等”的范畴之内,则无疑将人工智能视为弱势群体,这显然违背了人工智能之“智能”本义。故此,《民法总则》第128条无法将人工智能囊括在内。
     
      此外,有学者认为可以通过“拟制”技术的运用,使人工智能作为主体的问题在现行法的框架之内予以解决。[29]拟制技术的运用是指应当根据人工智能在何种语境之下视为何种主体进行具体判断,而非全然笼统的将之视为法律主体,如此一来,便可因具体事宜来判断彼时彼刻的人工智能应该“拟制”为何种主体。现行法律规定并非没有拟制的运用,比如《民法总则》第16条意味着:在胎儿本身不是民事主体的情况下,如果出现涉及继承、接受赠与等情况的,则将之拟制为民事主体。同样,人工智能也如能如此待之。比如,当高度智能化的无人驾驶汽车出现事故时,可以类推适用《侵权责任法》第34条关于雇主的责任。诚然,此种“拟制”技术的运用可以在现行法的框架之内解决人工智能主体问题,但其只能解决部分问题,而非全部。因为“拟制”的运用前提须具备两个要素:一是已有现行针对性的法律规则;二是拟制的对象具有与人工智能可相比拟的特性,而现实中,即便符合第一种元素,也可能不符合第二种要素。比如上述VITAL中,如果将VITAL拟制为董事,那么董事中的忠实义务就无法适用于VITAL当中。甚至于关于董事注意义务当中的商业判断规则也难以体现在VITAL中。因此,拟制之说,或能解决人工智能在某些领域或某些行为下的主体资格问题,但无法一了百当的抽薪止沸。
     
      (三)商事主体的可能嵌入
     
      反对人工智能成为法律主体的诸多观点背后,实际上是将人工智能作为法律主体等同于视人工智能为自然人,因此才会在反对的论据中提出诸如“生命权”“道德”“欲望”等。然而,将人工智能视为具有法律主体与视为“人”是两个概念。一方面,人固然是当然的、毋庸置疑的法律主体,但在现行法律框架下,显然并非所有的主体都是“人”。事实上,在商事组织当中,除了自然人之外,还有其他被法律所认可的主体,比如法人和合伙企业。有鉴于此,笔者认为,在人工智能短期内不能独立成为一个全新主体的情况下,再加上其显然不能与自然人等同,那么实现人工智能独立主体资格的路径似乎只有两种:公司或合伙企业?
     
      1.通过公司的实现
     
      公司作为独立主体,其意思表示实质上是通过公司背后自然人集合体依据一定规则和程序而彰显,这种通过内部规则形成外部意思表示的过程,与人工智能有所类似。人工智能的发展是由符号主义迈向联结主义的历程,符号主义的缺陷在于,只有在程序(算法)设计者提供足够庞大的数据资源时,才能让人工智能计算出数量恰当的结果。而联结主义仿照人类大脑工作原理,拥有着与人类类似的神经网络,设计者所需要做的即是输入控制和改变神经元联结的算法,人工智能便会自行判断外界所产生刺激是否需要接收和接收后该如何反应。[30]设计者可以通过不同神经元针对不同的刺激所能产生的不同的反应,进而设计出具有不同自我意识的神经网络,结合代表着人工智能“价值观”的基础算法,便会产生出近似于公司股东、组织机构意思表示结合的行为模式。换而言之,在联结主义的人工智能当中,其具有属于自己的思考模式。虽然此种思考模式仍然仰赖于外部的输入,但如同公司意志依赖于集体股东一样,这并不影响公司独立于股东并具有独立法律人格。有鉴于此,人工智能也可以借用公司组织成为法律主体。
     
      此外,现行法对于公司的系列规则,也可以变通适用于作为法人的人工智能。比如一开始的公司注册登记制度,可以根据人工智能的不同特性,选取符合资格的(比如意思表示能力能够达到与法律之间的“信任关系”程度的)人工智能予以登记成为法律主体。这种设想并非异想天开,事实上,《欧盟机器人民事法律草案》对此也已形成初步框架,专设有“智能机器人的登记”一节。再者,在责任承担方面,人工智能也可以借鉴“法人面纱的揭开”这一制度来有利反击那些认为人工智能成为法律主体后无法独立承担责任的观点。我国《公司法》第2条通过揭开公司作为独立法律主体资格的面纱,直索公司背后股东的责任。同样,人工智能成为法律主体之后,在其需要承担责任时,可设置特定条件下可以揭开人工智能的面纱,要求背后的主体(比如生产者或设计者)承担相应责任。
     
      据上所述,似乎表明完全可以借用公司这一组织模式实现人工智能的法律主体资格。然而,通过公司实现人工智能法律主体地位存在一个根本性致命缺陷。具言之,当人工智能作为公司时,根据我国现行公司法的规定,其必须至少要有1名股东存在,否则无以成为公司。而当公司具有股东时,人工智能显然无法独立发挥作用。不妨假设,甲成立一宇宙公司,并在公司章程上明确规定,该公司不设置董事会,公司一切行为听从某个机器人(程序)的指令。在此情况下,实际上该机器人已借用公司这一组织实现了法律主体资格。然而,这种法律主体资格的存在有一前提:那就是股东甲一直没有(完全)退出公司且没有修改公司章程,假设甲在公司存续期间修改章程,让公司的一切行为不再听从机器人的指令,则机器人的法律主体资格顷刻间烟云消散。又或者甲将其股份转让给乙,乙受让股份成为宇宙公司股东,具有对公司的控制权后,完全可以改变甲原先定下的规则而收回机器人当初所“借”的公司“壳”,清除掉该机器人与公司的联系。故此,公司虽在某种程度上可以为人工智能所借用,但由于公司必须具有股东这一特性,导致人工智能无法完全借用公司这一组织模式。
     
      2.通过合伙企业的实现
     
      除公司外,尚有合伙企业这一重要商事组织,人工智能是否也可能借用合伙企业这一模式实现法律主体资格地位?不妨再假设一种情形:甲乙两人成立一合伙企业,并在合伙协议中规定,该合伙企业的一切行为或决策听从机器人(程序)的指令。此种情况下,机器人实际上已通过借用合伙企业的壳而成为法律主体。跟公司不一样的是,合伙企业的成员的进入与退出具有非常严格的程序,因为,他人无法随意进入合伙企业。然而,此时此刻的合伙企业,虽然名义上听从机器指令,具有了承担人工智能的壳主体,但这一壳实乃形式意义,因为该壳的背后仍然存在甲和乙两人作为合伙人。如果当中一人(或两人都)是执行合伙人,则并不排除日后该执行合伙人通过特定实现排除机器人(程序)指令,进而实际上转为传统的合伙企业运营模式。彼时彼刻,所谓的人工智能借用合伙企业之壳仍然存在不确定因素,也无法使人工智能拥有真正的“合伙企业”主体地位。
     
      在此背景下,如能允许甲乙两人退出合伙,且合伙组织依旧存续,即不存在上述问题。换言之,为了能让企业“永续性”听从机器人(程序)之指令,有必要切断合伙人与合伙组织之间的关联,而永续切断的直接做法是让全部合伙人退出合伙组织,保留合伙组织这一形式。如此一来,就可以实现机器人借用合伙企业这一壳保有主体,且无需担心合伙人日后可能执行合伙事务导致机器人丧失主体资格。然而,根据我国《合伙企业法》的规定,如果全部合伙人退出合伙组织,则合伙组织视为解散。皮之不存,毛将焉附,合伙组织的崩塌,也当然意味着人工智能主体资格的不复存在。
     
      故此,合伙与公司一样,因各自的法律规制特征,无法承载机器人这一主体资格地位。
     
      四、可能的实现路径:LLC的启示与借鉴
     
      (一)LLC的植入
     
      鉴于上述,如能存在一种组织形式,使得成员与该组织之间可以分离,则该组织具有成为机器人壳主体的可能。在商事组织领域中,公司和合伙均因其各自的法律特点而无法承载,但美国的LLC(limited liability company)[31]恰好可以克服公司与合伙的各自弊端,具有承载人工智能法律地位的潜在可能性。在LLC中,其成员(member)与公司股东一样可享有有限责任,但又无需受到公司法的种种强制性规定。此外,LLC成员还可以如合伙组织那般享受税收穿透待遇,而无需双重课税。以此而言,LLC既非公司,也非合伙,其是将股东有限责任与合伙税收豁免结合最为完美的商事组织模式,可谓是在公司与合伙之间开辟的第三条道路。[32]
     
      LLC之所以能承载人工智能主体地位,源于LLC允许在特定情形下LLC组织与其成员之间的分离。LLC之起源,与税收需求息息相关。[33]从1977年怀俄明州制定第一部LLC法之后,至今各州均已有关于LLC的相关法律规制。起初,出于传统合伙的观念,LLC的成立必须要有两名或两名以上的人才能结社(association),进而成为合伙。因此,LLC至少要求有两名或以上的成员。但随后,个别州基于一些特定情形,允许单个成员的LLC存在,这无疑吸引了有此方面需求的人。为了竞争,其他州相继承认单个成员的LLC。至今为止,除了马萨诸塞州和哥伦比亚特区不允许设立单成员LLC后,其他各州均已允许设立单成员LLC。然而,如同上面所述,要让人工智能成立“借壳上市”,即便成员为一人,也足以构成重大性障碍而无法如愿。幸而,美国已有部分州对此有所放开。
     
      美国《统一有限责任公司法》规定,允许无成员的LLC存续90天。[34]《统一有限责任公司法》之所以有此“惊人”规定,是考虑到在特定情形下,LLC可能会丧失成员,但成员的丧失并不必然导致LLC的解散。恰恰相反,如果因为成员丧失而解散LLC,不仅可能违反LLC设立人的意愿,也不符合现实需求。设想一例:有一孤寡老人,成立LLC,使之持有房产,并在经营协定(operating agreement)上设定:如期过世,则由其长子继承成为LLC成员。在此情况下,如果该孤寡老人过世,而其长子未能在“第一时间”“马上”继承成为LLC成员的话,则解散LLC无疑违反了该孤寡老人的最初意愿,同时也使得LLC的吸引力极大降低。然而,要让其长子在第一时间内继承成为LLC成员,也是困难。因为长子继承成为成员的“生效”要件是该老人过世,而在老人过世与长子继承之间,必定会存在某种程度的间隔,难以做到“无缝对接”。故此情况下,美国《统一有限责任公司法》做出放宽规定,允许无成员LLC可享有90天的存续时间。受此影响,美国不少州也采取了这一规定,甚至有些州更甚之,比如纽约州,允许有180天的无成员存续时间。[35]如此一来,以此观之,既然允许无成员LLC有一定的存续时间,是否也可以将此时间延续,允许其更长时间,甚至永续?如若可以,则无成员LLC完全可以担当人工智能法律主体的角色。
     
      除此之外,LLC的治理特色也有利于作为人工智能主体组织形式的。LLC与公司的另一迥异之处在于其本身具有内部治理的灵活性与宽容性,它可以不设置股东会,可以没有董事会,当然也可以不采用监事会,更不会有独立董事的要求,LLC具体内部治理大致有两种模式:一是成员管理(member-managed),二是经理管理(manager-managed)。[36]前者的治理模式类似于一般的合伙企业,即LLC的所有成员对LLC均享有平等的管理权,LLC的经营事项由简单多数决定。而后者的治理模式则类似于所有权与经营权分离的公司或者有限合伙企业,该种治理模式下的LLC由负责担任经理职务的成员进行,非担任经理职务的成员不享有管理之权。这种管理模式虽等同于有限合伙,但不同于有限合伙组织中普通合伙人承担无限责任,该种模式下的所有成员均可享受有限责任之保护。然而,无论是成员管理模式,抑或是经理管理模式,LLC的内部治理受经营协定的约束。经营协定既是LLC的宪法性文件,享有至高无上之权,同时也是规约LLC内部事务的具体文件。这意味着,如果在LLC创设之初,就在经营协定里设定了具体指令规制,则无成员的LLC也可以依据这一经营协定正常运作。这并非天马行空,事实上,美国《统一有限责任公司法》就直接指明,LLC可仅仅(only)依据经营协定进行治理。[37]这意味着,无成员的LLC也不影响其本身的治理:只要经营协定里面有具体明确的经营规定。有鉴于此,LLC创立之始,完全可以在经营协定里面植入相关的算法或运行程序规则,设置相应的触发条件等,使得LLC可在无成员状态下,继续运行。由此可见,允许无成员组织的存在以及经营协定的至高无上性,可使LLC完全可以成为人工智能法律地位的承载体。
     
      (二)LLC作为人工智能法律主体的应用场景
     
      LLC作为人工智能法律主体的承载形式,其一大优势在于可在既有的法律框架内解决人工智能主体问题,不会对法律制度与法律秩序造成较大冲击。具体而言,某一受认可主体(比如公司或自然人)设立单成员的LLC,并在经营协定上明确规定该LLC的一切行动均有事先设定的算法或程序所确定,此后该成员退出LLC,留下无成员的LLC,其一切行为均受算法或程序规制。此时此刻,人工智能的实际法律主体已然显现。而这并非异想天开,因为此种主体形式在现实当中完全具有想象空间和
     
      应用场景。最为典型的是摸不着、看不到的云存储(cloud storage)与云计算(cloud computing),作为一种网上在线存储的云存储,通过集群应用、网络技术活分布式文件系统等功能,共同对外提供数据存储和业务访问,既能保证数据的安全性,也能节约存储空间。[38]而云计算则是通过网络将庞大的计算处理程序自动分拆成无数个较小的子程序,再交由多部服务器所组成的庞大系统经计算分析之后将处理结果回传给用户。[39]无论是云存储,抑或是云计算,事实上都是通过一定的算法规则,在服务提供者与客户之间构建相应的交易规则。行文至此,或许有一疑问:起初,谁来创设该程序?或者说,谁在一开始创设LLC来运行并提供这些服务?事实上,这一问题并不构成障碍,原因在于,LLC创设者可能有两种意图,一是公益,二是营利。对于前者,因为出于公益慈善,所以创设者退出LLC后完全可以一了百了,交由原先设定的算法或程序运行LLC。此时此刻,谁创设LLC显然不成问题。对于后者,创设者出于营利而设立LLC的,即便退出LLC,也并非弃利而退、一退了事,否则前功尽弃。因此,创设者可以在算法中设置相应程序,在LLC每次交易营利中提取一定比例的资金,转到某一特定账户,以此保障创设者最初的营利企图。
     
      除此之外,诸如互联网档案馆(Internet Archive)之类的也完全可以利用LLC来实现自主运转。互联网档案馆由布鲁斯特·卡利(Brewster Kahle)于1996年设立,当时出于担心网络信息不能像书籍那般被永久保存,卡利创设互联网档案馆,通过爬虫技术,定期收录和抓取全球网站的信息,并进行保存。[40]迄今为止,互联网档案馆已保存3300亿网页和页面快照,并记录了2000万册图书和文本,850分音频和视频、300万幅图像和20万个软件程序。因为有了互联网档案馆,人们不会因某些网站的关闭或删帖而看不到“旧闻”。互联网档案馆基本的运作比较简单,一方面,通过爬虫服务、合作关系和基金会赞助等获得资金,另一方面则将所得之钱用于雇人进行技术维护和收录数据等。如果卡利愿意,互联网档案馆完全可交由LLC自主运行。即卡利设立LLC,然后在经营协定中规定具体算法规则与运行程序等,后退出LLC。无论是自动爬虫、提供数据服务,抑或是聘请外部人士提供技术等,均可由LLC自主运行,无需人力外在干预。事实上,诸如互联网档案馆之类的技术类公益项目,让其自主成为法律主体地位,既不会产生新问题,也能实现其自身地位。当然,更为重要的是,其实现法律主体地位也没有突破现有法律框架。
     
      (三)LLC的本土化构建路径
     
      目前我国现有的商事组织中,并没有LLC,为使我国人工智能得以通过LLC呈现主体资格地位,LLC的本土化构造势在必行。然而,我国学者对是否引入LLC争议颇大。有学者认为我国已具备LLC的成熟法律环境,一旦将其引入,可从制度层面革新市场主体的参与形态,进而有助于推进商品经济的全面快速发展。[41]也有学者提出未来《公司法》的修改除了关注降低公司设立门槛之外,还应当为企业经营者在企业形态、内部组织结构方面提供更多选项,而在美国深受欢迎的LLC,无疑是其中的选项之一。[42]反对学者则认为,受限于我国税收理念的制约以及法人人格否认等具体制度,LLC的引入可能需要一个长期过程,而不能一蹴而就。[43]亦有学者认为美国各州对LLC的认识尚存争议,不宜在当前引入中国。[44]笔者认为,LLC本身有利有弊,是否应当借鉴植入取决于其利与弊之大小,如利多于弊,则应当借鉴引进。LLC在美国的数十年发展,其优点与弊端已然清晰。优势方面,由于LLC介于公司与合伙之间,融合了二者之优势。因此,LLC的植入,不仅可增加市场主体的多元化和企业形式的多样化,同时也能充分拓展公司的自治空间,进一步改善公司内部治理模式,降低中小企业治理成本,激活市场主体的创造性与灵活性,进而助力推动市场经济的平衡发展。而LLC的弊端无非有二:一是适用对象的局限性,即根据美国联邦国税局(IRS)1996年颁布的打勾规则,如果一旦选择LLC享受单层税收待遇,则不能在公开资本市场筹集资金,成员份额也不能在公开市场进行交易。除此之外,LLC一旦画勾单层税制,则五年内不得进行任何变更。[45]然而,这种打勾规则并非强制性,其核心点在于由LLC自行选择,打勾选定。因此,如LLC不愿受此限制,完全可以选择不打勾,所以LLC的这一弊端虽然在一定程度上限制了LLC的扩大化,但不会从根本上影响LLC的特殊价值。二是LLC具有内部管理模式的多样性(成员管理与经理管理)与灵活性特点,而LLC成员却受到有限责任的保护。因此,这种不对称会容易损害债权人及其他潜在利益相关者利益。然而,LLC的此种弊端完全可以通过施加信义义务予以克服。我国现有公司法已对管理公司之人(如董事或高级管理人员)赋予相关义务,甚至呼吁控股股东负有诚信义务之声也绵延不断。[46]如未来引入LLC,完全可以对其中的管理成员或非成员施加额外受信义务,以有效解决LLC中所存在的第三人利益的易侵害性。由此可见,总体而言,LLC可谓利大于弊。
     
      退而言之,无论是赞同引入的观点,抑或是反对植入的声音,其论述的范畴乃围绕着中国商事法的发展状况,而非基于本文所阐述的人工智能法律主体资格。故此,笔者认为,出于赋予人工智能法律主体资格地位,有必要在我国引入LLC。当然,由于本文主题乃围绕人工智能何以能借助LLC实现法律主体资格,故本文不对LLC移植后的细枝末节制度问题展开探讨,而是通过宏观视角探讨LLC的移植路径,以便更好的发展人工智能产业。具体而言,笔者认为应以“双重区分原则”构建LLC中国本土化路径。
     
      第一重区分是对LLC是否有成员予以区分。我国植入LLC,应当根据其是否具有成员予以区别对待。之所以有此区分,目的在于让人工智能法律资格得以承载并体现。因为只有在无成员LLC中,人工智能的人格才能真正彰显,人工智能的法律地位才得以确立。对于有成员的LLC,按照正常的商事组织模式予以规制,具体在此不表。然而,LLC一开始的创设,离不开创设人这一成员,因此,LLC的成员有无,并非仅仅针对一开始的LLC,而应囊括刚创设时有成员,但后来成员退出,进而转化为无成员的LLC。为了防止有成员LLC转化为无成员LLC后,逃脱自身责任,法律可以对此种转化施加一定的期限限制,即在转化为无成员LLC后,原有成员须在一定期间按照有成员LLC的相关规定承担责任。
     
      第二重区分是对无成员LLC的设立目的予以区分,即区分为公益性无成员LLC和营利性无成员LLC。如上文所述,部分人工智能可能出现某些原因而采取非营利或公益的性质进行运作,此种情况下的LLC规制显然应当与营利的LLC有所区分。最为典型的是上文所举的例子互联网档案馆。互联网档案馆完全可以采取无成员LLC的模式进行运作,而互联网档案馆的公益性注定了其与营利性无成员LLC有所不同。比如,对于营利性无成员LLC,可以要求其设定一定比例的储备金,即在LLC创设人按照事先设定的算法规则提取一定利润之前,应当留存一定比例的储备金,以备责任承担之用。但对于公益性无成员LLC而言,则可豁免此限制或者设置较低的储备金比例。故此,在法律规制、政府监管和税赋征收等诸多方面,应当对公益性无成员LLC和营利性无成员LLC予以区别对待,以助推多层次商事主体的有利发展。
     
      五、结语
     
      法学界关于人工智能是否能成为法律主体的激辩,至今为止也未能尘埃落定,背后既有科技发展尚未迅猛至迫切解决这一问题之因,也有因学者本身立场不一而导致萝卜青菜各有所爱的不同轨道式争论。诚如王利明先生所言,以目前人工智能的发展而言,其尚未对传统主体理论提出颠覆性的挑战。[47]然而,尚未“提出颠覆性的挑战”并不意味着对此视若无睹,因为随着人工智能进一步的发展,智能科技人的深度进化,赋予其在一定范围内享有一定程度的权利和承担一定的义务并非不可能。更何况,目前已出现的各类组织形态和机器人投资顾问等,已然具有主体之外衣,将之赋予某种法律主体资格地位,也不足以对法律制度与社会秩序构成颠覆性挑战。特别是在商事活动领域,对自主运行程序或大部分依赖于算法规则的交易行为而言,通过既有的制度资源LLC这一主体形式实现人工智能法律主体资格,既能光明磊落地彰显人工智能的法律地位,也是以最小的成本实现最佳的制度资源配置,可谓一箭双雕。当然,需要说明的是,本文所探讨的人工智能法律主体资格仅限于商事领域,而未涉及婚姻或刑事责任等其他领域。此外,我国对LLC进行本土化构建,也非轻而易举、一蹴而就之事。因为LLC植入后如何将其与我国公司、合伙企业、个人独资企业等既有的商事组织有效配合无疑值得仔细分析,且在依据双重区分原则构造具有中国特色的LLC时,如何进行繁枝细节的规范设计与制度安排也亟待探讨。而这些问题也有待学者将来的深入研究,以进一步改进和完善人工智能法律主体资格的制度规范……

    【作者简介】
    林少伟,西南政法大学民商法学院教授、人工智能法律研究院区块链研究中心主任。
    【注释】
    [1]汪庆华:《人工智能的法律规制路径:一个框架性讨论》,载《现代法学》2019年第2期,第54页。
    [2]张劲松:《人是机器的尺度——论人工智能与人类主体性》,载《自然辨证法研究》2017年第1期,第49页。
    [3]吴习彧:《论人工智能的法律主体资格》,载《浙江社会科学》2018年第6期,第60页。
    [4]司晓、曹建峰:《论人工智能的民事责任:以自动驾驶汽车和智能机器人为切入点》,载《法律科学》2017年第5期,第166页。
    [5]彭诚信:《人工智能的法律主体地位》,载《人民法治》2018年第18期,第98页。
    [6]张长丹:《法律人格理论下人工智能对民事主体理论的影响研究》,载《科技与法律》2018年第2期,第37页。
    [7]袁曾:《人工智能有限法律人格审视》,载《东方法学》2017年第5期,第50页。
    [8]房绍坤、林广会:《人工智能民事主体适格性之辨思》,载《苏州大学学报》(哲学社会科学版)2018年第5期,第64页。
    [9]杨立新:《人工类人格:智能机器人的民法地位——兼论智能机器人致人损害的民事责任》,载《求是学刊》2018年第4期,第84页。
    [10]赵万一:《机器人的法律主体地位辨析——兼谈对机器人进行法律规制的基本要求》,载《贵州民族大学学报》(哲学社会科学版)2018年第3期,第147页。
    [11]房绍坤、林广会:《人工智能民事主体适格性之辨思》,载《苏州大学学报》(哲学社会科学版)2018年第5期,第64页。
    [12]吴汉东:《人工智能时代的制度安排与法律规制》,载《法律科学》(西北政法大学学报)2017年第5期,第128页。
    [13]龙文懋:《人工智能法律主体地位的法哲学思考》,载《法律科学》(西北政法大学学报)2018年第5期,第24页。
    [14]刘洪华:《论人工智能的法律地位》,载《政治与法律》2019年第1期,第11页。
    [15]石冠彬:《论智能机器人创作物的著作权保护——以智能机器人的主体资格为视角》,载《东方法学》2018年第3期,第140页。
    [16]孙占利:《智能机器人法律人格问题论析》,载《东方法学》2018年第3期,第10页。
    [17]***:《人工智能时代的法律主体理论构造——以智能机器人为切入点》,载《探讨与争鸣》2018年第2期,第63页。
    [18]陈吉栋:《论机器人的法律人格——基于法释义学的讨论》,载《上海大学学报》(社会科学版)2018年第3期,第78页。
    [19]刘艳红:《人工智能法学研究中的反智化批判》,载《东方法学》2019年第4期,第119页。
    [20]郭少飞:《“电子人”法律主体论》,载《东方法学》2018年第3期,第38页。
    [21]张长丹:《法律人格理论下人工智能对民事主体理论的影响研究》,载《科技与法律》2018年第2期,第37页。
    [22]See Ellie Zolfagharifard, “Would you take orders from a Robot? An Artificial Intelligence becomes the world’s first company director”, Daily Mail, May 19, 2014.
    [23]See George Bekey, “Current Trends in Robotics: Technology and Ethics”, in O. Lin, K. BNEY & g.a.bEKEY, eds., Robot Ethics: The Ethical and Social Implications of Robotics , MIT Press, 2012, p.18.
    [24]See Matthew U. Scherer, “Regulating Artificial Intelligence Systems: Risks, Challenges, Competencies and Strategies”, Harvard Journal of Law & Technology, Vol.29, No.2(Spring 2016), p.353.
    [25]郭少飞:《“电子人”法律主体论》,载《东方法学》2018年第3期,第38页。
    [26]See Andreas Mattias, “The Responsibility Gap: Ascribing Responsibility for the Actions of Learning Automata” Ethics and Information Technology Vol.6, No.3(September 2004), p.175.
    [27]司晓、曹建峰:《论人工智能的民事责任:以自动驾驶汽车和智能机器人为切入点》,载《法律科学》2017年第5期,第166页。
    [28]吴汉东:《人工智能时代的制度安排与法律规制》,载《法律科学》(西北政法大学学报)2017年第5期,第128页。
    [29]陈吉栋:《论机器人的法律人格——基于法释义学的讨论》,载《上海大学学报》(社会科学版)2018年第3期,第78页。
    [30]赵磊、赵宇:《论人工智能的法律主体地位》,载《人工智能法学研究》2018年第1期,第21页。
    [31]美国的LLC与中国的有限责任公司并非等同,因此,本文直接以LLC称之,以避免与中国有限责任公司混为一谈。
    [32]廖凡:《美国非公司型有限责任企业初探》,载《法学》2003年第9期,第116页。
    [33]胡改蓉:《美国LLC制度引入我国的法律分析》,载《法学论坛》2009年第2期,第120页。
    [34]美国《统一有限责任公司法》第701条(a)(3)款。
    [35]纽约《有限责任公司法》第701条(a)(4)款。
    [36]See Shawn Bayern, Closely Held Organizations, Durham: Carolina Academic Press, 2013, pp.93-94.
    [37]See Shawn Bayern, “The Implications of Modern Business Entity Law for the Regulation of Autonomous Systems”, Stanford Technology Law Review, Vol.19(2015), p.93.
    [38]傅颖勋、罗圣美、舒继武:《安全云存储系统与关键技术综述》,载《计算机研究与发展》2013年第1期,第136页。
    [39]陈康、郑纬民:《云计算:系统实例与研究现状》,载《软件学报》2009年第5期,第1337页。
    [40]彭洪汇、林作铨:《Internet上的搜索引擎和元搜索引擎》,载《计算机科学》2002年第9期,第1页。
    [41]赵威:《我国移植LLC的可行性探讨》,载《法学杂志》2016年第6期,第110页。
    [42]崔文玉、赵万一:《美国LLC制度及其对中国公司法变革的启示——以日、韩修法对LLC制度的引入为视角》,载《现代法学》2013年第6期,第158页。
    [43]胡改蓉:《美国LLC制度引入我国的法律分析》,载《法学论坛》2009年第2期,第120页。
    [44]顾敏康:《我国目前不应当引入美国式的有限责任公司》,载《时代法学》2008年第4期,第112页。
    [45]See Tassma A. Powers and Deby L. Forry, “Partnership Taxation & The Limited Liability Company: Check Out the Check-The- Box Entity Classification” Land & Water Law Review, Vol.32(1997), p.831.
    [46]朱慈蕴等:《论控制股东的义务》,载《政治与法律》2002年第2期,第10页;汤欣:《控股股东法律规制比较研究》,法律出版社2006年版;彭冰:《理解有限公司中的股东压迫问题——最高人民法院指导案例10号评析》,载《北大法律评论》2014年第1期,第74页。
    [47]王利明:《人工智能时代对民法学的新挑战》,载《东方法学》2018年第3期,第4页。

    本网站文章仅代表作者个人观点,不代表本网站的观点与看法。
    转载请注明出自北大法律信息网
0
北大法律信息网
www.chinalawinfo.com
法律动态
网站简介
合作意向
网站地图
隐私政策
版权声明
北大法宝
www.pkulaw.cn
法宝动态
法宝优势
经典客户
免费试用
产品服务
专业定制
购买指南
邮件订阅
法律会刊
北大英华
www.pkulaw.com
英华简介
主要业务
产品列表
英华网站
联系我们
用户反馈
返回顶部
二维码