2022年11月18日18:30，法律与人工智能研习社在法学院1027会议室举办法律与人工智能研习社第40期活动暨第3次读书会，本次读书会的主题是“人工智能之法律主体地位”，由2022级研究生张敬悦同学组织展开。到场的还有法学院的本科生和研究生同学。

本次读书会首先由主讲人张敬悦同学介绍了讨论的主题，即“人工智能之法律主体地位”，对“人工智能之法律主体地位”界定是人工智能法学的基础性问题，同时也和其他部门法的联系密切，因此将此主题作为法律与人工智能研习社本学期第一次读书会的讨论主题。

张敬悦同学向大家介绍本次读书会的主题

张敬悦同学接着梳理了本次读书会主要讨论的五篇文章。第一篇文章是郭剑平老师的《制度变迁史视域下人工智能法律主体地位的法理诠释》。文章首先提出了“人工智能生成物著作权归属问题”，该问题指向人工智能创作作品归其本身所有还是归自然人或法人所有，最终归结于讨论人工智能是否具有法律主体地位。接着，文章梳理了现有的关于“人工智能是否具有法律主体地位”的三个观点。第一个观点是“肯定观”，其代表学说有“拟制人格说”、“电子人格说”和“代理人格说”。支持“肯定观”的论证理由主要包括：第一，赋予人工智能主体资格不以生理结构为基础，而是应当社会性要素；第二，人工智能具有自主意识；第三，具有赋予人工智能主体资格的现实必要性。第二个观点是“否定观”，其代表学说为“工具论”，支持否定观的人认为，人工智能不具有权利能力和自主意识，且赋予人工智能主体资格现实理由不足。第三个观点是“有限肯定观”，即人工智能可以实施自主的行为，但承担法律上的行为后果有限。该观点的论证理由主要包括：第一，人工智能的行为能力存在限制性；第二，人工智能具有主体地位，享有的是财产性权利，承担义务也是有限的；第三，人工智能侵权责任由其本身和所有者共同承担。本篇文章支持的观点是“肯定观”，纵观法律主体的变迁过程，作者得出认定法律主体地位的基本标准：具有理性能力、权利能力和社会功能。其中，理性能力是人工智能具有法律主体地位的实质要件，作者认为人工智能体能够生成自由意志，并拥有较为丰富的情感能力；权利能力是人工智能具有法律主体地位的形式要件，人工智能享有人格权、财产权和数据权，并具有法律义务，可以赋予其法律主体资格以负有责任；社会功能是人工智能具有法律主体地位的价值取向。

本次读书会讨论的第二篇文章是张绍欣的《法律位格、法律主体与人工智能的法律地位》，这篇文章的主要贡献是提出智能机器人之法律主体地位的“位格加等说”，并提出了从法律主体概念回归法律位格概念的未来法理展望。文章从现代的法律人格还原到广义的法律位格，论述了智能机器人的法律地位与位格加等，从位格加等说的角度支持了“肯定观”。第三篇文章是郭研和沙涛的《人工智能刑事责任能力之否定》，该文章是从刑事责任出发支持了“否定说”的观点。文章首先提出问题，要讨论人工智能是否具有主体地位，一方面需要讨论人工智能能否作为一个主体而存在，另一方面需要人工智能是否能够发展到需要讨论其刑事责任能力的程度。对此，文章从技术、法理、伦理论证了人工智能不具有刑事责任能力，并没有法律主体的地位。第四篇文章是解正山老师的《对机器人“法律人格论”的质疑——兼论机器人致害民事责任》，这篇文章从民事责任出发论证了人工智能主体地位之“否定说”，并提出对人工智能进行民事归责的路径。文章提出“无论机器人未来多么智能，它都不可能也不应该让其拥有人一样的自我意识与自身目的，其所发挥的仍应是智慧工具价值”，这也引申出了一个问题，即“人工智能的边界在哪里？”第五篇文章是袁曾的《人工智能有限法律人格审视》，该文章支持的是人工智能“有限人格说”，文章提出，人工智能是特殊性质的法律主体，享有法律权利，且必须承担法律责任，应赋予人工智能有限的法律人格并予以规制。

张敬悦同学向大家梳理本次读书会讨论的主要文章

经过主要文章观点的梳理，同学们对现有的“人工智能法律主体地位”的主要观点有了清晰的认识，接下来，张敬悦同学组织大家进行自由讨论。同学们围绕“现有学说的合理性与局限性”“自由意志的有无”“对伦理安全的影响”“民事责任的承担”“刑事责任和承担”和其他的角度对“人工智能是否具有法律主体地位”这一问题展开了激烈的讨论。张敬悦同学支持“反对说”的观点，她提出目前人工智能的发展还处于“弱智能”阶段，对人工智能法律主体地位的确认存在理论和现实难题，目前对人工智能法律主体地位确认的必要性也不足。韩若凡同学也认为人工智能不具有法律主体地位，她赞成刘艳红教授在《人工智能的反智化批判》一文中提出的观点，认为目前人工智能的发展还不成熟，人工智能具有法律地位的理论依据也是不足够的，且立法应当是具有谦抑性的，对人工智能相关事务的规制应当更为谨慎和保守。

而袁诗语同学支持的是“有限肯定观”，她认为超越编程以外的人工智能是有自主意识和情感的，在这种情况下赋予其主体资格能让其承担一定的责任，更符合刑法上的“罪责自负”原则。且仅仅依据产品责任进行归责不满足现实需求，也容易赋予生产者过高的责任，对于生产者而言是不公平的，也不利于科技的发展。

罗懿同学认为，要回答人工智能是否具有法律主体地位这个问题，首先需要回答两个问题：一是人工智能发展到什么水平才需要具有人格，二是赋予人工智能的人格地位对人类有什么意义。根据这两个问题，罗懿同学认为，现有人工智能的发展阶段没有达到赋予其人格的程度，且对人工智能设置刑罚处罚是没有意义的，因而人工智能不具有法律主体地位。

唐先勇同学也支持“否定说”的观点，唐同学提出，人工智能是否具有理性能力是其能否成为法律主体的实质判断要件。理性能力可以从自由意志、情感构成两个方面进行阐述。他认为至少现阶段人工智能不具有自由意志(理性能力)，其功能的发挥是对设计者思想的外化，就像智能机器人的行为也都是受制于算法程序的预先设定。对于人工智能责任，唐同学更倾向于认为可以分为两个阶段，一个是生产阶段，此阶段的数据模型可以尝试从饲养动物角度出发，生产者通过不断增加数据使得该模型不断完善；或者也像婴儿，归责应该还是给生产者设计者。二是产品阶段，可以从产品责任角度进行规制。但是强化设计者生产者责任也会可能会抑制人工智能产业的发展，所以具体归责路径，可能需要再讨论。

同学们讨论发言

社长刘乐梅表示：“经过讨论，大部分同学都比较赞成否定论的观点，认为人工智能现有的发展还处于“弱智能”阶段，法律没有必要做这个尝试。而袁诗语同学提出在编程和设计外的人工智能是应当具有主体资格地位的，那么现在是否存在编程和设计外的人工智能呢？”对此，袁诗语同学认为，现在还没有编程和设计外的人工智能，但是现在美国的很多判案都以人工智能为主，这种人工智能虽然是在编程和控制的范围内，可以对司法进行很强的辅助。

黄凌汐同学提到了她之前看过的阿西莫夫机器人三部曲，黄同学认为，机器人的三大法则（不能伤害人类、遵从命令、自保）在强人工智能阶段可能起到基础性的作用。黄同学提出了在书中看到的一个故事：一个高级机器人去高温星球接受采矿任务，但是在靠近高温区域的时候，机器人就开始兜圈子。因为机器人的自保法则在其走向高温的过程中产生了越来越重要的影响。但不能将机器人的这个举动算为自我意识，这可能只是一种编程的影响。

张敬悦同学表示，三大法则可能会存在冲突。如果给机器人设置道德法则，在未来机器人是否也会突破？此外，张同学还提出通用人工智能具有自我意志，但其危险性太大，可能会对伦理安全进行冲击，应当制止有自我意志的人工智能出现。

刘乐梅同学还提到了目前上海法院所使用的“206系统”和美国在保释制度的改革中，用人工智能进行风险性评估的问题，对此，刘乐梅同学向大家提出问题：如何看待人工智能在司法领域中的适用呢？袁诗语同学认为，人工智能在司法程序和金额的计算上可以起到较好的作用，但是人工智能还没有发展到可以参与事实审定和情感判断上的阶段。韩若凡同学表示人工智能在司法领域中的适用需要考虑如何保证程序正义这一重要问题。

本次读书会，同学们积极踊跃地表达了自己的观点，在一个个问题的交流共享中碰撞出了思维的火花，对“人工智能之法律主体地位”这个主题进行了深入的探讨。读书会不仅为同学们提供了学习交流的平台，拓宽了同学们的专业知识积累，也为大家日后学术水平的提升打下坚实的基础。相信大家将以法律与人工智能研习社开展的读书会为契机，养成认真阅读与思考的习惯，从中汲取学术营养并发现新的问题，为法律与人工智能前沿性问题的探索产生新的认识与思考。

同学们积极提出问题与讨论