2023年2月23日19:00，法律与人工智能研习社在四川大学法学院2022-1会议室举办法律与人工智能研习社第42期活动暨第13期学术研讨会，本次研讨会的主题是“ChatGPT智能治理头脑风暴”。四川大学法学院王竹教授担任头脑风暴主持人，参会老师有四川大学计算机学院雷文强教授、四川大学法学院李成教授、四川大学文学与新闻学院王涛老师、西华大学法学与社会学学院余嘉勉副教授。到场旁听的还有四川日报蒋京洲记者、四川省成都市双流区人民检察院的工作人员以及四川大学法学院的本科生和研究生同学。本次研讨会主要围绕三个有关ChatGPT的话题作自由讨论。

王竹教授主持本次研讨会

头脑风暴第一个话题是ChatGPT的出现会让人类失业吗？关于这个问题，雷文强教授认为，当今自动化是个热潮，重复性的劳动都会逐渐被自动化技术替代，而人要做的是守住创造性。目前AI理智和逻辑的推理能力还是达不到人类的水平，未来达不达得到尚且不知道，ChatGPT现在只有90分，未来能不能达到100分也不知道。李成教授认为，首先要明白我们为什么会这么关注就业的问题。因为就业关涉财富的分配和个人价值的实现。目前令人担心的问题在于以人工智能为代表的新兴技术在取代既有职位的同时不会生成新的岗位需求，导致就业的萎缩，进而引发财富分配的失序并对个人价值的实现造成冲击。王涛老师认为不必将ChatGPT视为洪水猛兽，很多基础技术我们早就见识到了，比如语言翻译机器，ChatGPT的出现是一个顺水推舟顺理成章的事情，因为技术已经推到那个点了。

头脑风暴第二个话题是ChatGPT的诞生可能会产生哪些伦理问题? 存在哪些安全风险？如何追责？面对这些问题，各位老师也给出了自己见解。雷文强教授认为，AI能够给人类提供一些情绪价值，但一些基础的社会关系是否能被AI替代尚不确定。余嘉勉教授提到，无论是风险还是伦理问题，目前法律上对这个问题看的并不是很重，是否能代替律师和法官这类问题在法学界内部来看其实不是个问题。最高院去年推出了一个关于人工智能辅助审判的一个规则，只是强调它是一个通用性的工具。现在我们技术是很进步，但是我们立法很落后。目前我们国家层面是没有人工智能立法的，只有一个数据安全法，地方上只有上海和深圳有人工智能产业促进的条例，且也不算一种治理的法，法律算是一个产业引导和支撑。伦理也好，法律问题也好，其实目前是不存在极端困难的。王竹教授以动物饲养来类比训练人工智能的问题，在追责问题上提出熔断和去中心化的设想。在伦理方面王竹教授认为ChatGPT为代表的人工智能产生了巨大影响，这可能会形成“科技宗教”。李成教授针对ChatGPT的安全风险问题提出了自己的见解，认为在技术应用中存在着过度信任人工智能的自动化偏见。当我们习惯于通过ChatGPT获取信息时，可能因为ChatGPT反馈信息质量的鱼龙混杂而产生认知风险。

嘉宾老师们进行讨论

头脑风暴第三个话题是未来ChatGPT和人类的交互问题。王涛老师沿用了上一个话题中动物的比喻。他提到，现在动物保护其实有很多涉及伦理问题，之后AI机器人也和动物一样可能会涉及类似的问题，和动物相处的模式可能以后会有部分移植到面对AI的时候。余嘉勉教授以自动驾驶技术为例，认为普通人可能更关注AI技术是否安全和可靠。人类可能面临两个问题，一是人类是否可以百分百信任人工智能技术，二是人工智能技术发展到一定阶段，会不会用自己的规则来驯化人类。此外，余教授认为，一旦我们人类生活中都是AI的时候，会大大消磨人类的创新性，比如一个成长中的孩子可能不会主动去拆一个电灯泡或者收音机，也不会去探索东西，因为只需要动动嘴就可以了。无论ChatGPT是一个什么样的工具，无论将来是否主动作恶，都可能会对人类后代产生负面影响。

在同学提问环节，有同学提出ChatGPT是否能辅助政府做一些决策，如果产生了责任归属的问题该如何处理。李成教授回答道，不管是在中国还是在外国，在很多领域中，公、私部门已经部署了大量的智能工具。但出于风险考虑，公共部门在使用智能工具时相对谨慎。在现阶段，人工智能多扮演辅助角色，做最后决定的仍然是人，因而责任归属问题尚不突出。

李成教授发言

本次头脑风暴，参与人数众多，各位嘉宾针对ChatGPT智能治理各方面问题积极发言，在一个个问题的交流共享中碰撞出了思维的火花，对“ChatGPT智能治理”这个主题进行了深入的探讨。研讨会不仅为同学们提供了学习交流的平台，拓宽了同学们的专业知识积累，也为大家日后学术水平的提升打下基础。

同学们积极参与并提出问题