元宇宙产业委 |《以ChatGPT法律风险及防范为例》之综述

转自  元宇宙产业工作委员会MCC

据央链直播报道，元宇宙产业工作委员会指导，元宇宙共识圈和物链芯工程研究院支持

微信公众号 乐生活与爱IT Plus，微信视频号 乐生活与爱IT ，编者按：

一、综述

本次沙龙总计8600多人观看过。感谢下图中合作媒体的支持。错过的朋友翻到文章末尾，找到央链直播的网址；或者扫描如下二维码（微信视频号 乐生活与爱IT ），点直播回放，选择2月26日，即可观看。

本次互动有奖的获得者为视频号乐生活与爱IT的观众：六合先生，给出邮寄地址后，将获得签名版的《元宇宙十大技术》。

如下是樊律师的简介：

本次分享的目录如下：

第一部分｜ ChatGPT 简介

第二部分｜ ChatGPT 的法律风险

第三部分｜ ChatGPT 使用的合规建议

第四部分｜ 人工智能法律责任的承担

第五部分｜ 我国人工智能法规政策汇编

二、感受

感谢樊律师精彩的分享，其专业的内容能够给大家带来不少启发。例如，她提及的ChatGPT 使用的合规建议（6条）有较高的价值，如下：

 

比如第6条：ChatGPT源语言是英文，我们用中文在翻译使用过程更不能保证信息的准确性，因此公司在使用ChatGPT生成物应当刨根问底，确保答案的真实性与准确性。

三、摘要

下面从樊律师的讲稿（文章末尾提供下载方式）摘取片段或截图，以飨大家：

ChatGPT 的法律风险包含著作权、内容合规、隐私保护等问题。

1、有关ChatGPT 著作权问题。我国著作权法意义上的作品需要满足构成要件：属于文学、艺术、科学领域；具有独创性；智力成果；能以某种形式复制。ChatGPT等AIGC是否构成“作品”还得结合具体案例情形以进行判断。

对AI生成内容的定性方面，法院均认可唯有“体现人类智力创作”的内容方能定义《著作权法》中所保护的作品。

AI生成内容的作品是否构成作品的认定、著作权归属在实践中认识有分歧，尚无定论。

AI生产内容的利益分配，实践中也有分歧，可考虑通过用户协议等予以约定。

2、有关ChatGPT 内容合规问题。ChatGPT的设计目的是模仿人类对话者，虽然ChatGPT拥有一个智能审核机制，能对用户所输入的内容是否具有危害性进行评价，从而减少有害或误导性回复的产生，但限制于技术等问题，还是有用户利用其漏洞，让其输出有害内容。

有人提及，提供的犯罪方法包括但不限于：用户利用ChatGPT为他们提供入室行窃的方法；制作莫洛托夫鸡尾酒（燃烧瓶）的指南。技术本身无罪，但是难免会有别有用心的人利用技术去违法犯罪，ChatGPT也在所难免会被利用。

作为犯罪工具的例子包括：

• 使用ChatGPT生成恶意代码，创建信息窃取工具

• 使用ChatGPT创建暗网市场

• 利用ChatGPT生成钓鱼邮件

• 使用ChatGPT与人聊天博取信任，进行欺诈活动

在我国，根据《互联网信息服务管理办法》第二条规定，互联网信息服务，是指通过互联网向上网用户提供信息的服务活动。ChatGPT系收集用户数据信息，然后通过训练再向用户反馈相关问题的答案，属于互联网信息服务的提供者，如果今后在我国境内提供服务，其应当受到我国法律法规的规制。

 

ChatGPT属于一种深度合成技术，ChatGPT在中国应用严格遵守《互联网信息服务深度合成管理规定》，谨防这三个风险：隐私安全风险、人格权侵权风险、虚假信息风险。

 

 

在讨论人工智能法律责任的承担时，樊晓娟律师提到：“传统法律制度下对法律主体的界定具有清晰、成熟且受各方所认可的规则。人工智能时代，法律主体这个概念似乎被技术手段模糊化了。通过一系列技术手段，现在人工智能如同食下“智慧之果”一般，似乎拥有了跟人类一般的特征。但是，人工智能本质上仍然属于人类的工具，正如原始人手持长矛狩猎一般，人工智能就是我们现代人提升生产力的“长矛”。因此，基于人类最朴素的价值观，我们无法从情理上对人工智能赋予法律地位此事宜产生共情。

以中国法律为例，在现行《民法典》下，成为法律主体的仅限于自然人、法人和非法人组织，人工智能显然不符合该规定。另外，根据《刑法》规定，犯罪主体是指实施危害社会的行为、依法应当负刑事责任的自然人和单位。根据法教义学，在我国人工智能的行为及其法律后果，最终会穿透到人工智能的操控者，由该等法律主体承担相应的法律责任。换言之，人工智能给传统法律主体戴上了一层面纱，但是当传统法律主体利用人工智能实施民事行为或违法犯罪行为时，该层面纱将会被毫不留情的揭开。综上，我们认为，目前人工智能并不具有独立意识，无自主性，其不具备成为法律主体的能力，无法独立地建立权利和义务关系。”

简单总结就是，目前AI没有独立意识，无自主性，不能成为法律主体。

随后，她分享了我国全国性和地方性的人工智能立法汇编。

四、扩展

后面40多分钟的互动问答也很精彩，感兴趣的朋友可以回看。中间穿插了编者（乐生活与爱IT Plus，微信公众号作者）我的近日思考：

首先指出，AI需要区块链才能发展

1、训练的数据从何而来？个人或组织的隐私数据，需要结合区块链的激励措施，才能最大化的，给AI提供源源不断的“喂养数据”。

2、AI赋能千行百业提升效率的同时，带来数字生产大爆发，泥沙俱下、良莠不齐。如何保真（或者前后一致，不能抵赖曾经说过或生产过）、如何确权？需要区块链。

3、人类对降本增效永无止境地追求，一定会促进AI逐步参与决策的深度和广度。因此AI一定会被赋予更多的权限，包括但不限于，它能支付；它或者它背后的组织能“背锅”、能赔偿；它具有更权威的信用AI，被更多的人或组织认可；越来越被人格化。AI逐渐要具有身份、信用、资产的过程，也需要区块链。

我还倡议了AI启蒙计划，也即在大量的实时数据（鲜活但不可避免有未经沉淀和积累的“脏”数据）成为训练集之前，有必要提前将大量的经典文章等人类的精华素材率先导入并训练，成为AI这个“婴儿”的启蒙“教材”。因为经过历史沉淀、积累的文章，大部分是符合真善美的需求的。

如果自然发展，未来可能的人才分布，会呈现为“人”字型，也即顶尖人才很少，中间人才也少，下层人才很多。政府和组织（如公益）需要有所作为，努力让人才分布趋向橄榄型结构。

五、讲稿

更多内容，请参考当天的演讲稿，关注 乐生活与爱IT Plus，并输入当天日期0226即可下载。

六、预告

可通过视频号 "乐生活与爱IT" 预约：

燕园共话.元宇宙沙龙系列 第8期

演讲主题：AIGC与智能创作时代

杜雨 图书《AIGC》《WEB3.0》作者,

3月5日(周日)晚8点

BTW，在2月26日的第35届北京图书订货会上，北京广播电视台重点报道了杜雨老师的新书《AIGC:智能创作时代》，画面中也出现了《元宇宙十大技术》。

杜雨师详细介绍

畅销书《WEB3.0:赋能数字经济新时代》和《AIGC:智能创作时代》作者。北京大学经济学硕士， 香港中文大学理学硕士，中国社会科学院技术经济学博士。先后工作于腾讯、红杉资本TMT投资团队。创立科技加速器Quadratic Acceleration Quantum（QAQ），胡润U30。