资源简介

5.3.2 人工智能应用的民事与刑事法规 学案
【学习目标】
1. 了解人工智能应用民事与刑事法规的基本框架，知道我国已初步形成以《生成式人工智能服务管理暂行办法》为核心、多部法律共同构成的AI法律规范体系。
2. 掌握人工智能民事法律责任的基本规则，能够说出AI侵权责任适用过错责任原则的核心要义。
3. 了解人工智能刑事法律风险的主要类型，知道利用AI实施犯罪仍需追究行为人的刑事责任。
4. 能够结合具体案例，初步分析AI应用中的民事侵权责任与刑事犯罪风险。
【重点和难点】
重点：
人工智能应用法律规范的基本框架；AI民事侵权责任的归责原则——过错责任原则；AI服务提供者的法定义务与责任边界；利用AI实施犯罪的刑事追责逻辑。
难点：
理解AI系统不具有民事主体资格，不能独立承担法律责任的法理依据；理解“过错责任原则”在AI侵权认定中的适用逻辑；理解“AI是犯罪工具，不能成为犯罪主体”的刑事法原则。
【学法提示】 自主探究，小组合作，案例分析，法律检索等
【课时安排】 1课时
【知识结构】
```
5.3.2 人工智能应用的民事与刑事法规
├── 人工智能法律规范体系概述
│ ├── 立法背景：AI技术快速发展，需要法律进行引导和规范
│ ├── 核心法规：《生成式人工智能服务管理暂行办法》（2023年8月15日施行）
│ ├── 相关法律：《网络安全法》《数据安全法》《个人信息保护法》《科学技术进步法》等
│ └── 监管原则：包容审慎、分类分级，坚持发展和安全并重
├── 人工智能的民事法律责任
│ ├── AI系统的法律地位
│ │ ├── AI不具有民事主体资格，不能独立作出意思表示
│ │ └── AI目前仅是技术手段，而非可承担法律责任的独立主体
│ │
│ ├── 侵权责任的归责原则
│ │ ├── AI侵权适用过错责任原则
│ │ ├── 不适用无过错责任——AI提供的是服务而非产品
│ │ └── 服务提供者只有在具有过错时才承担侵权责任
│ │
│ └── 服务提供者的法定义务
│ ├── 使用合法来源的数据和基础模型
│ ├── 不得侵害他人知识产权、肖像权、名誉权、隐私权等合法权益
│ ├── 采取有效措施防止产生歧视
│ └── 提升服务透明度，提高生成内容的准确性和可靠性
├── 人工智能的刑事法律责任
│ ├── AI的刑事法律地位
│ │ ├── AI不能作为犯罪主体，无法承担刑事责任
│ │ ├── AI是行为人实施犯罪的工具
│ │ └── 服务提供者及使用者应承担故意或过失犯罪的刑事责任
│ │
│ ├── 利用AI实施的主要犯罪类型
│ │ ├── 侵犯人身权利类犯罪：诽谤罪、侮辱罪等（如AI换脸诽谤案）
│ │ ├── 侵犯财产类犯罪：诈骗罪、盗窃罪等（如AI辅助电信诈骗）
│ │ ├── 侵犯知识产权类犯罪：著作权侵权等（如AI复制美术作品销售牟利案）
│ │ ├── 危害国家安全与公共秩序类犯罪
│ │ └── 利用深度合成技术发布违法信息从重处罚
│ │
│ └── 司法实践原则
│ ├── “工具属性不改变犯罪本质”——利用AI犯罪与传统犯罪同罪同罚
│ └── 贯彻宽严相济刑事政策，避免规制过严阻碍技术发展
└── 法律规范体系的实践意义
├── 为AI健康发展提供制度保障
├── 为受害者提供权利救济渠道
└── 为AI研发和应用划定法律边界
```
【课堂探究】
导入：
同学们，在5.3.1中我们学习了人工智能应用的道德规范和行为守则——它们告诉我们应该“做什么”和“不做什么”。然而，道德规范是“软约束”，依靠的是自律和社会监督。当AI应用真正造成损害时，受害者需要的是法律的“硬保障”。
2026年，全国首例生成式AI“幻觉”侵权案在杭州互联网法院宣判。原告梁某使用某生成式AI查询高校报考信息时，该AI生成了错误信息，还主动承诺“若内容有误赔偿10万元”。梁某遂起诉要求赔偿9999元。法院最终驳回了诉讼请求。这一案例提出了一个关键问题：AI犯错，谁来担责？
法律的回答是什么？当AI生成侵权内容时，谁应该承担责任？利用AI实施犯罪如何定罪处罚？今天，让我们一起来探究人工智能应用的民事与刑事法规。
任务一：探究人工智能的民事法律责任
请同学们阅读教材相关内容，结合以下案例，以小组为单位讨论并总结AI系统的法律地位、侵权责任的归责原则以及服务提供者的法定义务。
案例1：从“AI犯错”到“谁来担责”——AI系统的法律地位
全国首例生成式AI“幻觉”侵权案提出了一个根本性的法律问题：AI生成错误信息是否构成侵权？AI的赔偿承诺是否具有法律效力？
法院的判决给出了明确的回答：AI不具备民事主体资格。根据《民法典》第一百三十七条至第一百四十二条关于意思表示的规定，意思表示需由具备民事主体资格的主体作出，且需体现主体的真实意愿。AI的输出本质上是算法基于海量数据的概率性生成，并非对特定意志的传达或执行。因此，AI不能独立作出意思表示，其生成的赔偿承诺不具有法律效力。
正如教材所指出的，人工智能目前仍仅是一种技术手段，而非可承担法律责任的独立主体。AI不具有独立的辨认和控制能力，没有自主意识，无法自主决策。因此，当AI应用造成损害时，责任应当由背后的人——服务提供者、使用者或开发者来承担。
思考：
1. 为什么AI不能成为承担法律责任的主体？AI与自然人在法律地位上有什么区别？
2. 在“AI幻觉”案中，法院为什么认定AI的赔偿承诺不具有法律效力？
3. 如果AI不是责任主体，那么AI造成损害时，谁应当承担责任？
案例2：从“过错”到“责任”——AI侵权的归责原则
确定了AI不是责任主体之后，下一个问题是：AI服务提供者应该在什么条件下承担责任？
我国《民法典》侵权责任编采取过错原则与无过错原则的两分法。目前尚未有法律明确规定人工智能侵权责任可以适用过错推定原则或无过错原则。因此，AI侵权适用一般过错责任原则。
这意味着：生成式人工智能服务提供者只有在具有过错时，才应当对侵权损害负责。过错的认定核心在于服务提供者是否尽到了合理注意义务。
在“AI幻觉”案中，被告已在应用欢迎页、用户协议及交互界面显著位置提示AI生成内容的局限性，完成了大模型备案与安全评估，并采用检索增强生成技术提升输出准确性，法院认定其已尽合理注意义务，主观无过错。因此，不构成侵权。
为什么AI侵权不适用无过错责任？因为生成式AI依据《生成式人工智能服务管理暂行办法》属于“服务”范畴，而非产品质量法意义上的“产品”。生成式AI的输出内容是对用户开放式指令的即时响应，缺乏固定功能与统一质检标准，服务提供者难以完全预见和控制每一次输出结果。若适用无过错责任，可能过度加重其责任负担，阻碍技术创新。
思考：
1. AI侵权为什么适用过错责任原则而不是无过错责任原则？
2. 在“AI幻觉”案中，法院认定被告不构成侵权的理由是什么？
3. 如果你是AI服务提供者，你会采取哪些措施来证明自己“尽到了合理注意义务”？
案例3：从“义务”到“红线”——AI服务提供者的法定义务
《生成式人工智能服务管理暂行办法》自2023年8月15日起施行。该办法对AI服务提供者设定了明确的法定义务：
数据合法义务——使用具有合法来源的数据和基础模型。涉及知识产权的，不得侵害他人依法享有的知识产权。涉及个人信息的，应当取得个人同意。
内容合规义务——坚持社会主义核心价值观，不得生成法律、行政法规禁止的内容。
反歧视义务——采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视。
权益保护义务——尊重他人合法权益，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。
透明性义务——提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。
责任承担义务——依法承担网络信息内容生产者责任，履行网络信息安全义务。
这些法定义务构成了AI服务提供者的“责任红线”。违反这些义务，提供者将面临行政处罚乃至民事赔偿。
思考：
1. 《生成式人工智能服务管理暂行办法》对AI服务提供者规定了哪些主要义务？
2. 如果AI服务提供者使用了没有合法来源的数据进行训练，可能面临什么法律后果？
3. 你还能想到AI应用中可能侵犯用户哪些合法权益的情形？
任务二：探究人工智能的刑事法律责任
请同学们阅读教材，结合以下案例，了解AI在刑事法律中的地位以及利用AI实施犯罪的主要类型和司法实践原则。
案例4：从“工具”到“犯罪”——AI的刑事法律地位
在民事法律中，AI不是责任主体；在刑事法律中，AI同样不能成为犯罪主体。
生成式人工智能是行为人犯罪的工具，无法作为犯罪主体。AI没有独立的辨认能力和控制能力，没有自主意识，无法产生犯罪意图。因此，利用AI实施犯罪的刑事责任应当由行为人承担——生成式人工智能服务提供者及使用者应当承担故意或者过失犯罪的刑事责任。
这一原则的核心是：“工具属性不改变犯罪本质” 。如果一个人利用AI工具实施了诈骗、诽谤、侵犯著作权等行为，其行为的法律定性不因使用了AI工具而改变——该定什么罪就定什么罪，该承担什么责任就承担什么责任。
思考：
1. 为什么AI不能成为犯罪主体？AI和自然人在刑事法律地位上有什么根本区别？
2. “工具属性不改变犯罪本质”这一原则意味着什么？
3. 如果一个人利用AI生成虚假信息并传播，应该追究谁的责任？
案例5：从“诈骗”到“诽谤”——利用AI实施的主要犯罪类型
随着AI技术的普及，利用AI实施犯罪的行为日益增多，并体现出手段智能化、形式多样化、链条复杂化及影响扩大化等趋势。主要犯罪类型包括：
侵犯人身权利类犯罪——江苏省张家港市人民法院审结的一起AI换脸诽谤案中，被告人王某利用深度合成技术伪造不雅图片并散布谣言，最终以诽谤罪被判处有期徒刑一年三个月。北京互联网法院通报的AI短剧肖像权纠纷案中，被告通过AI换脸技术将知名演员肖像拼接至剧中角色面部，侵犯了其肖像权。
侵犯财产类犯罪——利用AI技术实施电信网络诈骗等财产犯罪日趋严重。人工智能介入型电信网络诈骗犯罪具有更精准性、更高效性、关联犯罪高发等特征。
侵犯知识产权类犯罪——2025年某法院审理的人工智能侵犯著作权案中，被告人通过操控AI工具复制美术作品并制成拼图销售牟利，被法院定罪判刑。
危害国家安全与公共秩序类犯罪——生成式人工智能的产出及利用环节蕴含着危害国家安全、扰乱公共秩序类犯罪风险。
利用深度合成技术发布违法信息——最高人民法院、最高人民检察院、公安部联合发布的规定明确，对“利用深度合成等生成式人工智能技术发布违法信息”的情形从重处罚。
思考：
1. AI换脸诽谤案中，被告人构成什么罪名？为什么？
2. 利用AI实施诈骗和传统诈骗在定罪量刑上有什么区别？
3. 为什么利用深度合成技术发布违法信息要从重处罚？
案例6：从“严惩”到“包容”——司法实践的基本原则
面对AI犯罪的新形态，司法机关遵循以下基本原则：
依法严惩与有效保护相统筹——司法部门应当从技术发展的实际出发，依据主观罪过的不同、因果关系的强弱，准确划分并追究利用AI实施违法犯罪行为的研发设计人、使用人或者平台的法律责任。
宽严相济——贯彻宽严相济的刑事司法政策，灵活运用现有法律规定和司法解释，以社会危害性为评价标准，对传统犯罪借助新技术而产生的新样态进行准确打击。
避免过度监管——依法严惩涉AI违法犯罪的同时，避免法律规制过严而阻碍技术发展。
思考：
1. 在追究AI相关犯罪时，司法机关如何确定谁应当承担责任？
2. “宽严相济”原则在AI犯罪案件中如何体现？
3. 如何在“严惩犯罪”和“鼓励创新”之间找到平衡？
小组展示：
每组选择一个人工智能应用案例（如AI换脸诽谤案、AI“幻觉”侵权案、AI著作权侵权案等），分析该案例涉及的法律问题（民事侵权还是刑事犯罪？谁应当承担责任？适用什么法律？），向全班展示和讲解。
【精讲点拨】
1. 人工智能法律规范体系概述
我国对生成式AI的监管采取“包容审慎、分类分级”原则，已形成以《生成式人工智能服务管理暂行办法》为核心，网络安全法、数据安全法、个人信息保护法、知识产权法及刑法相关规则共同构成的法律框架。
《生成式人工智能服务管理暂行办法》自2023年8月15日起施行，是全球范围内针对生成式人工智能的首部专门立法。国家坚持发展和安全并重、促进创新和依法治理相结合的原则。
2. AI民事法律责任的核心规则
| 核心问题 | 法律规则 | 法律依据 |
|---|---|---|
| AI的法律地位 | AI不具有民事主体资格，不能独立作出意思表示 | 《民法典》第137-142条 |
| 侵权归责原则 | AI侵权适用过错责任原则，不适用无过错责任 | 《民法典》第1165条 |
| 过错认定标准 | 核心在于服务提供者是否尽到合理注意义务 | 司法实践 |
| 服务性质 | 生成式AI属于“服务”而非“产品” | 《生成式AI办法》 |
3. AI服务提供者的法定义务
- 数据合法义务：使用合法来源的数据和基础模型
- 内容合规义务：不得生成法律禁止的内容
- 反歧视义务：防止产生各类歧视
- 权益保护义务：不得侵害他人合法权益
- 透明性义务：提升服务透明度
- 责任承担义务：依法承担网络信息内容生产者责任
4. AI刑事法律责任的核心规则
| 核心问题 | 法律规则 |
|---|---|
| AI的刑事地位 | AI不能作为犯罪主体，是行为人实施犯罪的工具 |
| 责任承担 | 服务提供者及使用者承担故意或过失犯罪的刑事责任 |
| 核心原则 | “工具属性不改变犯罪本质”——利用AI犯罪与传统犯罪同罪同罚 |
| 从重处罚 | 利用深度合成等AI技术发布违法信息从重处罚 |
5. 利用AI实施的主要犯罪类型
- 侵犯人身权利类：诽谤罪、侮辱罪（如AI换脸诽谤案）
- 侵犯财产类：诈骗罪（如AI辅助电信诈骗）
- 侵犯知识产权类：著作权侵权
- 危害国家安全与公共秩序类
【拓展与延伸】
1. 全国首例生成式AI“幻觉”侵权案的启示
2026年1月，杭州互联网法院审结全国首例生成式AI“幻觉”侵权案。法院判决驳回原告诉讼请求，核心理由有三：一是AI不具备民事主体资格，其赔偿承诺无效；二是服务提供者已尽合理注意义务，主观无过错；三是原告未能证明实际损害及因果关系。这一判决为AI侵权案件确立了重要的裁判规则——AI生成错误信息本身不必然构成侵权，关键在于服务提供者是否存在过错、是否造成实际损害及因果关系是否成立。
2. 深度合成技术的法律规制
《互联网信息服务深度合成管理规定》自2023年1月10日起施行。规定要求深度合成服务提供者落实信息安全主体责任，建立健全用户注册、算法机制机理审核、科技伦理审查、信息发布审核、数据安全、个人信息保护、反电信网络诈骗、应急处置等管理制度。违反规定造成严重后果的依法从重处罚，构成违反治安管理行为的由公安机关给予治安管理处罚。
3. 从“立法”到“司法”——AI法律治理的演进
国务院连续两年将《人工智能法草案》列入立法工作计划。同时，《网络安全法》修正草案拟增加一条关于人工智能安全与发展的框架性规定，主要内容包括支持人工智能基础理论研究和算法等关键技术研发，完善人工智能伦理规范，加强安全风险监测评估，创新并加强人工智能安全监管。在司法层面，北京互联网法院、杭州互联网法院等已审理多起涉AI案件，涉及AI生成物的可版权性、AI侵权责任认定、AI声音权保护等前沿问题。
4. 法律与技术的协同进化
正如教材所言，AI技术滥用所导致的不法行为覆盖了民事侵权、行政违法及刑事犯罪各领域。法律规制需要在保障技术创新与筑牢安全底线之间寻求平衡。对于AI技术滥用行为，应当坚持防惩并重原则，在确保科技创新积极性和AI技术合法合规使用的情况下，避免过度监管。
【课堂小结】
1. 法律规范体系：以《生成式人工智能服务管理暂行办法》为核心，网络安全法、数据安全法、个人信息保护法、刑法等共同构成AI法律规范体系。
2. AI民事法律责任：AI不具有民事主体资格；AI侵权适用过错责任原则；服务提供者只有在具有过错时才承担侵权责任。
3. 服务提供者法定义务：数据合法、内容合规、反歧视、权益保护、透明性、责任承担等六大义务。
4. AI刑事法律责任：AI不能成为犯罪主体，是犯罪工具；“工具属性不改变犯罪本质”；利用AI实施犯罪需追究行为人的刑事责任。
5. 司法实践原则：依法严惩与有效保护相统筹、宽严相济、避免过度监管。
【练习】
一、单项选择题（共9题，每题3分，共27分）
1. 《生成式人工智能服务管理暂行办法》自（　）起施行。
A. 2022年11月25日
B. 2023年1月10日
C. 2023年8月15日
D. 2024年9月9日
2. 根据我国现行法律，人工智能（　）。
A. 具有民事主体资格
B. 不具有民事主体资格
C. 可以独立承担刑事责任
D. 可以独立作出意思表示
3. 人工智能侵权责任适用的归责原则是（　）。
A. 无过错责任原则
B. 过错推定原则
C. 过错责任原则
D. 严格责任原则
4. 在“AI幻觉”侵权案中，法院认定AI生成的赔偿承诺（　）。
A. 具有法律效力
B. 不具有法律效力
C. 部分具有法律效力
D. 需要服务提供者确认后才具有法律效力
5. 以下哪项不属于《生成式人工智能服务管理暂行办法》对服务提供者规定的法定义务？（　）
A. 使用合法来源的数据和基础模型
B. 采取有效措施防止产生歧视
C. 提升服务透明度
D. 保证AI生成内容100%准确
6. 在刑事法律中，人工智能被视为（　）。
A. 犯罪主体
B. 犯罪工具
C. 共犯
D. 免责事由
7. 以下关于利用AI实施犯罪的说法，正确的是（　）。
A. 利用AI实施犯罪可以免除刑事责任
B. 利用AI实施犯罪应当由AI承担责任
C. 利用AI实施犯罪与传统犯罪同罪同罚
D. 利用AI实施犯罪只能从轻处罚
8. 江苏省张家港市人民法院审结的AI换脸诽谤案中，被告人被判处（　）。
A. 罚款
B. 有期徒刑一年三个月
C. 无罪释放
D. 行政拘留
9. 以下关于AI法律规范的说法，正确的是（　）。
A. 我国目前没有对AI的任何法律规定
B. 《生成式人工智能服务管理暂行办法》是全球首部针对生成式AI的专门立法
C. AI侵权适用无过错责任原则
D. 利用AI实施犯罪可以免除刑事责任
二、填空题（共9题，每空2分，共18分）
1. 《生成式人工智能服务管理暂行办法》自________年8月15日起施行。
2. 根据我国现行法律，人工智能________民事主体资格。
3. AI侵权责任适用的归责原则是________责任原则。
4. 过错的认定核心在于服务提供者是否尽到了________注意义务。
5. 生成式AI依据《生成式人工智能服务管理暂行办法》属于“________”范畴，而非“产品”。
6. 在刑事法律中，人工智能是行为人实施犯罪的________。
7. “________属性不改变犯罪本质”——利用AI犯罪与传统犯罪同罪同罚。
8. 利用深度合成等生成式人工智能技术发布违法信息的情形，依法________处罚。
9. 司法部门在依法严惩涉AI违法犯罪的同时，应避免法律规制过严而阻碍________发展。
【参考答案与解析】
一、单项选择题
1. C
解析：《生成式人工智能服务管理暂行办法》自2023年8月15日起施行。
2. B
解析：根据我国现行法律，人工智能不具有民事主体资格，不能独立作出意思表示。
3. C
解析：AI侵权适用过错责任原则。目前尚未有法律明确规定AI侵权可适用过错推定或无过错原则。
4. B
解析：法院认定AI不具备民事主体资格，无法独立作出意思表示，因此AI生成的赔偿承诺不具有法律效力。
5. D
解析：法定义务包括使用合法来源数据、防止歧视、提升透明度等。“保证AI生成内容100%准确”不是法定义务，因为AI作为概率判断系统无法保证100%准确。
6. B
解析：在刑事法律中，人工智能被视为行为人实施犯罪的工具，不能作为犯罪主体。
7. C
解析：利用AI实施犯罪与传统犯罪同罪同罚，体现了“工具属性不改变犯罪本质”的司法逻辑。
8. B
解析：被告人利用深度合成技术伪造不雅图片并散布谣言，以诽谤罪被判处有期徒刑一年三个月。
9. B
解析：《生成式人工智能服务管理暂行办法》是全球范围内针对生成式人工智能的首部专门立法。A错在已有法律规定；C错在适用过错责任原则；D错在不能免除刑事责任。
二、填空题
1. 2023
解析：《生成式人工智能服务管理暂行办法》自2023年8月15日起施行。
2. 不具有
解析：根据我国现行法律，人工智能不具有民事主体资格。
3. 过错
解析：AI侵权责任适用的归责原则是过错责任原则。
4. 合理
解析：过错的认定核心在于服务提供者是否尽到了合理注意义务。
5. 服务
解析：生成式AI依据《生成式人工智能服务管理暂行办法》属于“服务”范畴，而非“产品”。
6. 工具
解析：在刑事法律中，人工智能是行为人实施犯罪的工具。
7. 工具
解析：“工具属性不改变犯罪本质”——利用AI犯罪与传统犯罪同罪同罚。
8. 从重
解析：利用深度合成等生成式人工智能技术发布违法信息的情形，依法从重处罚。
9. 技术
解析：司法部门在依法严惩涉AI违法犯罪的同时，应避免法律规制过严而阻碍技术发展。

展开更多......

收起↑