资源简介

(共33张PPT)
第七单元 第8课
深度学习挑战：难以理解的智能
清华版（小学）
通
1
学习目标
3
新知讲解
5
拓展延伸
7
板书设计
2
新知导入
4
课堂练习
6
课堂总结
课后作业
8
01
教学目标
（1）理解神经网络模型的不可解释性。
（2）了解神经网络模型的不可解释性所带来的风险，并知道降低不可解释性风险的举措。
02
新知导入
不可解释性的技术根源
人工神经网络的复杂非线性结构使其决策过程难以追溯，形成“黑箱”效应。
02
新知导入
风险的本质与放大机制
不可解释性可能导致隐性偏见或错误归因，使AI的决策隐藏不可控风险。
02
新知导入
应对策略的双轨并行
通过可视化分析和人类监督降低AI不可解释性带来的风险。
03
新知讲解
1
黑盒模型
神经网络决策的集体性
人工神经网络的决策依赖所有神经元的共同计算，而非单个神经元独立负责，导致责任分散且无法追溯具体决策路径。
03
新知讲解
1
黑盒模型
复杂连接的黑盒效应
当神经元数量庞大时，其连接关系高度复杂，使模型内部逻辑不透明，形成难以解析的“黑盒”系统。
03
新知讲解
1
黑盒模型
可解释性缺失的双重影响
黑盒特性既阻碍技术优化（如定位错误根源），又削弱应用信任度（如医疗诊断中无法验证决策依据）。
03
新知讲解
1
黑盒模型
现实风险的具象案例
自动驾驶误判红灯、AI招聘隐藏性别偏见等实例，证明不可解释性可能引发安全与伦理危机，亟需治理措施。
03
新知讲解
1
黑盒模型
自动驾驶的决策黑箱困境
神经网络作为自动驾驶的“大脑”，因不可解释性导致异常行为（如误将招牌识别为红灯急刹）时，开发者既无法即时干预也难以针对性修复。
03
新知讲解
1
黑盒模型
医疗AI的信任危机
深度学习辅助诊断时，错误结论可能引发过度治疗，而模型不可解释性迫使医生放弃AI辅助，凸显医疗领域的可靠性门槛。
03
新知讲解
1
黑盒模型
强化学习的双刃剑效应
智能机器人通过强化学习自主探索策略，虽具创新性，但不可解释的行为模式可能隐藏未知风险。
03
新知讲解
1
黑盒模型
技术缺陷与用户体验冲突
自动驾驶的“合理急刹”对机器是逻辑正确，对乘客却是无法理解的糟糕体验，揭示AI决策逻辑与人类认知的鸿沟。
03
新知讲解
1
黑盒模型
资源浪费与健康威胁
医疗AI的误诊不仅浪费医疗资源，更可能导致耐药性等长期健康危害，体现不可解释性对公共安全的潜在威胁。
03
新知讲解
1
黑盒模型
创新与安全的博弈
强化学习推动AI突破人类思维局限，但缺乏可解释性使其在家庭服务等场景可能引发安全隐患，需平衡创新价值与风险控制。
03
新知讲解
2
可解释性研究
可解释性研究的实验方法
研究者通过 干扰实验 改变输入特征（如遮盖笛子区域），观察模型决策变化（概率从0.9973降至0.0007），逆向推断关键决策依据。
03
新知讲解
2
可解释性研究
激活图的可视化技术
采用 激活图 定位输入中对输出影响最大的区域（如鸟嘴咬鱼部分对“咬”动作的贡献），为图像类任务提供直观解释。
03
新知讲解
2
可解释性研究
解释技术的场景局限性
当前方法（如干扰实验、激活图）在视觉领域有效，但对声音、策略等非结构化数据的解释仍待突破，反映可解释性研究的领域不平衡性。
03
新知讲解
2
可解释性研究
局部解释与全局理解的差距
单一案例的局部解释无法揭示模型整体逻辑，需开发系统性评估工具以填补“微观可溯”与“宏观可控”之间的鸿沟。
03
新知讲解
爱
思
考
1.实用主义视角
若AI仅用于推荐系统等低风险场景，可解释性需求较低；但在医疗、司法等高风险领域，可解释性是建立信任和权责界定的刚需。
2.认知差异本质
人类虽不了解大脑细节，但通过语言、行为等显性信号实现社会协作；而AI的“黑箱”缺乏此类自然交互机制，需技术手段补足解释性。
3.技术伦理的双向责任
作为创造者，人类有义务确保AI决策透明可控，如自动驾驶事故归责，这与理解人脑的科研探索属于不同维度的责任问题。
03
新知讲解
爱
思
考
思考：1.为何要对AI提出更高要求？
（1）作为设计者，人类有义务确保AI系统透明可，如司法AI的决策逻辑可审计，这与探索人脑奥秘的科研命题属于不同维度的责任。
04
课堂练习
一、填空题。
1.人工神经网络的不可解释性也被称为 效应。
2.研究者通过 实验来推断模型的决策依据。
3. 技术可以标记出图像中对AI决策影响最大的区域。
4.在医疗领域，AI的不可解释性可能导致 。
5.强化学习让AI自主探索策略，但也可能导致 的行为模式。
黑盒
干扰
激活图
过度治疗
不可预测
04
课堂练习
二、判断题。
1.神经网络的可解释性问题只影响技术研究，不影响实际应用。（ ）
2.激活图技术可以帮助理解AI在图像识别中的决策依据。（ ）
3.所有AI系统都必须具备完全的可解释性才能使用。（ ）
4.自动驾驶的“黑盒”特性可能导致无法追溯事故原因。（ ）
5.人类大脑的决策过程完全透明，与AI不同。（ ）
×
√
×
√
×
04
课堂练习
三、选择题。
1.人工神经网络被称为“黑盒”的主要原因是？( )
A. 模型外观为黑色 B. 决策过程不透明且难以解释
C. 计算速度较慢 D. 只能处理文本数据
2.以下哪项技术可用于提高神经网络的可解释性？( )
A. 增加更多的隐藏层 B. 使用激活图可视化关键区域 C. 减少训练数据量 D. 关闭所有神经元
3.自动驾驶中，AI误将招牌识别为红灯并急刹，反映了什么问题？( )
A. 传感器故障 B. 神经网络的可解释性不足 C. 汽车动力系统问题 D. 天气影响
4.医疗AI误诊可能导致的最严重后果是？ ( )
A. 浪费医疗资源 B. 患者接受不必要的治疗
C. 医生工作量增加 D. 医院收入减少
B
B
B
B
05
拓展延伸
1.医疗AI的监管框架
以FDA等机构为例，探讨医疗AI必须提供可验证的决策依据才能获批临床应用的合规性要求。
05
拓展延伸
2.人机协作的可解释界面
通过实时可视化AI决策关键因素，如战斗机辅助系统的威胁评估热图，增强人类操作者对AI行为的信任与协同效率。
05
拓展延伸
3.脑科学与AI的相互启发
通过研究人脑神经机制（如海马体记忆编码）与神经网络激活模式的相似性，推动类脑计算架构发展（如脉冲神经网络），同时借助AI模型反向验证神经科学理论假设。
06
课堂总结
1
黑盒模型
2
复杂连接的黑盒效应
3
完成课堂练习
4
进行相关知识拓展
1
2
4
5
深度学习挑战：难以理解的智能
4
可解释性研究
3
07
板书设计
深度学习挑战：难以理解的智能
1、黑盒模型
2、 复杂连接的黑盒效应
3、可解释性研究
4、完成课堂练习
5、进行知识拓展
课后作业。
1、为什么人工神经网络被称为'黑盒'？
08
课后作业
思考：1.为什么人工神经网络被称为'黑盒'？
（1）神经网络的决策依赖海量神经元的复杂交互（如百万级连接），其推理过程无法像数学公式一样逐步追溯，如同不透光的黑箱（图7-29）。
https://www.21cnjy.com/recruitment/home/fine

展开更多......

收起↑