资源简介

中小学教育资源及组卷应用平台
学习任务单
课程基本信息
学科 信息科技 年级 九年级 学期 秋季
课题 第8课《人工智能安全》
教科书 书 名：义务教育教科书 信息科技 九年级 全一册 出版社：浙江教育出版社 出版日期：2023年07月
学习目标
1.通过分析人工智能与安全的辩证关系，能理解人工智能既能赋能安全，又会伴生安全。 2.通过学习人工智能内生安全的内容，能从数据、算法、模型的角度反思人工智能的安全问题，认识到人工智能系统的设计、制造和使用等环节须遵循人工智能安全准则。
课前学习任务
1.小组讨论“人工智能是让我们变得更安全了还是更危险了”，达成观点一致。 2.每个组员举例佐证观点，将意见统一的写在便签纸上。
课上学习任务
【学习任务一】 跟着步骤，亲身体验使用贝叶斯分类器算法进行垃圾邮件判定，并在活动记录单中进行记录。 目的体验使用贝叶斯分类器算法进行垃圾邮件判定要求1.根据步骤进行体验： ①运行“活动1：垃圾邮件识别器”文件夹中的“email.py” ②根据提示，选择输入相应的数字。 2.至少选择三个邮件进行识别，并做好以下记录。 3.思考怎么实现的？观察分析程序源文件夹，进行猜测与讨论文件编号是否垃圾邮件判定结果与实际是否一致
【学习任务二】 利用资源包体验“对抗样本”，观察并记录体验结果。组内讨论“恶意使用对抗样本可能带来哪些安全问题”，并将讨论一致的观点记在记录单上。 目的体验“对抗样本”对人工智能模型可靠性的影响要求1.运行“活动2：‘对抗样本’文件夹内的‘img_rec.py’文件” 2.观察运行结果，并做好以下记录添加噪声前添加噪声后预测结果预测结果置信度置信度联系生活中的人工智能应用，你觉得恶意使用对抗样本可能带来哪些安全问题？ 操作记录汇报
【学习任务三】 打开“个性化智能推荐的安全风险与监管”的问题链接https://www./vm/QQkn7Ng.aspx，发表自己的观点，网络搜索资源补充完善观点并提交。
推荐的学习资源
1.朴素贝叶斯分类器算法：https://www./local/normalTemplate.html itemId=6696659083919998594 2.视频“人工智能安全”： https://www./lgpage/detail/index.html id=12543018389388708298 3.视频“人工智能应用中面临的安全的挑战”：https://tv./2023/09/14/VIDEikZnBSF3WysZlbfLmeMh230914.shtml
21世纪教育网(www.21cnjy.com)中小学教育资源及组卷应用平台
教学设计
课程基本信息
学科 信息科技 年级 九年级 学期 秋季
课题 第8课《人工智能安全》
教科书 书 名：义务教育教科书 信息科技 九年级 全一册 出版社：浙江教育出版社 出版日期：2023年07月
教学内容与学习对象分析
教学内容分析： 本课内容包括“人工智能助力安全”、“人工智能内生安全”和“人工智能安全发展”。 本课与八年级下册第一单元《人工智能在身边》和第二单元《智能技术初体验》中的内容密切相关，是这两个单元学习之后的延伸与拓展，呈现了更加多面、完整的人工智能，同时也渗透入了信息社会责任的内容。就本单元而言本课起到了至关重要的作用，首先它是对第6课《智慧社会》中“智慧社会新挑战”的补充，是第7课《人工智能伦理》的后续，人工智能伦理探讨的“应不应该”的问题，而这一课探讨的是“能不能够”的问题，人工智能能够助力安全，但也会衍生安全问题。只有加强监管措施才能保障人工智能安全、自主可控的发展。前面三课都为最后一课《人工智能发展》奠定学习基础，智慧社会中人工智能的发展需要遵循社会的伦理和安全准则。本课还为跨学科主题学习《未来智能场景畅想》的设计做好铺垫。 本课围绕“人工智能”这条核心逻辑主线，在“人工智能的发展与应用会对人类社会产生深刻影响，也会对人类社会带来伦理与安全挑战”这一大概念下展开。第一部分“人工智能助力安全”，从智能安防监控和垃圾邮件检测两个具体应用举例，设计了“亲身体验”栏目，让学生通过亲身体验贝叶斯分类算法判断垃圾邮件，感受利用人工智能技术实现规则的自动更新，能有效解决传统垃圾邮件检测方法存在的不足。第二部分“人工智能内生安全”，从数据、算法和模型三个方面阐述人工智能的内生安全问题。第三部分“人工智能安全发展”引导学生关注我国对数据安全与个人信息安全的法律保护，认识自主可控对安全的重要性。 学习对象分析： 本课学习对象是九年级学生，他们的抽象逻辑思维进入发展的关键期，但是尚未形成优势地位，对抽象概念的理解还需要通过具象的实例来辅助。他们喜欢新鲜事物和乐于尝试应用人工智能等新鲜事物，但是认识存在片面性和表面性，对于事物后面隐含的安全问题缺乏明确的认知和判断。通过小学和八年级下册两单元对人工智能的学习，九年级的学生已经理解了人工智能的特点、优势和能力边界，了解了典型人工智能的相关概念、基本原理和实现方式，理解了人工智能的三大技术基础是数据、算法和算力。通过前面两课的学习，学生也已经了解了人工智能会给社会带来一些伦理问题与安全挑战。但是对于人工智能带来的安全挑战，上节课偏重的是伦理层面上的问题，而这节课则从技术的角度分析人工智能安全问题，需要从数据、算法和模型等角度剖析人工智能系统内生安全的原因，而这些对于学生来说都是陌生并且抽象的。
教学目标分析（含核心素养导向）
1.通过分析人工智能与安全的辩证关系，能理解人工智能既能赋能安全，又会伴生安全。 2.通过学习人工智能内生安全的内容，能从数据、算法、模型的角度反思人工智能的安全问题，认识到人工智能系统的设计、制造和使用等环节须遵循人工智能安全准则。 教学重点： 人工智能内生安全。 教学难点： 人工智能与安全的辩证关系。
教学过程
（一）感知 【活动描述】学生讨论话题并举例佐证观点，将讨论的结果贴在黑板上。 【学生活动】 1.小组讨论“人工智能是让我们变得更安全了还是更危险了”，达成观点一致。 2.每个组员举例佐证观点，将意见统一的写在便签纸上，并将便签纸贴在黑板相应的观点下。 【教师活动】 1.抛出讨论话题并在黑板左右两侧分别板书“安全”和“危险”。 2.学生讨论时巡视，特别关注比较安静的小组，调动他们讨论。同时对尚未形成观点的小组进行引导 尽量保证两种观点的均衡。 3.在学生贴便签时，观察黑板便签上学生的举例，找出两类比较典型的举例： 第一类是学生生活中常见的并能够有力佐证对应观点的。 第二类是教材中提到过的案例。 4.请两种观点的小组交替分享自己的观点，并引导学生描述实例来佐证观点，共分享4组左右。 【设计意图】 通过话题“人工智能让我们更安全了还是更危险了？”引导学生对人工智能安全问题进行思考，通过小组讨论举例的方式让观点更加的具体和形象。关注两类举例，因为第一类贴近学生生活，容易打开学生的思路，引导学生回想生活中人工智能应用场景的特点。第二类则可以作为后续环节的铺垫和引子，起到承上启下的过渡作用。 （二）建构 活动1：“垃圾邮件攻防” 【活动描述】学生体验“垃圾邮件攻防”活动并填写活动记录单。 【学生活动】 1.观看“人工智能助力安全-安防监控”视频； 2.自学教材P41“垃圾邮件检测”部分的内容，并思考：垃圾邮件是怎么被判定出来的？ 3.跟着步骤，亲身体验使用贝叶斯分类器算法进行垃圾邮件判定（见图8-1），并在活动记录单中进行记录（见图8-2）。 (
图8-1 垃圾邮件识别
) 目的体验使用贝叶斯分类器算法进行垃圾邮件判定要求1.根据步骤进行体验： ①运行“活动1：垃圾邮件识别器”文件夹中的“email.py” ②根据提示，选择输入相应的数字。 2.至少选择三个邮件进行识别，并做好以下记录。 3.思考怎么实现的？观察分析程序源文件夹，进行猜测与讨论。文件编号是否垃圾邮件判定结果与实际是否一致
(
图8-2
“垃圾邮件攻防”体验活动记录单
) 组员思考垃圾邮件判定的实现过程，观察分析程序源文件并进行猜测和讨论。 【教师活动】 1.从上一环节的交流中引出“智能安防”，并播放视频。 2.自学教材后，请两位同学分享对垃圾邮件的检测方法的理解。 【预设】 生1：先分析垃圾邮件中一般有哪些词语，如果一封邮件中有这些词语，可能就会被判定为垃圾邮件。 生2：一般邮件中出现网址，也可能被判定为垃圾邮件。 生3：让机器学习垃圾邮件的特点，学习后让机器自己去判定。 小组体验活动时，提醒学生按体验单上的步骤操作，并引导小组分工做好记录。 学生在体验猜测阶段，可以与没有猜测方向的小组交流，引导关注“data”文件与“index”文件。 【预设】 ①个别学生发现“data”文件内的邮件数据，猜测其用于训练。 ②个别学生发现“data”文件内的“index”文件，猜测对每份邮件数据进行分类，ham表示正常邮件，spam表示垃圾邮件。 请2个小组进行展示汇报，语言没法表述清楚时提示学生进行演示，并分享体验感想。 【预设】体验活动1记录单： 目的体验使用贝叶斯分类器算法进行垃圾邮件判定要求1.根据步骤进行体验： ①运行“活动1：垃圾邮件识别器”文件夹中的“email.py” ②根据提示，选择输入相应的数字。 2.至少选择三个邮件进行识别，并做好以下记录。 3.思考怎么实现的？观察分析程序源文件夹，进行猜测与讨论文件编号是否垃圾邮件判定结果与实际是否一致1是是是mailB否否是mailC是是是
【设计意图】根据上一环节进行过渡，充分利用学生的生成资源推进学习进度。“人工智能应用-安防监控”的视频能进一步唤起学生的生活体验。通过小组合作体验“贝叶斯分类器算法进行垃圾邮件判定”，在观察、记录、猜想、尝试验证中让学生从学科技术角度感受实现垃圾邮件监测的方法。通过小组间的交流、猜测与演示，引导学生发现人工智能是通过数据的学习不断提升垃圾邮件监测的能力与性能的。 活动2：“谁蒙住了计算机的眼睛” 【活动描述】学生体验“对抗样本”活动并完成活动记录单。 【学生活动】 1.自学教材P42-P43中“二、人工智能内生安全”的内容，并思考问题：人工智能会内生哪些安全问题？ 2.集体观看视频“人工智能是机遇更是挑战”，并思考：生活中的人工智能应用存在怎样的安全问题？ 3.以小组为单位，利用资源包体验“对抗样本”，观察并记录体验结果。组内讨论“恶意使用对抗样本可能带来哪些安全问题”，并将讨论一致的观点记在记录单上。 目的体验“对抗样本”对人工智能模型可靠性的影响要求1.运行“活动2：‘对抗样本’文件夹内的‘img_rec.py’文件” 2.观察运行结果，并做好以下记录添加噪声前添加噪声后预测结果预测结果置信度置信度联系生活中的人工智能应用，你觉得恶意使用对抗样本可能带来哪些安全问题？ 操作记录汇报
(
图8-3 “谁蒙住了计算机的眼睛”体验活动记录单
) 【教师活动】 学生自学过程中，引导学生针对问题进行圈画等标记。 学生看好视频后，请两三位学生分享生活中的哪些人工智能应用存在安全问题。 【预设】 生1：用摄像头，可能会被监视。 生2：个人隐私可能会被泄露。 生3：人脸识别可能出错。 请提到过对抗样本的学生进行交流或者教师直接提出，师生交流、补充、举例帮助全体学生理解对抗样本。 学生在体验的过程中，查看学生体验的进度与记录单，对记录清晰、表达准确或者最后一个问题有亮点的记录单进行拍照。在小组汇报环节，广播展示记录单并请相应的小组进行汇报交流。交流结束后请其他组进行补充或者重述。 【预设】体验活动2记录单： 目的体验“对抗样本”对人工智能模型可靠性的影响要求1.运行“活动2：‘对抗样本’文件夹内的‘img_rec.py’文件” 2.观察运行结果，并做好以下记录添加噪声前添加噪声后预测结果hare预测结果Angora置信度0.83444置信度0.8812112联系生活中的人工智能应用，你觉得恶意使用对抗样本可能带来哪些安全问题？ 人脸识别出错，将别人识别成自己，或者识别不了自己。 自动驾驶道路标志识别错误，引起交通事故。操作记录汇报
【设计意图】 数据安全、算法安全和模型安全三个安全问题重点理解数据安全，算法安全和模型安全有只要初步理解即可。通过自学教材让学生从认知层面知道人工智能内生的安全问题，通过学生交流的方式引导全体学生理解对抗样本与对抗性攻击。通过“对抗样本”体验活动，让学生直观感受到“对抗样本”对人工智能模型可靠性的影响，通过体验后的交流分享让学生进一步理解数据安全、算法安全和模型安全等人工智能内生的安全问题，从而让学生感受到保障人工智能安全的重要性。 （三）应用 活动3：个性化智能推荐安全吗？ 【活动描述】师生在线分享、共同梳理促进人工智能发展的安全监管措施。 【学生活动】 针对“人工智能有安全风险，那么应如何促进人工智能安全发展呢？”发表观点并说明理由。 以“个性化智能推荐”为例进行互动交流，例举其具体的应用场景。 打开“个性化智能推荐的安全风险与监管”问题链接https://www./vm/QQkn7Ng.aspx（问题见图8-4），发表自己的观点，网络搜索资源补充完善观点并提交。 (
图8-4 “个性化智能推荐的安全风险与监管”问题界面
) 【教师活动】 学生表达观点后，与学生互动总结： 总结：任何事物都有两面性，人工智能虽然会产生安全问题，但是它创造的价值更大。所以不可能因为它的安全风险而遏制其发展，而是应该通过监管体制促进它安全发展，让它更好的服务于人类。 学生在举例的过程中进行追问，引导学生表述地更加具体、完整、易懂。 【预设】 生1：视频APP里面，每次打开都是自己喜欢看，或者以前搜索过的内容。 生2：购物网站上，你以前买过的或搜索过某个物品，打开后推荐的全都是这里商品。 生3：新闻网页上，推送的都是自己经常关注的那类新闻。 3.呈现第一个问题的文字云（见图8-5），引导学生发现提到最多的前两个安全问题是什么？再呈现第二个问题的文字云（见图8-6），请提交最快和最慢的两位学生对比文字云，说一说哪些是自己想到的，哪些是没有想到的。 (
图8-5 问题1文字云预设
) (
图8-6 问题2文字云预设
) 【设计意图】通过话题讨论和交流引导学生正确地看待人工智能与人工智能安全问题，引导学生形成虽然人工智能有安全风险，但是它创造的价值更大，认识到可以通过可靠的监管措施来保障人工智能的安全发展。并且通过“个性化智能推荐”这一案例的在线交流与智慧分享，将监管措施建议具体化。 （四）梳理 【活动描述】 师生共同总结人工智能与安全的辩证关系，梳理人工智能安全发展的监管措施。 【学生活动】 小组重新选择观点“人工智能是让我们变得更安全了还是更危险了”，可以持同一个观点，也可以改变观点。利用黑板板书或者本节课所学的内容梳理总结观点，准备一个较为完整的观点论述。 小组论证观点或者聆听其他组的论述。 【教师活动】 明确论述要求，给出表达支架：“我们组的观点是人工智能让我们更加_______了，因为_____________________________________________（举例）” 请还未交流的小组汇报员进行交流，兼顾两个观点交流人数的均衡。 【预设】 生1：我们组的观点是人工智能让我们更加安全了，虽然我们在用人工智能的时候存在一定的安全风险，如个人隐私泄露，对抗样本导致识别出错等。但是任何一个技术都可能有安全问题，比如开车就有出交通事故的风险，但是没有说因为开车有风险就不开的。只会从驾驶员驾驶技术的训练过关和交通规则的完善与监管方面不断让风险最小。 生2：我们组的观点是人工智能让我们更加危险了，因为人工智能可能被利用进行恶意攻击，比如用人工智能合成你的声音然后去诈骗你的家人。也可以能用你的照片生成你的脸去刷你的人脸门禁等。 展示《新一代人工智能发展规则》中关于人工智能监管措施的要求，进行总结。 “人工智能既能助力安全也会内生安全，它是一把双刃剑，我们既要充分利用其带来的好处，也要警惕并应对可能出现的风险。” 【设计意图】 通过重新选择观点论述的方式促进学生进行梳理本节课内容，通过论述的方式让学生自主进行总结与归纳。最后通过阐述《新一代人工智能发展规则》中关于人工智能监管措施的要求进行总结与升华。 七、作业指导 本课安排了两个随堂练习。建议教师在课堂活动中融入随堂练习 1，让学生去思考人工智能安全发展需要哪些保护和监管措施；随堂练习2可以根据实际情况，通过布置课后作业的形式让学生进行针对性的搜索。 答案样例参考： 随堂练习 1：智能算法推荐依赖于数据收集，通过决策运作和数据运算为用户提供决策参考。其主要类型包括协同过滤推荐、基于内容的算法推荐和混合算法推荐。虽然具有智能化、便利化和个性化特点，但也可能带来权益侵犯、秩序妨害、技术异化和责任模糊等社会风险。因此，应遵循公平原则、公开原则和社会利益原则，加强对算法推荐合法性的审查，建立完善的算法推荐场景规范，并强化行业监督与第三方评估。同时，完善算法推荐的责任认定与分担机制，发挥智能算法推荐的积极作用，构建适应算法技术发展的法治秩序。 表8-1随堂练习1 评价表 评价项目评价标准评定等级 （优3☆ 良2☆ 中1☆）结合生活应用体验能够结合生活分析人工智能应用场景，描述清晰，无科学性错误。☆☆☆风险挑战分析准确针对人工智能应用场景的特点，分析描述的风险客观存在，或者确实有类似的安全隐患。☆☆☆安全监管措施有效安全监管措施建议罗列清楚，有针对性，且能够实际操作和落地。☆☆☆
随堂练习 2：建议学生课后利用网络了解我国有关人工智能安全的政策文件。 表8-2 随堂练习2评价表 找到有关人工智能安全的政策文件数量□3个及以上 □2个 □1个及以下文件与人工智能安全的相关性□非常相关 □相关 □有点相关找到资料的速度□非常快 □正常 □有点慢
表8-3 课堂合作学习 自评互评表 评价维度评价标准自评组评自主学习自主学习的环节能够根据要求进行自学，重要的内容有标注。并能够认真思考老师的问题，尝试回答。☆☆☆☆☆☆团队合作主动承担小组中的任务分工，与其他组员相互配合，共同达成学习合作任务。☆☆☆☆☆☆交流互动能够发表自己的观点，也善于聆听他人的观点，对于不认同的观点敢于质疑与反驳。☆☆☆☆☆☆
21世纪教育网(www.21cnjy.com)中小学教育资源及组卷应用平台
作业练习
课程基本信息
学科 信息科技 年级 九年级 学期 秋季
课题 第8课《人工智能安全》
教科书 书 名：义务教育教科书 信息科技 九年级 全一册 出版社：浙江教育出版社 出版日期：2023年07月
作业练习
随堂练习 1： 个性化智能推荐已深度运用于新闻信息行业，也广泛应用于旅游出行、电子商务、金融服务等行业。智能推荐系统在给人们生活带来便利的同时，在实际应用中也暴露出一些安全风险。请结合生活中的应用体验，分析智能推荐的风险挑战，并提出相应的安全监管措施建议。 智能算法推荐依赖于数据收集，通过决策运作和数据运算为用户提供决策参考。其主要类型包括协同过滤推荐、基于内容的算法推荐和混合算法推荐。虽然具有智能化、便利化和个性化特点，但也可能带来权益侵犯、秩序妨害、技术异化和责任模糊等社会风险。因此，应遵循公平原则、公开原则和社会利益原则，加强对算法推荐合法性的审查，建立完善的算法推荐场景规范，并强化行业监督与第三方评估。同时，完善算法推荐的责任认定与分担机制，发挥智能算法推荐的积极作用，构建适应算法技术发展的法治秩序。 随堂练习2： 课后搜索并学习我国有关人工智能安全的政策文件，完成以下评价表。 找到有关人工智能安全的政策文件数量□3个及以上 □2个 □1个及以下文件与人工智能安全的相关性□非常相关 □相关 □有点相关找到资料的速度□非常快 □正常 □有点慢
21世纪教育网(www.21cnjy.com)

展开更多......

收起↑