资源简介

(共35张PPT)
3.2 人工智能的安全与防范
电子工业出版社 第五册
教学目标
1、信息意识：能够了解人工智能的基本概念和原理，认识到人工智能技术在社会中的广泛应用。
2、计算思维：能够使用编程语言和工具进行简单的人工智能安全实践，提高技术素养和动手能力。
3、数字化学习与创新：能够了解当前人工智能安全领域的最新进展，关注行业动态，积极参与相关学术和社区活动。
4、信息社会责任：能够了解人工智能技术的潜在风险和社会影响，认识到个人、企业和社会在人工智能发展中的责任与义务。
情境描述
情境描述
1、在央视“3·15”晚会上，揭露了某些商家使用在门店安装的摄像头进行人脸识别，用于消费者管理的问题。顾客进店后在完全不知情的情况下就被采集了人脸数据，这些信息一旦被泄露，将严重威胁个人的财产、隐私安全。
情境描述
2、人工智能技术已经广泛应用到人们的生产和生活中，历史经验表明新技术常常能够提高生产效率，促进社会进步。但与此同时，由于人工智能尚处于初期发展阶段，该领域的安全、伦理、隐私的政策、法律和标准问题尚不健全。
活动1
探究人工智能技术带来的安全隐患
新知讲解
1.随着人工智能技术的发展，越来越多的个人数据被记录和分析，因此隐私保护是人工智能技术发展过程中需要特别关注的问题。在发展人工智能技术的同时，保障个人隐私是增加社会信任的重要条件。
1
2、要保障人工智能技术的使用安全，人工智能技术本身及在各个领域的应用应遵循人类社会所认同的伦理原则。建立一个令人工智能技术真正造福于社会、保护公众利益的政策、法律和标准化环境，是人工智能技术持续、健康发展的重要前提。
新知讲解
1
思考讨论
1、结合自己的生活实际，讨论涉及人工智能技术的安全隐患的案例。个人、社会与国家如何针对这些隐患做好安全防范
人工智能安全 隐患实例 面临的风险 防范措施
偏见和歧视 对某些群体或个人的不公平待遇 进行审查和调整算法以减少偏见
隐私泄露 导致隐私泄露和滥用 遵守相关的隐私法规和政策
安全攻击 数据泄露或系统瘫痪 实施严格的网络安全措施
1
助力知识
1.人工智能的普及极大地改变了人类的生活和工作方式: 从小巧便携的智能手表、智能手环等穿戴设备到影响人类生活和工作的智能管家、无人驾驶技术、智慧交通等。对大量的个体数据进行收集、
储备、分析，对这些庞杂的信息进
行计算和驱动，寻求对应的计算结
果，可以为人类提供更加精准化的
服务。利用智能系统获取和分析大
数据使用价值的同时，也存在泄露
敏感信息和个人隐私的法律风险。
助力知识
2.人工智能时代，除了完善隐私保护的法律、加强行业自律管理，作为数据信息的提供者，我们也应当培养法治意识，积极学习互联网安全知识，养成良好的上网习惯，加强个人隐私安全保护能力。
助力知识
1
助力知识
3.在使用软件之前，先要认真阅读隐私条款再决定是否接受，而非直接勾选“同意”，以免陷入可能泄露自身隐私的风险中; 在公共网络环境下，要警惕可能入侵自己手机或者电脑的黑客，要安装杀毒软件或防火墙，完善电子设备的防御系统; 要及时清除浏览器历史记录，将重要资料离线保存，充分保护好自己的隐私。
助力知识
4.对于敏感数据的泄露，我们应当学会用法律武器维护自己的权益，而非采取放任态度。
助力知识
活动2
关于人工智能安全的相关政策
新知讲解
1。关于安全、伦理、隐私的政策和法律是人工智能发展的保护伞。解决人工智能发展中的安全与伦理问题，需要制定合理的政策、法律与标准。建立一个令人工智能技术造福于社会、保护公众利益的政策、法律和标准化的环境，是人工智能技术持续、健康发展的重要前提。
新知讲解
2。我国的《人工智能标准化白皮书(2018 版)》集中讨论了与人工智能技术相关的安全、伦理、隐私的政策和法律问题，提出了应当遵循的原则;人类利益原则与责任原则。请你查阅资料，了解相应原则的内容，针对制定这些原则的意义谈谈你的看法。
原则 内容 意义
人类利益原则 1、将人类的福祉置于首位 2、公正和包容性 3、隐私保护 强调了人工智能技术需要以人类的福祉为导向，避免对人类社会造成负面影响
责任原则 1、透明与负责 2、技术安全 3、数据质量和隐私保护 强调了人工智能技术应该被视为一种负责任的技术，开发者和运营者应承担起相应的责任
助力知识
1、我国对人工智能的发展极为重视，近几年相继颁布了《“互联网十”人工智能三年行动实施方案》《人工智能标准化白皮书(2018 版)》《新一代人工智能发展规划》和《促进新一代人工智能产业发展三年行动计划》等一系列政策性文件，从战略层面引领人工智能发展。
助力知识
助力知识
2、人工智能是人类智能的延伸，也是人类价值系统的延伸。在其发展的过程中，应当包含对人类伦理价值的正确考量。设定人工智能技术的伦理要求，要依托于社会和公众对人工智能伦理的深入思考和广泛共识，并遵循一些共识原则。
助力知识
助力知识
3.1 原则一是人类利益原则，即人工智能应以实现人类利益为终极目标。这一原则体现对人权的尊重、对人类和自然环境利益最大化以及降低技术风险和对社会的负面影响。在此原则下，政策和法律应致力于人工智能发展的外部社会环境的构建，推动对社会个体的人工智能伦理和安全意识教育，让社会警惕人工智能技术被滥用的风险。
助力知识
助力知识
3.2 此外，还应该警惕人工智能系统做出与伦理道德偏差的决策。例如，大学利用机器学习算法来评估入学申请，假如用于训练算法的历史入学数据(有意或无意)反映出之前录取程序的某些偏差(如性别歧视)，那么机器学习可能会在重复累计的运算过程中恶化这些偏差，造成恶性循环。如果没有纠正，偏差会以这种方式在社会中永久存在。
助力知识
助力知识
4、二是责任原则，即在技术开发和应用两方面都建立明确的责任体系，以便在技术层面可以对人工智能技术开发人员或部门问责，在应用层面可以建立合理的责任和赔偿体系。在责任原则下，在技术开发方面应遵循透明度原则，在技术应用方面则应当遵循权责一致原则。
助力知识
助力知识
5、透明度原则要求人应当了解系统的工作原理从而预测未来发展即人类应当知道人工智能如何以及为何做出特定决定，这对于责任分配至关重要。例如，在神经网络这个人工智能的重要议题中，人们需要知道为什么会产生特定的输出结果。另外，数据来源透明度也同样非常重要。即便是在处理没有问题的数据集时，也有可能面临数据中隐含的偏见问题。透明度原则还要求开发者注意多个人工智能系统协作产生的危害。
助力知识
助力知识
6.1、权责一致原则，指的是未来政策和法律应该做出明确规定: 一方面必要的商业数据应被合理记录、相应算法应受到监督、商业应用应受到合理审查:另一方面，商业主体仍可利用合理的知识产权或者商业秘密来保护本企业的核心参数。在人工智能的应用领域，权利和责任一致的原则尚未在商界、政府对伦理的实践中完全实现。
助力知识
助力知识
6.2、主要是由于在人工智能产品和服务的开发和生产过程中，工程师和设计团队往往忽视伦理问题，此外人工智能的整个行业尚未习惯于综合考量各个利益相关者需求的工作流程，人工智能相关企业对商业秘密的保护也未与透明度相平衡。
助力知识
活动3
拓展延伸
拓展延伸
1、讨论完成：我们生活中有网络隐私，这些隐私包含哪些？
网络隐私 隐私包括
个人身份信息 包括姓名、出生日期、身份证号码、地址等个人身份相关信息
金融和支付信息 包括银行账号、信用卡号码、支付密码等与金钱交易相关的信息，
健康和医疗信息 包括病历、药物记录、健康状况等与个人健康相关的信息
社交媒体和通讯信息 包括社交平台上发布的内容、聊天记录、手机号码等
拓展延伸
2、讨论完成：对于个人隐私保护你有什么意见？
意见：
1、强化密码和账户安全：使用强密码并定期更改，不要重复使用同一密码
2、谨慎披露个人信息：仅在必要情况下提供个人信息，并仔细审查隐私条款和政策
3、定期更新和备份数据：定期备份重要的个人数据，以防止数据丢失或被攻击
4、谨慎点击链接和下载文件：避免点击不明来源的链接和下载可疑的文件，以防止恶意软件的感染
项目实施
1、随着图像处理和人工智能技术的发展，不少“换脸”应用走红网络。只要动动手指，就可以将自己的脸替换成别人的脸。请你体验 AI“换脸”,你认为 AI“换脸”在生活中的应用是否存在安全风险 说说你的理由，并谈一谈我们应当如何进行防范。
是否存在风险？
答案：是
风险有哪些？
1、虚假身份和欺诈
2、隐私侵犯
3、虚假信息传播
如何防范？
1、加强法律和政策监管
2、加强数据隐私保护
3、加强数据隐私保护
巩固练习
1 关于个人信息安全防范的做法正确的有（ ）
答案是：B、C
A： 当我们在使用软件之前，不需要认真阅读隐私条款，可直接选择同意安装
B : 在公共网络环境下，要安装杀毒软件或防火墙，网上电子设备防御系统
C : 在公共网络环境下要及时清除浏览器历史记录，将重要资料离线保存，保护好自己的隐私
D : 对于敏感数据的泄露，我们应当学会用法律武器维护自己的权益，而非采取放任态度
巩固练习
2 我国的《人工智能标准化白皮书(2018 版)》集中讨论与人工智能技术相关的安全、伦理、隐私的政策和法律问题，提出了应当遵循的原则下列说法不正确的是（ ）
A.人类利益原则，即人工智能应以实现人类利益为终极目标
B.责任原则，即在技术开发和应用两方面都建立明确的责任体系
C.在责任原则下，在技术开发方面应遵循透明度原则
D.商业数据可以随意记录，相应算法无须受到监督
D
巩固练习
3、人工智能技术越来越普及，请你结合自己的生活经验，举例谈谈你是如何保障个人信息安全的。
1、使用强密码：使用难以猜测的、包含字母、数字和特殊字符的强密码，并定期更换密码。
2、多因素身份验证：启用多因素身份验证可以提供额外的安全层级，确保只有授权的人才能访问您的账户。
3、注意社交媒体隐私设置：检查并限制您在社交媒体平台上的隐私设置，仅与可信任的人分享您的个人信息。
4、谨慎点击链接和下载附件：避免点击来自不可信来源的链接，不要下载未经验证的附件。这样可以减少恶意软件感染的风险。
课堂总结
通过人工智能的安全与防范课程这节课，我们从中学到了丰富的知识和技能，对于人工智能，增强了的安全和防范意识，并能积极采取相应的防范措施，我们学会了更好地保护自己的个人信息，并降低遭受网络威胁的风险。
板书设计
人工智能的安全与防范
一、探究人工智能技术带来的安全隐患
二、关于人工智能安全的相关政策
三、如何保障个人信息安全
课后作业
1、搜索了解生活中人工智能的应用？
2、搜索了解人工智能相关法律政策？
3、搜索了解我们应该如何保障个人信息安全？
谢谢
21世纪教育网（www.21cnjy.com)
中小学教育资源网站
兼职招聘：
https://www.21cnjy.com/recruitment/home/admin中小学教育资源及组卷应用平台
信息技术 3.2 人工智能的安全与防范
课题 人工智能的安全与防范 单元 第三单元 学科 信息技术 年级 九年级
教材分析 信息技术是一门知识性、技能性与创新性相结合的学科。现阶段，信息技术教育的理念已发生了质的飞跃，从单纯的技能训练上升为全面的信息素养的培养。教材以提高全体学生信息素养、养成学生自主学习意识和能力、培养学生数字化创新精神，从生活中发现问题、明确任务、确立目标、分析任务。在探究过程中逐步找到解决问题的方法。实用的小技巧，适时点拨关键操作。旨在帮助学生掌握信息时代生存与发展必需的基础知识和基础技能，养成信息意识、计算思维、数字化学习与创新、信息社会责任的核心素养。
教学目标 1、信息意识：能够了解人工智能的基本概念和原理，认识到人工智能技术在社会中的广泛应用。2、计算思维：能够使用编程语言和工具进行简单的人工智能安全实践，提高技术素养和动手能力。3、数字化学习与创新：能够了解当前人工智能安全领域的最新进展，关注行业动态，积极参与相关学术和社区活动。4、信息社会责任：能够了解人工智能技术的潜在风险和社会影响，认识到个人、企业和社会在人工智能发展中的责任与义务。
重点 一、探究人工智能技术带来的安全隐患二、关于人工智能安全的相关政策三、如何保障个人信息安全
难点 1、如何保障个人信息安全
教学过程
教学环节 教师活动 学生活动 设计意图
导入新课 1、在央视“3·15”晚会上，揭露了某些商家使用在门店安装的摄像头进行人脸识别，用于消费者管理的问题。顾客进店后在完全不知情的情况下就被采集了人脸数据，这些信息一旦被泄露，将严重威胁个人的财产、隐私安全。2、人工智能技术已经广泛应用到人们的生产和生活中，历史经验表明新技术常常能够提高生产效率，促进社会进步。但与此同时，由于人工智能尚处于初期发展阶段，该领域的安全、伦理、隐私的政策、法律和标准问题尚不健全。 观看视频了解生活中的人工智能的安全隐患，思考人工智能对生活的影响 帮助学生理解人工智能的安全隐患打开课堂
讲授新课 一、活动1：探究人工智能技术带来的安全隐患1.随着人工智能技术的发展，越来越多的个人数据被记录和分析，因此隐私保护是人工智能技术发展过程中需要特别关注的问题。在发展人工智能技术的同时，保障个人隐私是增加社会信任的重要条件!2、要保障人工智能技术的使用安全，人工智能技术本身及在各个领域的应用应遵循人类社会所认同的伦理原则。建立一个令人工智能技术真正造福于社会、保护公众利益的政策、法律和标准化环境，是人工智能技术持续、健康发展的重要前提思考讨论1、结合自己的生活实际，讨论涉及人工智能技术的安全隐患的案例。个人、社会与国家如何针对这些隐患做好安全防范 助力知识人工智能的普及极大地改变了人类的生活和工作方式: 从小巧便携的智能手表、智能手环等穿戴设备到影响人类生活和工作的智能管家、无人驾驶技术、智慧交通等。对大量的个体数据进行收集、储备、分析，对这些庞杂的信息进行计算和驱动，寻求对应的计算结果，可以为人类提供更加精准化的服务。利用智能系统获取和分析大数据使用价值的同时，也存在泄露敏感信息和个人隐私的法律风险人们遇到问题时，会依据这个问题所涉及的知识或者在以往类似的处理经验中选择最佳方式。这种通过思考，归纳经验，得出一定的规律，并寻找解决问题路径的做法，无疑是人类智慧的体现人工智能时代，除了完善隐私保护的法律、加强行业自律管理，作为数据信息的提供者，我们也应当培养法治意识，积极学习互联网安全知识，养成良好的上网习惯，加强个人隐私安全保护能力3、在使用软件之前，先要认真阅读隐私条款再决定是否接受，而非直接勾选“同意”，以免陷入可能泄露自身隐私的风险中; 在公共网络环境下，要警惕可能入侵自己手机或者电脑的黑客，要安装杀毒软件或防火墙，完善电子设备的防御系统; 要及时清除浏览器历史记录，将重要资料离线保存，充分保护好自己的隐私4、对于敏感数据的泄露，我们应当学会用法律武器维护自己的权益，而非采取放任态度 二、活动2 关于人工智能安全的相关政策1、关于安全、伦理、隐私的政策和法律是人工智能发展的保护伞。解决人工智能发展中的安全与伦理问题，需要制定合理的政策、法律与标准。建立一个令人工智能技术造福于社会、保护公众利益的政策、法律和标准化的环境，是人工智能技术持续、健康发展的重要前提。2、我国的《人工智能标准化白皮书(2018 版)》集中讨论了与人工智能技术相关的安全、伦理、隐私的政策和法律问题，提出了应当遵循的原则;人类利益原则与责任原则。请你查阅资料，了解相应原则的内容，针对制定这些原则的意义谈谈你的看法助力知识我国对人工智能的发展极为重视，近几年相继颁布了《“互联网十”人工智能三年行动实施方案》《人工智能标准化白皮书(2018 版)》《新一代人工智能发展规划》和《促进新一代人工智能产业发展三年行动计划》等一系列政策性文件，从战略层面引领人工智能发展人工智能是人类智能的延伸，也是人类价值系统的延伸。在其发展的过程中，应当包含对人类伦理价值的正确考量。设定人工智能技术的伦理要求，要依托于社会和公众对人工智能伦理的深入思考和广泛共识，并遵循一些共识原则3.1、原则一是人类利益原则，即人工智能应以实现人类利益为终极目标。这一原则体现对人权的尊重、对人类和自然环境利益最大化以及降低技术风险和对社会的负面影响。在此原则下，政策和法律应致力于人工智能发展的外部社会环境的构建，推动对社会个体的人工智能伦理和安全意识教育，让社会警惕人工智能技术被滥用的风险3.2、此外，还应该警惕人工智能系统作出与伦理道德偏差的决策。例如，大学利用机器学习算法来评估入学申请，假如用于训练算法的历史入学数据(有意或无意)反映出之前录取程序的某些偏差(如性别歧视)，那么机器学习可能会在重复累计的运算过程中恶化这些偏差，造成恶性循环。如果没有纠正，偏差会以这种方式在社会中永久存在4、二是责任原则，即在技术开发和应用两方面都建立明确的责任体系，以便在技术层面可以对人工智能技术开发人员或部门问责，在应用层面可以建立合理的责任和赔偿体系。在责任原则下，在技术开发方面应遵循透明度原则，在技术应用方面则应当遵循权责一致原则5、透明度原则要求人应当了解系统的工作原理从而预测未来发展即人类应当知道人工智能如何以及为何做出特定决定，这对于责任分配至关重要。例如，在神经网络这个人工智能的重要议题中，人们需要知道为什么会产生特定的输出结果。另外，数据来源透明度也同样非常重要。即便是在处理没有问题的数据集时，也有可能面临数据中隐含的偏见问题。透明度原则还要求开发者注意多个人工智能系统协作产生的危害。6.1、权责一致原则，指的是未来政策和法律应该做出明确规定: 一方面必要的商业数据应被合理记录、相应算法应受到监督、商业应用应受到合理审查:另一方面，商业主体仍可利用合理的知识产权或者商业秘密来保护本企业的核心参数。在人工智能的应用领域，权利和责任一致的原则尚未在商界、政府对伦理的实践中完全实现6.2、主要是由于在人工智能产品和服务的开发和生产过程中，工程师和设计团队往往忽视伦理问题，此外人工智能的整个行业尚未习惯于综合考量各个利益相关者需求的工作流程，人工智能相关企业对商业秘密的保护也未与透明度相平衡三、活动3 拓展延伸1、讨论完成：我们生活中有网络隐私，这些隐私包含哪些？2、讨论完成：对于个人隐私保护你有什么意见？四、项目实施1、随着图像处理和人工智能技术的发展，不少“换脸”应用走红网络。只要动动手指，就可以将自己的脸替换成别人的脸。请你体验 AI“换脸”,你认为 AI“换脸”在生活中的应用是否存在安全风险 说说你的理由，并谈一谈我们应当如何进行防范？五、巩固练习1、关于个人信息安全防范的做法正确的有（ ） 。2 我国的《人工智能标准化白皮书(2018 版)》集中讨论与人工智能技术相关的安全、伦理、隐私的政策和法律问题，提出了应当遵循的原则下列说法不正确的是（ ）3、人工智能技术越来越普及，请你结合自己的生活经验，举例谈谈你是如何保障个人信息安全的 学生通过思考人工智能在生活中的安全隐患要如何防范。学生互相讨论人工智能相关政策和法律的作用以及如何使用学生完成任务学生实践并总结实践的感受。学生根据巩固练习完成题目，加深对知识的理解 帮助学生打开思路，积极思考安全隐患如何防范。为后面的知识做准备通过思考讨论，帮助学生了解人工智能的相关注册和法律通过任务的方式，帮助学生养成解决问题能力。培养学生语言组织能力以及对于信息的采集和总结能力帮助学生记忆课堂知识
布置作业 1、搜索了解生活中人工智能的应用？2、搜索了解人工智能相关法律政策？3、搜索了解我们应该如何保障个人信息安全？ 完成作业 培养学生查阅资料的能力，分析解决问题的能力
课堂小结 通过人工智能的安全与防范课程这节课，我们从中学到了丰富的知识和技能，对于人工智能，增强了的安全和防范意识，并能积极采取相应的防范措施，我们学会了更好地保护自己的个人信息，并降低遭受网络威胁的风险。 分组总结归纳 锻炼学生的总结能力，逻辑思维、语言表达能力。
板书 一、探究人工智能技术带来的安全隐患二、关于人工智能安全的相关政策三、如何保障个人信息安全 学习、记忆及勾画知识点 明确教学内容及重点和难点
21世纪教育网 www.21cnjy.com 精品试卷·第 2 页 （共 2 页）
HYPERLINK "http://www.21cnjy.com/" 21世纪教育网(www.21cnjy.com)

展开更多......

收起↑