人工智能与安全

讲师资历

课程目标

● 厘清大数据、人工智能体系中的关键问题； ● 熟悉人工智能行为体的分类及对应安全问题； ● 了解世界各国人工智能发展战略规划与安全伦理准则； ● 熟悉社会常见的人工智能应用，强化对智能的认知； ● 熟悉掌握新兴技术成熟度曲线，把握未来技术发展趋势； ● 了解人工智能主要流派与基本原理、主流神经网络模型； ● 熟悉人工智能安体系与架构及通用人工智能的发展趋势。

课程大纲

导入1：现在是大数据时代，现在是人工智能时代 案例：“我的一天” 研讨：(GP-分组对抗记分点)感受智能化，分组讨论描述“你的一天”，并指出哪些应用或名词是和人工智能紧密相关？（除老师事先讲过的，答对一条记1分） 导入2：“人工智能威胁论” 案例：人工智能的技术发展，对人类来说到底是生存还是毁灭？ 研讨：(GP-分组对抗记分点)分组汇总每位同学的观点，提交给老师。 备注：GP-为短时时间讨论，一般不超过5分钟，LGP为长时间讨论，一般在5-20分钟；GP活动由老师根据现场情况发起或不发起，非固定活动。下同。 第一讲：大数据时代特征与人工智能国家战略 一、从互联网到大数据时代的演变过程 1. 从互联网、Web2.0、移动互联网看人类在线化过程 2. 人类在线化过程与行为数据的关系 案例分析：以商业购物场景为例，分析人类活动的在线变化及其产生的行为数据 小组研讨：(GP)分组设计其他场景,延伸到物联传感网，并总结，老师点评并打分 3. 大数据的来源与全球数增长情况分析 4. 数据计量单位的换算 5. 5G的战略地位与价值 6. 大数据的两个重要特征 7. 大数据价值的现状 二、国际与中国人工智能发展 1. 中国：人工智能的国家战略与“智能+” 2. 世界各国人工智能发展对比分析 3. 解读“十四五”规划给我们的启示 小组研讨：(LGP)找出所在行业的有关人工智能方面的国家或地方政策规划，分析原因与机会 第二讲：人工智能发展史 一、人工智能的起源 1. 人工智能产生的背景 2. 图灵与图灵测试 3. 达特茅斯会议与“人工智能” 二、人工智能的三次浪潮 1. 第一次人工智能浪潮：推理与探索 案例分析：计算机在使用“推理和探索”的兴起与没落 2. 第二次人工智能浪潮：知识工程 案例分析：专家系统的窘境与问题 3. 我们正在第三次人工智能浪尖上：大数据与深度学习 案例分析：人工智能发展历程中的里程碑事件 第三讲：人工智能原理 一、人工智能定义与分类 1. 人工智能的定义与正确理解 2. 计算智能、感知智能与认知智能 3. 人工智能的几大门派其及技术发展方向 二、人工智能人才与知识体系 1. 学科领域交叉与渗透下的人工智能创新协同 2. 世界及中国人工智能类人才培养现状 案例分析：中国某顶尖大学人工智能研究院体系及研究领域 3. 把握与跟踪人工智能技术发展趋势的方法 案例分析：深度分析Gartner曲线 实操演练：(LGP)依据现场给出的某人工智能应用,依据Gartner曲线分析其技术发展规律与特点 三、数据智能平台技术体系 1. 大数据技术平台架构 2. 人工智能技术平台架构 3. 通用深度学习开源框架与特点 第四讲：常见深度学习模型与应用 一、传统数据模型与应用 1. 常见传统数据算法与模型 2. 常见传统数据算法的应用 二、深度神经网络(DNN)模型与应用 1. DNN模型 2. DNN应用场景：搜索排序、推荐排序 三、卷积神经网络(CNN)模型与应用 1. CNN模型 2. CNN应用场景：图像识别、视频分析 四、循环神经网络(RNN)模型与应用 1. RNN模型 2. RNN应用场景：语音识别、自然语言处理 案例分析：人机智力大战的巅峰——阿尔法狗 第五讲：机器人技术及其应用原理（选讲课程） 一、机器人概述 1. “robot”一词的来源 2. 机器人定义与相关概念 3. 机器人发展历程 4. 机器人分类 二、机器人基本原理及应用 1. 机器人控制系统的基本结构 2. 工业机器人 3. 农业机器人 4. 医疗机器人 5. 服务机器人 6. 特种机器人 案例分析：机器人在工业、农业、医疗等领域的应用 第六讲：人工智能与安全哲学 一、安全 1. 人类社会对安全的认知与理解 2. 人工智能安全、人工智能与安全 二、通用人工智能安全的哲学命题 1. 技术革命视角下的人类四次纪元 2. 第四次纪元的不可控因素 3. 人工智能的安全命题 4．通用人工智能的三个哲学命题 小组研讨：（LGP）基于哲学上的命题，分组讨论形成各自主张。 第七讲：人工智能产业生态与安全 一、人工智能产业生态 1. 人工智能应用领域 2. AI芯片与视觉传感器 3. AI通用技术 案例分析：主流机器视觉、语音识别、自然语言、知识图谱应用的市场与趋势 二、狭义人工智能安全 1. 人工智能的安全体系 2. 人工智能的安全伦理概要 3. 人工智能安全对社会的冲击 4. 人工智能安全VS网络安全VS信息安全 案例分析1：全球首例自动驾驶车辆撞死行人的案件 案例分析2：《2020年度全球十大人工智能治理事件》 第八讲：人工智能内生安全 一、数据安全 1. 数据投毒与反制 2. 对抗样本攻击与反制措施 3. 数据质量与数据安全之间的管理问题 4. 对产业界及管理者的启示 案例分析1：深网视界曝出数据泄露事件 案例分析2：地下产业链之数据隐私市场 案例分析3：网上热传的几家著名科技公司的安全事件解读 二、算法与模式安全 1. 算法的可解释性与安全 2. 模型存储与管理的安全问题 3. 开源模型的安全问题 4. 对产业界及管理者的启示 案例分析1：一支激光笔是如何打败了自动驾驶？ 案例分析2：医疗领域人工智能诊断技术应用的尴尬 三、框架与运行安全 1. 架框安全问题 2. 主观与客观原因上的运行安全与保障问题 3. 对产业界及管理者的启示 案例分析：几起自动驾驶车祸背后的安全分析 小组研讨：（LGP）结合分组学员企业的情景，研讨应用人工智能内生安全的思路。 第九讲：人工智能衍生安全与伦理 一、人工智能衍生安全 1. 智能系统失误引发的安全事故 案例分析1：当自动驾驶、智能机器人、智能音箱、医疗机器人失效后…… 案例分析2：聊天机器人的偏激言论引发的群体影响 2. 人工智能行为体失控要素分析 案例分析：“机器人三定律” 3. 国际上预防人工智能技术失控的举措 二、人工智能伦理 1. 人工智能体是否应该赋予“人权”？ 2. 通过使用人工智能的人权侵犯问题 3. 人工智能是否能成为伦理主体 4. 人工智能的伦理责任问题 案例分析：几起自动驾驶案件的责任追究 小组研讨：(GP)现实生活或科幻电影中的“智能人”，及其引发伦理的故事关键词。 三、人工智能伦理准则 1. 世界各国关于人工智能技术发展的伦理准则 2. 人工智能技术伦理准则的共识性与争议性 3. 我国专门提出人工智能伦理与法律的“三步走”规划 案例分析：解读《2020年度全球十大人工智能治理事件》的处理结果 结束语：人工智能安全的未来展望!