微软公开课-人工智能系统

摘要: 本文介绍一个人工智能系统方面的课

【对数据分析、人工智能、金融科技、风控服务感兴趣的同学，欢迎关注我哈，阅读更多原创文章】
我的网站：潮汐朝夕的生活实验室
我的公众号：潮汐朝夕
我的知乎：潮汐朝夕
我的github：FennelDumplings
我的leetcode：FennelDumplings

---

入口：

• https://github.com/microsoft/AI-System

人工智能系统

本课程的中文名称设定为 人工智能系统，主要讲解支持人工智能的计算机系统设计，对应的英文课程名称为 System for AI。本课程中将交替使用一下词汇：人工智能系统，AI-System 和 System for AI。

本课程为微软人工智能教育与共建社区中规划的人工智能相关教程之一，在A-基础教程模块下，课程编号和名称为 A6-人工智能系统。

欢迎访问微软人工智能教育与共建社区的A-基础教程模块访问更多相关内容。

人工智能系统课程设立背景

近年来人工智能特别是深度学习技术得到了飞速发展，这背后离不开计算机硬件和软件系统的不断进步。在可见的未来，人工智能技术的发展仍将依赖于计算机系统和人工智能相结合的共同创新模式。需要注意的是，计算机系统现在正以更大的规模和更高的复杂性来赋能于人工智能，这背后不仅需要更多的系统上的创新，更需要系统性的思维和方法论。与此同时，人工智能也反过来为设计复杂系统提供支持。

我们注意到，现在的大部分人工智能相关的课程，特别是深度学习和机器学习相关课程主要集中在相关理论、算法或者应用，与系统相关的课程并不多见。我们希望人工智能系统这门课能让人工智能相关教育变得更加全面和深入，以共同促进人工智能与系统交叉人才的培养。

人工智能系统课程设立目的

本课程主要为本科生高年级和研究生设计，帮助学生：

1. 完整的了解支持深度学习的计算机系统架构，并通过实际的问题，来学习深度学习完整生命周期下的系统设计。

2. 介绍前沿的系统和人工智能相结合的研究工作，包括AI for Systems and Systems for AI，以帮助高年级的本科生和研究生更好的寻找和定义有意义的研究问题。

3. 从系统研究的角度出发设计实验课程。通过操作和应用主流和最新的框架、平台和工具来鼓励学生动手实现和优化系统模块，以提高解决实际问题的能力，而不仅仅是了解工具使用。

先修课程: C/C++/Python, 计算机体系结构，算法导论。

人工智能系统课程的设计与特点

课程主要包括以下三大模块：

第一部分，是人工智能的基础知识和人工智能系统的全栈概述；以及深度学习系统的系统性设计和方法学。

第二部分，为高级课程，包括最前沿的系统和人工智能交叉的研究领域。

第三部分，是与之配套的实验课程，包括最主流的框架、平台和工具，以及一系列的实验项目。

第一部分的内容将集中在基础知识，而其他两部分的内容将随着学术界和工业界的技术进步而动态调整。后两部分的内容将以模块化的形式组织，以利于调整或与其他CS的课程（比如编译原理等）相结合，作为高级讲义或者实习项目。

本课程的设计也会借助微软亚洲研究院在人工智能和系统交叉领域的研究成果和经验，其中包括微软及研究院开发的一部分平台和工具。课程也鼓励其他学校和老师根据自己的需求添加和调整更多的高级课题，或者其他的实验。

人工智能系统课程大纲

课程部分: ./Lectures

基础课程

课程编号	讲义名称	备注
1	课程介绍	课程概述和系统/AI基础
2	人工智能系统概述	人工智能系统发展历史，神经网络基础，人工智能系统基础
3	深度神经网络计算框架基础	反向传播和自动求导，张量，有向无环图，执行图 论文和系统：PyTorch, TensorFlow
4	矩阵运算与计算机体系结构	矩阵运算，CPU/SIMD, GPGPU, ASIC/TPU 论文和系统：Blas, TPU
5	分布式训练算法	数据并行，模型并行，分布式SGD 论文和系统：PipeDream
6	分布式训练系统	MPI, parameter servers, all-reduce, RDMA 论文和系统: Horovod
7	异构计算集群调度与资源管理系统	集群上运行DNN任务：容器，资源分配，调度 论文和系统：Kubeflow, OpenPAI, Gandiva
8	深度学习推导系统	效率，延迟，吞吐量，部署 论文和系统：TensorRT, TensorFlowLite, ONNX

高阶课程

课程编号	讲义名称	备注
9	计算图的编译与优化	IR，子图模式匹配，矩阵乘和内存优化 论文和系统：XLA, MLIR, TVM, NNFusion
10	神经网络的压缩与稀疏化优化	模型压缩，稀疏化，剪枝
11	自动机器学习系统	超参调优，神经网络结构搜索（NAS） 论文和系统：Hyperband, SMAC, ENAX, AutoKeras, NNI
12	强化学习系统	RL理论，RL系统 论文和系统：AC3, RLlib, AlphaZero
13	安全与隐私	联邦学习，安全，隐私 论文和系统：DeepFake
14	利用人工智能来优化计算机系统问题	AI用于传统系统问题，AI用于系统算法 论文和系统：Learned Indexes, Learned query path

实验部分: ./Labs

基础实验

实验编号	实验名称	备注
实验 1	框架及工具入门示例	-
实验 2	定制一个新的张量运算	-
实验 3	CUDA实现和优化	-
实验 4	AllReduce的实现或优化	-
实验 5	配置Container来进行云上训练或推理准备	-

高阶实验

实验编号	实验名称	备注
实验 6	学习使用调度管理系统	-
实验 7	分布式训练任务练习	-
实验 8	自动机器学习系统练习	-
实验 9	强化学习系统练习	-

---