课 程 号: 00137170
课程名称: 机器学习基础
开课学期: 春
学分: 3
先修课程: 计算方法、概率论与数理统计
基本目的: 该课程面向数学科学公司应用数学相关专业本科生开设, 旨在介绍机器学习的基本问题、方法、模型、算法和相关理论基础, 为学生进一步从事机器学习领域相关研究和应用提供基础。
内容提要:
一、 机器学习简介 (2学时)
二、 计算学习理论 (16学时)
PAC学习理论
有限假设空间
Rademacher 复杂度
VC维
稳定性
非一致可学习性(Non-uniform Learnability)
偏差复杂性权衡(Bias-complexity Trade-off)
无免费午餐定理
结构风险最小化
模型选择
三、 模型与算法 (18学时)
线性与广义线性模型
凸学习模型
决策树
随机梯度下降法
支持向量机与核方法
神经网络学习
贝叶斯分类
集成学习
概率图模型初步
四、 专题选讲 (12学时)
多类别分类
聚类
降维与度量学习
特征选择与稀疏学习
排序(Ranking)
强化学习
教学方式: 每周授课3学时
教材与参考书:
教材
周志华. 《机器学习》, 清华大学出版社, 2016.
参考书:
[1] Shai Shalev-Schwartz, Shai Ben-David. Understanding Machine Learning: From Theory to Algorithms, Cambridge University Press, 2014.
[2] Mehryar Mohri, Afshin Rostamizadeh, and Ameet Talwalkar. Foundations of Machine Learning, 2nd edition, MIT Press, 2018.
[3]周志华, 王魏, 高尉, 张利军. 《机器学习理论导引》, 机械工业出版社, 2020
学生成绩评定方法: 平时作业 40%+期末考试 60%。
课程修订负责人:牟克典