人工智能与机器学习
AI & Machine Learning人工智能的本质是数学:模型用函数拟合数据,训练用优化求最优参数,泛化能力用概率统计刻画。没有数学,就没有今天的深度学习与生成式 AI。
3 个板块12 个要点
§ 01
核心作用
数学为 AI 提供表示、训练与评估的完整框架。
模型表示
神经网络本质是复合函数,卷积与注意力机制都是特定结构的张量运算。
模型训练
梯度下降与反向传播用链式法则(微积分)逐层更新参数。
泛化与评估
偏差-方差权衡与交叉验证用统计方法衡量模型好坏。
数据表征
特征值与奇异值分解(SVD)用于降维、压缩与推荐系统。
§ 02
解决的关键问题
机器学习中的核心数学问题。
如何让计算机「学习」
经验风险最小化把学习问题转化为优化问题。
如何避免过拟合
L1/L2 正则化与早停等数学手段控制模型复杂度。
图像如何识别
卷积运算与矩阵乘法提取局部特征,逐层抽象。
语言如何建模
概率模型与注意力机制计算词与词之间的关联权重。
§ 03
常用数学工具
AI 工程师的数学工具箱。
线性代数
矩阵运算、特征分解与 SVD。
微积分
梯度、链式法则与泰勒展开。
概率统计
贝叶斯推断、最大似然估计与信息熵。
凸优化
梯度下降族算法与拉格朗日对偶。