《α是阿尔法，β是贝塔，那接下去呢？》1 Α α alpha a:lf 阿尔法 2 Β β beta bet 贝塔 3 Γ γ gamma ga:m 伽马 4 Δ δ delta delt 德尔塔 5 Ε ε epsilon ep`silon 伊普西龙 6 Ζ ζ zeta zat 截塔 7 Η η eta eit 艾塔 8 Θ θ thet θit 西塔 9 Ι ι iot aiot 约塔 10 Κ κ kappa kap 卡帕 11 ∧ λ lambda lambd 兰布达 兰姆达 12 Μ μ mu mju 缪 13 Ν ν nu nju 纽 14 Ξ ξ xi ksi 克西

bias and variance
偏差过大：欠拟合。方差过大：过拟合
在只有两个特征的二位数据集中，我们可以绘制数据，将偏差和方差可视化，但在多维空间数据中，绘制数据和可视化分割边界无法实现，这时我们可以通过几个指标来研究：训练集误差，验证集误差....
顺便说：dev/test必须是同一分布，相当于是为了训练过程确定一个优化目标（靶子），训练的过程就是不断瞄准靶子，朝验证集误差更低的方向走，如果与test分布不同，相当于临时换了个靶子，训练目标和实际测试的目标不一样。
如果算法存在高偏差问题，准备更多训练数据其实没什么用
正则化：减少方差。在cost函数(这里是逻辑回归函数)中加正则项，预防权重过大。
如果用L1正则化，w最终是稀疏的，就是w向量中有很多0，使模型变得稀疏，却没有降低太多存储内存，lamda是正则化参数通常使用dev集来配置这个参数，要同时考虑训练集，即前一项，把正则项设置较小可以避免过拟合，注（python中是lambd）
L2正则化用得更多，权重乘了小于1的系数，被称为权重衰减
如果正则化稀疏lamda足够大， 权重矩阵w接近0，即把许多隐藏单元权重设置接近0，但它们还存在，只是影响变小了，这时会大大简化网络，更接近与欠拟合，寻找Lamda中间值。
另一种解释：w变小，z变小，每层几乎都是线性的。

1 Α α alpha a:lf 阿尔法
2 Β β beta bet 贝塔
3 Γ γ gamma ga:m 伽马
4 Δ δ delta delt 德尔塔
5 Ε ε epsilon ep`silon 伊普西龙
6 Ζ ζ zeta zat 截塔
7 Η η eta eit 艾塔
8 Θ θ thet θit 西塔
9 Ι ι iot aiot 约塔
10 Κ κ kappa kap 卡帕
11 ∧ λ lambda lambd 兰布达
12 Μ μ mu mju 缪
13 Ν ν nu nju 纽
14 Ξ ξ xi ksi 克西
15 Ο ο omicron omik`ron 奥密克戎
16 ∏ π pi pai 派
17 Ρ ρ rho rou 肉
18 ∑ σ sigma `sigma 西格马
19 Τ τ tau tau 套
20 Υ υ upsilon jup`silon 宇普西龙
21 Φ φ phi fai 佛爱
22 Χ χ chi phai 西
23 Ψ ψ psi psai 普西
24 Ω ω omega o`miga 欧米伽