代价函数的正则化 对于代价函数： \[min_{θ} \frac{1}{2m} \Sigma_{i=1}^{m}(h_θ(x^{(i)})-y^{(i)})^2\] 增加两个惩罚项\(1000\theta^2_3\)和\(1000\theta^2_4\)，代价函数变为： \[min_{θ} \frac{1}{2m} \Sigma_{i=1}^{m}(h_θ(x^{(i)})-y^{(i)}

线性回归的正则化 正则化的梯度下降算法 在线性回归中，我们使用修改后的梯度下降算法： Repeat { \[θ_0:=θ_0-\alpha\frac{1}{m}\Sigma_{i=1}^{m}(h_θ(x^{(i)})-y^{(i)})x_0^{(j)} \tag{1}\] > \(θ_0\) 不需要正则化 \[θ_j:=θ_j-\alpha[\frac{1}{m}\Sigma

十级别语法 意志和判断（Unit 1） までだ 動詞辞書形＋までだ・までのことだ 【只好做……】，用于表示觉悟，表示没有其他办法的情况下只能这样做。 【只是……】，表示辩解，表示没有别的意图。 例：これだけ頑張っても合格できないなら、あきらめるまでです。（觉悟） 例：私はこの点を考えるまでだ。（辩解） にはない 動詞辞書形・名詞＋にはあたらない 【以

九级别语法 假定（Unit 1） さえ 名詞・な形容詞～で・い形容詞～く＋さえあれば 動詞ます形＋さえすれば 【如果……了的话，就会……】，表示条件假设 例：私は家庭さえあれば、幸せです。 ### としたら 普通形＋としたら 【如果……了的话，就会……】，和さえ相同。 后面既可以跟主观意见，也可以是客观的事情 例：お金持ちになれるとしたら、世界旅行に行きます。 普通

卷积神经网络简介 针对用于图像识别的卷积神经网络而言 卷积神经网络的识别 卷积神经网络的结构分为输入层，隐含层和输出层。其中隐含层包括了卷积层（矩阵通过卷积层后还需要经过激活函数处理），池化层和全连接层。图像依次通过这三个层，然后通过softmax函数输出最终的概率。 输入层 彩色图像在输入层被分离为RGB三通道的三个大矩阵。 隐含层 卷积层 卷积的实质是图滤波，通过卷积核

K均值算法的优化 多次随机初始化 初始化的状态不同，可能最后得到的结果是不一样的。 随机初始化聚类中心的其中一种方法为： 随机选择K个样本\(μ_1...μ_k\)作为\(K\)个聚类中心。 但是按如上的随机初始化方式可能导致最后的分类的结果不同，并且有可能使得代价函数\(J\)落入局部最优解而不是最小值。 解决这个问题的方法是多次（比如50-100次）随机初始化聚类中心并运行K-

K均值算法的过程与实现 K均值算法（K-Means）是一种流行的聚类算法。 执行过程 以如下数据集的例子来说明K均值算法的执行过程： 对于如图所示的数据集，使用K均值算法将其分成两类数据。 K均值算法的第一步是在数据集中随机生成两点，称为聚类中心（Cluster Centroid）。（要分为多少类，就要生成多少个聚类中心） K均值算法是一个迭代算法，每一次迭代过程分为两部分：

非监督学习的概念 非监督学习 回顾： 监督学习 数据集有一系列的标签，监督学习的目的是找到空间中不同类数据标签之间的决策边界。 数据集的表示：\(\{(x^{(i)},y^{(i)}),...\}\) 非监督学习 在非监督学习中，数据集没有事先预设好的标签。非监督学习的目的是先要自动根据数据的特征对数据进行分类，再找到不同类数据之间的决策边界。 数据集的表示：\(\{(x^{(i

遗传算法导论 A genetic algorithm tutorial, Darrell Whitley, 1994 遗传算法的概念 遗传算法是一类将特定问题潜在的解决方案编码并组织到形如染色体（chromosome）结构的数据结构（下文直接称之为染色体）上，然后应用推荐算子(recommend operators)对数据结构中的特定信息进行保留的算法。 遗传算法的操作对象是一组

知识点总结 author: Kigha Oreki/ Hikari Kobayashi （Hikari Kobayashi的博客） 基本理论* 传输线模型 传输线模型中的幅值电压反射系数\(Γ\)： \[Γ=\frac{Z_L-Z_0}{Z_L+Z_0}\] 其中\(Z_L\)为天线负载的阻抗，\(Z_0\)为传输线上的阻抗。 驻波比： \[SWR=\frac{V_{max