img{ width: 60%; padding-left: 20%; } 逻辑回归、激活函数及其代价函数 线性回归的可行性 对分类算法，其输出结果y只有两种结果{0，1}，分别表示负类和正类，代表没有目标和有目标。 在这种情况下，如果用传统的方法以线性拟合\({h_θ (x)=θ^T X}\)，对于得到的函数应当对y设置阈值a，高于a为一类，低于a为一类

系统概述 系统的类型 系统可以用数学模型和框图来表示。 系统\(H[·]\)的基本数学模型是: \[y(⋅)=H[f(⋅)]\] 称\(y(⋅)\)是系统的输出，\(f(⋅)\)是系统的输入。 因此对输入的处理与系统本身无任何关系。 按照系统的数学模型类型，系统可以分为即时系统（输出（称为系统的响应）仅与当前的输入（称为系统的激励）有关）和动态系统（响应与过去和现在的激励都有关系），离

算法优化 参数展开 参数展开是一种将矩阵展开为向量的方法，常用于很多高级优化中。 例如如下的高级优化： 123function[jVal,gradient]=costFunction(theta)...optTheta=fminunc(@costFunction,initialTheta,options) fminuc是一种高级的优化算法。这些高级优化算法的输入值的形式都是参数向量。

回顾：神经网络的实现与梯度下降算法 搭建神经网络 选择神经网络的架构 即选择神经元之间的连接模式，和神经网络的层数，每一层的单元数。 - 输出和输入单元 输入单元的数目由分类问题中要区分的类别个数，即特征的维度数量所确定。 注意：多元分类问题中输出单元应该是一个多维的向量，对应的维度为1。 - 隐含层 通常只有一层隐含层；如果选择构建多个隐含层，通常情况下每一个隐含层中的单元数都是

代价函数·反向传播 回顾 接下来的讲义主要考虑两种分类问题：第一种是二元分类，如之前的讲义所述，y的取值只能是0或者1，输出层只有一个输出单元，假设函数的输出值是一个实数；第二种是多元分类，y的取值是一个k维的向量，输出层有k个输出单元。 ## 神经网络的代价函数形式 假设一个神经网络训练集有m个训练样本：\({(x^{(1)},y^{(1)}),(x^{(2)},y^{(2)}),...,

多元分类 介绍 一对多分类的实质是对一对一分类的拓展。 基本方法是建立一个多输出的神经网络，因此在多元分类中，最终的输出结果将是一个n维的向量，输出层的每一个输出单元用于判断是否是某一类（例如：是否是行人，是否是自行车），当判断为结果是某一类时，在理想情况下，这个网络会在这一输出单元输出1，其他的输出单元输出0，最终输出的结果是如：\(h_Θ(x)≈\left[\begin{smallmat

img{ width: 50%; padding-left: 20%; } 感知机 神经网络中，单层神经元（无中间层）的计算可用来表示逻辑运算，比如逻辑与(AND)、逻辑或(OR)。这样的单层神经网络被称为感知机(perceptron)。感知机的输入和输出都是二进制数。 线性逻辑函数的实现——AND,OR,NOT 为了解释感知机如何实现逻辑函数的功能，以AND

img{ width: 60%; padding-left: 20%; } 前向传播模型 神经元模型 假设： 大脑对于不同功能（听觉，视觉，触觉的处理）的实现是依赖于同样的学习方法 依据： 神经重接实验 神经网络模拟了大脑中的神经元或者是神经网络。先来看大脑中的神经元构成: 如图所示，神经元有很多的输入通道（树突），同时通过轴突给其他的神经元

img{ width: 60%; padding-left: 20%; } 神经网络的背景知识 激活函数算法的局限性 假设一个数据集拥有非常多的原始特征和数据量，执行激活函数算法，那么次方项、交叉项会非常的多，计算量非常的大，最终的拟合结果也不好。 计算机视觉中的例子： 计算机读取到的是图片所对应的像素强度的矩阵。 >对于灰度图像来说，像素强度就是每

电路与器件常考知识点 针对Brunel University 2020: EE1618 Devices and Circuits的期末复习笔记 Lecturer: Dr. Ruiheng Wu（武瑞恒）/Dr. Chunsing Lai（赖俊升） 图因为挂在了github上，需要通过科技才能够看得到。 电学部分知识点 静态电路分析 1. Y- \(\Delta\) 形电路转换