- 利用核技巧，可以将线性分类的学习方法应用到非线性分类问题中去。将线性支持向量机扩展到非线性支持向量机，只需将线性支持向量机对偶形式中的内积换成核函数。非线性支持向量机定义： 从非线性分类训练集，通过核函数与软间隔最大化，或凸二次规划，学习得到的分类决策函数称为非线性支持向量机，K(x,z)是正定核函数。非线性支持向量机学习算法：输出：分类决策函数。（1）选取适当的核函数K(x,z)和适当的参... 利用核技巧，可以将线性分类的学习方法应用到非线性分类问题中去。将线性支持向量机扩展到非线性支持向量机，只需将线性支持向量机对偶形式中的内积换成核函数。非线性支持向量机定义： 从非线性分类训练集，通过核函数与软间隔最大化，或凸二次规划，学习得到的分类决策函数称为非线性支持向量机，K(x,z)是正定核函数。非线性支持向量机学习算法：输出：分类决策函数。（1）选取适当的核函数K(x,z)和适当的参...
- 已知映射函数Φ，可以通过Φ(x)和Φ(z)的内积求得核函数K(x,z)。不用构造映射Φ(x)能否直接判断一个给定的函数k(x,z)是不是核函数？或者说，函数k(x,z)满足什么条件才能成为核函数？本节叙述正定核的充要条件。通常所说的核函数就是正定核函数。为证明此定理先介绍有关的预备知识。先定义映射（内积空间的定义可参见学习笔记|希尔伯特空间）定义运算*（3）f*g=g*f证明：（1）（2）（... 已知映射函数Φ，可以通过Φ(x)和Φ(z)的内积求得核函数K(x,z)。不用构造映射Φ(x)能否直接判断一个给定的函数k(x,z)是不是核函数？或者说，函数k(x,z)满足什么条件才能成为核函数？本节叙述正定核的充要条件。通常所说的核函数就是正定核函数。为证明此定理先介绍有关的预备知识。先定义映射（内积空间的定义可参见学习笔记|希尔伯特空间）定义运算*（3）f*g=g*f证明：（1）（2）（...
- 同样，分类决策函数中的内积也可以用核函数代替，而分类决策函数式成为也就是说，在核函数K(x,z)给定的条件下，可以利用解线性分类问题的方法求解非线性分类问题的支持向量机。学习是隐式地在特征空间进行的，不需要显式地定义特征空间和映射函数。这样的技巧称为核技巧，它是巧妙地利用线性分类学习方法与核函数解决非线性问题的技术。在实际应用中，往往依赖领域知识直接选择核函数，核函数选择的有效性需要通过实验... 同样，分类决策函数中的内积也可以用核函数代替，而分类决策函数式成为也就是说，在核函数K(x,z)给定的条件下，可以利用解线性分类问题的方法求解非线性分类问题的支持向量机。学习是隐式地在特征空间进行的，不需要显式地定义特征空间和映射函数。这样的技巧称为核技巧，它是巧妙地利用线性分类学习方法与核函数解决非线性问题的技术。在实际应用中，往往依赖领域知识直接选择核函数，核函数选择的有效性需要通过实验...
- 1. 非线性分类问题非线性分类问题是指通过利用非线性模型才能很好地进行分类的问题。先看一个例子：左图是一个分类问题，图中“·”表示正实例点，“x”表示负实例点。由图可见，无法用直线（线性模型）将正负实例正确分开，但可以用一条椭圆曲线（非线性模型）将它们正确分开。非线性问题往往不好求解，所以希望能用解线性分类问题的方法解决这个问题。所采取的方法是进行一个非线性变换，将非线性问题变换为线性问题，... 1. 非线性分类问题非线性分类问题是指通过利用非线性模型才能很好地进行分类的问题。先看一个例子：左图是一个分类问题，图中“·”表示正实例点，“x”表示负实例点。由图可见，无法用直线（线性模型）将正负实例正确分开，但可以用一条椭圆曲线（非线性模型）将它们正确分开。非线性问题往往不好求解，所以希望能用解线性分类问题的方法解决这个问题。所采取的方法是进行一个非线性变换，将非线性问题变换为线性问题，...
- 1. 合页损失函数介绍线性支持向量机学习还有另外一种解释，就是最小化以下目标函数：目标函数的第1项是经验损失或经验风险，函数称为合损失函数。下标“+”表示以下取正值的函数2. 正则化合页损失最优化与线性支持向量机最优化的等价性定理： 线性支持向量机原始最优化问题：等价于正则化合页损失最优化问题证明：正则化合页损失最优化问题可以写成原始最优化问题令则因此，正则化合页损失最优化问题可以写成等价于... 1. 合页损失函数介绍线性支持向量机学习还有另外一种解释，就是最小化以下目标函数：目标函数的第1项是经验损失或经验风险，函数称为合损失函数。下标“+”表示以下取正值的函数2. 正则化合页损失最优化与线性支持向量机最优化的等价性定理： 线性支持向量机原始最优化问题：等价于正则化合页损失最优化问题证明：正则化合页损失最优化问题可以写成原始最优化问题令则因此，正则化合页损失最优化问题可以写成等价于...
- 线性支持向量机学习的原始问题是其对偶问题是对偶问题的KKT条件为（可参见学习笔记|广义拉格朗日函数与KKT条件的应用）令对偶问题的解为参考文献【1】统计学习方法（第2版），李航著，清华大学出版社 线性支持向量机学习的原始问题是其对偶问题是对偶问题的KKT条件为（可参见学习笔记|广义拉格朗日函数与KKT条件的应用）令对偶问题的解为参考文献【1】统计学习方法（第2版），李航著，清华大学出版社
- 线性可分问题的支持向量机学习方法，对线性不可分训练数据是不适用的，因为这时上述方法中的不等式约束并不能都成立。（可参见学习笔记|线性可分支持向量机学习的间隔最大算法）怎么才能将它扩展到线性不可分问题呢？这就需要修改硬间隔最大化，使其成为软间隔最大化。假设给定一个特征空间上的训练数据集有了上面的思路，可以和训练数据集线性可分时一样来考虑训练数据集线性不可分时的线性支持向量机学习问题。相应于硬间... 线性可分问题的支持向量机学习方法，对线性不可分训练数据是不适用的，因为这时上述方法中的不等式约束并不能都成立。（可参见学习笔记|线性可分支持向量机学习的间隔最大算法）怎么才能将它扩展到线性不可分问题呢？这就需要修改硬间隔最大化，使其成为软间隔最大化。假设给定一个特征空间上的训练数据集有了上面的思路，可以和训练数据集线性可分时一样来考虑训练数据集线性不可分时的线性支持向量机学习问题。相应于硬间...
- 前言 要想了解如何增强机器学习模型性能，我们需要知道如何降低模型的误差。所以首先我们必须明白模型误差是由偏差（Bias）和方差（Variance）组成的。偏差是指样本预测值的平均值与样本真实值的差，而方差是指样本预测值偏离样本预测值平均值的程度。 其中 偏差（Bias）可以描述模型的准确性 而方差（Variance）可以描述模... 前言 要想了解如何增强机器学习模型性能，我们需要知道如何降低模型的误差。所以首先我们必须明白模型误差是由偏差（Bias）和方差（Variance）组成的。偏差是指样本预测值的平均值与样本真实值的差，而方差是指样本预测值偏离样本预测值平均值的程度。 其中 偏差（Bias）可以描述模型的准确性 而方差（Variance）可以描述模...
- 文章目录 前言 系列文章 3.2 割边、割集、割点 3.2.1 割边与割集 定理3.4 推论3.4 ... 文章目录 前言 系列文章 3.2 割边、割集、割点 3.2.1 割边与割集 定理3.4 推论3.4 ...
- logistic回归是统计学习中的经典分类方法，属于对数线性模型。1. logisitc分布定义（logistic分布） 设X是连续随机变量，X服从logistic分布是指X具有下列分布函数和密度函数：其中，μ为位置参数，γ>0为形状参数。logistic分布的密度函数f(x)和分布函数F(x)的图形如下：曲线在中心附近增长速度较快，在两端增长速度较慢。形状参数γ的值越小，曲线在中心附近增长... logistic回归是统计学习中的经典分类方法，属于对数线性模型。1. logisitc分布定义（logistic分布） 设X是连续随机变量，X服从logistic分布是指X具有下列分布函数和密度函数：其中，μ为位置参数，γ>0为形状参数。logistic分布的密度函数f(x)和分布函数F(x)的图形如下：曲线在中心附近增长速度较快，在两端增长速度较慢。形状参数γ的值越小，曲线在中心附近增长...
- 目录 R语言的特点 R语言的优点 R语言的缺点 每文一语 R是一种解释型语言，输入的命令可以直接被执行，不同于C等编译语言需要构成完整的程序才能运行。与Python一样是科研党的最爱和神器之一！ R语言的特点 （1）R是统计分析、绘图功能的自由开源软件，拥有完整体系的数据分析和挖掘工具，能够有效的数据存储... 目录 R语言的特点 R语言的优点 R语言的缺点 每文一语 R是一种解释型语言，输入的命令可以直接被执行，不同于C等编译语言需要构成完整的程序才能运行。与Python一样是科研党的最爱和神器之一！ R语言的特点 （1）R是统计分析、绘图功能的自由开源软件，拥有完整体系的数据分析和挖掘工具，能够有效的数据存储...
- 废话不说了，数据集和注意地方在第一篇。 记得点个赞加个关注，后续我会继续分享。 上代码！！ import numpy as np def dataSet(): # 西瓜数据集离散化 ... 废话不说了，数据集和注意地方在第一篇。 记得点个赞加个关注，后续我会继续分享。 上代码！！ import numpy as np def dataSet(): # 西瓜数据集离散化 ...
- 目录 前言 1.4 基变换与坐标变换 1.4.1 基变换公式 1.4.2 坐标变换公式 举例 例 - 1 ... 目录 前言 1.4 基变换与坐标变换 1.4.1 基变换公式 1.4.2 坐标变换公式 举例 例 - 1 ...
- 目录 前言 1.3 线性空间的基与坐标 定义1.2 线性相关/无关 定义1.3 向量空间（线性空间） 定理 1.3.1 线性组合 定义... 目录 前言 1.3 线性空间的基与坐标 定义1.2 线性相关/无关 定义1.3 向量空间（线性空间） 定理 1.3.1 线性组合 定义...
- 目录 前言 1.2 线性空间定义及其性质 定义1.1：线性空间（向量空间） 定理 1.2.1：零元与负元 命题1 ... 目录 前言 1.2 线性空间定义及其性质 定义1.1：线性空间（向量空间） 定理 1.2.1：零元与负元 命题1 ...
上滑加载中
推荐直播
-
基于开源鸿蒙+海思星闪开发板：嵌入式系统开发实战（Day1）2025/03/29 周六 09:00-18:00
华为开发者布道师
本次为期两天的课程将深入讲解OpenHarmony操作系统及其与星闪技术的结合应用，涵盖WS63E星闪开发板的详细介绍、“OpenHarmony+星闪”的创新实践、实验环境搭建以及编写首个“Hello World”程序等内容，旨在帮助学员全面掌握相关技术并进行实际操作
回顾中 -
基于开源鸿蒙+海思星闪开发板：嵌入式系统开发实战（Day2）2025/03/30 周日 09:00-12:00
华为开发者布道师
本次为期两天的课程将深入讲解OpenHarmony操作系统及其与星闪技术的结合应用，涵盖WS63E星闪开发板的详细介绍、“OpenHarmony+星闪”的创新实践、实验环境搭建以及编写首个“Hello World”程序等内容，旨在帮助学员全面掌握相关技术并进行实际操作
回顾中 -
从AI基础到昇腾：大模型初探、DeepSeek解析与昇腾入门2025/04/02 周三 16:00-17:30
不易 / 华为云学堂技术讲师
昇腾是华为研发的AI芯片，其具有哪些能力？我们如何基于其进行开发？本期直播将从AI以及大模型基础知识开始，介绍人工智能核心概念、昇腾AI基础软硬件平台以及昇腾专区，旨在为零基础或入门级学习者搭建从AI基础知识到昇腾技术的完整学习路径。
回顾中
热门标签