作者: admin

42 篇文章

机器学习——模型评估与选择
偏差与方差 设测试样本为 $\boldsymbol x$,$y_D$为$\bf x$在数据集中的标签,$y$为$\boldsymbol x$的真实标签,$f$为训练集$D$上学习得到的模型,$f({\boldsymbol x};D)$为$f$在$\boldsymbol x$上的预测输出。 期望预测 $$\overline{f}({\boldsymb…
机器学习——逻辑回归
逻辑回归 逻辑斯谛回归模型 我们可以用线性模型$z=\boldsymbol{w}^{\mathrm{T}} \boldsymbol{x}+b$ 来做回归任务,如果我们用此线性模型来做分类任务,需要用一个单调可微函数$g(\cdot)$将分类任务的真实标签$y$与线性回归模型的预测值联系起来: $$ y=g^{-1}\left(\boldsymbol…
机器学习——朴素贝叶斯
一、贝叶斯决策论 设输入空间$\mathcal{X} \in \Bbb R^{d}$是$d$维向量的集合,输出空间为标签集合$\mathcal{Y}=\left\{c_{1}, c_{2}, \dots, c_{N} \right\}$,$X$是定义在输入空间上的随机变量,$Y$是定义在输出空间上的随机变量,$P(X,Y)$是$X$和$Y$联合概率…
迁移学习理论
本文解读的是迁移学习的第一篇理论性的文章:《Analysis of Representation for Domain Adaptation》。笔者水平有限,对于解读有错误或不合理的地方还请批评指正! 一般的机器学习都假设训练集和测试集来自同一分布,但实际上在大多数情况下,我们有带标签的源域数据集(目标域不带标签,或者很少部分带标签),希望能训练一…
生成星辰大海——变分自编码器(VAE)实践
相信大家对浩瀚的宇宙、漫天繁星都充满过极大的兴趣,我们对夜晚漫天眨眼的星星充满了无限的向往,在某个夏日夜晚里,我们也是那个“数星星的孩子”。在本文中,我们将使用变分自编码器(VAE)这项深度学习技术,生成星系的图片,生成我们的“星辰大海”。 一、变分自编码器 自编码器(AutoEncoder)是一种表示学习技术,是深度学习中的一个重要分支,也是无监…
机器学习——线性模型
线性回归 给定由$d$个属性描述的样本$\boldsymbol{x}=(x_1; x_2; \dots ; x_d)$(列向量),数据集$D=\left\{\left(\boldsymbol{x}_{1}, y_{1}\right),\left(\boldsymbol{x}_{2}, y_{2}\right), \ldots,\left(\bold…
数据结构与算法——链表
单链表 表域元素val保存着数据项,链接域next保存同一表里的下个节点的标识,P为表头变量/表头指针 插入新元素 初始化新节点cur 将cur的next字段链接到prev的下个节点 将prev中的next字段链接到cur 在开头插入节点 初始化一个新节点cur 将新节点链接到原始头结点head 将cur指定为head 删除操作 找到cur的上一个…
英语学术论文写作
本文为《英语科技论文写作(通信、计算机、密码、测绘版)》一书的学习总结。 第一章 概论 略 第二章 英语科技论文的文体特点 2.1 词汇特点 英语科技论文的特点之一就是大量使用科技词汇,主要包括以下几类: 纯科技词汇。如diode(二极管)、database(数据库)等。 通用科技词汇。如power在机械力学中词义为“力”、“电”、“电力”、“动力…
机器学习的数学基础:矩阵论
基本概念 向量及其转置 一个 $d$ 维列向量 $x$ 及其转置 $x^t$ 可记作: $$x=\left[ \begin{matrix} x_1 \\ x_2 \\ \vdots \\ x_d \\ \end{matrix} \right] 和 x^t=\left[ \begin{matrix} x_1 & x_2 & \dots…
深度学习调参经验汇总
此篇文章是在原创教程这个栏目下,但实际上是一篇汇总整理文章。相信大家在做深度学习时对调参尤为无奈,经验不足乱调一通,或者参数太多无从下手,我也如此。希望通过此文汇总网上一些调参的经验方法,供大家参考。此文会对网上每一篇调参文章做简练的总结与提炼,以此为此文的组成单元,并附上原文的链接。如果遇到不对的地方,欢迎指正~本文也将不定期更新,最后祝大家调参…