偏差与方差 设测试样本为 $\boldsymbol x$，$y_D$为$\bf x$在数据集中的标签，$y$为$\boldsymbol x$的真实标签，$f$为训练集$D$上学习得到的模型，$f({\boldsymbol x};D)$为$f$在$\boldsymbol x$上的预测输出。 期望预测 $$\overline{f}({\boldsymb…

逻辑回归 逻辑斯谛回归模型 我们可以用线性模型$z=\boldsymbol{w}^{\mathrm{T}} \boldsymbol{x}+b$ 来做回归任务，如果我们用此线性模型来做分类任务，需要用一个单调可微函数$g(\cdot)$将分类任务的真实标签$y$与线性回归模型的预测值联系起来： $$ y=g^{-1}\left(\boldsymbol…

一、贝叶斯决策论 设输入空间$\mathcal{X} \in \Bbb R^{d}$是$d$维向量的集合，输出空间为标签集合$\mathcal{Y}=\left\{c_{1}, c_{2}, \dots, c_{N} \right\}$，$X$是定义在输入空间上的随机变量，$Y$是定义在输出空间上的随机变量，$P(X,Y)$是$X$和$Y$联合概率…

本文解读的是迁移学习的第一篇理论性的文章：《Analysis of Representation for Domain Adaptation》。笔者水平有限，对于解读有错误或不合理的地方还请批评指正！ 一般的机器学习都假设训练集和测试集来自同一分布，但实际上在大多数情况下，我们有带标签的源域数据集（目标域不带标签，或者很少部分带标签），希望能训练一…

相信大家对浩瀚的宇宙、漫天繁星都充满过极大的兴趣，我们对夜晚漫天眨眼的星星充满了无限的向往，在某个夏日夜晚里，我们也是那个“数星星的孩子”。在本文中，我们将使用变分自编码器（VAE）这项深度学习技术，生成星系的图片，生成我们的“星辰大海”。 一、变分自编码器 自编码器（AutoEncoder）是一种表示学习技术，是深度学习中的一个重要分支，也是无监…

线性回归 给定由$d$个属性描述的样本$\boldsymbol{x}=(x_1; x_2; \dots ; x_d)$（列向量），数据集$D=\left\{\left(\boldsymbol{x}_{1}, y_{1}\right),\left(\boldsymbol{x}_{2}, y_{2}\right), \ldots,\left(\bold…

单链表 表域元素val保存着数据项，链接域next保存同一表里的下个节点的标识，P为表头变量/表头指针 插入新元素 初始化新节点cur 将cur的next字段链接到prev的下个节点 将prev中的next字段链接到cur 在开头插入节点 初始化一个新节点cur 将新节点链接到原始头结点head 将cur指定为head 删除操作 找到cur的上一个…

本文为《英语科技论文写作（通信、计算机、密码、测绘版）》一书的学习总结。 第一章 概论 略 第二章 英语科技论文的文体特点 2.1 词汇特点 英语科技论文的特点之一就是大量使用科技词汇，主要包括以下几类： 纯科技词汇。如diode（二极管）、database（数据库）等。 通用科技词汇。如power在机械力学中词义为“力”、“电”、“电力”、“动力…

基本概念 向量及其转置 一个 $d$ 维列向量 $x$ 及其转置 $x^t$ 可记作： $$x=\left[ \begin{matrix} x_1 \\ x_2 \\ \vdots \\ x_d \\ \end{matrix} \right] 和 x^t=\left[ \begin{matrix} x_1 & x_2 & \dots…

此篇文章是在原创教程这个栏目下，但实际上是一篇汇总整理文章。相信大家在做深度学习时对调参尤为无奈，经验不足乱调一通，或者参数太多无从下手，我也如此。希望通过此文汇总网上一些调参的经验方法，供大家参考。此文会对网上每一篇调参文章做简练的总结与提炼，以此为此文的组成单元，并附上原文的链接。如果遇到不对的地方，欢迎指正~本文也将不定期更新，最后祝大家调参…