【译文】机器学习从零开始
Introduction 文章翻译自 Machine Learning from Scratch-ish The Problem “I am really interested in Mach…
TAG/13 ENTRIES
# 机器学习
标记为「机器学习」的全部写作。
“熵”不起：从熵、最大熵原理到最大熵模型
引言 “熵”最初是热力学中的一个概念，之前关于决策树算法的部分涉及到一部分熵的知识，上世纪40年代，香农首先在信息论中引入了信息熵的概念。信息熵用来表示不确定度的度量，不确定度越大，熵值越大。…
NLP 之分词技术概述
前言 NLP 的问题领域中，首先的要解决核心问题就是分词。在英文以空格来作为天然的词语间隔的语言中，分词是非常容易的；但是在中文领域，词以汉字为单位组成，词语与词语之间并无天然的界限，句子或短…
pytorch 自定义数据集及 Kaggle 101 数字识别
引言 前面的文章中使用 feed forward neural network 实现了简单的手写数字识别，但是这不能直接照搬到 kaggle上面，因为 kaggle 使用的数据集是 CSV 文…
全连接前向神经网络与手写数字的实践
引言 上一篇文章提到了 logistics regression 、多分类的 softmax 算法及梯度等概念，其实就可以很自然的引出深度学习了。 引用WiKi的定义： 深度学习（deep l…
logistic 算法及其在手写数字识别的实践
引言 逻辑斯谛回归（logistic regression）是统计学习中的经典分类算法。最大熵模型是概率模型学习的一个准则，将其推广到分类问题得到最大熵模型（maximum entropy m…
决策树及其在手写数字识别的实践
引言 决策时是一种基本的分类和回归方法，现在主要讨论分类决策树。决策树模型呈树形结构，在分类问题中，表示基本特征对实例进行分类的过程，你可以认为他是一个 if-then 的集合，也可以认为是定…
K 近邻法及其在手写数字识别的实践
引言 k 近邻法（k-nearest-neighbor, KNN）是一种基本的分类和回归方法。现在只讨论其分类方面的应用，它不具备明显的学习过程，实际上是利用已知的训练数据集对输入特征向量空间…
朴素贝叶斯应用之在手写数字识别的实践
引言 我们都见过或者用过的一个东西就是输入法的手写键盘，如下面的动图所示，那么输入法是如何识别出我们手写的字迹是什么字的呢？这是一个对人而言非常简单（前提是你写的字体不过于潦草），但是对于程序…
最小二乘法矩阵表示及非线性响应
引言 早上上班的路上读《社会心理学》里面有一段话，觉得不错，摘在这里。 我们人类总是有一种不可抑制的冲动，想要解释行为，对其归因，以使其变得次序井然．具有可预见性，使一切尽在掌握之中。你我对于…
最小二乘法的朴素实现
引言 最小二乘法（Least Squares Method, 简记为LS）的维基解释。 最小二乘法（又称最小平方法）是一种数学优化技术。它通过最小化误差的平方和寻找数据的最佳函数匹配。利用最小…
信息论、贝叶斯及机器学习
引言 1956年，让机器来做聪明的事情的科学被称为“人工智能”。直到1997年，人类才创造出来能下象棋的电脑并打败了世界冠军。通过这样的一个例子及数字计算机的发展历史表明，感知其实是一个很难解…
机器学习中的数学基础--线性代数
换了个新的博客主题,开启新的学习主题. 线性代数 标量、向量、矩阵和张量 - 标量(scalar): 一个标量就是一个单独的数，它不同于线性代数中研 究的其他大部分对象(通常是多个数的数组)。…