脑电图与睡眠分期基本概念梳理
脑电图与睡眠分期 脑电图根据电极放置位置分为头皮电极脑电图、颅内电极脑电图。一般而言都是头皮电极脑电图。 头皮电极脑电图是从头皮上将脑部的自发性电活动加以放大记录而获得的图形。因为脑电信号非常…
INDEX · WRITING/90 ENTRIES
全部写作
技术文章、论文精读、工程记录、随笔与旧文，按时间倒序排列。
202214 篇
Policy Gradient 算法笔记
算法解释 本文为策略梯度算法实现及详解，策略梯度算法属于蒙特卡洛方法，可以理解为： 算法完成一个回合之后, 再利用这个回合的数据去学习, 做一次更新。因为我们已经获得了整个回合的数据,所以也能…
论文阅读 HiddenCut - Simple Data Augmentation for Natural Language Understanding with Better Generalization
Original Paper Reference：[HiddenCut: Simple Data Augmentation for Natural Language Understanding…
EDA Easy Data Augmentation 数据增强使用记录
介绍 EDA (Easy Data Augmentation) 是一种应用于文本分类的简单的数据增强技术，由4种方法组成，分别是：同义词替换、随机插入、随机替换与随机删除 4个数据增强操作：\…
TorchText 使用记录
API 说明 关于数据处理的 API 变来变去，不知道到底在想什么玩意？ 在 0.9 版本以前 data 相关方法是直接 torchtext 下面，如下： torchtext.data - t…
论文阅读 MixText Linguistically-Informed Interpolation of Hidden Space for Semi-Supervised Text Classification
Original Paper Reference：[MixText: Linguistically-Informed Interpolation of Hidden Space for Sem…
论文阅读 An Empirical Survey of Data Augmentation for Limited Data Learning in NLP
Original Paper Reference：An Empirical Survey of Data Augmentation for Limited Data Learning in N…
论文阅读 A Fourier Perspective on Model Robustness in Computer Vision
Original Paper Reference：[[1906.08988] A Fourier Perspective on Model Robustness in Computer Vis…
论文阅读 Text AutoAugment：Learning Compositional Augmentation Policy for Text Classification
Original Paper Reference：[Text AutoAugment: Learning Compositional Augmentation Policy for Text…
论文阅读记录 Improving Robustness Without Sacrificing Accuracy with Patch Gaussian Augmentation
Original Paper Reference: [Improving Robustness Without Sacrificing Accuracy with Patch Gaussian…
自然语言处理NLP数据增强综述阅读记录
Original Paper Reference：[A Survey of Data Augmentation Approaches for NLP](https://aclanthology…
19年图像数据增强综述阅读记录
Original Paper : [A survey on Image Data Augmentation for Deep Learning \| Journal of Big Data \…
mixup 论文阅读记录
Summary 当前深度神经网络方法存在问题：Large deep neural networks are powerful, but exhibit undesirable behavior…
Randaugment 论文阅读笔记
Introduction 传统的数据增强方法普遍需要专家知识来手动设计策略获取对应领域的先验知识，这导致增强方法的领域依赖性强，泛化能力不够。数据扩充的策略学习方法——自动设计扩充策略方法出现…
20211 篇
硕士毕业论文致谢
致谢 十觞亦不醉，感子故意长。 明日隔山岳，世事两茫茫。 ——杜甫《赠卫八处士》 行文至此处，三年的研究生生涯也即将结束，聚首仿在昨日，离别又在眼前，内心感慨万千。前面拙作的正文部分已经完成，…
20204 篇
事件识别与抽取论文总结——15年后联合模型
| 方法 | 联合方法 | 神经网络 | 特征编码融合特征 | 元素依赖融合特征 | |--------------|------|------|----|------| | 陈(2015)[…
NLP 中的迁移学习-2
背景 本章主要为了后续章节做背景知识的铺垫。主要回顾了之后提出的理论相关的概率论和信息论的基础。 对与机器学习也特定的回顾了将要用的部分，最后对 NLP 的主要任务进行了概览。 概率论与信息论…
迁移学习在 NLP 的应用（一）
Introduction Motivation 在处理自然语言处理领域相关问题时（1960s-1970s），早期符号学方法主要使用人工编写的规则来获取处理特征。 在过去的20年里，一种使用数学…
Mysql 数据库备份还原
备份类别 1. 物理备份： 直接复制数据库文件，适用于大型数据库环境。但不能恢复到异构系统中如Windows。 2. 逻辑备份： 备份的是建表、建库、插入等操作所执行SQL语句，适用于中小型数…
201912 篇
【译文】机器学习从零开始
Introduction 文章翻译自 Machine Learning from Scratch-ish The Problem “I am really interested in Mach…
【论文阅读】Entity-Relation Extraction as Multi-Turn Question Answering
Introduction 文章提出了一个解决 实体-关系抽取 问题的新范式。 文章要解决的问题如下： We need to extract four different types of en…
【译文】自然语言处理趋势：ACL 2019 综述
Introduction 文章翻译自 Trends in Natural Language Processing: ACL 2019 In Review 未全文翻译，仅摘录翻译部分内容。 为强…
Jupyter Notebooks 强化配置折腾记
Introduction Jupyter Notebooks 是当前学习机器学习、入门科学计算、Python新手的必备热门环境选择。但是使用久了就会觉得它却了些编程环境必备的特性，不够好用。…
AMD 显卡/GPU 深度学习折腾指南
Introduction 鉴于 NVIDIA 的价格和自己的预算， 因此上了 AMD 的船，自此主机组装完成。 AMD 的 CPU 加 AMD 的 GPU， AMD, YES ! 装机完成之后…
基于浅层前馈神经网络和词窗口的命名实体识别实践
Introduction 命名实体识别作为自然语言处理领域中一项基础而关键的技术，被广泛应用于自然语言处理各个应用领域中，也是关系抽取、事件抽取、知识图谱、机器翻译、问答系统等诸多 NLP 任…
梯度下降算法及 PyTorch 的实现
Introduction 人工神经网络求解的实质是寻找合适权重，只有权重合适的神经网络才能发挥出真正的能力，而权重的寻找过程不是靠感觉的，而是一步步优化得来的。由于参数搜索空间非常巨大，训练复…
数学备忘录
Introduction 本文章主要用来备忘，内容有: - 基本数学符号、算子 - 基本数学规则 Nabla算子 Del 算子或称 Nabla 算子，在中文中也叫向量微分算子、劈形算子、倒三角…
python 命名规范
引言 代码强迫症... 这里的命名规范参考 PEP8 代码编码 - 代码文件规范。文件编码和 Python 编码格式全部为 utf-8 ，在 Python 代码的开头，要统一加上 -- cod…
SVM 文本分类实战
文本处理之 tf-idf 算法及其实践
Introduction tf-idf（英语：term frequency–inverse document frequency）是一种用于信息检索与文本挖掘的常用加权技术。 TF-IDF是一…
在 Ubuntu 上安装 Vapor 和 Swift
前言 Swift是由苹果主导开发的编程语言，它是一门高效、安全、现代化的编程语言，其背后又十分强大的社区支持。Swift 此前主要被用来 iOS 和 macOS 的应用程序开发，但是从 Swi…
201833 篇
Git 设置及连接 Github
前言 这个过程做了很多遍了，但是每次几乎都记不起，又是重新 google，现在记录一下。 安装 git Mac mac 系统安装可以直接安装客户端即可。 当然也可以通过 brew 或者 Mac…
Ubuntu 安装配置 oh-my-zsh
说明 为了搞下后端开发，搞了台 Ubuntu 服务器，但由于用惯了 zsh，使用自带的 bash shell 非常不习惯，影响效率，所以配置了 zsh 环境，记录如下。 安装 Oh My Zs…
正向代理、反向代理和透明代理
正向代理 一般意义上的代理均是指的正向代理服务器，其概念如下: 正向代理是一个位于客户端和目标服务器之间的代理服务器(中间服务器)。为了从目标服务器取得内容，客户端向代理服务器发送一个请求，并…
nginx 基础笔记
基本配置
docker 基础笔记
Docker 基础学习 安装Docker 安装教程参考官方教程，比较简单，不再赘述。 Docker 常用基本命令 - 查看当前正在执行的容器：docker ps - 查看当前所有容器（包括正在…
pytorch 基础笔记
squeeze 函数 官方文档 去除size为1的维度，包括行和列。至于维度大于等于2时，squeeze()不起作用。 cat 函数 scatter 函数 Pytorch官网对于scatter…
Numpy API函数用法
此部分主要是学习过程中的一些函数笔记. Where函数 官方文档的解释 然而看的没怎么明白。 numpy.where() 有两种用法： 1. np.where(condition, x, y)…
“熵”不起：从熵、最大熵原理到最大熵模型
引言 “熵”最初是热力学中的一个概念，之前关于决策树算法的部分涉及到一部分熵的知识，上世纪40年代，香农首先在信息论中引入了信息熵的概念。信息熵用来表示不确定度的度量，不确定度越大，熵值越大。…
NLP 之关键词提取算法概述
前言
隐马尔科夫模型（HMM）
前言 同时在LP 之分词技术概述中有提到 HMM 模型，虽然此方法在现代的作用和地位有所下降，但是依然是非常值得了解的学习机器学习经典算法。 本文的基本提纲如下： 1. 基础知识 1. 定义…
Gibbs采样
前言 M-H采样已经可以很好的解决蒙特卡罗方法需要的任意概率分布的样本集的问题。但是M-H采样有两个缺点：一是需要计算接受率，在高维时计算量大。并且由于接受率的原因导致算法收敛时间变长。二是有…
MCMC采样及M-H采样
MCMC采样及M-H采样 前言 前面的文章已经说到给定一个概率平稳分布π, 只要能够其马尔科夫链状态转移矩阵P，我们就可以找到一种通用的概率分布采样方法，进而用于蒙特卡罗模拟。现在就学习下解决…
NLP 之分词技术概述
前言 NLP 的问题领域中，首先的要解决核心问题就是分词。在英文以空格来作为天然的词语间隔的语言中，分词是非常容易的；但是在中文领域，词以汉字为单位组成，词语与词语之间并无天然的界限，句子或短…
马尔科夫链及其采样方法
前言 了解了什么是蒙特卡罗方法之后，自然引出了马尔可夫链这个概念，其在 WIKI 的解释如下： 马尔可夫链（英语：Markov chain），又称离散时间马尔可夫链（discrete-time…
蒙特卡罗方法概述
前言 作为一种随机采样方法，马尔科夫链蒙特卡罗（Markov Chain Monte Carlo，以下简称MCMC）在机器学习,深度学习以及自然语言处理等领域都有广泛的应用，是很多复杂算法求解…
自剖
说明前面 这是一篇去年差不多这个时候写的东西，现在读起来依然适用现在的自己。 最近这几天是真的有点不好受，昨晚几乎失眠了一整晚，缺少很多的东西，对未来看不清楚，对自己没有信心，心里面就充满了怀…
pytorch 自定义数据集及 Kaggle 101 数字识别
引言 前面的文章中使用 feed forward neural network 实现了简单的手写数字识别，但是这不能直接照搬到 kaggle上面，因为 kaggle 使用的数据集是 CSV 文…
全连接前向神经网络与手写数字的实践
引言 上一篇文章提到了 logistics regression 、多分类的 softmax 算法及梯度等概念，其实就可以很自然的引出深度学习了。 引用WiKi的定义： 深度学习（deep l…
logistic 算法及其在手写数字识别的实践
引言 逻辑斯谛回归（logistic regression）是统计学习中的经典分类算法。最大熵模型是概率模型学习的一个准则，将其推广到分类问题得到最大熵模型（maximum entropy m…
问题解决记录
系统问题 Docker 1.Ubuntu 下安装 docker 使用非 sudo 命令的问题： 解决方法： the error message tells you that your curr…
决策树及其在手写数字识别的实践
引言 决策时是一种基本的分类和回归方法，现在主要讨论分类决策树。决策树模型呈树形结构，在分类问题中，表示基本特征对实例进行分类的过程，你可以认为他是一个 if-then 的集合，也可以认为是定…
K 近邻法及其在手写数字识别的实践
引言 k 近邻法（k-nearest-neighbor, KNN）是一种基本的分类和回归方法。现在只讨论其分类方面的应用，它不具备明显的学习过程，实际上是利用已知的训练数据集对输入特征向量空间…
乡土中国
上个周看完了费孝通的《乡土中国》，现在摘抄一下其中的标记，后续再写相关的读后感吧。 1. 从基层上看，中国社会是乡土性的。 2. 农业和游牧或者工业不同，它是直接取资于土地的。种地的农民是搬不…
朴素贝叶斯应用之在手写数字识别的实践
引言 我们都见过或者用过的一个东西就是输入法的手写键盘，如下面的动图所示，那么输入法是如何识别出我们手写的字迹是什么字的呢？这是一个对人而言非常简单（前提是你写的字体不过于潦草），但是对于程序…
最小二乘法矩阵表示及非线性响应
引言 早上上班的路上读《社会心理学》里面有一段话，觉得不错，摘在这里。 我们人类总是有一种不可抑制的冲动，想要解释行为，对其归因，以使其变得次序井然．具有可预见性，使一切尽在掌握之中。你我对于…
最小二乘法的朴素实现
引言 最小二乘法（Least Squares Method, 简记为LS）的维基解释。 最小二乘法（又称最小平方法）是一种数学优化技术。它通过最小化误差的平方和寻找数据的最佳函数匹配。利用最小…
信息论、贝叶斯及机器学习
引言 1956年，让机器来做聪明的事情的科学被称为“人工智能”。直到1997年，人类才创造出来能下象棋的电脑并打败了世界冠军。通过这样的一个例子及数字计算机的发展历史表明，感知其实是一个很难解…
矩阵论之线性空间和内积空间
预备知识:集合, 映射, 数域 集合 - 定义 - 集合: 由具有某种性质所确定的事物的总体. - 表示法 - 列举法 - 概括法 - 其他概念 - 子集 - 包含关系 - 集合相等 - 有限…
机器学习中的数学基础--线性代数
换了个新的博客主题,开启新的学习主题. 线性代数 标量、向量、矩阵和张量 - 标量(scalar): 一个标量就是一个单独的数，它不同于线性代数中研 究的其他大部分对象(通常是多个数的数组)。…
树莓派折腾指南之将你树莓派变成智能家居中枢
将你树莓派变成智能家居中枢 树莓派由于本身足够的小巧且扩展性极高，所以它智能家居方面的应用具有天然的优势。对于喜欢折腾和 Geek 的人的而言，其扩展性具有无比的吸引力。 这次我们就来尝试将树…
树莓派折腾指南之将你的树莓派变身 Google Home
将你的树莓派变身 Google Home 目前的智能化已经对人们的生活影响越来越深刻，从智能音箱鼻祖 Amazon Echo 发布之后，智能数字助理就进入了人们的生活当中，也成为人们生活的一部…
树莓派折腾指南之使用 SSR 实现科学上网
树莓派折腾指南之使用 SSR 实现科学上网 预备工作 首先确定你的 SSR 混淆加密方法，如果是 salsa20 或 chacha20 或 chacha20-ietf 就需要编译安装 libs…
树莓派折腾指南之系统安装及设备点亮
树莓派折腾指南之系统安装及设备点亮 树莓派的系统安装方法有两种，一种是完全无头安装即不用网线，不用连接屏幕完成系统安装及设备正常点亮；一种是官方所提供的方式使用NOOBS辅助来安装。 在我看来…
20171 篇
python 基础笔记
引言 此处用来放写代码过程中看到的函数用法笔记及一些简单问题的解决方法。 内建库函数 shuffle() 函数 shuffle() 方法将序列的所有元素随机排序，属于 random模块，该函数…
20168 篇
云南五天四晚游
一些基本原则： 1. 一定要防晒，不要问我为什么。 2. 不推荐在古城买东西，不管是丽江古城，还是束河古镇，还是大理古城，里面东西不保证真假，而且价格虚高。 3. 需要买东西可以直接去当地的超…
iOS 引导图组件使用文档
iOS 引导图组件使用文档 说明 实际效果 引导图实际显示效果截图如下: 注：原图托管于已失效的图床，未能从网络存档恢复。 引导图的动态显示效果如下视频： 引导图 Live Video 使用场…
iOS网络层说明
iOS 网络层文档 说明 iOS 的网络层使用 YTKNetwork作为网络层底层架构，在 YTKNetwork的YTKRequest类和具体的业务请求层之间架设了一个中间业务类LSBaseR…
无题
不知道到底该取什么样的题目了, 就像打的标签一样, 想写的东西有点多, 取什么名字都有点不合适. 马克思说,人和动物的根本区别在于能够制造和利用工具. 确实是这样, 但是真正使得人类进步的却应…
踏过所有的过往
睡到凌晨被噩梦惊醒。 这些日子又何曾不像处在梦魇，只是自己不愿醒来，不想对过去说再见。一直想着如果有假如那又会是怎样的一副光景，不敢去接受其实只有自己停留在过去的事实。所谓贱人就是矫情，没想过…
无题
Welcome to Hexo! This is your very first post. Check documentation for more info. If you get any…
Objective-C 基础知识要点小结
Archive note: Recovered from the Wayback Machine. 1 historical image referenced by the original…
技术专题
Archive note: Recovered from the Wayback Machine. Formatting may reflect the original archived p…
20157 篇
寻求
Archive note: Recovered from the Wayback Machine. Formatting may reflect the original archived p…
曾经
Archive note: Recovered from the Wayback Machine. Formatting may reflect the original archived p…
我是不是你最疼爱的人
大哥还是走了。 无论说什么，无论做什么，都不能阻止这一切的发生了。 我也不知道该说什么。 只是难过。 我难以想象大伯他们家要怎么度过这样的日子，我更难以想象大嫂和那两个小孩子。 我不敢想象，我…
世事无常，莫道沧桑
Archive note: Recovered from the Wayback Machine. Formatting may reflect the original archived p…
地久天长
Archive note: Recovered from the Wayback Machine. Formatting may reflect the original archived p…
黄金时代
Archive note: Recovered from the Wayback Machine. Formatting may reflect the original archived p…
没人知道你的梦与无奈
Archive note: Recovered from the Wayback Machine. Formatting may reflect the original archived p…
201410 篇
要怎样努力，才能成为很厉害的人？——知乎问答
Archive note: Recovered from the Wayback Machine. Formatting may reflect the original archived p…
《Head First Python》学习笔记
Archive note: Recovered from the Wayback Machine. Formatting may reflect the original archived p…
第一部分：使用入门
Archive note: Recovered from the Wayback Machine. 5 historical images referenced by the original…
《Learning Python》学习笔记
Archive note: Recovered from the Wayback Machine. Formatting may reflect the original archived p…
《Python编程实践》查漏笔记
Archive note: Recovered from the Wayback Machine. Formatting may reflect the original archived p…
Python 2.X和Python 3.X的urllib库变更（摘自Dive Into Python 3）
Archive note: Recovered from the Wayback Machine. Formatting may reflect the original archived p…
Python编程实践：基础知识查漏补缺小结（算法相关）
Archive note: Recovered from the Wayback Machine. 10 historical images referenced by the origina…
无题
Archive note: Recovered from the Wayback Machine. Formatting may reflect the original archived p…
Python编程实践：基础知识查漏补缺小结（三）
Archive note: Recovered from the Wayback Machine. 28 historical images referenced by the origina…
Python3.X与Python2.X主要变化总结（一）
Archive note: Recovered from the Wayback Machine. Formatting may reflect the original archived p…