物品推荐的问题已经有广泛的研究，现有两类主要方式。基于内容的推荐系统试图推荐给定用户过去喜欢的相似物品， 而协同过滤推荐方式的系统识别出拥有相同爱好的用户，并推荐他们喜欢过的物品。

基于内容的推荐系统的基础

一个基于内容的推荐系统的高层次结构下图所示。推荐的过程包含有三个阶段，每一个阶段都由独立的部件控制。

数据挖掘的过程一般由三个连续执行的步骤组成：数据预处理、数据分析和结果解释。

数据预处理

相似度度量方法

• 欧几里德距离

• 马氏距离

推荐系统是一种软件工具和技术方法，它可以向用户建议有用的物品，其是一种解决信息过载的有效工具。

推荐系统的功能

• 服务提供商采用这种技术的原因：
  • 提高转化率，即接受推荐并消费物品的用户数量比上仅浏览了这些信息的普通访客数量；
  • 出售更多种类的物品；
  • 增加用户满意度；
  • 更好地了解用户需求；

配置环境

安装git和node.js

安装hexo

1
2
3

npm install hexo -g     #安装  
npm update hexo -g      #升级  
hexo init               #初始化

简写

1
2
3
4
5

hexo n "我的博客" == hexo new "我的博客"    #新建文章
hexo p == hexo publish
hexo g == hexo generate     #生成
hexo s == hexo server       #启动服务预览
hexo d == hexo deploy       #部署

转载自：t-SNE完整笔记

t-SNE(t-distributed stochastic neighbor embedding)是用于降维的一种机器学习算法，是由Laurens van der Maaten 和 Geoffrey Hinton在08年提出来。 此外，t-SNE是一种非线性降维算法，非常适用于高维数据降维到2维或者3维，进行可视化。 t-SNE是由SNE(Stochastic Neighbor Embedding, SNE; Hinton and Roweis, 2002)发展而来。 我们先介绍SNE的基本原理，之后再扩展到t-SNE。最后再看一下t-SNE的实现以及一些优化。

GRU神经单元

GRU神经单元与LSTM神经单元及其相似，可以二者相互对比着学习。 GRU可以看成是LSTM的变种，GRU把LSTM中的遗忘门(forget gate)和输入门(input gate)用更新门(update gate)来替代。 把cell state$C_t$和隐状态$h_t$进行合并，在计算当前时刻新信息的方法和LSTM有所不同。

1. 距离量度

1.1 两点之间的距离

• 欧式距离
  • $$d = \sqrt{(x_1 - x_2)^2 + (y_1 - y_2)^2}$$
• 曼哈顿距离
  • $$d = | x_1 - x_1 | + | y_1 - y_2 |$$
• 切比雪夫距离
  • $$d = max(| x_1 - x_2 |, | y_1 - y_2 |)$$
• 余弦距离
  • $$cos \theta = \frac{x_1 x_2 + y_1 y_2}{\sqrt{x_1^2 + y_1^2} \sqrt{x_2^2 + y_2^2}}$$
• Jaccard相似系数
  • $$J(A,B) = \frac{| A \cap B |}{| A \cup B |}$$
• 相关系数
  • $$\rho_{XY} = \frac{Cov(X, Y)}{\sqrt{D(X)} \sqrt{D(Y)}} = \frac{E((X-EX)(Y-EY))}{\sqrt{D(X)} \sqrt{D(Y)}}$$

1. 混淆矩阵及其衍生

1.1 Confusion Matrix

目录

• 自我介绍
• 项目1 - 基于神经网络的安卓恶意代码检测
• 项目2 - 2017开放学术精准画像大赛
• 项目3 - 微博用户画像
• 面试遇到的算法问题
• 面试遇到的数据结构问题

我的简历2018-08-08

模型适用范围及特点在这里

自我介绍

你好，我是赵卫国，目前在哈尔滨工业大学就读，计算机科学与技术专业研二，专业排名前20%， 2017年7月到10月参加了由微软、清华联合举办的《2017开放学术精准画像大赛》，我们的队伍在400多个队伍中获得了第3名的成绩； 其中我担任队长的职责，主要负责任务一和任务三的解决。

目录

• RNN梯度消失和梯度爆炸的原因
• LSTM解决梯度消失问题

RNN梯度消失和梯度爆炸的原因

经典的RNN结构如下图所示：

假设我们的时间序列只有三段， $S_{0}$ 为给定值，神经元没有激活函数，则RNN最简单的前向传播过程如下：