Shell常用实例
1. 判断文件/文件夹是否存在
1 | #shell判断文件,目录是否存在或者具有权限 |
HashEmbedding&QREmbedding
1. HashEmbedding
paper: hash-embeddings-for-efficient-word-representations.pdf
1.1 简介
Hash Embedding可以看作是普通word embedding和通过随机hash函数得到的词嵌入的interposition(插补)。 在Hash Embedding中,每个token由k个d维embedding vectors和一个k维weight vector表示,token的最终d维表示是两者的乘积。
保序回归-IsotonicRegression
深入理解FTRL-Proximal
1. 前言
写这片post的目的是因为最近在实践中需要对不同的优化器进行调整, 突然发现自己对各种优化算法的了解都停留在一个相对比较浅的层面上, 虽然之前自己从各个渠道汇总整理了一份优化算法的总结性post——优化算法整理post, 但是都是浮于表面的总结,并没有沉淀下来成为自己的东西, 因此这篇post主要记录一下自己在看 Ad Click Prediction a View from the Trenches 这篇论文中得到和不理解的地方。