发表于   |   分类于

最近在一个项目中，经常会遇到一些case需要追查，直接到数据中进行grep，效率太低，耗费大量时间，于是学习了express搭建一个可视化前端，对程序进行打点，追查到底哪一部分出了问题。现在总结一下：

如何入门？

入门可以直接参考byvoid的Nodejs开发指南，内容讲的非常详细，直接有实例代码。需要说明的是express目前生成的模版不是ejs，而是jade。

对于javascript／css／jquery的学习，可以使用xxx菜鸟教程，里面的实例也比较清晰。

如何安装express

目前支持两个版本，之前书上讲的不可用，需要按照下面的方式安装

1
2
npm install -g express-generator@3
npm install -g express-generator@4

一些细节问题

1. 如何从后端向前端传递数据

使用如下方式, 其中key是jade可以拿到的访问数据的key，data是具体的数据

1
2
3
res.render('index',{
    key : data,
});

在jade中获取的数据可以通过#{key}来获取

2. 后端如何获取前端传递过来的数据？

首先，前端的控件，比如文本框，必须要有name字段, 后段是根据name字段来取到最终的数据的。
后端使用方法：

1
2
获取控件上的值 ： req.body.name
打印body全部数据 ： JSON.stringify(req.body）

3. jade中如何使用js

比如弹出一个提示框 && 添加onclick操作(需要在button添加onclick事件)

1
2
3
4
5
script.
  alert('use js in jade');
  function click_func() {
    alert('use js in jade');
  }

另外：jade本身就支持for／if等语法，如果要打印数据需要使用#{xx}来修饰变量

4. 如何使用bootstrap

  1. 安装bootstrap, 在app.js同级目录下执行

    1
    2
    npm install bootstrap --save
    npm install jquery --save

  2. 打开app.js, 找到express.static, 下面添加一行

    1
    2
    #app.use(express.static(path.join(__dirname, 'public')))
    app.use('/lib',express.static(path.join(__dirname, 'node_modules')));

  3. 在views下创建includes目录，在目录下新建head.jade, 写入如下内容

    1
    2
    3
    link(href="/lib/bootstrap/dist/css/bootstrap.min.css", rel="stylesheet")
    script(src="/libs/jquery/dist/jquery.min.js") 
    script(src="/libs/bootstrap/dist/js/bootstrap.min.js")

  4. 在layout.jade中引入head.jade

    1
    2
    3
    4
    5
    6
    7
    8
    doctype html
    html
      head
        title= title
        link(rel='stylesheet', href='/stylesheets/style.css')
        include ./includes/head
      body
        block content

5. 如何同步读取大文件

超过一定大小的文件，直接使用readFileSync会读取失败，网上提供了一些异步readline的方法，如果要同步读取的话，可以使用如下方法：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
var fs = require('fs')
var offset = 0;
var chunkSize = 204800;
var chunkBuffer = new Buffer(chunkSize);
var fp = fs.openSync(path, 'r');
var bytesRead = 0;
while(bytesRead = fs.readSync(fp, chunkBuffer, 0, chunkSize, offset)) {
    offset += bytesRead;
    var str = chunkBuffer.slice(0, bytesRead).toString();
    var arr = str.split('\n');

    #最后一个可能不是完整的一行，需要删掉
    if(arr.length > 1) {
        offset -= arr.pop().length;
    }
}
这个程序的每次读取的大小的代码根据需要微调下。

6. 一些有用的网址

  1. html to Jade : http://html2jade.vida.io/

发表于   |   分类于

收集自己每天想到的一些问题

  1. 机器学习中都有哪些采样算法？
  2. LR多分类如何推导的？
  3. 机器学习中的一些指标具体是指什么？比如AUC，ROC，F1等
  4. LR为什么要对特征归一化？
  5. 最大似然估计取-log之后是否就是loss？
  6. 朴素贝叶斯哪儿使用到了EM算法？
  7. 皮尔森系数？
  8. jensen不等式？
  9. LR和最大熵的关系？

发表于   |   分类于

工作总结

  1. 经常对自己提问。能问出好的问题才能说明对这个问题有自己深入对思考了
  2. 临时方案与理想方案。做事情的时候，不要只想到临时方案临时解决下问题，要想想理想方案是什么，否则，会导致系统越来越难维护
  3. 看到问题的本质。看到问题的时候，要分析下是不是一类问题，而不是单独case by case
  4. 问题分解。学会将问题分解，把复杂问题转化成小问题来做。
  5. 前瞻性。要想到后面要做什么，甚至可以从公司的角度去思考，应该做那些布局，三年后应该做成什么样子，倒逼自己进步。
  6. 视角问题。永远要站在负责人的角度思考问题，而不要站在螺丝钉的角度思考问题。
  7. 提升建模能力，想到到问题都要想下，如果让自己来搞的话，如何建模。

发表于   |   分类于

背景

FM算法全称因子分解机，具有以下特点：

  1. 降低了参数量，参数从 $\frac{n(n+1)}{2}$ 降到 $kn$
  2. 表达了特征之间的交叉
  3. 模型复杂度可以从$O(kn^2)$ 优化到$O(kn)$
  4. 提升了泛化能力，即使训练样本中不存在的$<a, b>$交叉项，也可以通过学习出的隐向量来预估

具体公式

$y = w_0 + \sum_{i=1}^{n}w_ix_i + \sum_{i=1}^{n}\sum_{j=i+1}^{n} <v_i, v_j>x_ix_j $

其中$v_i​$ $v_j​$ 是对应$x_i​$ $x_j​$ 的隐向量，$<v_i, v_j>​$表示两个向量的内积(inner product)

优化过程：$ab + bc + ca = \frac{1}{2}\lgroup (a + b +c)^2 - a^2 - b^2 - c^2 \rgroup $

$\sum_{i=1}^{n}\sum_{j=i+1}^{n} <v_i, v_j>x_ix_j$

$=\frac{1}{2} \sum_{i=1}^{n}\sum_{j=1}^{n} <v_i, v_j>x_ix_j - \frac{1}{2}\sum_{i=1}^{n}<v_i, v_i>x_ix_i$

$= \frac{1}{2} (\sum_{i=1}^{n}\sum_{j=1}^{n}\sum_{f=1}^{k}v_{i,f}v_{j,f}x_ix_j - \sum_{i=1}^{n}\sum_{f =1}^{k}v_{i,f}v_{i,f}x_ix_i)$

$=\frac{1}{2} \sum_{f=1}^{k} \lgroup (\sum_{i=1}^{n}v_{i,f}x_i) (\sum_{j=1}^{n}v_{j,f}x_j) - \sum_{i=1}^{n} v_{i,f}^2x_i^2 \rgroup$

$=\frac{1}{2} \sum_{f=1}^{k} \lgroup (\sum_{i=1}^{n}v_{i,f}x_i)^2 - \sum_{i=1}^{n} v_{i,f}^2x_i^2 \rgroup$

梯度下降

$loss = \frac{1}{2}(y - \overline y) ^2$

$\frac {\partial loss} {\partial w_0} = 1$

$\frac {\partial loss} {\partial w_i} = x_i$

$\frac {\partial loss} { \partial v_{i,f}} = x_i\sum_{j=1}^{n}v_{j,f}x_j - v_{i,f}x_i^2$

k