【开放源码】看我如何搭建平台&训练个机器人陪我聊天！

作者：  徐静
硕士研究生、算法工程师
兴趣方向：统计机器学习，深度学习，模型的线上化部署、网络爬虫，前端可视化。
个人博客：https://dataxujing.github.io/

在大多数标准中，Flask都算是小型框架，小到可以称为“微框架”，所以你一旦熟悉使用它，很可能就能读懂他所有的源码，本项目是自己线下玩的项目，因此采用了Flask这种小而功能比较全的框架。

TensorFlow是Google于2015年11月9日正式开源的深度学习框架，提供了海量的深度学习模型的API,可以快速的实现深度学习模型的搭建。目前在GitHub上的star也是惊人：

基于Python的TnesoFlow接口，训练seq2seq模型用于娱乐性的聊天机器人场景。 Seq2Seq被提出于2014年，最早由两篇文章独立地阐述了它主要思想，分别是Google Brain团队的《Sequence to Sequence Learning with Neural Networks》和Yoshua Bengio团队的《Learning Phrase Representation using RNN Encoder-Decoder for Statistical Machine Translation》。这两篇文章针对机器翻译的问题不谋而合地提出了相似的解决思路，Seq2Seq由此产生。Seq2Seq解决问题的主要思路是通过深度神经网络模型（常用的是LSTM，GRU)将一个作为输入的序列映射为一个作为输出的序列，这一过程由编码（Encoder）输入与解码（Decoder）输出两个环节组成, 前者负责把序列编码成一个固定长度的向量，这个向量作为输入传给后者，输出可变长度的向量。详细介绍可参见：https://dataxujing.github.io/seq2seqlearn/

首先我们基于问答语料库去训练我们的seq2seq聊天机器人系统，其核心算法主要如下：

def get_model(feed_previous=False):    """    构造模型:seq2seq    feed_previous表示decoder_inputs是我们直接提供训练数据的输入，    还是用前一个RNNCell的输出映射出来的，如果feed_previous为True，    那么就是用前一个RNNCell的输出，并经过Wx+b线性变换    """    learning_rate = tf.Variable(float(init_learning_rate), trainable=False, dtype=tf.float32)    learning_rate_decay_op = learning_rate.assign(learning_rate * 0.9)    encoder_inputs = []    decoder_inputs = []    target_weights = []    for i in range(input_seq_len):        encoder_inputs.append(tf.placeholder(tf.int32, shape=[None], name="encoder{0}".format(i)))    for i in range(output_seq_len + 1):        decoder_inputs.append(tf.placeholder(tf.int32, shape=[None], name="decoder{0}".format(i)))    for i in range(output_seq_len):        target_weights.append(tf.placeholder(tf.float32, shape=[None], name="weight{0}".format(i)))    # decoder_inputs左移一个时序作为targets    targets = [decoder_inputs[i + 1] for i in range(output_seq_len)]    cell = tf.contrib.rnn.BasicLSTMCell(size)    # 这里输出的状态我们不需要    outputs, _ = seq2seq.embedding_attention_seq2seq(                        encoder_inputs,                        decoder_inputs[:output_seq_len],                        cell,                        num_encoder_symbols=num_encoder_symbols,                        num_decoder_symbols=num_decoder_symbols,                        embedding_size=size,                        output_projection=None,                        feed_previous=feed_previous,                        dtype=tf.float32)    # 计算加权交叉熵损失    loss = seq2seq.sequence_loss(outputs, targets, target_weights)    # 梯度下降优化器    opt = tf.train.GradientDescentOptimizer(learning_rate)    # 优化目标：让loss最小化    update = opt.apply_gradients(opt.compute_gradients(loss))    # 模型持久化    saver = tf.train.Saver(tf.global_variables())    return encoder_inputs, decoder_inputs, target_weights, outputs, loss, update, saver, learning_rate_decay_op, learning_rate

训练好的模型会保存在model文件夹，供flask调用。我的语料是在网上找的一些还有就是自己编造了一些，语料很不规整也不全面，量也比较少，因此模型的表现并不是很理想，加上本身seq2seq模型的不可控性，会出现聊天机器人比较傻叉的回答和答非所问的情况（这个如果要商用还得考虑更多其他的trick这里只是娱乐性的尝试）。

我用CPU训练了10000个epoch，经过308分钟，模型训练好了。。。（此处应该有掌声）

下面就是基于flask搭建一套在线聊天系统了，这里基于redis缓存数据库的订阅与发送机制实现一个简单的SSE事件流（这个方法是我参考了GitHub一位大神的思路），当然我们也可以基于Flask-SSE模块，下面是项目的结构，和部分核心代码：

项目结构：

flask核心算法：

def get_model(feed_previous=False):    """    构造模型:seq2seq    feed_previous表示decoder_inputs是我们直接提供训练数据的输入，    还是用前一个RNNCell的输出映射出来的，如果feed_previous为True，    那么就是用前一个RNNCell的输出，并经过Wx+b线性变换    """    learning_rate = tf.Variable(float(init_learning_rate), trainable=False, dtype=tf.float32)    learning_rate_decay_op = learning_rate.assign(learning_rate * 0.9)    encoder_inputs = []    decoder_inputs = []    target_weights = []    for i in range(input_seq_len):        encoder_inputs.append(tf.placeholder(tf.int32, shape=[None], name="encoder{0}".format(i)))    for i in range(output_seq_len + 1):        decoder_inputs.append(tf.placeholder(tf.int32, shape=[None], name="decoder{0}".format(i)))    for i in range(output_seq_len):        target_weights.append(tf.placeholder(tf.float32, shape=[None], name="weight{0}".format(i)))    # decoder_inputs左移一个时序作为targets    targets = [decoder_inputs[i + 1] for i in range(output_seq_len)]    cell = tf.contrib.rnn.BasicLSTMCell(size)    # 这里输出的状态我们不需要    outputs, _ = seq2seq.embedding_attention_seq2seq(                        encoder_inputs,                        decoder_inputs[:output_seq_len],                        cell,                        num_encoder_symbols=num_encoder_symbols,                        num_decoder_symbols=num_decoder_symbols,                        embedding_size=size,                        output_projection=None,                        feed_previous=feed_previous,                        dtype=tf.float32)    # 计算加权交叉熵损失    loss = seq2seq.sequence_loss(outputs, targets, target_weights)    # 梯度下降优化器    opt = tf.train.GradientDescentOptimizer(learning_rate)    # 优化目标：让loss最小化    update = opt.apply_gradients(opt.compute_gradients(loss))    # 模型持久化    saver = tf.train.Saver(tf.global_variables())    return encoder_inputs, decoder_inputs, target_weights, outputs, loss, update, saver, learning_rate_decay_op, learning_rate

训练好了模型,有了flask的调用，现在就可以在服务器上部署了，可以使用flask+nginx+uwsgi的方式部署这个聊天系统，体验一下和机器人的尬聊：（下面截图，看我如何尬聊）

登录界面：

开始聊天：

这只是一个不成功的尝试，要提高聊天机器人的聊天质量，调用速度，聊天界面的人机交互和美观性，还有很长的路要走，更不是一个人可以完美搞定的，我再努力优化。

项目从开始做到实现基于与网络上各种大牛的帖子和代码交流，因此项目所有源码我已托管到GitHub：https://github.com/DataXujing/xiaoX ，进来之后带走源码，留下Star和issues。

温馨提示，想要运行代码别忘了安装必要的模块:

pip install -r requirements.txt

Python爱好者社区历史文章大合集：

福利：文末扫码立刻关注公众号，“Python爱好者社区”，开始学习Python课程：

关注后在公众号内回复“课程”即可获取：

小编的Python入门免费视频课程！！！

【最新免费微课】小编的Python快速上手matplotlib可视化库！！！

崔老师爬虫实战案例免费学习视频。

陈老师数据分析报告制作免费学习视频。

玩转大数据分析！Spark2.X+Python 精华实战课程免费学习视频。