「回顾」TensorFlow技术发展与落地实践
分享嘉宾:郑泽宇 知衣科技 联合创始人兼CEO
整理编辑:张慧
内容来源:AI 先行者大会《TensorFlow技术发展与落地实践》
出品社区:DataFun
一、 深度学习简介
1.1 深度学习的发展
阿尔法围棋(AlphaGo)是第一个击败人类职业围棋选手、第一个战胜围棋世界冠军的人工智能机器人, 从AlphaGo开始, 人工智能正式走入了大众的视野, 在10月18日,AlphaGo的父亲DeepMind团队推出了AlphaGo Zero,从0训练用了40天时间,以100:0击败了当今的世界围棋第一AlphaGo,AlphaZero在去年底通过自我对弈,就完爆上一代围棋冠军程序AlphaGo,且没有采用任何的人类经验作训练数据,不管是AlphaGo还是AlphaGo他们的原理都是深度学习。
计算机语言一般都是按照固定流程完成任务,但是有一些任务,比如下五子棋、无人驾驶,人脸识别等,很难把他们的流程描述出来。这个时候就需要用到人工智能的方式来实现这些流程不确定的工作。
深度学习是指训练神经网络,把样本x输入神经网络,每一个特征都与所有的神经元相互联系,通过习得一个函数,映射到输出y。
神经网络的结构包含输入层、隐藏层、输出层三部分,以判断零件是否合格为例,一个神经网络可以是输入层输入零件的长度和零件的质量,把参数权重w、偏置b和输入x做wx+b运算,再通过激活函数激活得到神经元的值传到输出层,如果输出大于0则零件是合格,否则不合格。
输入层(Input layer),众多神经元接受大量非线形输入x。输入的x称为输入向量。
输出层(Output layer),x在神经元链接中传输、分析,形成输出结果。输出的x称为输出向量。
隐藏层(Hidden layer),简称“隐层”,是输入层和输出层之间众多神经元和链接组成的各个层面。
1.4深度学习的案例
神经网络在自然语言上的应用:
情感分类:理解情感的语义,先把文字抽象成特征向量,把特征向量输入到神经网络,经过一系列的运算得到正负值,正代表着好评,负代表着差评。
神经网络在图像上的应用:手写数字识别、目标检测
输入图片得到像素矩阵,然后把像素矩阵输入到神经网络,进行目标检测,目标识别,识别出图片中的人、狗和椅子,手写数字也是同理。
目前google也在使用深度学习的方式来做推荐:
可以看出从2012开始,深度学习的热度持续增高,一直到2017年都处于持续增长状态。2015年国内开始兴起人工智能,到2018年,经过这三年的发展,人工智能的技术已经得到很好的发展,在各种细分的领域得到很好的应用。
二、TensorFlow简介
2.1 TensorFlow的前身
TensorFlow是一个实现深度学习的框架,两者相辅相成,互为基础,他的前身是DistBelief,DistBelief只支持CPU,原因是google内部的CPU资源非常丰富,可以通过并行的方式,实现高速度。
DistBelief后来发展为了TensorFlow,TensorFlow不依赖Google内部系统和架构,能够支持GPU。
2.3 TensorFlow早期版本变化
TensorFlow不断的再创新,增加新功能,迭代速度是非常快的。
从2015年以后,TensorFlow的流行度远超其他深度学习框架。
3.1 深度学习落地行业
随着深度学习的发展,深度学习已经和很多行业结合起来,比如AI+金融,AI+医疗等,但是在服装设计行业还很少,就目前来说,AI+服装行业还是一片蓝海。
国内的时尚一直以来都是紧跟欧美时尚,国内的服装设计师通过不断的寻找欧美的时尚素材,然后进行二次创造,但是创作的过程存在两个问题,一是时尚素材过于散,查找困难,二是设计师难以理解淘宝上的相关服装数据,没办法利用这些数据服务于设计,这也是知衣科技想要解决的问题,知衣科技是一家AI电商解决方案提供商,利用图像识别、个性化推荐等人工智能技术为电商行业提供人工智能解决方案,辅助设计师完成服装设计。
下图是淘宝的数据工具:
1)多源:如果有上千个品牌方,就有上千个官网,还有很多的时尚网站,如何去收集这些信息其实是一个难点。
2)异构:设计师需要参考的既有图像类的非结构化数据,也有文字这样的半结构化数据,还有交易结构化数据,如何将这些数据有机的串联起来存在挑战。
3)海量:在互联网上有上百亿的服装信息,上亿的商品交易信息。
如何去处理这些图片、文字、交易信息,去帮助设计师去选款是知衣科技要解决的问题。
4.1标签问题和解决办法
深度学习的识别和分类都是比较成熟的技术,但是如何把这些技术应用到服装行业确是一个新的问题。目前时尚图片的标注数据准确率低,因为时尚是一个专业性的东西,并不是每一个人都能理解时尚,所以很难标注,知衣科技的标注是由服装学院的设计师们帮忙标注的, 标注的准确率很高。
在服装识别中,我们把服装分为了五大类:上衣、下衣、包、鞋子、连衣裙, 再对五大类做细分,总共有150多种标签,设计师需要的是更细的划分,比如前几年流行的一字肩,这种细节需要从大量的数据中去发现。
整体的网络构造分两层,第一层是Faster R-CNN识别服装的过程,第二层是把识别到的服装经过一些风格的过滤器, 输出到不同的FeatureMap里,有些是形态的,有些是风格的,然后根据不同的风格进行聚类,再针对这些问题去做回归。
配套PPT下载,请识别底部二维码关注社区公众号,后台回复【1129】
作者介绍:
郑泽宇,知衣科技联合创始人兼CEO。国内第一本TensorFlow读物《TensorFlow:实战Google深度学习框架》作者,该书销量稳居京东人工智能榜前3。归国创业之前,郑泽宇曾任美国谷歌高级工程师。从2013年加入Google,作为主要技术人员参与并领导了多个大数据项目。由他提出并主导的产品聚类项目用于衔接谷歌购物和谷歌知识图谱(Knowledge Graph)数据,使得知识卡片形式的广告逐步取代传统的产品列表广告,开启了谷歌购物广告在搜索页面投递的新纪元。 2013年5月获得美国Carnegie Mellon University大学语言技术研究所硕士学位。期间在国际会议上发表数篇学术论文,并被评为Siebel Scholar。此项荣誉每年仅授予105位全球顶级研究生。2011年毕业于北京大学信息科学与技术学院,荣获北大优秀毕业生称号及信息科学与技术学院十佳毕业论文。郑泽宇在机器学习、人工智能领域有多年研究经验,并在SIGIR、ACL、ICDM、ICWSM等顶级国际会议上发表多篇学术论文。
——END——
DataFun算法交流群欢迎您的加入,感兴趣的小伙伴欢迎加管理员微信:
文章推荐:
「回顾」Recent Advances on Object Detection in MSRA
社区介绍:
DataFun定位于最“实用”的数据科学社区,主要形式为线下的深度沙龙、线上的内容整理。希望将工业界专家在各自场景下的实践经验,通过DataFun的平台传播和扩散,对即将或已经开始相关尝试的同学有启发和借鉴。DataFun的愿景是:为大数据、人工智能从业者和爱好者打造一个分享、交流、学习、成长的平台,让数据科学领域的知识和经验更好的传播和落地产生价值。
DataFun社区成立至今,已经成功在全国范围内举办数十场线下技术沙龙,有超过一百五十位的业内专家参与分享,聚集了万余大数据、算法相关领域从业者。