如何从大数据架构师转型行业人工智能产品经理?
https://v.qq.com/txp/iframe/player.html?vid=j0514b7v4f4&width=500&height=375&auto=0
如何从大数据架构师转型行业人工智能产品经理?
孟嘉,明略数据技术合伙人,大数据关系挖掘分析平台 SCOPA 的总架构师与负责人。2014 年底加入明略数据,负责大数据关联分析平台 SCOPA 的研发与架构设计,经历了 SCOPA 产品从 0 到 1 的过程,见证一个新的产品如何一步步通过实际项目打开市场,并帮助公共安全和金融行业客户解决实际问题。
我在明略数据经历了从研发人员,到架构师,技术经理,再到产品负责人的成长过程,也经历了从深入研究技术到理解行业,将技术应用到行业真正帮客户解决问题的过程。这个成长的过程让我很兴奋,我很想和大家分享一下。我认为首先应该找一份自己喜欢的工作,只有在做自己喜欢的事情,才会愿意投入精力,才能不断思考把事情做的高效。而在一个快速成长的创业公司能收获很多,因为在创业公司的平台上往往限制回更少,做的越多,机会就越多,收获也越多,能够跟着公司一起快速成长,这也是我这两年最深的体会之一。
很多同学都比较关心职业发展,或者通俗一点的说,选择一个什么样的职业能实现财富。我想为大家分享一下最近读的一本书,叫《黑客与画家》。这不是一本新书,它的作者是一位哈佛计算机博士,他在书中的很多观点或者预言都成为现实。他曾经在 2001 年写到苹果还没有失败,如果它能把 iPod 升级成手机,微软就有大麻烦了,而苹果公司的 iPhone 手机于 2007 年 6 月上市。
这本书中就提到了要致富,你需要两样东西:可测量性和可放大性。你的职位产生的业绩,应该是可测量的。此外,你还必须有可放大性,也就是说你做出的决定能够产生巨大的效应。所以如果你有一个令你感到安全的工作,你是不会致富的,因为没有危险,就几乎等于没有可放大性。
我认为这些年实际的项目经验积累对我的成长是非常重要的。从研究生阶段专注的应用服务器分布式集群方向,到后来工作中接触到的高并发、高吞吐的网络应用。在加入明略数据前,我已经参与过几个实际落地的大数据项目,也有过兼职创业的经历,这些都让我积累了软件设计和研发的经验。经验对于一个架构师很重要,架构试错的代价是很高的,作为架构师,既要见多识广,从整体掌握,了解系统全局,又要深入到关键的细节,思考如何突破系统的瓶颈。
大家知道在大数据领域里面可以利用的开源组件是很多的,比如计算框架有 MR、Spark,流式计算可以用 Storm、Spark Streaming、Heron,资源管理可以考虑 YARN 或 Mesos,KV 存储文档存储可以考虑 HBase、Redis、Cassandra、MongoDB,SQL 引擎可以使用 Hive、Impala、Phoenix、SparkSQL 等。
每一个组件都要深入理解简直是不可能任务。我也听说过有人说所谓大数据架构师的工作就是把一些开源组件组装成一个系统,我认为这种想法离架构师的实际工作偏差是很大的。架构就像盖楼房打地基,地基不稳,随着楼层的增高,迟早要出问题。架构师最先面对的是对系统需求的理解,这点非常重要,我认为在早期架构师一定要是和产品经理甚至客户沟通最多的人。
此外,架构师从一开始就要考虑的问题有很多,举几个大部分系统都会碰到的问题,系统将来如何扩展如何平滑升级,如何处理高并发,如何设计存储,如何对时间空间作出权衡。听上去好像无从下手,其实也没有那么困难,我通常思考的第一个问题是有没有自己做过的或者别人分享过的类似的成功架构案例。所以架构师的经验是很宝贵的。我在最初接触大数据技术的时候就经常参加现在的一些分享交流活动,去尽可能多听一听成功技术经验,现在回想起来对我的帮助很大。
另外,我觉得至关重要的一点是,架构师要非常了解业务,不断和产品经理沟通,作为 toB 产品的系统架构师,如果有机会也要不断接触最终用户,理解需求。
我觉得在这个市场上真正能深入行业的优秀的 To B 产品经理是非常稀缺的,养成周期也是比较长的,他需要在这个行业中不断去接触客户,理解行业,进一步总结需求形成功能点。在 To B 创业公司往往最缺的就是这种既懂技术又懂业务的复合型人才。如果对行业理解不透,对客户的需求理解不透,在产品上就会走弯路,这个代价是很大的,往往花了很大力气,用了很多资源开发了一个在技术上很领先的功能,但对客户却没有什么帮助。我也可以很坦诚的告诉大家像这样的坑我们是趟过的。
产品经理是对一个产品成败的第一负责人,我渴望看到我可以推动一个具有先进技术产品能够真正落地到一个行业,推动这个行业。所以这也是我从做技术到做产品的一个重要原因。从技术到产品并不意味着要放弃技术,恰恰相反,需要更加深入的从行业从场景方面了解技术,知道怎么用技术的提升产品。我在明略数据也继续做着我喜欢的架构师的工作,我也认为这对做产品负责人这个角色有很大帮助。
我个人参与的明略数据的大数据关联分析平台 SCOPA 产品主要应用在公共安全领域,公安里面有很多警种,情报、技侦、网安等等,每个警种都有自己的数据,结构化的非结构化的都有,如何在这些异构的数据基础上建立统一的大数据模型是面临诸多挑战之一。公安是典型研究像人这样的实体和实体之间关系的行业,背后用到的核心技术是知识工程和人工智能的相关的技术。
我们在与行业 - 企业客户日常工作中,都会运用到知识工程这一套融合了自然语言处理、知识图谱构建与存储、知识检索与推理等技术的智能平台,将知识管理与特定行业业务相结合,在业务运营过程沉淀和积累行业知识,并将知识应用于未来的业务中,形成行业智慧,帮助整个行业实现生产能力的跨越式提升。其中构成知识工程最核心的部分就是知识图谱构建与存储,就比如目前运用在公安行业的 SCOPA 这款产品的背后就存储的是一张巨大的知识网络,我们把它叫做行业知识图谱。知识图谱这个概念最早由 Google 提出,主要是用来优化搜索引擎,当你搜索微软的时候,旁边会出现相关人物比尔盖茨。
知识图谱的发展也助力很多人工智能场景的发展,我们目前生活中很多热门的人工智能场景背后都有知识图谱技术,比如语音助手siri,聊天机器人,智能问答等等。知识图谱描述的是现实世界中的实体,以及实体之间的关系。知识图谱的构建是一件有挑战性的工作,主要就是进行实体和关系的抽取,里面涉及到很多自然语言的技术与行业经验规则。大规模知识图谱的存储同样需要考虑很多因素,我们采用了混合的存储模型,包括图存储,列存储和索引存储,来加速对知识数据的查询。
我们在产品中也用到了很多人工智能的技术。人工智能的发展和大数据是分不开的。最近最火的深度学习在数据肥沃且可以归纳学习的领域发展飞速。
随着人工智能技术的发展,我认为在将来对于基本的机器学习问题的理解和开发能力会是程序员的基本技能之一。现在的开源框架对很多人工智能场景已经支持的不错,可以参考的文档和相关书籍也越来越多。我身边有很多刚毕业的同事在学校的时候就已经有机器学习的知识,也跟着教程开发过一些程序,比如一些简单的分类器,进入工作岗位后面对实际行业问题后,特别是在有经验的工程师带领去完成一个真正的机器学习任务,就会成长的特别快。
我特别想分享给大家的是,将一个新兴的技术带到一个实际行业中去解决实际问题,往大了点说,当看到你的工作真正在推动这个行业的发展,提高这个行业的效率,那么你的成就感就会被放大。结合大数据将人工智能技术落地到行业,比如在公安领域,我们就可以做到用结合人工智能技术的关联挖掘分析平台辅助警察进行研判工作,让警察办案效率大大提高。这是一件很酷的事情。
龙为科技
龙为科技|【龙为科技】科技强国 创新圆梦
龙为科技|“龙为科技”创始人 孙为龙 受“英国前首相-布莱尔“亲切接见
龙为科技|“龙为科技”荣获“中国产业园区优秀服务商”和“中国产业园区优秀运营商”双料大奖
龙为科技|“龙为科技”荣获“美育圆梦-2017中国十佳爱心助梦企业”
龙为科技|“龙为科技”探秘“世界500强京东总部”
龙为科技|龙为科技受邀参加“中国数学大师-吴文俊先生追思会”
龙为科技|“龙为科技与百度”公司共同参与“一带一路“高峰论坛《北京城市宣传片》拍摄工作
龙为科技|2017年6月5日百度的”最强大脑“-“小度”正式入职啦
龙为科技|“龙为科技 创始人 孙为龙”受聘“中国IT高管会特邀讲者”
龙为科技|“龙为科技”受邀参加“2017第四届中国机器人峰会”
龙为科技|龙为科技参加“2015年第一届世界机器人大会”和“2016年第二届世界机器人大会”
龙为科技|龙为科技参加“2015年第二届中国机器人峰会”和“2016年第三届中国机器人峰会”
龙为科技|“龙为机器人”荣获央视、北京卫视“中国最佳机器人服务商“称号
龙为科技|2016CCTV央视财经论坛暨中国上市公司峰会:中国机器人走进众多服务领域
龙为科技|龙为科技拜访中国机器人产业奠基人之一“贾培发”教授
龙为科技|龙为科技拜访中国最大的机器人上市公司“新松机器人”
龙为科技|“龙为科技”当选“一带一路政企对接平台 高科技产业应用中心 理事长单位”
龙为科技|龙为科技成为世界500强北汽集团(福田和北汽新能源)“品牌运营服务商”
龙为科技|龙为科技成为世界500强“中国建设银行”的“品牌运营服务商”
龙为科技|龙为科技成为世界500强“万科集团”的“品牌运营服务商”
龙为科技|龙为科技成为世界500强“万达集团”的“品牌运营服务商”
龙为科技|龙为科技成为中国500强“亚洲最大乳企-伊利集团”的“品牌运营服务商”
龙为科技|龙为科技成为中国500强“平安银行”的“品牌运营服务商”
龙为科技|龙为科技成为中国500强“华夏银行”的“品牌运营服务商”
龙为科技|龙为科技成为“地产界”的“智能科技品牌运营服务商”
龙为科技|龙为科技成为“北京国税局”的“智能科技品牌运营服务商”
龙为科技|龙为科技成为“商业综合体”的“智能科技品牌运营服务商”
龙为科技|龙为科技成为“综合商场业”的“智能科技品牌运营服务商”
龙为科技|龙为科技成为“众创空间业”的“智能科技品牌运营服务商”
龙为科技|龙为科技成为“香河城市规划展览中心”的“品牌运营服务商”
龙为科技|龙为科技成为“剑桥高科技”的“智能科技品牌运营服务商”
龙为科技|龙为科技成为“中国婚庆行业”的“智能科技品牌运营服务商”
龙为科技|龙为科技成为"餐饮行业”的“智能科技品牌运营服务商”
龙为科技|龙为科技成为“直销业”的“智能科技品牌运营服务商”
龙为科技|龙为科技成为《中国企业家杂志三十周年》的“智能科技品牌运营服务商”
龙为科技|龙为科技成为“京城最大生态农庄-悠然谷农场”的“智能科技品牌运营服务商”
全球化:
AlphaGo的背后英雄:DeepMind创始人(得米斯.哈萨比斯)
GMIC 2017全球峰会(北京站)全览:AI机器人篇(当代伟大的科学家“霍金”演讲)
2017巴菲特股东大会(完整版):巴菲特谈人工智能会带来颠覆性变化
2016年全球智能机器人RBR50强 “中国3家(新松、大疆、富士康) “
2016年(第二届)世界机器人大会全集(含2015年第一届)
科学家们是怎样制造智能机器人的?(视频)
2017年亚布力论坛:工业4.0启示-智能时代的来领-智能机器人
2017年新媒体科技时代:AI人工智能、机器人、物联网、VR、社群直播
迎接2017:2016年央视《对话》节目共三期“人工智能”(完整版视频)
布局2017之未来布局:技术的趋势将会决定这个市场竞争的关键
直击2017CES|人工智能和机器人、物联网、虚拟现实(VR、AR)、智能家居、智能汽车
2017达沃斯 李开复:人工智能是中国可能引领全球的最大机遇
全球各国:
【中国人工智能、美国MIT机器人】MIT机器人12项前沿技术、中国人工智能(腾讯、百度、360、小米、今日头条)
【中国、瑞士ABB】:中国福建首台电力机器人上岗、银行客服机器人、瑞典世界500强ABB自动化
【中国、美国、新加坡】:银行助理机器人、餐饮服务机器人、餐饮自动化
【美国、中国、日本】:美国facebook科技创新、中国泊车车载机器人、日本东京未来科技馆机器人互动
【美国、日本、中国】:美国的流水线机器人和导购机器人、日本生活辅助机器人、中国的服务机器人
【美国、新加坡、中国】:美国的机器人有望代替裁判执法NBA比赛、新加坡的机器人建筑质检员、美国的机器人格斗比赛
【中国、美国、以色列、英国、瑞士】:快递机器人、仿人机器人、无人机
【中国、日本、美国、法国、以色列、巴西】医疗健康、护理康复、外骨骼机器人
【美国、韩国、日本】:美国消防机器人、韩国军用机器人、日本向导机器人
医疗健康养老:
太空机器人:从太空看地球,震撼到美
酒店机器人:酒店机器人
中国:
中国人工智能学会理事长 工程院院士 李德毅:无人驾驶的图灵测试
中科院沈阳自动化研究所所长 于海斌:机器人智能技术与测评体系发展
金融银行家 马蔚华 :人工智能和大数据在金融科技的创新和应用
《第一财经》CEO周健工:人工智能时代一个城市会变成什么样?
2017年绿公司年会|马云:30年后,年度最佳CEO也许是个机器人
2017中国(深圳)IT领袖峰会:迈向智能新时代(BAT畅谈人工智能、机器人)
“颠覆性技术与人类未来”:当互联网遇上科学,人工智能将为人类带来怎样的未来?
央视《对话》:人工智能未来的极限到底在哪里?(含两期完整版视频)
2016中国发展高层论坛:马云、扎克伯格(机器人、人工智能AI、虚拟现实VR)
2016中国数博会:聚焦人工智能、机器人、VR、大数据热点应用,开启智能时代
2016上海CES(亚洲消费电子展):智能机器人,无人机,VR,自动驾驶成为主旋律
芯片:
智能科技:
智能制造
智能先锋(海尔M2C-红领C2M-韩都衣舍的云平台)
华为:
【全国科技创新大奖】:华为 任正非(以奋斗者为本 以客户为中心)
华为诺亚方舟实验室主任 李航:人工智能的未来---记忆、知识与语言
富士康:台湾富士康科技的机器人计划(内含郭台铭“真情告白“)
阿里巴巴:
首度解密《阿里巴巴》珍贵影像:马云和他的“少年阿里"《Dream Maker》(造梦者)
中兴:解密《ZTE 中兴:未来,不等待》(人工智能机器人之娱乐机器人)
联想:
万科:“谁的万科” 再起波澜!(人工智能机器人之探险机器人)
海尔:海尔:智能工厂、Ubot智能管家机器人、商用服务机器人
美的:“美的”迎来智能时代:机器人、智能厨房、智能家居、智能工厂
百度:
【第四季《最强大脑》将“人机大战”】:百度“小度”人工智能机器人 PK 人
百度首席科学家:国际人工智能专家 吴恩达(原谷歌无人驾驶项目负责人)
腾讯:
2017年两会马化腾两会带来七大建言 关注数字经济等热点话题
京东:
小米:2017中国两会代表-小米雷军议案:把人工智能列入国家战略、新零售、“一带一路”战略
科大讯飞
2017年全国两会科大讯飞刘庆峰建议:呼吁全社会关注人工智能,抢占全球人工智能产业制高点
乐视:【乐视-FF91】新物种 重构未来 开启人工智能互联网生态汽车元年(完整版)
搜狗:搜狗汪仔机器人-搜狗CEO王小川:智能科技揭示的美丽未来
携程:携程 创始人 梁建章:关于机器人、失业和创新、人口和旅游
大疆:从无人机到机器人,大疆创新(Robomasters 机器人比赛)
创新工场:
达闼科技:科幻与人生—从星际迷航到机器人
美国:
美国再制造业-特朗普:建美国厂 雇美国人 买美国货(英特尔宣布70亿美元在美建厂)
GE:通用电气(GE)呈现|[机器人篇]工业互联网(完整版视频)
微软:
苹果:
苹果机器人11秒把 iPhone大卸八块(含乔布斯斯坦福毕业演讲)
2016苹果WWDC大会(人工智能和iOS 10以及OS X的系统)
谷歌:
谷歌I/O大会:人工智能,智能机器人,VR标准,机器人学习系统
IBM:
亚马逊:
Facebook:
Facebook的三大愿景:连网、人工智能机器人、虚拟现实(内含扎克伯格清华大学“中文秀”和IEEE访谈)
特斯拉:解密特斯拉工厂,机器人无处不在(埃隆马斯克TED大会视频)
英特尔:
英特尔的机器人战略:3D打印机器人、Segway平衡车机器人、全向变形机器人(完整版视频)
Uber:Uber的发展历史:”人工智能,机器人技术“ 功不可没
麻省理工:
卡内基梅隆:
卡内基梅隆大学人工智能机器人实验室:我们身边的人工智能机器人
雷伊·雷蒂(图灵奖|卡内基梅隆大学机器人研究院创始院长):人工智能机器人让我们生活更智能
伯克利:世界科技圣地:加州大学伯克利分校
日本:
软银:
2017MWC 软银孙正义:三十年内机器人数量和智力均将超越人类
软银的三款智能机器人—NAO、Pepper、Romeo(孙正义计划用机器人产业重塑日本经济)(完整版视频)
松下:
日本“松下”的机器人战略:外骨骼机器人、助理康复机器人、Rulo扫地机器人、通信机器人、全自动洗头机器人(全套完整版)
索尼:SONY 索尼的机器人计划(内含SONY科幻短片「The Last One」)
德国:
德国汉诺威:
2016德国CeBIT展:智能智造、智能机器人、人工智能(德国汉诺威消费电子信息通信博览会)
韩国:
三星:三星人工智能在路上
SK:SK电讯:进入了人工智能(AI)市场,推出了全球首个韩语数字服务助理平台“NUGU”
以色列:
医疗健康、护理康复、外骨骼机器人
新加坡: