云路演 | 瑞莱智慧RealAI：第三代安全可控人工智能技术，引领AI迈上新台阶

项目联系或云路演录制，请联系[e-mail]

“

人工智能技术在很多场景里正逐渐替代或协作着人类的各种劳动，它们可以成为人类的眼睛、耳朵、手臂甚至大脑。然而以深度神经网络为代表的人工智能技术，存在不可靠、不安全以及不可信的问题，众多主流应用场景的背后，往往也藏着由技术性缺陷导致的算法安全风险。

以下内容为智汇邦对瑞莱智慧公司副总裁唐家渝的采访整理而成，部分采访实录见文章末尾。

”

项目信息

项目标签：第三代人工智能引领者

所属行业：人工智能

项目阶段：快速成长期，可以产业化

项目需求：寻找市场客户

公司简介

瑞莱智慧RealAI是首家第三代安全可控人工智能技术及行业解决方案提供商，来自于清华大学人工智能研究院官方团队，致力于打造安全、可靠、可信的第三代人工智能，基于安全可控的核心算法技术，提高企业级人工智能解决方案可靠性与安全性。

凭借领先的创新技术和巨大的市场潜能，RealAI在数据挖掘最高学术会议KDD2019上荣获Startup Research Awards，成为全球四家获奖公司之一，此外还荣获CSDN“2019 优秀人工智能案例 TOP 30+”、新芽榜Venture50、机器之心“中国十大最具潜力早期AI公司”等诸多荣誉。

第三代人工智能

人工智能技术发展至今，可以划分为两个阶段。第一代AI是知识驱动的符号模型，最典型的是逻辑专家系统，它能够基于规则狭义定义任务系统，可解释性非常强，但无法解决大规模应用的问题。第二代AI是数据驱动的，包括早期的统计学习方法、现在最热门的深度学习方法。它的特点是能够从数据内部自动进行学习，随着数据量增大，模型的学习能力会变得越来越强。但与此存在的问题是：依赖于大量高质量数据，不能适应不断变化的条件，算法的可解释性也非常差。

RealAI提出的第三代人工智能，采用“知识+数据”双驱动的方式，具有安全、可靠、可信三大特性，可以在样本不足、噪声高、标注差等情况下提升预测效果，白盒化AI模型提供可理解的决策依据，在恶意攻击等情况下仍保证判断能力，能够帮助工业、金融、安防、医疗健康以及自动驾驶等领域带来目前受制于技术瓶颈而未产生的全新业务价值。

核心技术

贝叶斯深度学习

在众多的技术路径中，RealAI选择的是贝叶斯深度学习技术，即将深度神经网络与贝叶斯机器学习相结合。 贝叶斯机器学习一个典型的优势是对隐含变量的建模与推断，揭示背后规律。通过贝叶斯网络方法，基于图论的结构化先验知识，可以提升模型表达的灵活性，提高学习效率。

左：深度生成式模型，中：贝叶斯神经网络；右：AI安全技术

与之相对的，深度神经网络有超强的拟合能力，可以对一些未知的分布和关系可以做精准的拟合，将两者结合的贝叶斯深度学习方法，可以实现目前单独通过两者都无法实现的能力。

应用场景

依托清华人工智能研究院源头性的AI技术支持，RealAI致力于打造第三代安全可控人工智能平台，搭建一站式安全可控的AI行业解决方案，深入工业、金融、公共安全等垂直领域，提供金融风控、设备资产运营优化、生产成本与效率优化、人工智能系统安全性检测、AI防火墙等产品和服务。

一、工业AI

RealAI推出的工业AI系统平台，从工艺参数优化、预测性维护到AI视觉质检，提供一站式机器学习系统，能快速建立跨领域的AI模型，提升迁移性，降低开发成本，满足工业人工智能需求。广泛应用于油气管道检测、大坝安全评估、风机健康诊断和光伏组件缺陷检测等领域。

例如在与某电力集团公司合作的大坝安全智能监测项目中，RealAI通过对大坝不同类型的传感器信号相互补全，分析监测信号，预测故障优化运行效率，极大地降低大坝的维护成本，未来能够赋能全国9万座水坝。

安全可控AI服务于高价值设备的生产、使用和运营维护

二、金融AI

RealAI第三代人工智能在无标签、少标签、冷启动和不确定性处理等场景有更好的模型表现，拥有黑盒转白盒的可解释性优势。通过端到端机器学习建模平台RealBox发挥自研算法优势，RealAI帮助金融机构实现更加精准且稳定的理财产品流动性预测；在大数据风控领域更精细的运营长尾资产，零成本回捞拒绝客户，通过更具可解释性的预测结果实现业务的智慧化提升，提高金融场景全生命周期的可靠性。

例如在信贷风控领域，RealAI为某银行提供的信贷风控回捞解决方案，实现了行方的个人线上信贷产品通过率从10%提升到15%，且通过6个月表现期观察，逾期率仍维持在原有较低水平，帮助行方扩大了资产规模。

赋能银行智能升级，带给客户超额收益

三、AI安全

RealSafe是世界首个针对AI在极端和对抗环境下的算法安全性检测与加固的工具平台，其内置领先的AI对抗攻防算法，提供从安全测评到防御加固整体解决方案，被视为AI系统的“杀毒软件”，目前可用于发现包括人脸比对等在内的常用AI算法可能出错的极端情形，也能预防潜在的对抗样本攻击。

某算法安全检测项目，详情可查看下方视频

数据表明，部分第三方的人脸比对API通过使用RealSafe平台的防御方案加固后，安全性可提高40%以上。RealSafe平台曾选择一组公众最为熟悉的人脸对比场景来做“对抗样本”研究，选取一组不同的人脸图片（如下图），通过RealSafe平台对其中一张图片生成对抗样本，但不影响肉眼判断，添加“对抗样本”前后分别输入到微软、亚马逊云服务以及国内三家主流企业的人脸比对演示平台中查看相似度。

最终结果显示，添加“噪音”扰动前，两张图片相似度低，Azure、AWS 演示平台判定为“不相同”，但添加扰动后，均错误识别为“相同”，甚至Azure平台前后相似度的变化幅度高达70%以上。

通过RealSafe防火墙“去噪”过滤后，这几个人脸比对平台的识别“误差”获得不同程度的纠正，识别效果得到稳定提升。而且相较于目前常见的开源工具需要自行部署、编写代码，RealSafe采用的是组件化、零编码的功能设置，支持用户灵活调用、快速部署攻防能力，无需拥有专业算法能力也可以完成对算法的在线测评与防御升级。

团队介绍

RealAI作为清华大学人工智能研究院的核心孵化企业，由清华大学人工智能研究院院长张钹院士、清华大学人工智能研究院基础理论研究中心主任朱军教授担任首席科学家，清华大学人工智能专业博士田天担任CEO。

左：张钹院士；中：朱军教授；右：田天博士

张钹院士是中国人工智能领域的先驱者之一，长期从事人工智能的理论、技术和应用研究，率先提出发展第三代人工智能，曾于2019年获得中国人工智能领域最高荣誉“吴文俊人工智能最高成就奖”。

朱军教授是清华大学最年轻长聘正教授之一，曾为美国卡耐基梅隆大学（CMU）兼职教授，目前担任清华人工智能研究院基础理论研究中心主任。他也是中国大陆首位AI顶级期刊IEEE TPAMI的副主编、亚洲第二位IEEE AI 10 to Watch学者，入选国家“万人计划”青年拔尖人才和MIT TR35 China先锋者。

而田天博士曾获得清华大学学生最高荣誉“特等奖学金”与“西贝尔学者”称号，也是清华大学计算机系近20多年历史上第一个研究生清华特等奖学金得主，曾在2019世界人工智能大会期间被AI青年科学家联盟授予“青年AI科学家”称号，同年入选福布斯中国2019年度30岁以下精英榜。

创始人说

智汇邦：目前我们经常提到的深度学习算法，或者说第二代人工智能发展的瓶颈和难点您认为在什么地方？

唐家渝：【其实我们现在大部分人说的人工智能，实际上是基于大规模数据训练的结果，它的好处是随着数据量的增大，模型的判别能力和学习能力也会越来越强，但是他存在的问题是不能适应不断变化的条件，算法的可解释性也非常差。算法可以根据学习产生一个特定的结果，但是这个结果产生的逻辑是怎样的它不是完全清楚的。如果数据有污染，可能就会产生意想不到的“意外”，举一个自动驾驶场景的例子，比如我在路上贴了几个白色的图案点以后，对于人来说只是一个图案，并不会对人的驾驶产生影响，但却能够导致自动驾驶逆行，直接就开到了对面车道上。像特斯拉出过类似的事故，部分原因就是AI识别或预算算法出错，这也是第二代神经网络本质上的缺陷。】

智汇邦：RealAI提出的“第三代人工智能”都有哪些特点呢？

唐家渝：【刚才提到现有的第二代人工智能其实在安全、可靠度和可信度上是存在问题的，所以我们提出的第三代人工智能主要是可信、可靠和安全。第一是可信，算法能够提供白盒化模型和可理解的决策依据；第二是可靠，即便在数据质量差、存在缺陷样本等情况下仍能保证性能稳定提升；第三是安全，算法在受到恶意攻击时仍然保持较高的判断能力。如果符合这三点，我们认为就属于第三代人工智能。】

智汇邦：贝叶斯深度学习技术其实也有很长的历史了，RealAI目前在这一领域都有哪些创新呢？

唐家渝：【目前在贝叶斯深度学习领域，我们主要关注三方面的技术，第一个是深度生成式模型，实现无监督或半监督学习，发现数据深层结构，同时提升可解释性；第二个是贝叶斯神经网络方法，结合神经网络拟合能力与数据不确定性特点，提升预测可靠性；第三个是 AI 安全技术，攻击方面通过添加特定噪声等方法干扰算法输出，防御方面通过 AI 防火墙保护模型。】

点击下方小程序卡片进入专家人才服务网，了解更多人才项目。

更多精彩阅读

云路演 | 吴慧生：特种纳米纤维孔氟膜，打造防护领域金钟罩

云路演 | 西帝摩张正文：大尺寸SLM金属3D打印，成型能力达2米×2米