丁丁在上海

关于北京科兴生物违法犯罪的举报信

中国驻乌克兰前大使高玉生:俄已败!

看懂当下和未来的三件事

人民日报:决不允许“文革”错误重演

分享到微信朋友圈

点击图标下载本文截图到手机
即可分享到朋友圈。如何使用?

自由微信安卓APP发布,立即下载!

壁仞科技研究院

神经渲染最新进展与算法(二):NeRF及其演化

NeRF渲染实现正是按照上述步骤实现,并通过离散采样,投影积分过程转换为累积求和。由于体素特性由可微的MLP函数表征,整个渲染流程是可微的,从而方便在现代深度学习框架上实现。
2021年9月13日

因果发现最新进展及其在复杂系统中实践的探讨

process)是一种能描述复杂系统的点过程,广泛应用于社交网络分析、生物信息学、金融分析等多个领域。目前,在霍克斯过程中发现格兰杰因果关系是因果推断的重要研究内容,日益受到关注。
2021年9月6日

病理AI:基于深度学习的方法综述

域适应主要是从特征层面进行调整,以使得两个域的数据分布更为接近,而染色归一化则直接调整输入图像,以使得不同染色条件下的输入图像在外观上更为相近。此外,可以通过图像增强(Data
2021年8月30日

神经渲染最新进展与算法(一):语义图像合成

GANcraft是2021年上半年提出的一项有影响力的工作[5]。它以MineCraft风格的语义像素块作为输入,输出的不仅仅是对应的单张真实感图像,而是任意视角的真实感图像。
2021年8月23日

多面体编译技术在软硬协同设计中的应用

脉动阵列是基于数据流的计算架构,具有十分规则的计算范式,对于两个大小为4x4的矩阵乘投射到一个二维的4x4的脉动阵列上,其计算架构和数据流动可以表示为下图。本文的分析也针对二维脉动阵列展开。
2021年8月13日

机器学习方法在数字芯片设计中的应用

google使用RL方法进行floorplan设计[6]
2021年8月9日

基于MLIR实现GEMM编译优化

Dialect)。在这一层的转换过程中,基本包含了所有的策略,如:Tile,定制化复制,unroll,vectorize等。然后再将中间的辅组层的Dialect,进一步lower到LLVM
2021年7月31日

深度生成网络新思路:扩散概率模型

从噪音中恢复/生成有意义图像的效果见图1。此外,DDPM可以对隐空间中源图像进行插值,即先通过编码器q对图像,映射到对应的,,再用反向过程的p将,的插值进行解码映射到图像空间,实际效果见图2。
2021年7月24日

深度低照度图像增强-损失函数详解

Enhancement,arXiv:2001.06826.
2021年7月17日

神经网络的图结构

这一现象也表现在单个度量与NN模型性能的图上。如图3,两个度量上的性能都可拟合为U型曲线。在度量的中间某处的NN模型性能最佳。有趣的是在附件中作者还发现其它图度量与NN模型性能也呈现U性曲线趋势。
2021年7月3日

「热力学计算」:从Landauer边界到终极计算机

按照此规律,图(b)中我们在已给定如图所示的初始值的情况下判断右上角的节点值可以知道,此时该节点应取值为0,此时整个网络的能量为-3,因为若取值为1的话整个网络的能量将为-(3-4)=1
2021年6月26日

Transformer在计算机视觉领域的应用

实验结果表明:当ViT直接在ImageNet上训练时,同水平的ViT模型效果要比ResNet差,但如果规模较大的数据集上预训练后微调,模型效果可以超越ResNet。例如ViT在Google的300M
2021年6月19日

基于观察数据的因果推断

(Intervention))对健康的影响,以及更高一层的人工智能推理,如反事实推理(Counterfactual),如估计吸烟个体如果当初没有吸烟现在的健康情况。
2021年6月12日

联邦学习模型在医学图像处理领域中的应用实例分析

为了防止模型逆向攻击从中提取到病人数据等敏感信息,作者采用选择性参数更新方法和SVT方法,以保护隐私、对抗数据泄露。选择性参数更新方法能够限制用户分享的信息量,包括:(1)
2021年6月5日

条件随机场在病理图像分析中的应用

Field)模型在很多领域都有广泛的应用,如自然语言处理中的命名实体识别任务以及计算机视觉中的图像分割任务在加入条件随机场模型后都能获得更好的效果。有关条件随机场的详细介绍可以参考Charles
2021年5月29日

科学计算领域的低数值精度加速问题

目前,越来越多新型的AI算法融入到了科学计算项目。在刚刚结束的GTC21专题上,学者们介绍了赢得SC20
2021年5月22日

擎天柱: 训练超大模型的高效二维方法

heads。中间结果被划分为n/p组Q,K和V矩阵,每一组计算得到。n/p个计算结果在一起重新排列,并和第二个子矩阵相乘,再归约得到最终结果。同样地,每个处理器都需要存储一整个的输入和输出。
2021年5月15日

MLIR编译技术应对硬件设计挑战?—初探CIRCT项目

的演讲,阐述了异构计算黄金时代的今天,也迎来了编译器的黄金时代。文中提到了针对新硬件架构下的硬件设计工具,需打破现有的“碎片化”状态,打造统一的硬件设计框架。
2021年5月8日

图神经网络加速器深度调研(下)

进行GNN加速器的访存优化,除了上述访存规模的优化外,还有两个关键技术,分别是预处理(数据重排序,Data
2021年5月1日

图神经网络加速器深度调研(中)

Architecture);还有一类是用同样的硬件单元完成稀疏矩阵计算和稠密矩阵计算,称之为统一式架构(UniformArchitecture)。
2021年4月24日

图神经网络加速器深度调研(上)

节点特征变换的特点是只在网络的每个节点内单独进行,但权重一般会在不同节点间共享。被变换的特征可能是本节点特征与聚合的消息特征,也可能只有消息特征。常见的变换方式有一层或多层的全连接网络(Fully
2021年4月17日

基于IREE HLO项目看MLIR编译器实现的过程及优势

总体而言,MLIR在这一方面,为算子的访问,表示,及验证等方面提供了非常完整的基础设施,使得开发人员可以专注于算子的内容定义,而不用花很多的精力去关心算子的周边接口表示及其他内容的实现。
2021年4月10日

片上系统设计案例分析 - Xbox主机

9xx系列处理器,因此,Xbox360的处理器频率直接比前代Xbox翻了4倍以上。此外,图形API的发展也突飞猛进,DirectX8.0中引入vertex
2021年4月3日

深度反演方法的可靠性分析

https://mp.weixin.qq.com/s/xCzK4NtXpodXmXjF_2TMAA
2021年3月27日

从NAS到Apollo,优化方法如何助力设计空间探索(续)

fabrics可以看成是不同神经网络结构的混合。另一个主流的方法是ENAS[10],将神经网络结构以计算图的方式来表示,从整图中衍生出的不同子图组成了架构探索的空间,训练要求所有子模型共享权重。
2021年3月20日

从NAS到Apollo,优化方法如何助力设计空间探索

optimization)。在后续的第二部分中,将研究基于可微分的非黑盒子方法DARTS(Darts
2021年3月13日

深度学习在反演成像中的最新进展

本文介绍了用于成像的反演技术,简单描述了反演成像的一般方法。本文重点总结了深度学习技术在反演成像中的最新应用进展,并讨论了深度反演成像存在的问题及可能的研究方向。
2021年3月6日

MLIR多层编译框架实现全同态加密的讨论

Dialect的设计思想?”(https://www.zhihu.com/question/442964082),这里不再赘述。
2021年2月27日

面向大规模图计算的系统优化(3)

在本节中,我们将介绍各个互联网公司所研究或使用的图计算系统,其对应关系如表5.1所示。我们总结工业界所关注的图计算系统的特点,为未来学术界的研究提供借鉴作用,并寻求图系统在创新性和实用性方面的统一。
2021年2月20日

面向大规模图计算的系统优化(2)

Spark[56]构建的嵌入式图形处理框架,通过利用分布式数据流框架中的先进技术,GraphX[31]为图形处理带来了低成本的容错能力,且对于图形算法的处理速度比基本数据流系统快一个数量级。
2021年2月6日

面向大规模图计算的系统优化(1)

对图计算系统进行了详细的调研,并总结了代表性系统的关键技术。按照基于CPU的图计算系统、基于异构器件的图计算系统和基于新兴非冯·诺依曼器件的图计算系统对调研的图计算系统进行了分类。
2021年1月30日

贝叶斯方法与深度学习的结合及应用(2)

learning)从结果不确定性、计算需求等方面进行了剖析。大量计算是现在深度学习普遍遇到的一个难题,更是贝叶斯方法从理论走向广泛应用的一个技术瓶颈,本文也从并行化计算方面对文[2]进行了深入研究。
2021年1月23日

谷歌如何打造世界上最快的AI超级计算机系统?(下)

随机翻转;(3)按MLPerf的要求进行图片正则化使得他们有常量的平均值和方差。这会极大地增加主机输入数据流水线的吞吐率,使得它能创造一个大的预取缓冲区(prefetch
2021年1月16日

谷歌如何打造世界上最快的AI超级计算机系统?(上)

Berkeley读博期间在谷歌公司总部的谷歌大脑团队实习4次。
2021年1月9日

贝叶斯方法与深度学习的结合及应用(1)

Ranking,BPR)思想[5]。因此,模型训练的目标转换为给定训练数据集,最大化模型参数Θ,如下式所示。其中,{>u}Ds是从给定训练数据中得到的所有用户的物品全序关系(total
2021年1月2日

在壁仞科技研究院,我们思考的问题

同时,计算框架和编译技术的发展,给了我们新的软件优化手段和工具。这些技术的组合,会大大扩展我们的设计空间。这种设计空间的“扩展”带给我们“降维打击”的机会,有可能同时实现多个相互制约的优化目标。
2020年12月19日

加入图卷积的多智能体强化学习

图3,智能体行为可视化,其中红色代表智能体,蓝色代表敌人(battle)或食物(jungle)(图片来源:文献[1]图5)
2020年12月5日

概率图模型在深度学习的应用

Learning,BDL)方法,其核心思想是利用一个统一的概率框架将深度学习的出色感知能力与概率图模型(Probabilistic
2020年11月28日

图结构: 分析神经网络的新视角-2

平均路径长度和聚合系数是图理论中常用的两个度量。但这种经验性的选择是否适合神经网络的性能表达?是否存在更合适的图度量组合,甚至可以从理论上证明?这些相关问题或许是下一步研究可以探讨的地方。
2020年11月14日