中国半导体十大研究进展候选推荐（2021-046）——时域存算一体AI芯片

1

工作简介

         ——时域存算一体AI芯片

清华大学集成电路学院尹首一教授团队在存算一体人工智能（AI）芯片方向取得突破。该团队设计的时域存算一体AI芯片TIMAQ，通过融合时域SRAM存内计算和数字可重构架构，克服了时域计算的高延迟瓶颈，可支持任意量化的神经网络，为设计通用灵活、低功耗、高能效的终端AI芯片提供了一条新的技术路径。2021年9月，该研究成果以“TIMAQ: A Time-Domain Computing-in-Memory-Based Processor Using Predictable Decomposed Convolution for Arbitrary Quantized DNNs”为题发表于集成电路领域顶级期刊IEEE Journal of Solid-State Circuits（JSSC）。

随着深度学习的飞速发展，各种人工智能应用迫切需要部署到终端设备上。单一AI芯片需要有足够高的灵活性以支持多种应用的不同数据位宽神经网络。存算一体芯片通过在存储单元内执行模拟计算，消除了传统纯数字架构中“存储墙”的瓶颈，大幅减少了访存功耗及计算功耗。相比传统电压域或电荷域存算一体芯片，基于脉冲的时域存算一体芯片具有更低能耗，因此时域存算一体（TD-CIM）是实现低功耗、高能效AI芯片的一种优良架构。但TD-CIM仍需解决两个技术挑战：1）由于模拟电路的设计复杂、模拟量受制约因素多，TD-CIM架构灵活性、电路重构性较差，只能支持固定位宽、固定数据流的计算；2）TD-CIM通过时间量执行乘加计算，数据值越大，延迟越高。

TIMAQ通过在TD-CIM外围耦合一套数字辅助计算引擎，完成TD-CIM难以实现的算子，并动态调整TD-CIM的数据流与计算精度，实现了对不同应用和不同性能需求的灵活适配。数字辅助计算引擎包括三种单元：1）卷积拆分单元：将任意量化方式（均匀和非均匀量化）、任意位宽的卷积核片上拆分为多个一比特卷积核，从而支持了任意神经网络计算。同时分离卷积计算中的加法和乘法算子，将乘法复杂度从O(n)减少到O(1)。2）卷积预测单元：通过分析数字电路上接收的TD-CIM实时计算结果，动态调整数据流及TD-CIM上的卷积映射，从而消除冗余计算，减少能耗和延迟。3）TD-CIM精度控制单元：根据应用场景的能耗、延时要求，通过数字电路动态选择TD-CIM中脉冲量化的最优频率，自适应地调整TD-CIM的计算精度，满足不同应用对功耗或延时的需求。通过数字辅助计算引擎和TD-CIM的高度配合，TIMAQ实现了高灵活性，可以支持任意神经网络、适配不同应用场景的性能需求。TIMAQ芯片架构和显微照片如图1所示，采用TSMC 28nm工艺实现，芯片面积7.21mm²，可支持1~8b的均匀和非均匀量化的神经网络，峰值能效可达到2.4~152.7 TOPS/W，是之前加速非均匀量化、均匀量化神经网络AI芯片能效的8.87~80.69、1.52~13.83倍。

图1. TIMAQ芯片架构和显微照片。

2

作者简介

通讯作者

尹首一，博士，清华大学长聘教授，集成电路学院副院长，国家杰出青年科学基金获得者。

研究方向为可重构计算、人工智能芯片、低功耗设计。在IEEE JSSC、TCAS-I/II、TPDS、TCSVT、TVLSI和ISSCC、VLSI、DAC、ISCA、HPCA等集成电路和体系结构领域权威期刊和学术会议发表论文100余篇。曾获国家技术发明二等奖、中国电子学会技术发明一等奖、中国发明专利金奖、教育部技术发明一等奖。现任IEEE TCAS-I 和 ACM TRETS 编委。

第一作者

杨建勋，清华大学集成电路学院博士生。

2014年和2017年分别在北京理工大学信息与电子学院获得学士和硕士学位，现于清华大学集成电路学院攻读博士学位，从事神经网络硬件加速、存内计算等方向的研究，在JSSC、HPCA、VLSI、A-SSCC等顶级学术期刊和国际会议上发表多篇论文。

3

原文传递

详情请点击论文链接：

https://ieeexplore.ieee.org/document/9491142

《半导体学报》简介：

《半导体学报》是中国科学院主管、中国电子学会和中国科学院半导体研究所主办的学术刊物，1980年创刊，首任主编是王守武院士，黄昆先生撰写了创刊号首篇论文，2009年改为全英文刊Journal of Semiconductors（简称JOS），同年开始与IOPP英国物理学会出版社合作向全球发行。现任主编是中科院副院长、国科大校长李树深院士。2019年，JOS入选“中国科技期刊卓越行动计划”。2020年，JOS被EI收录。

“中国半导体十大研究进展”推荐与评选工作简介：

《半导体学报》在创刊四十年之际，启动实施 “中国半导体年度十大研究进展”的推荐和评选工作，记录我国半导体科学与技术研究领域的标志性成果。以我国科研院所、高校和企业等机构为第一署名单位，本年度公开发表的半导体领域研究成果均可参与评选。请推荐人或自荐人将研究成果的PDF文件发送至《半导体学报》电子邮箱：[e-mail]，并附简要推荐理由。被推荐人须提供500字左右工作简介，阐述研究成果的学术价值和应用前景。年度十大研究进展将由评审专家委员会从候选推荐成果中投票产生，并于下一年度春节前公布。

JOSarXiv预发布平台简介：

半导体科技发展迅猛，科技论文产出数量逐年增加。JOSarXiv致力于为国内外半导体领域科研人员提供中英文科技论文免费发布和获取的平台，保障优秀科研成果首发权的认定，促进更大范围的学术交流。JOSarXiv由《半导体学报》主编李树深院士倡导建立，编辑部负责运行和管理，是国内外第一个专属半导体科技领域的论文预发布平台，提供预印本论文存缴、检索、发布和交流共享服务。

JOSarXiv于2020年1月1日正式上线（http://arxiv.jos.ac.cn/），通过《半导体学报》官网（http://www.jos.ac.cn/）亦可访问。敬请关注和投稿！

扩展阅读

 

蔻享学术平台，国内领先的一站式科学资源共享平台，依托国内外一流科研院所、高等院校和企业的科研力量，聚焦前沿科学，以优化科研创新环境、传播和服务科学、促进学科交叉融合为宗旨，打造优质学术资源的共享数据平台。

版权说明：未经授权严禁任何形式的媒体转载和摘编，并且严禁转载至微信以外的平台！

---

原创文章首发于蔻享学术，仅代表作者观点，不代表蔻享学术立场。

转载请在『蔻享学术』公众号后台留言。