融合数字电路与存内计算的高能效神经网络处理器(英文版)
本书入选“清华大学优秀博士学位论文丛书”系列。

作者:岳金山

丛书名:清华大学优秀博士学位论文丛书

定价:89元

印次:1-1

ISBN:9787302656005

出版日期:2024.08.01

印刷日期:2024.08.09

图书责编:程洋

图书分类:学术专著

电子书
在线购买
分享
内容简介
作者简介
前言序言
资源下载
查看详情 查看详情 查看详情

"《融合数字电路与存内计算的高能效神经网络处理器(英文版)》从纯数字电路和融合存内计算的高能效神经网络处理器两个角度开展了四项主要的研究工作。 在数字电路神经网络处理器层面,一方面针对传统架构数据复用优化不充分的问题,提出了针对特定卷积核优化的卷积神经网络处理器 KOP3。另一方面,针对不规则稀疏网络压缩技术引起的显著额外功耗面积开销,采用结构化频域压缩算法 CirCNN,提出整体并行-比特串行的 FFT 电路、低功耗分块转置 TRAM 和频域二维数据复用阵列,以规则的方式压缩了存储和计算量。设计并流片验证的 STICKER-T芯片实现了面积效率和能量效率的提升。在融合数字电路与存内计算的神经网络处理器层面,融合了数字电路的灵活性和存内计算 IP 的高能效特性,进一步提升能量效率。一方面通过分块结构化权重稀疏与激活值动态稀疏、核心内/外高效数据复用与网络映射策略、支持动态关断 ADC 的存内计算 IP,设计流片了存内计算系统芯片 STICKER-IM,在存内计算芯片中实现了稀疏压缩技术。另一方面,进一步针对现有工作与大模型实际应用之间的差距,指出了大模型权重更新引起的性能下降和稀疏利用不充分等问题,提出了组相联分块稀疏电路、乒乓存内计算电路和可调采样精度 ADC 技术。设计并流片验证的STICKER-IM2 芯片考虑了存内计算的权重更新代价,实现了 ImageNet 数据集上的高能效和较高准确率验证。"

岳金山博士于2016年和2021年分别获得清华大学本科和博士学位,于2021年进入中国科学院微电子研究所从事博士后研究。主要研究方向包括高能效神经网络加速芯片、存内计算和基于新型器件的电路与系统。目前已发表30余篇期刊/会议论文,包括2篇一作JSSC和3篇一作ISSCC。曾获得ASP-DAC2021学生论坛**海报奖,清华大学优秀博士学位论文奖,入选北京市科技新星计划。

s The g p l k ) s e e d .ment of modern arti.cial e ) d w s t d with l N s e n d n l medical e d y r e h n y d a s y e a s challenge o e e d r n f e N This k y s l N s d d digital d Three N s e d h t energy y e n s : ) o e e .cient a e n g N n d a e e d on speci.c convolutional kernel size is proposed with improved energy ef.ciency. (2) A frequency-domain NN processor is designed to address the signi.cant .tional hardware overhead of irregular sparse optimization. It s ef.cient T computation d n D a e o e p a d e the energy ) e l e n f e M p is g e a e d c C ) o t M s r e ...

暂无课件

样章下载

暂无网络资源

扫描二维码
下载APP了解更多

目录
荐语
查看详情 查看详情
Contents

1 Introduction 1

1.1 Research Background and Significance 1

1.1.1 Development Trends of Neural Network 1

1.1.2 Requirements of NN Processor 2

1.1.3 Energy-Efficient NN Processors 4

1.2 Summary of the Research Work 6

1.2.1 Overall Framework of the Research Work 6

1.2.2 Main Contributions of This Book 7

1.3 Overall Structure of This Book 8

References 9

2 Basics and Research Status of Neural Network Processors 13

2.1 Basics of Neural Network Algorithms 13

2.2 Basics of Neural Network Processors 16

2.3 Research Status of Digital-Circuits-Based NN Processors 18

2.3.1 Data Reuse 18

2.3.2 Low-Bit Quantization 20

2.3.3 NN Model Compression and Sparsity 21

2.3.4 Summary...

《融合数字电路与存内计算的高能效神经网络处理器(英文版)》展示了融合数字电路与存内计算的技术路线,证明了充分利用数字电路与存内计算的优势,结合器件、电路、架构和算法应用等多层次联合优化能够实现更高能效的神经网络处理器。