← 返回 JSSC 论文列表
📄 下载 JSSC 原文 PDF
JSSC 2023第8期MemoryEmerging Memory

TinyV ers A Tiny V ersatile System-on-Chip With State-Retentive eMRAM for ML Inf

TinyVers是一款超低功耗多功能SoC,支持边缘设备的机器学习应用。
17.6 GOPS, 1.7 µW to 20 mW, 17 TOPS/W
超低功耗边缘计算机器学习数据流重构嵌入式MRAM
创新点1:数据流重构支持多模态处理(系统创新)。TinyVers通过数据流重构技术,实现了对不同机器学习(ML)工作负载的灵活支持,能够在超低功耗(ULP)下高效处理多种应用场景,如语音识别和机器监控。
创新点2:片上电源管理实现智能传感(系统创新)。TinyVers采用激进的片上电源管理策略,支持智能传感应用的占空比控制,能够在1.7 µW到20 mW的功耗范围内工作,显著降低了能耗。
创新点3:嵌入式MRAM用于代码和参数保留(电路创新)。TinyVers集成了嵌入式磁阻随机存取存储器(eMRAM),用于存储启动代码和ML参数,确保在深度睡眠模式下数据不丢失,提升了系统的可靠性和能效。
创新点4:高性能RISC-V处理器与ML加速器结合(系统创新)。TinyVers结合了RISC-V主机处理器和17 TOPS/W的数据流可重构ML加速器,实现了高达17.6 GOPS的计算性能,同时保持超低功耗,适用于极端边缘设备。
Abstract
Extreme edge devices or Internet-of-Things (IoT) nodes require both ultra-low power (ULP) always-on (AON) processing as well as the ability to do on-demand sampling and processing. Moreover, support for IoT applications, such as voice recognition, machine monitoring, and so on, requires the ability to execute a wide range of machine learning (ML) workloads. This brings challenges in hardware (HW) design to build flexible processors operating in ULP regime. This article presents TinyVers, a tiny v