電子工学：混合精度メモリスターとSRAMコンピュート・イン・メモリーAIプロセッサー

人工知能（AI）エッジデバイスには、高精度でエネルギー効率の高い計算、大規模オンチップモデルのストレージ、ウェイクアップからの速やかな応答時間、コスト効率の高いファウンドリー対応ソリューションが必要である。浮動小数点（FP）計算では整数（INT）形式を上回る精度が得られるが、大きな消費電力とストレージのオーバーヘッドが代償となる。マルチレベルセル（MLC）のメモリスター-コンピュート・イン・メモリー（CIM）では、小型の不揮発性ストレージとエネルギー効率の高い計算が実現できるが、プロセスばらつきに起因して精度が失われやすい。デジタルのスタティック・ランダムアクセスメモリー（SRAM）-CIMでは、ロスレス計算が可能になるが、ビットセル面積が大きくなる結果として記憶容量が少なく、推論している間にモデルをロードする必要がある。よって、同種のCIMアーキテクチャーと計算形式を使用する従来の手法では、効率、ストレージ、ウェイクアップレイテンシー、推論精度の間にトレードオフが課される。今回我々は、誤差に対する感度に基づき、オンチップCIMアーキテクチャー（すなわち、メモリスター-CIM、SRAM-CIM、微小デジタルユニット）と計算の数形式（INTとFP）の間でネットワーク層の層粒度/カーネル粒度分割をサポートする、混合精度の異種CIM AIエッジプロセッサーを提示する。この層粒度/カーネル粒度の柔軟性により、ハードウエアレベルで二次元設計空間内での同時最適化が可能になる。今回提案したハードウエアは、高いエネルギー効率（CIFAR-100を用いたResNet-20で40.91 TFLOPS W⁻¹、ImageNetを用いたMobileNet-v2で28.63 TFLOPS W⁻¹）、低い精度劣化（CIFAR-100を用いたResNet-20とImageNetを用いたMobilNet-v2で0.45％未満）、そしてウェイクアップから応答までの速やかな時間（373.52 μs）を達成した。

目次へ戻る