seoil e&m

研究チームが提案するOhm-GPUの構造

Ohm-GPUメモリ内部構造と光ネットワーク

2021.08.02 18:29

Nvidia社、ARM社などの少数のグローバル企業の主導で開発・生産されていたGPU(Graphic Processing Unit)のメモリシステムを、
異種メモリ(Heterogeneous Memory)と光ネットワークを活用して容量と帯域幅両方を大幅に向上させた技術が韓国研究チームによって開発された。

KAIST(カイスト)は電気及び電子工学部のM.S.JEONG(ジョン・ミョンス)教授の研究チーム(コンピューターアーキテクチャ及び運営体制研究室)が
3D XPointメモリ(以下、XPoint)とDRAMメモリを統合した異種メモリシステムで光ネットワークで通信する
「Ohm-GPU」技術開発に成功したと発表した。

これを通じて従来DRAMを単独で使用してた電気ネットワーク基盤のGPUメモリシステムに比べて
181％以上に性能を高めることができたと研究チームは説明した。

従来のGPUは多数の演算装置で構成されているので演算速度が速い長所はあったが、
DRAMを単独に使用するメモリシステムの低いメモリ容量と狭いデータ伝送帯域幅のせいで演算能力を十分活用出来ない問題があった。

容量増加の対案としてDRAMをXPointに取り換える方法もあったが、こうなると8倍も大きいメモリ容量を得られる反面、
読み書きの性能が4倍から6倍までも落ちる。また、帯域幅を増加させる対案としてHBM(High Bandwidth Memory)技術を活用する方法もあるが
単一面積内に装着できる電気チャンネル(Copper wire)数に限界があり、GPUメモリシステムに要れる高帯域幅を満足するのは難しい。

ジョン教授チームが開発したOhm-GPU技術は大容量XPointと高性能DRAMを統合した異種メモリシステムを採択して
従来のメモリシステム並みの性能を持ちながらもメモリ容量を増やした。

また、単一光チャンネル(Optic fiber)で異なる波長の多重光信号を伝達できる光ネットワークの長所を活用して
メモリの帯域幅を大幅に広めることで、従来GPUメモリシステムの限界点を全面的に改善した。

Ohm-GPU技術はGPU内部にあるメモリコントローラー及びインターフェースを修正して異種メモリのメモリ要請を全て光信号で処理する。
メモリ要請は一般的にDRAMキャッシュメモリで処理されるが、DRAMにないデータはXPointから読み込むしかない。

この時に発生する異種メモリ間のデータ移動の待機時間は
1) 演算するためのメモリ接近とデータを移動するためのメモリ接近の光波長を違えて設定して、
2) メモリコントローラの介入を最小化してXPointコントローラが異種メモリ間のデータ移動を遂行することで縮めさせた。

今回開発されたOhm-GPU技術はDRAMを単独で使用する従来の電気ネットワーク基盤のGPUメモリシステム対比、
様々なグラフ処理、科学応用実行などで181％の性能向上を達成した。
これにより人工知能(AI)、ビッグデータ、クラウドコンピューティングなどの大容量・高帯域幅のデータ伝送が求められる
高性能加速器のメモリシステムを取り換えられると期待されている。

ジョン教授は「GPUメモリシステム技術は一部屈指の海外企業が主導しているが、今回の研究成果を踏み台にして
GPU及びGPUと類似した全ての高性能加速器メモリシステム関連市場で優位を占められる可能性を作ったことで意味がある」と強調した。

一方、今回の研究は今年の10月に開かれるコンピューター構造分野の最優秀学術大会である
マイクロ2021(International Symposium on Microarchitecture, MICRO)で、
「Ohm-GPU: Integrating New Optical Network and Heterogeneous Memory into GPU Multi-Processors」との表題で発表される予定である。

これを通じでジョン教授のチームはストレージ及びメモリ関連研究で今年、
全世界のコンピューター構造で一番名高い4つの最優秀学術大会全てでその結果を共有することになる。

※本件についてお問い合わせ事項がございましら、当ホームページの「お申込み/お問い合わせ」又は下記の連絡先へご連絡お願い致します。
部署名：SEOIL E&M 企画マーケティンググループ
TEL ：+82)2-6204-2033
E-mail : pl@seoilenm.com