ブロック浮動小数点
表示
ブロック浮動小数点(ブロックふどうしょうすうてん、英語: Block floating point, BFP)は、固定小数点プロセッサ上で浮動小数点に近い演算を提供するための手法である。
ブロック浮動小数点は、(浮動小数点数のように)1つの仮数部に1つの指数を割り当てるのではなく、複数の仮数部(ブロック)に単一の指数を割り当てる。演算精度を気にしなければ、指数部を共有しているため必要なハードウェア資源を抑えつつ、浮動小数点アルゴリズムと同等の機能を提供できる利点がある。また、複数のブロックにまたがる数値について、一部の演算を少ない計算量で実行可能である[1]。
指数部は、ブロックで共通となっているため、ブロック内の最大の数値を表現できるような値にする必要がある。
Microscaling Formats (MX)
[編集]マイクロスケーリング形式 (MX) は、AI および機械学習のワークロード向けに特別に設計されたブロック浮動小数点 (BFP) データ形式の一種である。MXフォーマットは、AMD、Arm、Intel、Meta、Microsoft、NVIDIA、Qualcomm などの主要な業界プレーヤーによって承認および標準化された[2]。
最初のMX仕様では、MXFP8、MXFP6、MXFP4、MXINT8 などのいくつかの特定の形式が導入されている[3]。これらの形式は、さまざまな精度レベルをサポートしている。
- MXFP8: 2つの派生(E5M2 および E4M3) を備えた 8 ビット浮動小数点。
- MXFP6: 2つの派生(E3M2 および E2M3) を備えた 6 ビット浮動小数点。
- MXFP4: 4ビット浮動小数点 (E2M1)。
- MXINT8: 8ビット整数。
ハードウェアサポート
[編集]関連項目
[編集]参考文献
[編集]- ^ “Block floating point”. BDTI DSP Dictionary. Berkeley Design Technology, Inc. (BDTI). 2018年7月11日時点のオリジナルよりアーカイブ。2015年11月1日閲覧。
- ^ “Open Compute Project” (英語). Open Compute Project. 2024年7月20日閲覧。
- ^ “OCP Microscaling Formats (MX) Specification Version 1.0”. Open Compute Project. 20240720閲覧。
- ^ ASCII. “Ryzen AI 300に搭載された「RDNA 3.5」「XDNA 2」がAI処理を高速化 AIが常時動く未来はそう遠くない! AMD Tech Dayレポート (3/4)”. ASCII.jp. 2024年7月20日閲覧。
- ^ “「Zen 5」Deep Diveレポート #2 - Ryzen AI 300の正体とRDNA 3.5&XDNA 2”. マイナビニュース (2024年7月19日). 2024年7月20日閲覧。