お知らせ: 酷似サイトにご注意ください

レポート

ISC 2019 - ディープラーニングに最適な数値表現のPosit

PositとFloatとの比較。左の円は5bitのPositで表現できる数値に点が打ってある。内側が分数による数値の表現で、外側はPosit表現のビット列。Positでは(0付近では)27bitがFractionに使えるが、Floatではexponentのビットが多く、Fractionに使えるのは23ビットで精度が低くなる

815

記事ページに戻る

編集部が選ぶ関連記事

アクセスランキング

ランキングをもっと見る

もっと見る

このカテゴリーについて

京をはじめとする日本勢もTOP500に代表されるランキングの上位に多く入ることで注目を集めるほか、人工知能(AI)やディープラーニングでも活用が進むなど、さまざまな用途で活用されるようになったスーパーコンピュータに関わるホットな話題を詳細な説明付きで紹介します。