お知らせ: 酷似サイトにご注意ください

レポート

ISC 2019 - ディープラーニングに最適な数値表現のPosit

32bitのPositとIEEE floatとのダイナミックレンジ(横軸)と精度(縦軸)の比較。ただし、32bitの数値ではPositよりFloatの方がダイナミックレンジが広い。また、0付近を除いてはFloatの方が精度が高い。Positではオーバフローなどが発生せず、Floatに比べて異常なケースの処理が単純で必要なハードウェアが少ない。結果として、高速で消費電力も少なくて済む

515

記事ページに戻る

編集部が選ぶ関連記事

アクセスランキング

ランキングをもっと見る

もっと見る

このカテゴリーについて

京をはじめとする日本勢もTOP500に代表されるランキングの上位に多く入ることで注目を集めるほか、人工知能(AI)やディープラーニングでも活用が進むなど、さまざまな用途で活用されるようになったスーパーコンピュータに関わるホットな話題を詳細な説明付きで紹介します。