いよいよI/Oボトルネックがクリティカルになるマルチコア時代

また、マルチコア化の流れが起こる前から、依然解決されず、今後も問題になるであろうと指摘されたのが「I/Oがボトルネックとなる問題」だ。

具体的に言えばデータの読み書きがボトルネックになるということだ。もっといえば、「メモリシステムがボトルネックになりつつある」ということになる。

マルチコア時代、並列データ処理プロセッサ時代において、I/Oボトルネックがいよいよクリティカルになってくる

マルチコアプロセッサや並列データ処理プロセッサへが大量の計算を行うことができても、そこへデータを送り込むこと(＝メモリの読み出し)が高効率化ができていなければ、どんなにマルチコア化や演算器の並列実装がされてもそれらをうまく回すことができないし、同様にその結果を滞りなく出力(＝メモリへの書き出しの高効率化)できなければ、性能(スループット)が上がらないことになる。

キャッシュシステムの改良だけではI/Oボトルネックの解消にはならない?

メモリ読み書きの高効率化といえば、キャッシュメモリシステムの最適化と密接に関わってくるわけだが、映像や音声のようなメディアデータ処理においては、読み書きデータの再利用ケースが限定的かつ特徴的なので、これまでのCPUで使われてきたキャッシュシステムではうまく適合できない。コアや演算器が今後どんどん増加していく未来像が見えているのに対し、メモリシステムの高効率化はいまいち不明瞭なのをBoyd氏は指摘しているわけだ。