【連載】

機械の目が見たセカイ -コンピュータビジョンがつくるミライ

4 ハードウェアの基礎知識

4/44

第4回目からは技術的な内容です。まずは、ハードウェアの構成について紹介します。「早く本題のコンピュータビジョンについて解説してくれよ!」という方、もう少しお付き合いください。

概要

下図にカメラとコンピュータの概略を示します(赤字は必須)。まず、入射光中から不要な反射光(水溜まりや窓ガラスなどによる反射)を偏光フィルタ(PLフィルタ)によりカットします。そして、レンズを通って来た光を、撮像素子上のマイクロレンズで各画素ごとに集光し、撮像素子上のカラーフィルタを通って撮像素子で電荷に変換します。電荷は、デジタルデータに変換された後、コンピュータに入力されます。その後、メモリ上のデジタル画像データをCPU、必要に応じて専用プロセッシングユニット(GPUなど)を用いて処理します。

図1 ハードウェア構成の概略図

コンピュータの構成

PC

PCで処理する場合は、デスクトップPC、あるいはノートPCが図1のコンピュータに該当します。専用プロセッシングユニットは、NVIDIA社製のGPU(Graphics Processing Units)が有名で、CUDAと呼ばれるGPU向けの開発環境が提供されています。オープンソース画像処理ライブラリのOpenCVでは、一部ではありますがCUDAに対応した処理が用意されています。近年、機械学習の分野で注目を集めているDeep Learning(深層学習)のフレームワーク(CaffeやChainerなど)でもGPUを用いることで高速処理が可能になっています。

スマートフォン、タブレット、組込み機器

スマートフォン・タブレットや、自動車やドローンなどの組み込み機器では、計算リソースがPCと大きく異なります。モバイル機器では、消費電力、発熱、コストに対してシビアなため、一般的にPCやスマートフォンより非力なCPU、容量の小さなメモリを使うことになります。そこで専用プロセッシングユニットがリアルタイム処理で重要となります。モバイル機器では、画像処理専用のASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)、モバイル向けのGPU(NVIDIA社のTegraや、ARM社のMali)を使うことになります。それらを1チップにまとめたSoC(System on Chip)を用いることもできます。

製品の販売台数が多く、かつ独自の処理をハード化したい場合は、ASIC、SoCを開発するという手もあります。しかし開発コストが高額であるため、販売台数が少ない場合には既製品のSoC、あるいはプログラマブルなFPGAを用いたほうが良いでしょう。

撮像素子

撮像素子には、CCDセンサーとCMOSセンサーがあります。どちらもフォトダイオードで入射光を電荷に変換する点では同じです。光を集光するためのマイクロレンズ、カラー画像を撮像するためのカラーフィルタが各画素上に組み込まれていることも同じです(マイクロレンズ、カラーフィルタは、撮像素子製造時に撮像素子上に実装されますので、ユーザーはあまり意識する必要はないのですが、撮像素子の仕組みを理解することを目的に本連載では触れています)。

CCDセンサー

CCDセンサーは、各画素で電荷をバケツリレーで伝送し、別チップのA/Dコンバーターでデジタルデータに変換します。CCDセンサーは、ノイズが少ないのですが、構造が複雑であるためCMOSセンサーに比べて一般的に高価です。また、バケツリレーで電荷を伝送するため、撮像素子の解像度が高すぎると、バケツリレーが間に合わなくなってしまうという問題や、電荷が飽和してしまうと周囲の画素にその電荷が漏れ出してしまうスミアという現象が発生してしまいます。

CMOSセンサー

一方、CMOSセンサーは、各ピクセルが独立して電荷を増幅したり、A/D変換回路を持ち、デジタル信号を出力します。構造がシンプルで汎用的な半導体製造技術を用いることができるため、CCDに比べ安価なセンサーです。ノイズ除去回路などさまざまな機能を撮像素子に組み込むことができることも大きなメリットです。昔は、CMOSはノイズが多いと言われていましたが、近年では実用的にまったく問題ないレベルの画質で撮像することができます。

単板式

図1のカラーフィルタとして、図2に示すベイヤーパターンと呼ばれる赤、緑、青を交互に各ピクセル上に配置したフィルタを用いる方式です。この方式では、近傍の画素の情報を用いて補間演算によりベイヤーパターンから色を復元するデモザイキングという処理が必要になります。USBカメラなどでは、CMOS撮像素子内またはカメラモジュール内でデモザイキングを施し、カラー画像が出力されるので、ユーザーはあまり気にすることはないでしょう。

図2 ベイヤーパターン

きれいなカラー写真を撮るという以外の特定の用途向けに、ベイヤーパターン以外のカラーフィルタを用いることもあります。たとえば、自動車向けのカメラセンサメーカーとして有名なMobileye社は赤(R)とクリアー(C)を組み合わせたフィルタ(RCCC、RCC)を採用しています。潤沢な資金が用意できる場合は、特注のフィルタを組み込んだ撮像素子を、撮像素子メーカーに作ってもらうこともできるでしょう。

また、カラー情報が一切必要なくモノクロで良いのであれば、モノクロの撮像素子を選択することをお勧めします。カラーフィルタは抽出したい色の周波数帯以外の光をカットしてしまいます。つまり、カラーフィルタにより撮像素子に届く光量が減ってしまいます。モノクロ撮像素子は、カラーフィルタによる光の減衰が無いため、暗い環境でノイズの小さい画像を撮ることができます。

3板式

ベイヤーパターンでは、赤、青、緑を交互に各ピクセル上に配置するため、デモザイキング処理が必要でした。デモザイキング処理は、近傍の画素の情報を用いて補間演算が必要です。この「補間演算」が原因で、画像にボケが発生してしまいます。

この問題を解決するのが3板式です。名前のとおり、撮像素子を3枚用います。プリズムで色を三原色(RGB)に分解し、それぞれの色を各撮像素子で撮像します。この方式では、よりリアルで高精細な画像を撮影することができますが、サイズが大きく、高価であることから放送局向けなどのプロ用機材に限られています。

撮像素子のサイズ

デジタルカメラでは、フルサイズ(35mm)、APS-H、APS-C、フォーサーズ、CXフォーマット、2/3インチ、1.7/3、1/1.7、1/2.33などさまざまなサイズがあります。スマートフォンでは、1/2や1/2.6などの撮像素子が用いられ、自動車用途では1/3といったより小さい撮像素子が用いられます。画質的には、撮像素子が大きい方が有利です。撮像素子が大きいということは、各画素のサイズも大きくなるため、その分各画素が受ける光量が多くなる訳です(画素数が同じという条件で)。しかし、撮像素子が大きくなると、レンズも大きくなり、価格も高くなってしまいますので、大きさ、価格、必要な解像度などを考慮して撮像素子を選定すると良いでしょう。

コンピュータビジョンに必須なカメラ、コンピュータの構成を理解していただけたでしょうか? 普段はあまり意識する必要のない内容ですが、カメラやレンズ、プロセッサーを選定する際に必要になることもありますので、頭の片隅に留めておいてください。

著者プロフィール

樋口未来(ひぐち・みらい)
日立製作所 日立研究所に入社後、自動車向けステレオカメラ、監視カメラの研究開発に従事。2011年から1年間、米国カーネギーメロン大学にて客員研究員としてカメラキャリブレーション技術の研究に携わる。

現在は、日立製作所を退職し、東京大学大学院博士課程に在学中。一人称視点映像(First-person vision, Egocentric vision)の解析に関する研究を行っている。具体的には、頭部に装着したカメラで撮影した一人称視点映像を用いて、人と人のインタラクション時の非言語コミュニケーション(うなずき等)を観測し、機械学習の枠組みでカメラ装着者がどのような人物かを推定する技術の研究に取り組んでいる。また、大学院での研究の傍ら、フリーランスとしてコンピュータビジョン技術の研究開発に従事している。

専門:コンピュータビジョン、機械学習

4/44

インデックス

連載目次
第44回 ディープラーニングの基礎(3) - 回帰・2クラス分類・多クラス分類の出力層
第43回 ディープラーニングの基礎(2) - 活性化関数
第42回 ディープラーニングの基礎(1) - ニューラルネットワークとは
第41回 領域分割(4) – CNNによるSemantic Image Segmentation
第40回 ハードウェアの基礎知識(4) - GPGPU
第39回 ハードウェアの基礎知識(3) - レンズ
第38回 ハードウェアの基礎知識 (2) - 電子シャッター
第37回 コンピュータビジョン分野で活躍する企業・フリーランサー インタビュー(3)
第36回 領域分割(3) - CRFを用いたSemantic Image Segmentation
第35回 領域分割(2) - Mean Shift法を用いたImage Segmentation
第34回 領域分割(1) - 概要編
第33回 見えないものを観る(3) - 目に見えない光「赤外線」を観る
第32回 見えないものを観る(2) - 絵画の下書きを観る
第31回 見えないものを観る(1) - 映像から音を復元する
第30回 動く人・物を追跡する(4) - OpenCVのトラッキング手法(後編)
第29回 動く人・物を追跡する(3) - OpenCVのトラッキング手法(中編)
第28回 動く人・物を追跡する(2) - OpenCVのトラッキング手法(前編)
第27回 動く人・物を追跡する(1) - OpenCVによるトラッキング
第26回 インターネット上の画像群からTime-lapse映像を自動生成する手法の概要
第25回 一人称視点(3) - Social Saliency
第24回 一人称視点(2) - Social Interaction
第23回 一人称視点(1) - 概要
第22回 行動認識(3) - Two-stream ConvNets
第21回 行動認識(2) - 動きの特徴量(HOF、MBH)
第20回 行動認識(1) - Dense Trajectories
第19回 視線計測(3) - カメラのみを用いた視線計測
第18回 視線計測(2) - 近赤外の点光源を用いた視線計測
第17回 視線計測(1) - 導入編
第16回 コンピュータビジョン分野における機械学習(4) - Deep Learning
第15回 コンピュータビジョン分野における機械学習(3) - 識別器
第14回 コンピュータビジョン分野における機械学習(2) - 顔検出・人検出
第13回 コンピュータビジョン分野における機械学習(1) - 導入編
第12回 コンピュータビジョン分野の市場分析(1) - 自動車編
第11回 コンピュータビジョン分野で活躍する企業・フリーランサー インタビュー(2)
第10回 カメラを用いた3次元計測(4) - Structure from Motion
第9回 カメラを用いた3次元計測(3) - サブピクセル推定
第8回 カメラを用いた3次元計測(2) - ステレオカメラ
第7回 コンピュータビジョン分野で活躍する企業・フリーランサー インタビュー(1)
第6回 カメラを用いた3次元計測(1)
第5回 意外と知らないカメラキャリブレーション
第4回 ハードウェアの基礎知識
第3回 コンピュータビジョンの要素技術と応用範囲(後編)
第2回 コンピュータビジョンの要素技術と応用範囲(前編)
第1回 普及期に入ったコンピュータビジョン

もっと見る

関連キーワード


人気記事

一覧

イチオシ記事

新着記事