Multi-Focal Compound Eye: Liquid Lens Array for Computational Photography~液体レンズで遮蔽物の向こうを透視しちゃえ

水溶液とオイルを封入して電極で挟み、この電極への電圧を変えることで、水溶液とオイルの界面形状を変化させて光路を制御する、液体レンズというデバイスがある。

液体レンズは非常に小型に作ることができ、さらにはレンズそのものを物理的に動かしたり、凹凸レンズを組み合わせることなく焦点距離や画角を変化させることが出来るといった特長を持つ。

この液体レンズを活用して新しい映像処理の可能性を模索し、その研究成果である「Multi-Focal Compound Eye: Liquid Lens Array for Computational Photography」を発表したのが東京大学と日立システム開発研究所だ。

この研究では、8×8の格子構造に形成した液体レンズアレイを用いているのが特徴。一見すると昆虫の目のようにも見える。液体レンズの直径は7.75mm。この8×8=64コマの液体レンズアレイユニットは、縦横66mmというサイズで、マイコンから64個の液体レンズを個別に駆動できるようになっている。なお、今回発表の試作システムは写真のように、一般的な撮影レンズの前に液体レンズアレイを配置するような構造となっていた。

8×8の液体レンズアレイ

展示システムではレンズアレイの後ろに拡大レンズを配し……

さらにその後ろに撮影レンズをレイアウトさせるシステムになっていた

研究グループではこの液体レンズアレイシステムを用いた様々な応用技術を開発しているが、ブースで最も興味を惹いたのは、レンズアレイで様々な焦点や様々な角度の映像を同時に撮影してしまい、これをポストプロセスにて、任意の映像を抽出生成するという技術。

例えば、通常のカメラの撮影では、レンズでフォーカスを合わせればそこを中心に焦点のあった写真が撮られることになる。当たり前だ。焦点から外れた部分はそのずれに応じて大きくぼけていく。手前にぼけている対象物を撮るためにはそちらに焦点を合わせ直してから撮影しなければならないし、奥側にぼけている場合も同様だ。

このレンズアレイを用いた撮影では、捉えた映像の任意の場所に対して個別の焦点を設定できるため、映像内の撮影対象物が異なる焦点位置にある場合は、撮りたい対象物ごとに個別の焦点を設定して撮影することが出来るのだ。つまり、撮影に用いるレンズの焦点や絞りとほぼ無関係に映像中の各領域ごとに任意の焦点の写真が撮影できる。具体的には高拡大率レンズで被写界深度の狭い撮影になってしまったとしても、本来はぼけてしまうような箇所をくっきり撮影できると言うことになる。

左端は奥の東大ロゴがぼけて手前の植木に焦点が合っている写真。中央は手前の植木がぼけて奥の東大ロゴが合焦している写真。右端は視界内の全ての対象物に合焦するように液体レンズアレイを個別駆動して撮影した写真

また、液体レンズは任意に画角も調整できるので、レンズアレイ内の各液体レンズで異なる画角を設定して撮影すれば、ある程度の範囲内で前後の遮蔽関係を超越した写真を生成できる。たとえば、アレイ内のある液体レンズでは手前の遮蔽物に隠れてしまっていても、アレイ内の別の液体レンズでは、遮蔽物の向こう側を撮影できている場合は、ポストプロセス時に遮蔽物の前後を選択して写真を再構成すれば、結果として手前の遮蔽物を消した写真を合成できる。

まだこの液体レンズアレイを使ったシステムは試作と言うこともあり、液体レンズの配列ピッチがテストケース毎に最適化されていないため、得られる映像は「いかにも液体レンズで撮影しました」という風情になっているが、これは応用組み込み先ごとの最適化で洗練化は出来るとしている。

具体的な応用先だが、もちろん新たなる映像撮影、写真撮影の方策としても有効だが、「エリアごとの個別焦点駆動」「遮蔽物除去」といったこのシステムならではの特徴を考えると、セキュリティカメラなどがおあつらえ向きといえるかもしれない。

今話題の「Googleストリートビュー」の撮影に活用すれば、一回の撮影で奥行き方向に情報量の多い撮影が出来るかもしれない。まぁ、そうなると、また「木陰の向こうのキスシーン」とかを撮影してしまったりして物議を醸し出しそうだが……。

冗談はさておき、いずれにせよ、非常に未来を感じる技術だ。

レゴブロックは手前、文字が書かれたポスターは奥側に配されている展示システム

左はこのシステムで撮影した生データ。8×8の液体レンズアレイの各液体レンズは個別の視界を撮影している事が分かる。これらの8×8の撮影情報から手前のレゴブロックを撮影した写真、右下は奥側のポスターを撮影した写真を合成できる。見方を変えれば1枚の写真から遮蔽物を除去したような効果が得られたことになる