コンピューターの不具合と現代社会

海外のニュースでは昨年から話題になっていたが、今月になって日本でも大きく取り上げられるようになった事件がある。英国での郵便局の勘定システムの不具合とそれを提供する富士通の事情である。「英国史上最大の冤罪事件」と報道される大問題に発展したこのケースは、現在ではスナク首相率いる英国政府と富士通の大きな悩みの種である。

ICLの買収と富士通の英国でのビジネス

私自身、最初のうちはあまり関心を持っていなかったが、富士通＋ICLという懐かしい企業名を聞いて報道を読んでいくうちに、コンピューター・システムという巨大インフラの上に成り立っている現代社会の大きな問題として、大いに関心が掻き立てられた。

英国のスナク政権を揺るがす問題となったこの事件、事の顛末は次のようなことであったらしい。

40年以上も前の話。富士通はメインフレーム・コンピューター市場でIBMと競合関係にあったが、英国の国策コンピューター企業ICLと1981年に技術提携をした。富士通はこの提携を発端に出資比率を高め、1998年にICLを完全子会社化した。その後、富士通は英国の郵政業務の国有企業である「ポストオフィス」から全国に配置された郵便局との業務基幹システム「ホライゾン」を受注し、英国ビジネスの足がかりを作った。海外展開でIBMの後塵を拝していた富士通にとっては大きな一歩だった。
英国では郵便事業が1990年後半に全面的に民営化され、全国に展開される郵便局の事業運営は民間の経営者に委ねられることになったが、局を運営する経営者には法律上、収支について大きな責任を持たされることになる。
民営化を進めた政府と、それをコンピューターシステム構築でサポートした富士通だが、実はホライゾンにはシステム上の欠陥があった。この欠陥は重大で、実際には口座に現金があるのにシステム上で「現金が不足している」という表示になるバグだった。しかし、このシステムトラブルは15年も放置され、その間に国により刑事訴追される局長が相次ぎ、その中には補填のために自己資金を使い破産した人や、自殺者までも出たという深刻な状況に至った。
誤表示の原因は富士通のシステムの不具合であり、その事実は関係者に広く知られていた、にもかかわらず政府は何もしなかったというのが実情だったということで、さすがに英国議会が問題視し、公聴会では当時の現地法人の責任者がその不具合を認識していたとの証言まで飛び出し、この事件が俄かにクローズアップされるようになった。
そんな中、この問題を取り上げたドキュメンタリードラマが、英国のテレビ局から4夜連続で放映されると、多くの英国民が関心を寄せることとなり、「英国史上最大の冤罪」として認識された。この冤罪事件によって被害を被った多くが補償を受けていない事もあって、スナク首相の現政権が補償のための立法に乗り出した。

というのが事件のあらましである。「信じられないような本当にあった話」ではすまされない大きな問題となったこのケースは、富士通本社を巻き込んだ大きな事件として事の成り行きが注目されている。複雑化するコンピューターシステムにインフラ基盤を置く現代社会の根深い問題を考えさせられる。

Pentiumのバグが巨大なリコールに発展したIntelのケース

幸い当事者とはならなかったが、私自身がはっきり記憶しているコンピューター不具合の問題はPentiumのバグ問題である。

とんでもない数のトランジスタ素子を集積した半導体システムは、それ自体ある程度の「不具合」を内包していると考えるのは業界人の共通認識である。よって、供給者にとっては「その不具合が起こす問題はいかほどのものか」、「その問題を重大問題と認識した場合どう対処するか」が大きな関心事となる。その意味で、1994年に発生したIntelのPentiumのバグ問題とリコールは、現代の我々に大きな示唆を与えてくれる。

1994年、米国のある大学教授がPentiumベースのパソコンで行った浮動小数点演算で、ごく限られた環境ではあるが誤った解答をする事に気が付いた。この教授はこの旨をIntelに伝えたが、Intelは「ごく限られた状況下で起こる非常にまれなケース」としてそのクレームに取り合わなかった。教授は研究仲間にこの事実を伝え、同じ問題を抱えていないかどうかを確認した。その結果、この問題が研究者に共通した事であることが確認され、Pentiumにバグがある疑いが高まった。この話題はインターネットで話題になり、研究者の間に瞬く間に広がった。そうしているうちに、一般ユーザーの間でも話題になるようになり、米国の全国紙が「Intel Pentiumにバグ、Intelはどうする？」と大々的に報道し始めた。折しも、Intelは「Intel Inside(Intel入ってる)」の広告キャンペーンの真っ最中で、科学計算とは無関係の一般ユーザーも大きな関心を寄せた。

リコールになった誤った計算結果となる問題は、いわゆるFDIVバグとして知られる。おおむねPentiumの100MHz以下の特定のステッピング品で発生した。写真は75MHz動作のPentium (画像は編集部撮影)

この頃にはIntel自身もある期間に生産されたPentiumのファームウェアに内蔵された浮動小数点演算のルックアップテーブルに欠陥があることを認識していて、それに対する対策も行っていたが、リコールには同意していなかった。この問題は業界関係者でも広く認識されていたが、Intelの大きな決断のきっかけになったのはIntelのCPUをパソコン製品に使用するIBMであった。IBMはIntelに対しこの問題に公に対処することを要求し、Intelは遂にPentiumのリコールを宣言した。リコールの内容は「当該期間に生産されたPentium製品の無償交換」という単純なもので、IBMをはじめとする大手ユーザー分では相当な額に上ったが、一般ユーザーからの要求は実際には少なくIntelの業績に大きく影響するものではなかった。

Intel Pentiumの対抗としてAMDが販売していた5x86

その当時のCEOであったAndy Groveは、その後の自伝で「我々は自社の半導体製品の社会的影響を過小評価していた」と語っている。当時からIntelとは熾烈な競合関係にあったAMDは、対抗製品の積極的な売り込みを進めていたが、社内では「バグの問題にはことさら触れないように」というお達しがあった。明日は我が身の可能性が排除できないからだ。

生成AIがあらゆるアプリケーションに拡大する現代

生成AIが一般ユーザーの間で急拡大する現代では、サービス提供者や半導体・ソフトなどのプラットフォーム提供者が公的な場で「AI環境における法整備」について盛んな議論を繰り返している。悪意のある使用者による意図的なフェイク画像は別として、使用者の意図によらない誤回答が実際に頻発している状況にあって、それによってもたらされる被害について誰がどのような形で補償をするのかを定義する法整備が日々の技術発展に追い付いていないのが実情である。極めて複雑に構成されたコンピューターには内包的な不具合があることは、多くの人の共通認識であるが、具体的に大きな問題が発生するまで事が動かないのが人間の必定なのだと感じる。