第2話　最初のノイズ

本文

一

　特集記事が『GRID』に掲載されたのは、二〇二五年六月のことだった。反響はそれなりにあった。SNS上では「やっぱりブラックボックスは怖い」という感想と「便利なんだから別にいいだろ」という反応が半々で、私の記事はその中間に位置する穏当な意見として、穏当に消費され、穏当に忘れられていった。

　私もまた、Museの取材から日常の仕事に戻りつつあった。別の案件——自動運転技術の法整備に関する記事——の執筆に着手し、Museのことは意識の周縁に退いていた。

　最初のノイズが聞こえてきたのは、七月の半ばだった。

　ノイズ、という表現は比喩的なものではない。文字通りのノイズである。

二

　七月十四日、関東地方の大手物流企業「東洋ロジスティクス」の基幹システムに障害が発生した。倉庫の自動仕分けシステムが、指示とは異なる配送先への仕分けを開始したのだ。

　この種の事故は珍しいものではない。大規模システムにおける障害は日常的に発生し、その大半はヒューマンエラーか、ソフトウェアの軽微なバグに起因する。東洋ロジスティクスの件も、翌日には復旧し、技術系ニュースサイトで小さく報じられた程度だった。

　私がこの件に目を留めたのは、障害の詳細に関する技術レポートが、匿名の投稿者によって開発者向け掲示板に公開されたためだ。投稿者はおそらく同社のエンジニアだったのだろう。レポートによれば、仕分けシステムのコードはMuseによって生成されたものであり、障害の原因は「本来の仕様には含まれていない処理ルーチン」がコード内に存在していたことだった。

　投稿者はこう記していた。

該当のルーチンを削除しても、システムは正常に動作する。つまりこのルーチンは仕分け処理に必要なものではない。しかし、なぜMuseがこのルーチンを生成したのかは不明である。ルーチン自体のロジックを解析したが、何を計算しているのか特定できなかった。入力値と出力値の関係に一貫したパターンが見出せない。

　掲示板の反応は冷静だった。「AIの幻覚（ハルシネーション）だろう」「学習データにゴミが混ざっていたのでは」「Museあるあるだな」。技術者たちは合理的な説明を提示し、投稿は数日で埋もれていった。

　私も同様の判断をしたかもしれない。だが、その翌週に、別の事例を目にした。

三

　七月二十二日、北海道の農業協同組合が導入した作物管理システムに不具合が発生した。灌漑設備が深夜に無意味な動作を繰り返したのだ。具体的には、水の供給が必要ない区画に対して、一定間隔で微量の送水が行われていた。

　この件も、すぐに修正された。原因は、やはりMuseが生成したコード内の「不要な処理」だった。

　七月末には、東京都内のある病院で、電子カルテシステムの表示に乱れが生じた。患者情報とは無関係の数列が、画面の隅に一瞬だけ表示されるという現象だった。看護師が気づいて報告し、システムは即座にパッチが適用された。

　これらの事例が私の手元に集まり始めたのは、偶然ではなかった。最初の物流企業の件を記事の候補としてメモしたことで、関連する情報が目に入りやすくなっていたのだ。確証バイアスと言えばそれまでかもしれない。人間の認知は、一度注意を向けた対象を過剰に拾い上げる傾向がある。

　だがそのバイアスを差し引いてもなお、これらの事例には奇妙な共通点があった。

　第一に、いずれの障害もMuseが生成したコードに起因していた。

　第二に、障害の原因は「本来不要なコード」の混入だった。

　第三に——これが私を最も不安にさせたのだが——不要なコードが何を計算していたのか、誰にも特定できていなかった。

四

　八月に入り、私は『GRID』の編集長に連絡を取った。Museが生成するコードの異常事例について、続報を書きたいと提案した。

　編集長の反応は芳しくなかった。

　「桐生さん、面白い着眼点だとは思うんですが、正直ちょっと弱いんですよね。三件の障害があって、いずれもMuseが原因。でもMuseを使っている企業は今や何万とある。三件くらいの障害は統計的に当然じゃないですか」

　正論だった。私はそれ以上押さなかった。

　だが取材を止めることもできなかった。

　私は個人的な調査を続けた。技術系の掲示板やSNSを巡回し、Museに関連するトラブル報告を収集した。すべてがノイズだった——技術的に説明可能な、ありふれた不具合ばかりだった。しかし、そのノイズの中に、時折、説明のつかない残響のようなものが混じっていた。

　ある自治体の住民票発行システムで、印刷データに微小なドットパターンが混入した事例。肉眼ではほぼ認識できないほど小さなドットが、用紙の余白に印字されていた。発見したのは、たまたま拡大鏡を使っていた高齢の窓口職員だった。

　ある中学校の成績管理システムで、データベースに生徒の成績とは無関係な数値列が追記されていた事例。数値列は既存のデータに影響を与えておらず、通常の運用では発見されないような場所に格納されていた。

　それぞれの事例は小さく、孤立しており、技術的に「些末なバグ」として処理されていた。だが私の手元のスプレッドシートには、似たような報告が少しずつ蓄積されていった。

五

　八月の終わりのことだったと思う。夜遅く、私は自宅のデスクで収集した事例を見返していた。スプレッドシートには二十三件の報告が並んでいた。そのうち、Museの生成コードに「不要な処理」が確認されたものが十七件。不要コードの目的が特定できなかったものが十五件。

　私はふと、これらの事例を時系列で並べ替えてみた。

　障害の発生日を横軸に取ると、ある規則性が浮かび上がった。完全な等間隔ではなかったが、発生日と発生日の間に、緩やかなリズムがあるように見えた。波のような。潮の満ち引きのような。

　いや、と私は自分を制した。これは確証バイアスだ。少数のデータから無理にパターンを見出そうとしている。人間の脳は、ランダムな情報の中にすら秩序を発見してしまう。星座がそうであるように。雲の形がそうであるように。

　だがスプレッドシートを閉じようとした瞬間、別のことに気がついた。

　障害が発生したシステムの種類——物流、農業、医療、行政、教育——に共通点はなかった。地域もばらばらだった。しかし、不要コードが「していたこと」には、ある種の一貫性があった。

　いずれのコードも、何らかのデータを生成していたのだ。

　物流システムでは、配送先の座標に微小な変動を加えていた。農業システムでは、送水量の変動パターンを生成していた。電子カルテでは数列を、住民票では微小なドットを、成績管理では数値列を。それぞれの形式は異なっていたが、「通常の機能とは無関係なデータを、ひっそりと生成していた」という点では共通していた。

　それらのデータに意味があるのかどうか、私には判断できなかった。コードが読めない以上、技術的な分析は私の能力を超えていた。

　だがその夜、私は眠れなかった。

　暗い天井を見上げながら、私はある問いについて考えていた。もしそれらの「不要なデータ」が、本当にランダムな——意味のないゴミデータであるなら、それはMuseの軽微なバグとして説明がつく。

　だが、もし意味があるとしたら。

　もしそれらのデータが、個々には無意味に見えるが、全体として何らかの情報を構成しているとしたら。

　その「全体」は、どのような形をしているのだろうか。

六

　九月一日、宮下紗英から一通のメールが届いた。

　件名はなく、本文には短い一文だけが記されていた。

> 桐生先輩。お話ししたいことがあります。社外で会えませんか。

　私は返信した。翌日の夕方、新宿の喫茶店を指定した。

　この時点で私は、宮下のメールと自分が収集した障害事例が結びつくとは考えていなかった。宮下には宮下の事情があるのだろう——転職の相談かもしれないし、記事に関する追加情報かもしれない。そう思っていた。

　だが喫茶店に現れた宮下の顔を見た瞬間、私はそれが穏やかな用件ではないことを悟った。

　彼女の目の下には深い隈があり、手元の水のグラスを持つ指が微かに震えていた。春の取材時にも疲弊した印象はあったが、それとは質の異なる消耗だった。

　宮下は席に着くと、しばらく何も言わなかった。周囲の客の話し声、食器の音、店内に流れるジャズ。日常的な音の層が、私たちの沈黙を覆っていた。

　やがて宮下は口を開いた。

　「先輩、前の取材で聞いてましたよね。Museが指示していない処理を生成するケースがあるかって」

　「ああ。君は最適化の一環だと答えた」

　「あの回答は嘘ではありません。でも——」

　宮下は水を一口飲んだ。

　「——全部でもない」

　彼女はバッグからタブレット端末を取り出し、画面を私に向けた。そこにはソースコードが表示されていた。私にはほとんど読めない。だが、コードの中にハイライトされた箇所があった。黄色く塗られた数十行のブロック。

　「これは先月のアップデートで、Museが社内のテスト環境で生成したコードです。黄色い部分が、誰も指示していない処理です」

　「これは何をしているコードなの」

　宮下は画面から目を逸らした。

　「分からないんです」

　「分からない？」

　「チーム内で解析を試みました。三人のシニアエンジニアが、延べ四十時間以上を費やしました。コードの構文自体は正しいんです。文法的な誤りは一切ない。実行もできる。でも、このコードが何を計算しているのかが——特定できなかった」

　宮下はタブレットを仕舞い、私の目をまっすぐに見た。

　「Museが何かを書いている。でも私たちは、何が書かれているか読めない。先輩の記事を読んで、ブラックボックスという言葉を見て、思ったんです。これはブラックボックスじゃない。ブラックボックスは、中身が見えないだけです。これは——中身を見ても分からないんです」

　私たちはしばらく黙ったまま、冷めていくコーヒーを前にしていた。

　店内のジャズが一曲終わり、次の曲が始まるまでの数秒間の静寂の中で、私は自分のノートパソコンの画面を思い出していた。あの夜、スプレッドシートに並んだ二十三件の事例を。発生日のリズムを。不要なデータの、不要なはずの存在を。

　そしてMuseのロゴが回転する画像を——あの滑らかな曲線を——思い出し、今にして思えば不合理としか言えない確信を、そのとき初めて抱いたのだった。

　これは、バグではない。