週刊アスキー

  • Facebookアイコン
  • Xアイコン
  • RSSフィード

ナイジェリア鉄道に5ドル払った朝――AIによって新しい種類のバグが誕生しているのではないか

Google Walletの支払い履歴画面。「Nigerian Railway Corporation」という支払い先に注目。

 定期的にやっておくべきなのがサブスクリプションの棚卸しである。

 その日、まだ午前中のこと。私は、自分のGoogle Walletの支払い履歴を確認していた。そこで見つけたのが、まったく身に覚えのない5ドルの支払いだった。請求元は、「Nigerian Railway Corporation」とある。

 な? 検索してみると、ナイジェリア鉄道公社である。

 私はナイジェリアに行ったことがない。というよりも、アフリカ大陸に一度も行ったことがない。ましてやナイジェリアの鉄道に乗ったことなどないのだが……。

Nigerian Railway Corporationの公式ページ。1898年以来、112年以上の歴史を持ち1067mmのケープゲージの独自設計の線路システムを運営。最初の公共交通機関として同国の発展に寄与してきたとある。

 ひょっとしたら、『世界の車窓から』(テレ朝の番組)で見たことはあるのかもしれない。

 ギニア湾から珍しい霊長類のいる熱帯雨林、サバンナまでの旅の途中、列車が線路に沿ってうねるようすが窓から見える。スタッフを珍しい目で見る人々。ナレーションの石丸謙二郎さんの声も聴こえてきそうだ。

 私が、台湾で通訳をお願いしていたLさんは、大きなトイレットペーパーの会社の娘で、ナイジェリアの工場に出かけた話を聞いたことがある。今年に入ってからも大変にお世話になっている知り合いのYさんが、ナイジェリアで仕事をしていてGoogle Meetをやったりもした。

 まるで関係ないと思っていたら、ナイジェリアとは、間接的にはちょっと関係があった。

 しかし、そんなせいで私のGoogle Walletからナイジェリア鉄道公社へ5ドルが支払われる理由になるはずはない。

 これは、まずいのではないか?

 こういう小さな金額というのは、案外と油断できないものがある。何年間にもわたって気がつかなかったら数万円になる。

 やられてしまったのか!?

 コンピューター犯罪の古典的な手口として知られている「サラミスライシング」とか「ペニーシェービング」などと呼ばれるものがある。銀行の利息計算などで発生する1セント未満の切り捨て誤差を、特定の口座へ送り込むやり方だ。

 コンピューターの計算原理を知っているエンジニアなら大好きな酒場の話のように聞こえるが、内部不正の典型的な事例として、逮捕事例が複数記録されているそうだ。なにもしないでお金がチャリンチャリンと入ってくるという皮算用だが、そう甘くはないということだ。

 こうしたことよりも、今回の5ドルは、はるかにシンプルな構造をしている。しかし、これをたくさんの人に対しておこなえば、大きなお金になるのだろう。いかな円安のいまとはいえ口座残高に大きな変動があるわけではないから見つかりにくいというものだ。

 まず、私はGoogle Walletの「問題を報告」というボタンから、この支払いにはまったく身に覚えがないと詳しく書いて送信した。

 次に、カードそのものを止めるべきかとも考えたが、そのカードには正常なサービスの支払いもいくつもぶら下がっている。止めてしまうと、それらを全部登録し直さなければならない。

 朝からナイジェリアの鉄道のために、カードを止めるかどうか悩むことになるとは思わなかった。

私が払っていたのは鉄道ではなくサーバーだった

 Google Walletの支払い履歴をさらにさかのぼってみた。

 すると、別の月にも同じ5ドルの支払いが見つかった。ただし、そちらの請求元は「Nigerian Railway Corporation」ではなく、単に「Railway Corporation」となっているではないか。

 支払われた日も、時刻も、金額も同じである。

6月8日の請求は「Railway Corporation」になっている。

 ここで、ようやく気がついた。

 私が年表ソフトを動かすために使っているサーバーのサービス名が、「Railway」なのだった。公式の料金表を見ると、Hobbyプランは月額5ドルである。私のGoogle Walletに毎月同じ日に出ている金額と、ぴったり一致する。

 「Railway」では、以前、このコラムで紹介したことのある年表を使った“otaku属性”診断のソフトウェアを動かしていたのだ。ZEN大学の展軸祭のHARCのブースで小野田大臣がやりに来てくれたサービスだ(“otaku属性”診断はコチラから)。

年表を使った“otaku属性”診断のソフトウェアをRailwayで動かしていた。

 ベースになっているXnative/Timelineという年表ソフトは、単純に何年生まれの人が、どの出来事のときに何歳だったかを知るソフトウェアなのでサーバーには置いているだけだが、“otaku属性”診断の場合はAI処理や結果の記録のためにRailwayで動かしていたのだ。

 ここで、文字どおりホッとため息が出た。私はナイジェリア鉄道に寄付していたのではなかった。

 しかし、まだ今回のGoogle Walletの支払い履歴にはナゾが残っている。

 なぜ、Google Walletは、クラウドホスティングの「Railway Corporation」をアフリカの鉄道公社「Nigerian Railway Corporation」に書き換えて、支払い履歴にならべたのか。しかも、月ごとに表記が違っていたりするのか?

 こういう支払い名の間違いにおいて、「Railway Corporation」が、「Nigerian Railway Corporation」ということは、単純な書き間違いとか、テーブルが壊れていたなんてことではない。

 ちょっと新しい品種のバグが発生しているのではないかと考えてしまうではないか。

「名前空間」の話

 Railwayというサービス名も、なかなか危険だ。

 同じホスティングでも、CloudflareやNetlifyなら、それ自体が固有名詞らしく見える。しかし、Railwayは英語で鉄道という意味の普通名詞である。クラウドサーバーの会社なのか、どこかの国の鉄道会社なのか、どちらかは分からない。

 しかも、Railway(クラウドホスティングのほう)の公式ページの会社説明をみると鉄道網のような図が貼られていて、スタッフ紹介のところの見出しタイトルは「Meet the train crew」などとなっている。どこまで、鉄ちゃんなんだい。

 というか、これでは善良なAIくんが鉄道会社と間違ってしまうではないか。逆ハルシネーションとでもいうべきか。

Railwayの会社説明ページ。これだけ見ると鉄道会社である。

 プログラミングの世界には、こうした同じ名前の衝突を避けるために「名前空間」(name space)という考え方がある。

 たとえば、会社に田中さんが2人いるとする。「田中さんに渡してください」と言われても、どちらの田中さんか分からない。しかし、「編集部の田中さん」と「営業部の田中さん」なら区別できる。この「編集部の」や「営業部の」にあたる部分が、名前空間である。

 単に「Railway」ではなく、「クラウドサービスのRailway」と付けてくればよかった。いやそうではなくて、今回のケースは、なにもなかったところに根拠なく「Nigeria」が前についた結果、日本から1万9495kmも離れているらしいアフリカの鉄道会社のことになってしまったのだ。

ひょっとして“AI”が犯人なのか?

 ここで少し気になることが心をよぎる。

 これは、“従来のがっちりしたプロセス”(たとえば、支払い先の台帳にあたるデータベースと照合するという処理)から、“AI的な推測を使うプロセス”へとプログラムの基本的なアプローチが変わったからなのではないか?

 従来のがっちりしたプロセスなら、決済情報に記録された加盟店番号を、登録済みのデータベースと照合する。番号が一致すれば会社名を表示し、一致しなければ元の文字列をそのまま出すか、「不明な加盟店」とする。少なくとも、こんなお金にかかわることは、そのように動くものだろう。

 ところが、このプログラムにAIという技術がはさまってくると、不完全な情報をそのまま見せるよりも、そこから「たぶんこれだろう」という答えを作ろうとする。何でも答えようとしてくるのが、生成AIの特徴であるのはみなさんよくご存じのとおりだ。

 コンピューターは本来は、厳密なアルゴリズムで動いていた。1文字でもプログラムの文字が間違っていたら動かない。まさに、『わが友石頭計算機』(安野光雅著、ダイヤモンド社)という表現がピッタリの世界だった。少なくとも3年半ほど前まではそれが常識的な感覚だった。

 しかし、いまの生成AIは陽気にポジティブに、どんな困難な問いに対しても何らかの答えを出そうとする。

 その結果、ホスティングの「Railway.com」が、ナイジェリア鉄道公社になったのではないか?

 さらに支払い履歴を遡ってみると、5月7日の支払いでは、「Nigerian Railway Corporation」と表示されている上にアイコンがついている。それは、ホスティングのRailwayでも、ナイジェリア鉄道公社のマークでもない。オモチャの車のようなアイコンである。今度は、アイコンまでヘンなことになっている。

5月7日の支払いの画面。自動車のアイコンに注目してほしい。

 ナイジェリア鉄道公社への5ドル支払いは(実際は支払われていなかったはずだが)、我々が、生成AIの時代にどんなことに注意すべきかを考えさせてくれた。

1) 生成AIによる処理に置き換わると、世の中に見える部分がちょっとずつ変わってくる。

2) A社のサイトに表示される情報は、A社が提供する情報ではなく、A社が生成AIを使って作った情報になってくる。

3) 文字情報だけでなく、写真や地図まで使って、利用者が疑いにくいが信頼性を欠く情報表現が拡がりうる。

 それから、プログラマの方ならすでにお気づきだろう。

4) 開発者が生成AIを使うつもりはなくても、バイブコーディングやエージェントが、勝手に生成AIを使うコードを生成することもありそうだ。

 いろいろと調べていくと、Google Walletの支払い処理自体と支払い一覧の画面に表示される情報は、まったく別に行われているらしいことが分かってきた。まったく不思議な話だが、親切心で支払い一覧を分かりやすくするためにやっているのだろう。

 過去にも実際の支払先と支払い履歴に表示される情報が一致しないというトラブルが公式コミュニティやRedditで、ごくわずかだが報告されている。その中には、実際の支払い先の道路をはさんだ反対側のお店が一覧に表示されたなんてケースもある。

 これは、支払い履歴に表示する情報を決済された位置情報をもとに作りだしていたのだと想像したくなる。

 今回の5ドルの支払い履歴の表示も、同じようになんらかの方法で情報が作り出されたからこそナイジェリア鉄道公社となった。はたして、その情報を作り出すために生成AIが使われたのかどうかは分からない。

 しかし、このケースでは道路の反対側の店のように“間違った”のではなく“ナイジェリア”という情報が作り出されて追加された。さきほどの「1」と「2」の匂いがするケースだ。

 ナイジェリア鉄道公社のアイコンがオモチャの自動車になったのは、「3」にあたるケースだといえる。利用者が疑いにくくするのには失敗して、むしろ、コピー製品のあやしい日本語の説明書のようになっているが。

 実は、Google検索でも「Railway Corporation」と入力すると、支払い履歴を確認した時点ではナイジェリア鉄道公社のページが最初に出てきた。これは、かなりビックリだが、それが理由かもしれない。ちなみに、2026年8月7日から8日の間にホスティングのRailwayがトップに表示されるように変化した。Google Danceと呼んでビジネスを行う人にはシャレにならない表示順位の異常変動の一種といえる。

Google検索で「Railway Corporation」と入力すると、ナイジェリア鉄道公社のページが最初に出てくる(2026年8月5日~7日の状態)。

 しかし、検索結果をもとに支払い履歴の表示をするものなのか。ダンスの結果でお金の支払い先が変わって見えていいのか。そして、検索のアルゴリズムに生成AIが入りこんでいるのかとも考えてしまう。

 あるいはそうしたコードを人知れず吐いたのもAIなのか? これは、さきほどの「4」にあたるケースである。

 などと言ってはみたものの、我々自身が、日々、AIと一緒に仕事をするようになってきている。ときには、AIに頼り切り、ときにはAIの言うことを100%信じてしまいそうになる。仕事だけではない。AIの生み出した映像にいやされることもある。

 誰かが、私のところにメールやメッセージを送ってきても、私のAIエージェントが、適当に返事をしてしまうようになる。ホワイトカラーの仕事はそんなことばかりだから、仕事はAIがやる。そういう世界が、もうすぐそこに来ていると喧伝されている。

 現実の“私”はともかく、社会的な意味での“私”の主体は、日々、生成AIになってきているのだと思う。

 その私は、あの朝、ナイジェリアの列車に乗っていたのだ。

 運賃は5ドルだった。

 私の支払い履歴にあるとおりだ。

遠藤 諭(えんどうさとし)

 角川アスキー総合研究所リサーチパートナー、MITテクノロジーレビュー日本版アドバイザー、ZEN大学客員教授、ZEN大学 コンテンツ産業史アーカイブ研究センター研究員。プログラマを経て1985年に株式会社アスキー入社。月刊アスキー編集長、株式会社アスキー取締役、株式会社角川アスキー総合研究所取締役などを経て、2025年より現職。雑誌編集長時代は、ミリオンセラーとなった『マーフィーの法則』など書籍も手がけた。著書に、『計算機屋かく戦えり』、『近代プログラマの夕』(ともにアスキー)など。


X:@hortense667
Bluesky:https://bsky.app/profile/hortense667.bsky.social
mixi2:@hortense667

この記事をシェアしよう

週刊アスキーの最新情報を購読しよう

本記事はアフィリエイトプログラムによる収益を得ている場合があります

この連載の記事