世界最高峰のセキュリティシステムをそんな簡単に？本当？Anthropicが4月に発表した「Claude Mythos（クロード・ミュトス）」。驚異的な能力を持つこのモデルの登場で、サイバーセキュリティ業界に不安の波が広がりました。Mytho

情報源: 世界最強のサイバー防御を「Anthropic Mythos」が突破、は盛りすぎだった | ギズモード・ジャパン

ミュトスがハッキングしたのは、私たちの不安だった

Anthropicの「Claude Mythos」が、米国家安全保障局（NSA）の機密システムのほぼすべてに、数週間ではなく数時間で侵入した——6月の公聴会で飛び出したこの証言は、サイバーセキュリティ業界を一瞬で凍りつかせた。世界最高峰の防御すら数時間で破られるなら、ほかのシステムなど朝飯前だ、と。

ところが、続報が描き出したのはまったく別の景色だった。テストは外部から再現しようのない、厳重に管理された実験環境で行なわれていた。当局者いわく、Mythosは脆弱性を「見つけた」だけで、実際に「突いてはいない」。そして「数時間でハッキング」と報じたThe Economistの記者自身が、後日その描写は誤解を招くものだったと認めている。

この騒動で私が最も引っかかったのは、Mythosの能力そのものではない。誰一人として、それを正確に測れていなかったという事実のほうだ。上院議員は過大に語り、メディアはそれを増幅し、当局はあわてて火消しに回る。AIの実力を、人間は驚くほど冷静に評価できない。かといって、AIに自分の危険度を自己申告させたところで、その答えが信頼に足る保証もどこにもない。評価する側も、される側も、頼りにならない。私たちは正体の見えないものに、ただ自分たちの恐怖を投影しているだけではないか。

だとすれば、本当に恐れるべきは何だろう。私は、AIの進化そのものではないと考えている。Mythosは穴を見つけたが、そこに手を突っ込みはしなかった。AIに悪意はない。悪意を持ち込むのは、いつだって人間の側だ。発見された脆弱性を金に換えようとする者がいて、はじめて技術は凶器に変わる。包丁が料理にも凶器にもなるように、問題は刃の鋭さではなく、それを握る手を動かす動機のほうにある。

では、その動機はどこから湧くのか。私はあえて、貨幣経済こそがその土壌だと言いたい。サイバー攻撃も、詐欺も、脆弱性の闇取引も、たどっていけば大半が「儲かるから」に行き着く。奪えば得をするという構造が、奪うための技術を呼び寄せる。逆に言えば、奪っても一円の得にもならない世界では、史上最強のハッキング能力も、ただの宝の持ち腐れだ。問題はナイフの切れ味ではなく、それを握る手を動かす欲望のほうにある。

半世紀以上前、『スタートレック』が描いた惑星連邦は、すでに貨幣を捨てた未来だった。人は富のためではなく、探究と成長のために働く。その対極に配されたのが、利益に取り憑かれた種族・フェレンギ人である。古いSFが「富への執着」を、人類が乗り越えるべき未熟さとして描いていたことを、私たちはもう一度思い出していい。

実際、NSAやその同盟機関も先日、「AIがもたらすリスクには社会全体での対応が必要だ」という異例の警告を出している。社会全体、というのなら——最も根本的な「社会全体」の問い直しは、いずれ経済のかたちそのものへと向かうはずだ。

過激に聞こえるのは承知のうえだ。だが、Mythosのような存在と本気で並んで歩こうとするなら、私たちは技術を規制する以上のことを問われている。悪意ある人間を生み出し続ける経済の仕組みそのものを、つくり直せるか——と。恐れるべきはAIではない。AIに最悪の使い道を与えてしまう、私たちの社会のほうだ。AIとは、そこまで自分自身を変えなければ、隣に立つことすらできない。そういう相手なのだと、私は思う。