「Claude Mythos(クロード・ミュトス)」という名前を聞いたことはあるでしょうか。
最近、生成AIの分野で話題になっている言葉です。
Claudeは、アメリカのAnthropicという会社が提供している生成AIです。
ChatGPTと同じように、文章を書いたり、質問に答えたり、プログラムを書いたりできます。
ただ、Claude Mythosが注目されているのは、単に「文章がうまい」「回答が賢い」という点だけではありません。
「ソフトウェアの脆弱性、つまり、セキュリティ上の問題を見つける力が非常に高い」とされている点です。
※公式には「Claude Mythos Preview」と呼ばれていますが、この記事では分かりやすくClaude Mythosと呼びます。
何がそんなにすごいのか
これまで生成AIは、「文章を書いてくれる」「プログラムの手伝いをしてくれる」ものとして見られてきました。
しかし、Claude Mythosで注目されているのは、その先です。
複雑なプログラムを読み解き、どこに弱点があるのかを探せるようになってきたのです。
条件によっては、人間より先に、AIが弱点を見つける場面も出てくるようになりました。
実際、Claude Mythosは、主要なOSやWebブラウザを含む重要なソフトウェアから、多くの深刻な弱点を見つけたと説明されています。
中には、27年近く見つかっていなかったものもありました。
何が問題なのか
一見すると、これは素晴らしいことに思えます。
AIが自動で弱点を探してくれるのですから、人間より早く、的確に、弱点に対応できるようになるはずです。
問題は、これが悪用された場合です。
もし、悪意を持った人の使うAIが先に弱点を見つけてしまった場合、どうなるでしょうか?
悪意を持っているわけですから、当然、その弱点を狙って攻撃してきます。
ですが、守る側がその弱点にまだ気づいていなければ、すぐに対策をとることは難しくなります。
攻撃を受けてから原因を調査し、初めてその弱点に気づく、ということも起こり得ます。
これでは遅いのです。
何をしたのか
そこでAnthropicは、Claude Mythosを誰でも使える形では公開せず、防御目的で活用できる限られた組織に提供する形を取りました。
この取り組みが「Project Glasswing(プロジェクト・グラスウィング)」です。
これには、AppleやGoogle、Microsoftなど、世界的なIT企業が名を連ねています。
特に金融分野では、各国で対応が進んでいます。
アメリカでは大手銀行がClaude Mythosへの対応を急いでおり、ヨーロッパでも銀行に備えを促す動きが出ています。
日本でも、メガバンクがClaude Mythosにアクセスできるようになる見込みだと報じられています。
まとめ
Claude Mythosの話題は、生成AIの機能が新たなステージに到達したことを意味しています。
これからの生成AIは、プログラムを作るだけではありません。
プログラムの弱点を探し、直し、防御に役立てるところまで広がっていくかもしれません。
ですが、便利になる一方で、悪用されたときの影響も大きくなります。
だからこそ、「すごいAIが出た」で終わらせるのではなく、そのAIが何に使われるのか、どのように管理されるのかにも目を向ける必要があります。
