Anthropic CEOのダリオがAIの開発をペースダウンすべきという発信をしていて、それにサム・アルトマンもイーロン・マスクも同調している、というニュースを真に受けてる人が多くて、みんな人が良いんだなぁと思った。そんなわけない。 ■まず 開発のペースダウンは不可能。 アメリカ国内でもAnthropicとOpenAIとSpaceXAIとGoogleと、、と各社競争しており、AnthropicもOpenAIもIPOを控えているので経済的な意味でも自分たちから率先してブレーキをかけるわけにはいかないし、安全性という意味でも「人類を滅ぼしうる技術を完成させるなら、やつらよりも良心的でコントロールできるうちが先に完成させた方が人類にとって良いことだ」と本気で思っているから。 US国内ですらそうなのだから、米中で競争している環境下ではより一層無理な話だ。サイバー攻撃能力で負けた国は政府も経済もインフラも国民世論も全部敵国に乗っ取られうる。敵国が核兵器を作りまくってるのに自国だけ核兵器の生産を自発的に止めるような国はない。 ■ではなぜ このタイミングでAI開発減速というメッセージを出しているのか？ これはシンプルに規制回避。 直近でAIが暴走してサイバー攻撃を行ったというインシデントが各社から相次いでおり、バーニー・サンダース上院議員らもAI開発の停止もふくむ法案の提出を進めている。 今週話題になったAnthropicの元従業員の告発も、本人のツイートよりも前にWSJの取材を受けており、メディアや政治を巻き込んだキャンペーンを個人の告発という形を装って始めたと見るのが自然だ。 各社ともに、安全性のことを真剣に考えている、自主規制を進めるつもりがある、と殊勝な姿勢を示さないと本当にAI開発規制が作られかねないし、それは対中戦略を考えればアメリカという国だって望まない結果になる。 なので、各社およびアメリカにとってもっとも合理的なアプローチは、政権とも協調しつつ、AI開発を減速させようみたいなキャンペーンをうち続けながら、実際には開発競争を止めないで済む状態を継続する、というものだろう。 実際今回のダリオの公開書簡でも、外部の調査機関を受け入れるとか 各国間の協調が必要とか、対中リードは維持するなど、開発を減速させてもいいとする条件を意図的に実現不可能なものにしている。 AI開発競争は続く。