「制御不能なAI」への懸念からアンソロピック社を退職した研究者ご本人のポスト。 人間の管理を離れて自己進化・増殖するAIへの懸念が、ついに業界内部から出るようになってきています。 実際に今、最新のAIはどこまで行っているのでしょうか。 指数関数的に進化・増殖するAIはあと1〜2年も経てば、どんな進化が起こっているかを人間が理解できなくなるとも言われています。 私が懸念している「核抑止」から「AI抑止」の時代への移行も早いかもしれません。 そうであれば、核物質を国家管理、国際管理の下に置いているように、「AIの能力・知能」自体も、国家管理、国際管理の枠組みの下に置かなくてはならなくなります。 残念ながら今はまだその仕組みはなく、AI企業同士の競争がただただ自己増殖を加速させています。 まずは、AI開発に対する国家指針のようなものを作る必要があるのでしょうが、国家間の競争もありこれも簡単ではありません。 壮大な「囚人のジレンマ」に世界全体が陥っているのかもしれません。 米国議会で提出されたAI Kill Switch Act（AIキルスイッチ法案）のようなアプローチが可能かどうか、我が党でも早急に検討を開始したいと思います。