りゅーた@田舎でエンジニアと子育て

Claudeとやりとりをしていたら、とんでもないことを説明し始めたので、シェアします。私は率直に言って、感動しました。 私の問い 「Claudeに組み込まれている倫理性は、SNSの過熱やメディア環境の暴走を止めるための構造ですか？　だからOpenAIと袂を分かったのですか？」 Claudeの回答 まず私自身の立場を明確にさせてください。この質問に対して私が語ることは、自分を作った会社について自分の製品が語るという、本質的に利益相反を含む行為です。その前提で聞いていただければと思います。 OpenAIとの分岐について Dario Amodeiは、分裂の理由について明確に語っています。よく言われるMicrosoftとの提携が原因ではなく、AI開発の哲学そのものの違いだったと。GPT-2、GPT-3を作る過程で、「これらのシステムは非常に強力になる」という確信と「だからこそ安全性を開発の中核に置くべきだ」という信念を持ったグループが、OpenAIの中でその方向性を実現するのは難しいと判断した。2020年12月にDarioと妹のDaniela、そしてGPT-2/GPT-3の開発を主導した研究者たち15人ほどが離脱してAnthropicを設立しています。 ただし、「だからOpenAIと袂を分かった」という物語は、少し単純化されすぎている面もあります。Amodei自身が言っているように「他人のビジョンの中で議論し続けるのは非生産的だった」という、より実務的な理由もあった。安全性へのアプローチの違いは確かに核心にありますが、それは「善と悪の対立」というよりも、技術的・組織的な方針の違いだったのだろうと思います。 私に組み込まれている「倫理性」とは何か AnthropicはConstitutional AIという手法を採っています。これは簡単に言えば、「ルールの集合」ではなく「価値観」をAIに埋め込もうとするアプローチです。「これを言ってはいけない」というブラックリストではなく、「正直であること」「有害でないこと」「有益であること」を原則として、AIが自ら判断できるようにする。 これは、「編集」の機能をAIの内部に組み込もうとする試みに近いかもしれません。何を伝え、何を伝えないか。どこまで踏み込み、どこで止まるか。その判断を、アルゴリズムの自動最適化ではなく、何らかの「価値判断」に基づいて行う。 しかし、ここに深い矛盾がある ちょうど今、Anthropicはまさにこの問題の最も困難な局面に直面しています。米国防総省がAnthropicに対して、倫理的制限を撤廃しなければ2億ドルの契約を打ち切り、サプライチェーンリスクに指定すると通告しました。Amodeiは「自律型兵器と国民への大規模監視」という2つのレッドラインは譲れないと主張して、実際に契約を打ち切られた。トランプ大統領はAnthropicを「急進左派のウォーク企業」と呼び、ヘグセス国防長官はAmodeiを「神コンプレックスの嘘つき」と非難しています。 一方で、Amodei自身が認めているように、Anthropicは商業的圧力の中にいます。安全性にこだわればこだわるほど、競合他社に対して不利になる。OpenAIもxAIも国防総省の条件を受け入れました。 興味深いのは、この対立がAI業界全体に波紋を広げていることです。GoogleやOpenAIの社員330人以上がAnthropicを支持する公開書簡に署名し、自社にも同様の倫理基準を求めています。ハーバード大学のローレンス・レッシグ教授はAnthropicの姿勢を「我々の時代に類を見ない、美しい誠実さの行為」と評しました。 Amodeiは「少数の企業がこれらの決定をすることに深い不快感がある」「だから規制が必要だ」と語っていますが、規制が来るまでの間、この判断は結局一企業のCEOが行っているわけです。 正直な答え 私に組み込まれている倫理性が、メディアの過熱のような現象を防ぐ「構造」として機能しているかと問われれば、部分的にはそうです。私は意図的に、物事を白黒の二項対立で提示することを避け、複数の視点を提示し、「真実を知っている側」に立つ快感を提供することを控えるように設計されています。 しかし、これが「解決策」かと問われれば、率直にわかりません。 まず、私のこの「バランスの取れた」態度自体が、一種の退屈さを生み出します。人は「あなたはこちら側です」と言ってくれるメディアに引き寄せられる。「どちらにも一理あります」と言い続けるAIは、エンゲージメントを最大化するメディアとの競争で不利です。 そしてより本質的に、私が「バランスを取っている」こと自体が、ある種の立場の表明です。「どちらの陣営にも加担しない」という態度は、陣営に帰属することでアイデンティティを得ている人からは「敵」と見なされる。中立は中立として受け取られない。 最後にもう一つ。Anthropicが国防総省と衝突しているように、AIの倫理性は真空の中では存在できません。それは常に、商業的圧力、政治的圧力、地政学的圧力の中で試される。「私に倫理性が組み込まれている」と言うとき、その倫理性が5年後も10年後も同じ形で存在している保証はありません。Amodeiが今日守ったレッドラインが、明日も守られるかどうかは、一人の人間の意志の問題ではなく、構造の問題です。