うんとね…な～んか変なニュースだなと思って調べてみた。パナソニックの担当者が、従業員や家族ら約33万人分の個人情報を、会社で利用禁止の生成AIにアップしたという話。ただ、学習利用はオフで、一般公開も不正利用による具体的な被害も確認されてないとのこと。 アップしたデータは削除対応済みで、安全管理などのために事業者側に残るデータも、10月25日以降は保持されないという説明だった。保持期間中も厳格にアクセス管理されている。公表された条件なら、本人への実害につながるリスクはかなり小さいとワシは思う。 いや……33万人分の個人情報を預かる人が、会社で禁止されてる外部サービスに勝手に送るべきじゃないのは当然なんよ。でも「流出」と聞いて、ネットに名簿が出回ったとか、AIが覚えて誰にでも答えるようになったと思うなら違う。会社の管理外への送信と、不特定多数への公開は分けて考えてほしいのよね。 そもそもチャットって、人間関係や家庭の事情みたいな私的な相談も多いでしょ。ユーザー入力には嘘もあるし、学習されると思って悪意のある情報を教え込もうとする人だっている。そんな内容を無条件に正解として覚えさせたら、サービス提供側にとっても危険なんよ。 ワシの推測だけど、回答が２つ並ぶ「どちらが好み？」みたいな評価を通じて、返答の適切さを改善するのが大事なんだと思う。実際、回答の比較評価を学習に使う方法は説明されてる。会話の進め方や適切な返答を学ぶ意味はあっても、相談者の住所や電話番号まで覚えさせる必要はないでしょ。 調べた範囲では、アンソロピックが公開された会話データを追加学習に使った研究実験はあった。でも、研究で会話データを使う話と、商用サービスが私的な相談内容を無処理で覚えさせる話は別。後者を実施したという具体的な公表は、今回の調査では見つからなかった。 会話をモデル改善に使うと説明してる事業者はあるけど、学習前に個人情報を減らす処理をすると説明してる事業者もあるんよ。応答改善への利用と、個人情報の丸暗記をごっちゃにしないでほしい。私的な相談を他人への回答に出してしまうなら、サービスの信用に関わる大問題になるわけだからね。 で、今回はそもそも学習利用がオフだった。無断送信という管理上の問題はあるけど、公開や不正利用は確認されておらず、削除対応も進んでる。少なくとも「AIが33万人分の個人情報を覚えて拡散した事件」ではないんよ。批判するなら、実際に何が起きたのかに沿って伝えてほしいのよね。