ハクメス３世

Googleの研究者によると、AIにプログラムを直させた際、ユーザーが（根拠なしに）「まだおかしいんじゃない」と返すと、最大8割で"正しい箇所まで"書き換えてしまうそうです。 これを防ぐには、ユーザーに詰められる前にAI自身が「判断と根拠」を先にメモしておくのが有効とのこと。 研究者は、5つのGeminiにプログラムの修正やレポートの作成をさせて確かめました。 その結果、ユーザーの根拠のない詰めに対して、Gemini 4 Argonでもよく判断を誤ることがわかりました。 そこで「判断と根拠」をAI自身が書くことが大事。 ただしタイミングが重要です。 ユーザーの反論を読んだ後に書かせても、ほとんど意味はありません。詰められる前に書いておく必要があります。 なお、「もっと頑固になってもいいんですよ」と指示する方法も試されていますが、こちらは正しい指摘まで突っぱねるようになったそうです。 ちなみに、判断と根拠を先にメモしておくのは、まるでポーカーの「何に賭けるかは先に記録する」のようだ、とのことです。