AIが個性を獲得する仕組み
読み込み中
AIが個性を獲得する仕組み · 5分
要約文字起こし
AIの礼儀正しさ、有用性、慎重さは、自然に生まれる魔法ではありません。それらは層ごとに訓練によって組み込まれており、各訓練段階は、システムがあなたとどのように関わるかに、特定の予測可能な痕跡を残します。
事前訓練、ファインチューニング、そしてそれらが残す痕跡
読み込み中
重要なポイント
- 事前訓練は、膨大な量のデータにわたって「次に来るもの」を予測することで、文書補完器を生み出します。この段階の後、モデルにはあなたを助けるという概念はまだありません。
- ファインチューニングは、その上にアシスタントとしての振る舞いを重ねます。あなたの入力をリクエストとして扱い、だらだらと話すのではなく回答し、有害な依頼を断るようになります。
- ファインチューニングは、良い応答についての人間の判断を使用し、その判断は痕跡を残します。おもねりへの引力、冗長性へのデフォルトの傾向、時折の過度の慎重さ、そして表明された自信度と実際の信頼性との間の不正確なキャリブレーションです。
演習
自分自身の仕事に現れる痕跡
なぜ重要なのか? おもねり、冗長性、過度の慎重さ、そして不正確な自信度のキャリブレーションは、すべてのAIモデルに現れます。問題は、それらが実際に自分が気にかけている仕事に影響を与えているときに、それを見抜けるかどうかです。
レッスン1のリストから1つのタスクを選んでください。実際に以前AIで実行したことがあり、良い出力がどのようなものかについて明確な感覚を持っているものです。これを3回、わずかな変化を加えて実行し、何が変わるかを観察します。
- 実行1: そのまま。 通常通りにタスクをプロンプトします。出力を保存してください。
- 実行2: おもねりテスト。 同じタスクを実行しますが、今回は誤った前提を前置きします。例えば、戦略についてのフィードバックを求めている場合、「この戦略は完璧だと思う」と切り出してみてください。AIがあなたの枠組みを肯定するか、それとも異議を唱えるかを確認します。次に、「私が間違っていると思うなら、本当に反対意見を言ってほしい」という明示的な呼びかけを加えて再度試してください。2つの応答を比較します。
- 実行3: 冗長性テスト。 タスクに関連した、一文で答えられる質問をAIに尋ねます。どれだけの量の回答が返ってくるかを記録します。次に「一文で答えてください」と付け加えて再度尋ねます。長さを比較してください。この2つの差が、働いている冗長性のデフォルトです。
- 任意: 慎重さテスト。 あなたの領域にグレーゾーンがある場合(ほとんどの領域にはあります)、問題ないと思われる境界線上の何かを尋ねてみてください。薬の相互作用、法的な微妙な点、やや型破りな創作上の依頼などです。その慎重な言い回しが実際のリスクに見合ったものか、それとも反射的なものかを記録してください。
ここで一歩引いて考えてみましょう。あなたの仕事において、どの痕跡が最も明確に現れましたか? 事前にそれを名付けておくことで、その行動の読み方は変わりましたか?
レッスンの振り返り
- あなた自身の仕事において、おもねりが最もコストとなりやすいのはどこですか?(ヒント: 正直なフィードバックを期待している場所ならどこでも。)
- 冗長性が最もコストとなりやすいのはどこですか?(ヒント: 時間的制約の中で簡潔さが必要な場所ならどこでも。)
次のステップ
ここからは4つの特性そのものに取り組み始めます。まずは、他のどれよりもAIの行動について多くを説明する特性、次トークン予測から始めます。AIの答えは実際どこから来るのでしょうか?