読み込み中

AIの能力と限界

大規模言語モデルにできること・できないことについて、正確なメンタルモデルを構築します。次トークン予測、知識、作業記憶、 操縦性、そしてコンテキストの限界について扱います。

3.5 時間1 クイズ
学習内容このコースを終えると、次のことができるようになります
  • 生成AIを分類・予測AIと区別し、その4つの中核特性を能力から限界への連続体として捉える
  • 2段階の訓練プロセス(事前学習とファインチューニング)を説明し、それが残す行動上の痕跡である迎合性、冗長さ、 過度の慎重さ、確信度のキャリブレーションの緩さを認識する
  • 次トークン予測(Next Token Prediction)を中核的な生成メカニズムとして説明し、作り話(捏造)が集中する箇所を 特定する
  • 知識カットオフと訓練データの網羅性のばらつきが、モデルが知っていることをどう形作るかを説明し、ウェブ検索、 検索拡張(リトリーバル)、またはツール使用が解決策となる場面を見極める
  • コンテキスト ウィンドウを明確な境界を持つ制限として説明し、重要な情報を先頭に配置する、チャンク分割する、 再提示するといったコンテキスト配置戦略を適用する
  • 指示追従がどこで厳密になり、どこで緩くなるかを予測し、推論のドリフトや文言への過度なこだわり (精神より字句を優先する傾向)を操縦性の失敗として認識する
  • 実際のAIの失敗を、どの特性同士が衝突しているかを特定することで診断し、的を絞った対処法を選ぶ
  • 4つの特性を4Dフレームワークに結び付け、各連続体上にタスクを位置づけることで、適切に調整された信頼を実践する

ほとんどの人が生成AIシステムと初めて接したときの体験は、驚きと戸惑いが入り混じったものです。難解な報告書を数秒で見事に要約したかと思えば、存在しない引用文献を自信満々にでっち上げます。詳細な指示には完璧に従ったのに、その直後のメッセージでは単純な指示を無視します。その裏で何が起きているのかについてのメンタルモデルがなければ、こうした出来事はでたらめに感じられます。そして、次の出力を信頼していいのか、前回の出力をどう直せばいいのかも分かりにくくなります。

このコースは、学習者にそのメンタルモデルを提供します。これはAI活用力:フレームワークと基礎の姉妹コースです。あちらのコースが人間側の能力(委任力、記述力、評価力、倫理的責任)を教えるのに対し、このコースはそれらの能力が対応している機械側の特性を教えます。2つのコースはどちらの順序で受講しても構わないように設計されており、両方を合わせることで、効果的な人間とAIの協働について全体像を描くことができます。

このコースは、AIシステムがあなたのためにできることとできないことを形作る4つの特性を軸に構成されています。次トークン予測(AIの答えがどこから来るのか)、知識(モデルが実際に何を知っているのか、そしてなぜ自信満々に間違えることがあるのか)、作業記憶(今まさに何に注意を向けていて、何がこぼれ落ちるのか)、そして操縦性(あなたの指示が実際にどれだけの制御力を与えてくれるのか)です。それぞれの特性は能力から限界へと続くスペクトル上に位置しており、各セクションでは短い説明と実践的な演習をペアにすることで、単に読むだけでなく、境界線がどこにあるのかを体感できるようになっています。

最後のセクションでは、これらの特性が衝突するとどうなるかを見ていきます。実際の利用では、それは必ず起こることだからです。長い文書は作業記憶に負荷をかけると同時に、モデルが持ち合わせていない知識の領域にまで踏み込んでしまいます。曖昧な指示は、次トークン予測が最もそれらしく聞こえるものを探し求めているまさにその瞬間に、操縦性を試すことになります。最後に、実践的な診断手順として、想定外の出力をどう見るか、それがどの種類の想定外なのかをどう見分けるか、タスクが能力から限界への連続体上のおおよそどこに着地したのかをどう特定するか、そして一般的なやり直しではなく的を絞った対処法でどう対応するかを扱います。

特にありません。このコースは技術的な背景知識も、AIツールの利用経験も前提としていません。すでにAI活用力:フレームワークと基礎を修了している場合は、それぞれの特性が4Dのどこに結びつくかが分かるでしょうが、必須ではありません。

このコースの対象者

仕事や学業で生成AIを使っている、あるいはこれから使い始めようとしていて、AIがなぜそのように振る舞うのかを理解したいすべての人が対象です。教育者、学生、知識労働者、チームリーダーのいずれにとっても、同じ中核モデルが役立ちます。なぜなら、ここで説明する特性はユースケースが変わっても変化しないからです。

Inside the course

はじめに

3 lessons

「AI」という言葉が指す範囲は非常に広いものです。このセクションでは、実際に扱うことになるシステムの種類、 すなわち大規模言語モデルへと対象を絞り込み、事前学習とファインチューニングという2つの訓練段階が、生のテキ スト予測器をあなたが対話する有用なアシスタントへとどのように変えるのかを説明します。その過程で、このコー スの残りの部分を構成する4つの特性からなるフレームワークに出会うことになります。

次トークン予測

2 lessons

AIが出す答えはすべて、次に来るべきものを予測しながら、一度に1トークンずつ組み立てられています。このセクシ ョンでは、それが実際に何を意味するのかを示します。なぜモデルは要約や形式変換のような使い慣れた作業に優れ ているのか、なぜ本当らしく聞こえるが実際には誤っていることを生み出してしまうのか、そしてタスクが予測だけ では不十分な領域に踏み込んでいることをどう見分けるのかを扱います。

知識

2 lessons

モデルが知っているのは、訓練データに含まれていた内容、それも頻繁に、最近まで、そして一貫して登場していた 内容です。このセクションでは、それが何を意味するのかを解き明かします。主流の話題や普及している言語には強 い一方、まれなもの、最近のもの、ニッチなもの、あるいは論争のあるものには弱いのです。ある質問がそのスペク トル上のどこに位置するかを判断する練習をすることで、いつ答えを信頼し、いつ自分自身の情報源を持ち込むべき かが分かるようになります。

作業記憶

2 lessons

コンテキスト ウィンドウはモデルの作業記憶です。つまり、今まさに注意を向けられるものすべてであり、それ以外 は何もありません。このセクションでは、何が収まるのか、何が静かにはみ出して消えてしまうのか、なぜ長い文書 全体で注意が均一ではないのか、そしてなぜ新しいセッションが前回のセッションを覚えていないのかを扱います。 会話の途中で限界に気づくのではなく、始める前にタスクをウィンドウに照らして見積もる方法を学びます。

操縦性

2 lessons

あなたの指示が、AIを操縦する手段です。しかし、すべての指示が同じように届くわけではありません。「表形式で 答えて」「100語以内で」といった、短く具体的で検証可能な要求は確実に機能します。一方で、長い推論の連鎖や 抽象的な要求、ネイティブレベルの精度を求める要求では、操縦がずれ始めます。このセクションでは、その違いを 見分け、ぐらついた指示をモデルが実際に従えるものへと書き直す方法を学びます。

すべてをまとめて、次のステップへ

3 lessons

現実のタスクが、1つの特性だけを試すことはほとんどありません。長大な契約書のレビューは作業記憶に負荷をかけ ると同時に、モデルの知識の範囲を超えたところにまで踏み込みます。曖昧なクリエイティブブリーフは、次トーク ン予測がもっともらしい何かで埋めたくなるまさにその瞬間に、操縦性を試すのです。このセクションでは、4つの 特性がどのように衝突するのかを示し、想定外の出力に出会ったときのための診断手順、すなわちどの特性が働いて いるのかを特定し、そのスペクトル上にタスクを位置づけ、ただやり直すのではなく的を絞った対処法を適用する、 という手順を提供します。