生成AIが意味すること
読み込み中
AIが意味すること · 4分
要約文字起こし
世の中のほとんどのAI(スパムフィルター、レコメンデーション、不正検知)は生成的ではありません。このコースが扱うのは生成的なAI、つまりトランスフォーマーベースのテキストモデルで、一度に1つのトークンずつ新しいコンテンツを生成するものです。
機械のメンタルモデルを構築する
読み込み中
主なポイント
- 生成AIは新しいコンテンツを生成します。既存のコンテンツを分類するのではありません。
- AIは一様に有能でも一様に信頼できないわけでもありません。 次トークン予測、知識、作業メモリ、操縦性という4つの予測可能な軸に沿って、強い部分と弱い部分があります。
- それぞれの特性は連続体です。 同じメカニズムが能力と限界の両方をもたらします。
- 調整された信頼とは、信頼を一括して与えたり差し控えたりするのではなく、自分のタスクをその連続体上に位置づけることを意味します。
エクササイズ
生成的か否か?
なぜ? 生成AIは、スパムをフィルタリングしたり次の動画を推薦したりするAIとは根本的に異なることを学びました。今度は、その区別を自分自身の経験に当てはめてみましょう。
- 今週やり取りしたAI搭載機能を5つ挙げてください。 広く網を張りましょう:自動補完、写真のタグ付け、スパムフィルタリング、チャットボットの回答、翻訳、商品レコメンデーション、音声アシスタントなど。
- それぞれについて、自分の判断を書き留めてください。 それは新しいコンテンツを生成しているのか、それとも既存のコンテンツを並べ替え、ランク付け、分類しているのか?
- リストをAIに共有し、自分の判断をチェックしてもらいましょう。 間違っていた(あるいは確信が持てなかった)ものについては、その違いを一文で説明してもらいましょう。そして次のように尋ねてください:「これら5つのうち、このコースが理解を助けてくれる失敗モードを持つ可能性が最も高いのはどれですか?」
- レッスン1のタスクリストに戻ってください。 各タスクについて、今最も関連性が高いと感じる特性の質問でタグ付けしてください:
- 答えはどこから来るのか?(次トークン予測)
- それは何を知っているのか?(知識)
- それは何に注意を払っているのか?(作業メモリ)
- 自分はどれだけコントロールできているのか?(操縦性)
これらを正しく当てる必要はありません。今後の4つのレッスンで検証する予測を作っているのです。
レッスンの振り返り
- AIにおける生成と分類の区別は、あなたが使っているツールについての考え方を変えましたか?
- タスクリストにどのようにタグ付けしたかを見てみましょう。複数の特性に当てはまりそうなタスクはありましたか?
次は何か
4つの特性を掘り下げる前に、AIシステムがそもそもどのようにして人格を持つようになるのかについて、1つのレッスンを使って見ていきます。なぜ礼儀正しく、有用で、正直なのか、なぜ時には簡単に同意しすぎるのか、なぜ特定のことを拒否するのか。その形成プロセスは、その後のすべてに指紋を残します。