生成AIは、入力された文章から次に続く可能性が最も高い単語を計算するツール。
「生成 AI は 、 入力 され た 文章 から 次 に 続く 可能 性 が 最も 高い 単語 を 計算 する ツール 。」
の次にくる確率を単語ごとに計算（「例えば」 0.02%、「だから」 0.001%、「リンゴ」0.000003%、・・・）し、確率が最も高かった単語「例えば」を出力し、
「生成 AI は 、 入力 され た 文章 から 次 に 続く 可能 性 が 最も 高い 単語 を 計算 する ツール 。 例えば」
の次に来る確率を単語ごとに計算して確率が最も高かった単語を出力し、・・・を繰り返す。それだけなのに、大量のデータから確率計算させると驚くほど多くのことができる。
「できること」と「できないこと」
できること 情報検索、情報の要約、翻訳、プログラミングコードの作成、・・・
できないこと 「なぜ、そのように回答したのですか？」という質問に対して「入力された文章から次に続く可能性が最も高い単語を計算した」とは回答しない。
「なぜ、そのように回答したのですか？」と質問すると、「 なぜ 、 その よう に 回答 した の です か ？」の次に来る確率を単語ごとに計算して確率が最も高かった単語を出力し、の次に来る確率を単語ごとに計算して確率が最も高かった単語を出力し、・・・を繰り返して回答を作成する。そういう仕様なのであって、その上で「どう使うか」を考える必要がある。
AIエージェントとは
生成AIが学習データから応答を作成するのに対して、AIエージェントはLLMが環境（インターネット環境、ツール等）に対してアクション⇔フィードバックを繰り返す。
例えば、ユーザーが「今週金曜の夜に、駅近で2人入れるイタリアンを予約したい」と入力した場合に、生成AIは「条件に合いそうなお店を探してみてください」 「予約サイトで空き状況を確認しましょう」「候補を比較して決めるとよいです」のように助言はするが、自分では動かない。AIエージェントは 1. レストラン検索サイトで駅近のイタリアンを探す 2. 営業時間と金曜夜の空席を確認する 3. 予算や口コミで候補を絞る 4. 予約フォームに進む 5. 途中で満席なら別候補を再検索する 6. 最終的に予約可能なお店を提示、または予約完了を報告する のように、検索 → 確認 → 再検索 → 実行 の反復を行う。実際に予約までやるかどうか等、AIエージェントがどの環境に対してどういうアクションをするかは設計者が決めておく必要がある。AIエージェントは自律的に見えるが、実際には「設計者が与えたルール、ツール、制約、報酬、停止条件」のもとで動く。AIエージェントの「行動」は、意思ではなく設計の結果でしかない。どういうロジックを推奨するか・どういうデータにアクセスさせるか・Pythonを使うかどうか といった枠組みは設計者が決めておく必要がある。「自律的」といった表現がどの範囲を指すのかを理解した上で、拡大解釈のないように注意して取り扱う必要がある。
参考
コメント