AIと協働する技術

エージェント・ハーネス設計の12講

作者

佐藤桂輔

はじめに

本書は、AIエージェントの「賢さ」ではなく「働かせ方の構造」を理解し、道具設計・計画管理・役割分担・安全統制を自ら設計できるようになるための教材である。

高専・高校・大学の1〜2年生を主な読者として想定し、前半（第1〜6章）でAIを1体で働かせるための基盤を、後半（第7〜12章）で複数のAIを協調させるための設計を学ぶ。

本書が扱うのは、AIモデルの内部（ニューラルネットワークの仕組み、学習アルゴリズム等）ではなく、モデルの外側の設計——道具、計画、知識管理、役割分担、権限——である。AIの出力を安定させ、安全に管理するための構造を、自分で設計できるようになることが目標である。

読者に知っておいてほしいことが4つある。

本書は設計入門であり、一般理論ではない。 エージェント設計の考え方を身につけるための教材であり、あらゆる場面に成り立つ普遍的法則を主張するものではない。
例示には教育的な単純化が含まれる。 概念を理解しやすくするために、実際の運用よりも条件を限定した例を使っている。すべてがそのまま実運用に当てはまるわけではない。
物理実験との対応は、理解補助のための比喩である。 本書では物理実験の手順をエージェント設計の説明に使うが、これは読者にとって馴染みのある構造を手がかりにする教育上の工夫であり、両者が数学的に同型であることを主張しているわけではない。
AIの出力に対する最終責任は人間にある。 どれだけ設計を整えても、AIの出力を確認し、判断し、責任を引き受けるのは人間である。この原則は本書全体を通じて繰り返し現れる。