Empathemian『A vector space』

AI maps the world into a vector space. (AIは世界をベクトル空間に配置するしくみ)

④ ことばの関係を計算する

現代のAI、とくにLLM(大規模言語モデル)は、入力されたテキストを小さな単位に分けます。この小さな単位をトークンと呼びます。トークンは、単語そのものとは限りません。単語より短いこともあれば、複数の文字のまとまりであることもあります。

AIは、そのトークンをベクトルとして扱います。そして、そのベクトルを何度も変換します。この変換を何層にも重ねるしくみを、ニューラルネットワークと呼びます。名前に「ニューラル」とありますが、人間の脳そのものではありません。脳の神経回路からヒントを得た、計算のしくみです。

私たちには、AIが答えを考えて一気に出しているように見えます。しかし実際には、次にふさわしいことばを連続的に生成しているのです。

⑤ 何を生成しているのか

よく「生成AI」と呼ばれます。一体、何を生成しているのでしょうか。

表面では、文章、画像、音声などを生成しています。しかし、文章生成AIの場合、直接生成しているのは文章全体ではありません。次に来る小さなことばの単位です。これをトークン (token) と呼びます。

入力された文脈をもとに、AIは次に来る候補の確率分布をつくります。確率分布とは、「次にどのことばが来そうか」を候補ごとに並べたものです。その中からひとつを選びます。そのトークンを文脈に加え、また次のトークンを予測します。この順次生成の連続が、出口では文章として現れます。

つまり、文章生成は出口です。内部では、入力がベクトル空間に写され、文脈の関係が計算され、次に出すべき候補の確率分布がつくられます。AIがいきなり「意味」を丸ごと生成しているのではありません。内部表現を更新しながら、次に来ることばを順番に選び出しているのです。その結果が、人間には自然な文章として見えます。

Empathemian, 『Meaning lives in relations』

⑥ 機械学習:自分で修正して、答えに近づく

AIのすごい点は、人間が一つひとつルールを教え込んだわけではないところにあります。これを支えているのが、機械学習です。

機械学習(Machine Learning)とは、コンピュータの中のモデルが、大量のデータを使いながら、自分の内部を調整していく方法です。ここでいう「機械」は、ロボットのような機械ではありません。コンピュータの中のモデルのことです。そのモデルが、たくさんのデータを使い、答えのズレが小さくなるように、自分の中の重みを調整していきます。

AIは答えを出します。その答えと、望ましい答えのズレを測ります。その誤差が小さくなるように、内部の重みを調整します。重みとは、入力された情報のどこをどれくらい強く見るかを決める、内部の調整値のようなものです。このくり返しによって、AIは自動的に役に立つ特徴表現を獲得していきます。

実はこれは、人間の身体運動の練習にも似ています。

やってみる。ズレを知る。直す。くり返す。

くりかえして身につける。ただし、人間は、ただくりかえすだけではなく、感覚、ねがい、記憶、意味づけがあります。AIにはそれがありません。

⑦ 一般には強いが、個別は知らない

AIは、一般的な情報には強いです。大量のテキストやデータに現れるパターンを学習しているからです。よくある説明、広く知られた知識、多くの人に当てはまる答えを出すことは得意です。

しかし、入力されていない個別固有のことはわかりません。あなたの人生、記憶、声、ふるまい、願い、変化を、AIが直接知っているわけではありません。あなたについて答えているように見えても、多くは一般的な情報からの推定です。

AIは、あなたを人間のように理解して考えているのではありません。あなたにとって、理解して考えて答えているように感じられる出力を返しているのです。AI(Artificial Intelligence)という名のとおり、人工的な、つまり人間がつくった「知能らしさ」です。

だから、あなた固有のことに近づくには、あなた自身の入力が必要になります。声、ふるまい、試したこと、つまずいたこと、続けたこと。そのデータがあってはじめて、AIは一般論から、あなたに近い手助けへと近づいていきます。

こうやって見たら、AIも違って見える!③ 中学数学ですでに開いているAIの扉」 へつづく

こうやって見たら、AIも違って見える!① ことばの変換機」へもどる

出典・参照:共創 AI 英語 サイエンス&アートラボ 2026、以下のエンパレットなど

共創AI と未知のじぶん:こうやって見たら、AIも違って見える
「入力→変換→出力」の原理 エンパレットシリーズ目次

こうやって見たら、AIも違って見える!❶ ことばの変換機
① 「書きことば」を出し入れする機械
② AIは、関数
③ ことばを、ベクトルに変える

こうやって見たら、AIも違って見える!❷ ことばの多次元空間
④ ことばの関係を計算する
⑤ 何を生成しているのか
⑥ 機械学習:自分で修正して、答えに近づく
⑦ 一般には強いが、個別は知らない

こうやって見たら、AIも違って見える!❸ 中学数学ですでに開いているAIの扉
⑧ AIの土台は、中学生の数学
⑨ なぜ、AIは魔法の箱に見えるのか

こうやって見たら、AIも違って見える!❹ 原理がわかると、見え方が変わる
⑩ 原理はある。でも、全過程は追いきれない
⑪ まとめ:AIは代わりに生きてはくれない

こうやって見たら、AIも違って見える!❺ じぶんとつなげる共創AI
補足A:共創AIは、あなたのデータから始まる
補足B:偶然出会ったことばが、あなたのふるまいになるまで
補足C: AIの先人