Know the principle. Use it wisely.（原理を知って賢く使う）
⑩ 原理はある。でも、全過程は追いきれない
AIは、人間が設計したしくみです。アルゴリズムも、学習の方法も、モデルの構造も、人間が考えてつくってきました。ただ、人間がつくったからといって、その中で起きていることを人間がすべて追えるわけではありません。
Geoffrey Hinton博士は、現代AIの基礎をつくった代表的な研究者です。そのHinton博士でさえ、AIについて、人間はアルゴリズムを設計したが、AIが実際にどうふるまうのかは完全には見通せない、と率直に語っています。
これは「何もわからない」という意味ではありません。車が人間より速く走ることに、私たちは驚きません。車がどういう原理で走るかを、完全な部品レベルで知らなくても、燃料や電気を使い、エンジンやモーターで動力に変え、車輪を回すという基本は理解できます。コンピュータも同じです。電子の速度で計算するため、人間には到底追えない量の処理を瞬時に行います。
AIにも基本原理はあります。入力を数のまとまりに変える。何層にも変換する。確率的に次の候補を選ぶ。誤差を小さくするように学習する。ここまでは説明できます。
しかし、ある一つの質問に対して、なぜその一語が選ばれ、その次にその一文が続いたのかを、人間がすべてたどることはできません。計算が巨大すぎるからです。
つまり、AIは「原理がわからない神秘」ではありません。原理はわかるが、全過程は追いきれない。そういう巨大な関数です。
だからこそ、基本を知る意味があります。AIに何ができるのか。何ができないのか。どこから先は推定なのか。何が入力されていなければ答えられないのか。そうしたことを見分けるためには、AIが魔法ではなく、入力と出力の関係を学習したしくみだと知っておく必要があります。
AIをわかるとは、AIのすべてを見通すことではありません。原理としてわかることと、計算が巨大すぎて追いきれないことを分けることです。そこから、AIをただ信じるのではなく、使い方を考えることができます。
⑪ まとめ：AIは代わりに生きてはくれない
AIとは、入力を受け取り、内部で変換し、出力を返す巨大な関数です。ことばをベクトル空間に置き、多層の計算で変換し、次にふさわしいことばを確率的に順次生成します。出口では、それが文章として現れます。
人間のように考えているのではありません。しかし、人間にはそのように見えます。その「考えているように見える」人工的なしくみこそが、AIです。
AIには身体がありません。それはもとよりです。ことばのやりとりにおいても、人間なら自然にしているふるまいが、そのまま備わっているわけではありません。
黙ってうなずく。
「あ、それそれ」と、相手の言葉をいっしょに見つける。
答えを急がず、問いをそのまま抱えて待つ。
AIがそうした反応を返すことはできます。しかし、それは人間のように気配を感じているからではありません。そう見える言葉を、入力に応じて生成しているのです。
AIをわかるとは、AIに依存することではありません。入力と出力の関係を見つめ、じぶんが何を入れ、何を受け取り、それをどう行動に変えるかを考えることです。
AIは、人間の代わりに生きるものではありません。人間が問い、受け止め、使い、行動に変えることで、はじめて意味を持つ道具です。
「こうやって見たら、AIも違って見える！⑤ じぶんとつなげる共創AI」 へつづく（最終回）
「こうやって見たら、AIも違って見える！③ 中学数学ですでに開いているAIの扉」 へもどる
出典・参照：共創 AI 英語 サイエンス＆アートラボ 2026、以下のエンパレットなど
共創AI と未知のじぶん：こうやって見たら、AIも違って見える
「入力→変換→出力」の原理 エンパレットシリーズ目次
こうやって見たら、AIも違って見える！❶ ことばの変換機
① 「書きことば」を出し入れする機械
② AIは、関数
③ ことばを、ベクトルに変える
こうやって見たら、AIも違って見える！❷ ことばの多次元空間
④ ことばの関係を計算する
⑤ 何を生成しているのか
⑥ 機械学習：自分で修正して、答えに近づく
⑦ 一般には強いが、個別は知らない
こうやって見たら、AIも違って見える！❸ 中学数学ですでに開いているAIの扉
⑧ AIの土台は、中学生の数学
⑨ なぜ、AIは魔法の箱に見えるのか
こうやって見たら、AIも違って見える！❹ 原理がわかると、見え方が変わる
⑩ 原理はある。でも、全過程は追いきれない
⑪ まとめ：AIは代わりに生きてはくれない
こうやって見たら、AIも違って見える！❺ じぶんとつなげる共創AI
補足A：共創AIは、あなたのデータから始まる
補足B：偶然出会ったことばが、あなたのふるまいになるまで
補足C： AIの先人