本章の構成
第1章は以下のように進めます。
第1章 AI/LLMの基礎アーキテクチャ
1-1 AIとは何か
1-2 機械学習とは何か
1-3 ニューラルネットワーク
1-4 深層学習(Deep Learning)
1-5 言語モデル(Language Model)
1-6 Transformer以前の世界
1-7 Transformer
1-8 Tokenization
1-9 Embedding
1-10 Attention
1-11 Transformer内部の流れ
1-12 GPTは何をしているのか
1-13 本章まとめ
1-1 AIとは何か
学習目標
この節を学ぶと、次のことが説明できるようになります。
- AI(Artificial Intelligence)の意味
- AIとプログラムの違い
- AI・機械学習・深層学習・LLMの関係
- なぜChatGPTは「AI」の一種なのか
導入 ― AIとは何を指す言葉なのか
現在、「AI」という言葉は非常に広い意味で使われています。
例えば、次のようなものはすべてAIと呼ばれることがあります。
- ChatGPT
- Claude
- Gemini
- 将棋AI
- 自動運転
- 顔認識
- 音声認識
- レコメンドシステム(YouTubeやNetflixなど)
しかし、これらはすべて同じ仕組みで動いているわけではありません。
つまり、AIは一つの技術名ではなく、「人間の知的な作業をコンピュータで実現しようとする技術全体」を指す総称です。
AIを正しく理解する第一歩は、「AI」という言葉を一つの技術ではなく、大きな概念として捉えることです。
歴史・背景
AI研究は1950年代から始まりました。
当時の研究者たちは、
「人間が考えることをコンピュータでも実現できるのではないか」
という問いに挑戦しました。
1956年に開催されたダートマス会議は、AI研究の出発点として広く知られています。この会議で「Artificial Intelligence」という名称が提案され、その後の研究分野として定着しました。
当初は、
- ルールを書けば人間のように考えられる
と期待されました。
例えば、
もし雨なら → 傘を持つ
もし熱が38℃以上なら → 病院へ行く
のようなルールを大量に作れば、人間並みの知能になると考えられていました。
しかし、現実はそう簡単ではありませんでした。
ルールベースAIの限界
例えば次の文章を考えます。
今日は少し寒い。
ここで問題になるのは、「少し」とは何度なのかという点です。
ある人にとっては18℃かもしれませんし、別の人にとっては10℃かもしれません。
さらに、
少し寒いから上着を着よう。
という判断も、人によって異なります。
つまり、人間は明確なルールだけでなく、経験や文脈、曖昧さを含めて判断しています。
このような曖昧さを、すべてルールとして書き下すことは現実的ではありません。
この課題から、「人間がルールを書く」のではなく、「コンピュータ自身がデータから学ぶ」方向へ研究が進みました。
この考え方が、次節で扱う機械学習(Machine Learning)です。
AIの階層構造
AI関連の用語は混同されやすいため、階層構造で理解すると整理しやすくなります。
人工知能(AI)
│
├── ルールベースAI
│
└── 機械学習(Machine Learning)
│
├── 決定木
├── SVM
├── ベイズ推定
└── 深層学習(Deep Learning)
│
├── CNN
├── RNN
└── Transformer
│
├── BERT
├── GPT
├── Claude
├── Gemini
└── Llama
この図から分かるように、ChatGPTはAIそのものではなく、「AI → 機械学習 → 深層学習 → Transformer → GPT」という系譜の上にある一つの応用です。
この階層構造を理解しておくと、今後登場する技術同士の関係が整理しやすくなります。
AI活用との関係
AIを使いこなす上で重要なのは、「AIは万能ではない」という前提を理解することです。
例えば、ChatGPTに対して「AIだから何でも知っている」と考えると、誤った期待を抱きやすくなります。
一方で、「Transformerを基盤とする大規模言語モデルであり、学習済みの知識と入力された文脈をもとに次の単語を予測している」と理解していれば、
- なぜ最新情報が苦手なのか
- なぜ入力の書き方で回答が変わるのか
- なぜ外部検索やRAGが必要になるのか
といった理由も自然に理解できます。
つまり、AIの内部構造を学ぶことは、AIの限界を知り、適切に活用するための土台になります。
関連論文・研究
Computing Machinery and Intelligence
- 著者:Alan Turing
- 公開年:1950年
解決しようとした課題
- 「機械は考えることができるのか」という問いを、哲学ではなく実験可能な形で扱うこと。
要点
- 有名な「チューリングテスト」を提案し、人間との対話で区別できない振る舞いを知能の一つの指標と考えました。
現代への影響
- AIの評価方法や研究の出発点として、現在でも引用される古典的論文です。
よくある誤解
誤解1:「ChatGPT=AI」
正しくは
ChatGPTはAIという大きな分野の中の、一つのサービス・モデルです。
誤解2:「AIは考えている」
現在のLLMは、人間のような意識や感情を持って考えているわけではありません。
内部では、大量の学習データと入力文脈をもとに、次に現れる可能性が高いトークンを予測することで文章を生成しています。
誤解3:「AIは最近になって突然生まれた」
現在のLLMは急速に普及しましたが、その背景には70年以上にわたるAI研究の蓄積があります。
用語集
| 用語 | 説明 |
|---|---|
| 人工知能(AI) | 人間の知的活動をコンピュータで実現しようとする技術全体の総称。 |
| 機械学習 | データから規則性を学習するAIの手法。 |
| 深層学習 | 多層ニューラルネットワークを用いる機械学習の一分野。 |
| Transformer | Attentionを中核とするニューラルネットワーク構造で、現在のLLMの基盤。 |
| LLM | 大量の文章を学習した大規模言語モデル。自然言語の理解と生成を行う。 |
理解度チェック
- 「AI」「機械学習」「深層学習」「Transformer」「GPT」の関係を階層構造で説明してください。
- なぜルールベースAIだけでは、人間のような柔軟な判断を実現することが難しかったのでしょうか。
- ChatGPTが「AIの一種」であって「AIそのもの」ではない理由を説明してください。
章末まとめ
:AIは単一の技術ではなく、人間の知的活動を実現する技術全体の総称である。
:機械学習は、ルールを人間が記述する代わりに、データから規則性を学習する考え方である。
:深層学習は機械学習の一分野であり、Transformerは深層学習の代表的なアーキテクチャである。
:GPTやChatGPTはTransformerを基盤とする大規模言語モデルであり、AI全体の中では一つの応用に位置付けられる。
次節へのつながり
「AI」という大きな枠組みを理解したところで、次は「機械はどのようにデータから学ぶのか」を扱います。
第1章 1-2「機械学習とは何か」では、教師あり学習・教師なし学習・強化学習を概観し、その中で深層学習がどのように発展してきたかを学びます。ここを理解すると、なぜLLMが膨大なテキストから能力を獲得できるのかが見えてきます。