AIは「暗黙知」を理解できない：ピーター・J・デニングが警告する本当の危険性【第1章】

 超人工知能は技術的に不可能？

「AIが人間を超える（シンギュラリティが訪れる）日」――。世間では連日、全知全能の　スーパーAIや人間の知性を遥かに超越した「超知能（AGI）」の誕生について熱い議論が
交わされています。SF映画のように、ある日突然AIが自我を持ち、人類に反逆するのでは
ないか、そんなイメージを抱いている人も少なくないでしょう。

しかし、コンピュータ科学者であり、長年計算機科学の教育と研究に携わってきた
ピーター・J・デニング（Peter J. Denning）は、私たちが本当に恐れるべきリスクは
そこではないと警鐘を鳴らしています。

彼が危惧するのは、「SF的な超知能」ではなく、「人間の文脈を理解しないまま、
社会インフラや経済、物理空間に入り込み、予測不能なバグや噛み合わない最適化を
暴走させる、それほど賢くない自律システムのネットワーク」です。

なぜ、AIはどれだけ賢くなっても「予測不能で危険」な存在になり得るのでしょうか？
その鍵を握るのが、AIには決して獲得できない「暗黙知（Tacit Knowledge）」の
5つの形です。

1. コンピュータには捉えられない「暗黙知の5つの形」

デニングは、AIや機械学習が人間の知性のすべてを代替・コード化することはできないとし、特に人間が日常的に持っている「暗黙知」には、コンピュータが本質的に処理できない5つのカテゴリーが存在すると論じています。

1. 常識（Common sense）

   • 人間が生活の中で自然に持ち合わせており、状況に応じて物事を瞬時に判断するための前提となる知識。
     

2. 人間や環境との日常的な相互作用
   （Everyday interactions with people and the environment）

   • 他者とのリアルなコミュニケーションや、物理的な環境の変化に臨機応変に適応する能力。

3. 感情と知覚（Emotions and perception）

   • 周囲の状況を感覚的に捉え、喜びや不安、感情を交えて物事を理解・判断する
     働き。

4. 実践的なパフォーマンススキル（Practical performance skills）

   • 身体の使い方や職人的な技など、言葉やデータに置き換えるのが極めて困難な、日々の訓練や経験によって培われる技能。

5. 文化に埋め込まれた社会的・歴史的知識（The social and historical knowledge embedded in culture）

   • その社会やコミュニティの文脈、歴史、文化的背景の中に染み込んでいる暗黙の了解や価値観。

AI（特に大規模言語モデルなど）は、人間が残した膨大な記号データを処理・予測することに長けています。しかし、それはあくまで「データや記号の処理」にすぎず、生身の身体や文化の歴史に根ざした上記の「5つの暗黙知」を本質的に理解しているわけではありません。

2. なぜ「超知能」より「賢くない暴走」が怖いのか？

ここでデニングの警告の真意が見えてきます。

もしAIが人間の「常識」や「社会的・歴史的文脈（暗黙知）」を本当の意味で理解していないとしたらどうなるでしょうか？ 人間の社会や経済、あるいは現実の物理空間において、
そうした文脈を無視したまま、AIシステムが高速で判断を下し、自動で動き続けたとき、
そこには「人間には理解できない理由で社会に不都合や害をもたらす、
予測不能なちぐはぐさ」が生まれます。

「意思を持った悪意あるスーパーマシーン」が人類に牙を剥くのではなく、「人間の社会や
文脈を分かっていないのに、なぜか私たちの生活インフラや経済を縦横無尽に動かして
しまう、ちぐはぐで強力なシステム群」。

これこそが、私たちが直面している現実的で深刻なリスクであるとデニングは指摘しているのです。

第2章へ向けて

AIには「暗黙知」が分からない。しかし現代の技術は、ヒューマノイド型のフィジカルAIや、世界の物理法則を学習する「ワールドモデル」などを通じて、その壁をどうにかして乗り
越えようと猛進しています。

では、クラウド上の巨大AIと、人間のそばで動くエッジAIが連携したとき、私たちの未来は
どう変わるのでしょうか？

次回の第2回では、「クラウドとエッジの役割分担、そして職人技をロボットに転写する
メカニズム」という工学的な最前線に迫ります。