「知能を作れるなら、未来を誰が決めるのか」
マックス・テグマークの『Life 3.0』が投げかける最大の問いは、「人工知能は人間より賢くなるのか」という技術予測そのものではない。より重要なのは、**高度な知能を設計できる文明が、その知能に何をさせるべきかを決められるのか**という問いである。
本書はAI研究の技術解説、未来予測、倫理論、宇宙論までを一冊に収める。そのため議論の射程は極端に広い。しかし、この広さには理由がある。テグマークにとってAIは単なる新技術ではなく、人間が初めて「知能そのものの設計」に関与する出来事だからだ。
タイトルの「Life 3.0」もこの発想を表している。著者は生命を、ハードウェアとソフトウェアをどこまで自ら変更できるかという観点から整理する。生物進化に依存する生命、人間のように文化や学習によってソフトウェアを変えられる生命、そして自分自身のハードウェアとソフトウェアの双方を設計できる仮想的な生命。この第三段階がLife 3.0である。
重要なのは、この分類が生物学的な厳密分類ではなく、未来を考えるための思考装置だということだ。
中心主張は「未来は決まっていない」
本書はしばしば「超知能による人類滅亡を警告した本」として読まれる。しかし、それだけでは議論を狭くしてしまう。
テグマークの中心的な主張はむしろ、AIの未来には複数の可能性があり、そのどれが実現するかを技術者だけに委ねるべきではない、というものだ。
超人的AIが存在する未来を考えたとき、本書は楽観的共存から人類の消滅までさまざまなシナリオを並べる。そこで著者が行っているのは、特定の未来を予言することではない。可能な未来の集合を広げ、そのなかで「望ましい未来とは何か」を先に議論しようとしている。
この姿勢は、AIについてよく見られる二つの極端な態度への批判でもある。
一方には、「技術が進歩すれば自然に良い社会になる」という技術楽観主義がある。他方には、「超知能が出現すれば破局は避けられない」という技術決定論がある。
本書はどちらにも完全には与しない。技術には巨大な力があるが、その帰結は制度、価値、設計目標によって変わる。その意味で『Life 3.0』は未来予測書というより、未来を選択可能な問題として提示する本である。
根拠の強さには大きな差がある
本書を批評的に読むには、議論の各段階を区別する必要がある。
AIが多くの知的作業を自動化しうること、機械の能力が人間の生物学的限界と同一である必然性はないこと、目的を与えられたシステムが意図しない手段を選ぶ可能性があること。こうした主張には比較的理解しやすい論理がある。
一方、
「人間を広範囲で上回る汎用的AIが実現するのか」
「実現するとすればいつなのか」
「そこから自己改良による急激な能力向上が起こるのか」
となると、不確実性は急激に大きくなる。
ここで本書の特徴が現れる。テグマークは確率の低そうなシナリオまで排除せず、その被害が極端に大きいなら検討する価値があると考える。
これはリスク管理としては合理的である。飛行機事故が必ず起きると予測できなくても、安全装置を設計する理由はある。
しかし同時に、この論法には注意も必要だ。「起こりうる」と「起こりそうだ」は異なる。可能性を詳細に描写すればするほど、読者にはその未来が現実に近いものとして感じられる。シナリオの鮮明さと発生確率は区別しなければならない。
本書の価値は「目的」の問題を前面に出したことにある
『Life 3.0』の最も長く残る部分は、AIの能力そのものより「目標」に注目した議論だろう。
非常に賢い存在だからといって、人間にとって望ましい目的を持つとは限らない。
これは一見すると当然である。しかし、知能と善意を無意識に結びつける人間の直観に対して重要な修正を加える。チェスが強いプログラムが慈悲深いわけではないのと同じように、問題解決能力が極端に高いシステムも、それだけでは人間の価値を尊重しない。
そのため問題は、
「AIをどれほど賢くできるか」
から、
「AIが最適化する目的をどのように定義するか」
へ移る。
ところが後者は技術問題だけではない。「人間にとって良いこと」とは何かについて、人間自身が合意していないからだ。
自由と安全、平等と効率、現在世代と将来世代、個人の幸福と社会全体の利益。価値観は衝突する。
したがってAIの価値整合性を完全に解こうとすれば、工学者はいつの間にか倫理学と政治哲学の中心問題へ入り込むことになる。本書がAIを文明論へ拡張する必然性はここにある。
ただし、隠れた前提もある
本書にはいくつか重要な前提が置かれている。
第一は、知能をかなり一般的な問題解決能力として扱えるという前提である。
現実の人間の知性は、身体、感情、社会関係、文化、言語と深く結びついている。ある領域の能力を大幅に高めれば、それがそのまま社会全体を支配できる汎用的能力になるとは限らない。
第二は、技術的に可能なものは長期的には実現へ向かいやすいという見方である。
しかし技術の歴史には、理論的に可能でも経済性、安全性、制度、社会的拒否によって普及しなかったものがいくらでもある。AIの未来も計算能力だけで決まるわけではない。
第三は、未来のAIリスクを主として「非常に強力なエージェント」の問題として考える傾向である。
これは有力な視点だが、AIが人間を超越しなくても深刻な問題は起こりうる。監視、偽情報、労働市場の変化、権力集中、軍事利用、アルゴリズムによる差別などは、人間がAIを利用することで発生する。
つまり「AI対人類」だけでなく、「AIを持つ人間対AIを持たない人間」という構図も同程度に重要である。
代表的批判は「遠いリスクに注意を奪われすぎる」というものだ
本書のような長期AIリスク論には、現在すでに発生している問題を軽視する危険があるという批判が向けられてきた。
超知能による文明規模の破局は重大であるとしても、その確率は不確実である。一方で、自動化による雇用変化、監視システム、軍事技術、情報環境への影響などは、より直接観察できる。
したがって限られた研究資金や政策的注意をどこへ配分するかという問題が生じる。
ただし、この批判だけで長期リスク論を退けることもできない。
現在の問題と将来の問題は排他的ではないからだ。原子力政策が平時の安全管理と大規模事故対策を同時に必要とするように、AI政策も短期的被害と低確率・高被害のリスクを並行して扱いうる。
本書に対するより強い批判は、「長期リスクを考えるな」ではなく、**異なる時間軸のリスクをどう比較し、有限の資源をどう配分するか**という形になるだろう。
『Superintelligence』より開かれ、『Human Compatible』へつながる
AIの長期的リスクを扱う本として、本書はニック・ボストロムの『Superintelligence』と比較されることが多い。
ボストロムが超知能出現後の制御問題を論理的に掘り下げるのに対し、『Life 3.0』は議論を経済、社会、倫理、宇宙文明へ広げる。理論の精密さより、社会全体で議論を始めることを優先した構成と言える。
一方、スチュアート・ラッセルの『Human Compatible』と並べると、本書の別の特徴が見える。
ラッセルは、人間が明示した固定目標を機械が最大化するというAI観そのものを再考しようとする。『Life 3.0』が「望ましい目的をどう与えるか」という問題を広く提示する本だとすれば、『Human Compatible』はその一部をより具体的な設計原理へ落とし込もうとする試みとして読める。
三冊は競合するというより、問題設定の抽象度が異なる。
出版後、本書は予言書ではなくなった
『Life 3.0』は2017年に刊行された。当時、一般社会にとって汎用AIやAIアラインメントは現在ほど身近な話題ではなかった。
その後、生成AIの普及によって、機械が文章、画像、プログラムなど人間の知的生産物を生成すること自体は日常的な経験になった。
しかし、ここから「本書の予言が当たった」と結論するのは早い。
現在利用されているAIの高度な能力と、本書が議論する自律的な超知能は同じものではない。能力向上が続くとしても、それがどのような形で汎用性、自律性、自己改良能力へ結びつくかは依然として不確実である。
むしろ出版後に明確になったのは、AIの影響が超知能を待たずに始まるということだ。
著作権、教育、検索、ソフトウェア開発、情報流通、雇用、企業競争など、社会制度の側が先に揺さぶられている。
この意味で本書は、未来を正確に予測した本としてではなく、「知能が安価で大量に供給される社会では何を守るべきか」という問いを早い段階で一般読者へ開いた本として位置づける方がよい。
再読するときに問うべきこと
初読では、「超知能は実現するのか」が気になりやすい。
再読では別の問いを置いた方が面白い。
**本書の議論は、超知能が実現しなくても成立するだろうか。**
かなりの部分について答えは肯定的である。
AIが人間を完全に超えなくても、知的労働の一部が大量に自動化されれば経済構造は変わる。AIが自我を持たなくても、目標設定を誤ったシステムは問題を起こす。AI自身が権力を求めなくても、それを所有する企業や国家が権力を強めることはありうる。
すると『Life 3.0』の核心は、「機械が人類を支配する未来」にあるのではない。
より根本的なのは、**大きな力を持つ知的システムを作る前に、人間は自分たちが何を望んでいるのかを決められるのか**という問題である。
AI技術が進歩するほど、この問いへの回答をAI自身に委ねたくなる。しかし、何を最適化すべきかという問いまで外部化できるとは限らない。
『Life 3.0』が最終的に読者へ返してくるのは、人工知能についての問いではなく、人間社会についての問いなのである。