AIをめぐる本当の問いは「賢さ」だけではない
AIをめぐる議論は、しばしば「人間より賢くなるのか」「仕事を奪うのか」「意識を持つのか」といった問いに集中する。しかし社会との関係を考えるなら、AIそのものの能力だけを見ても十分ではない。重要なのは、AIが誰によって設計され、どのようなデータから学び、どの制度に組み込まれ、誰の判断を代替し、その利益と損失を誰が引き受けるのかという問題である。
この観点から見ると、AIをめぐる主要な論点は、技術の性能、意思決定の公平性、労働への影響、監視と権力、そして人間の責任という複数の領域にまたがっている。これらは独立した問題ではない。むしろ、同じ技術が異なる社会制度に置かれることで、便利な道具にも、不透明な支配装置にもなりうるという点で結びついている。
アルゴリズムは中立なのか
キャシー・オニールは『Weapons of Math Destruction』で、数理モデルが客観的に見えるからこそ、その内部にある価値判断が見えにくくなる危険を論じた。採用、融資、教育、保険などで用いられるモデルは、単に現実を測定するのではない。何を「成功」と定義し、どの変数を重視し、どの誤判定を許容するかという選択を含んでいる。
ここで重要なのは、「アルゴリズムには偏見がある」という単純な主張ではない。人間による判断にも偏見は存在するため、人間から機械に置き換えること自体が悪いとは限らない。むしろ比較すべきなのは、人間の判断とアルゴリズムの判断のどちらが、どの条件で、どの種類の誤りを減らせるかである。
問題は、アルゴリズムが大規模に適用されると、一つの設計上の欠陥が多数の人に繰り返し作用する可能性があることだ。また、判断の理由が本人に説明されなければ、誤りを訂正する機会も失われる。AIの公平性とは、単に精度を高める問題ではなく、異議申し立て、説明責任、監査可能性を含む制度設計の問題なのである。
監視資本主義という見方
ショシャナ・ズボフの『The Age of Surveillance Capitalism』は、デジタル企業が人間の行動データを収集し、それを予測や行動への介入に利用する経済構造を「監視資本主義」と呼んだ。彼女の議論はAIそのものを論じたものではないが、大量のデータを必要とする現代のAIを考えるうえで重要な視点を提供する。
AIの性能向上には、多くの場合、大量の文章、画像、行動履歴などが利用される。そのため「AIを便利にすること」と「社会のあらゆる行動をデータ化すること」が結びつきやすい。
ただし、ズボフの枠組みをすべてのAI利用に適用するのも適切ではない。医療画像の解析、工場の異常検知、科学研究など、個人の行動を操作することを目的としないAI利用も多い。問題なのはAIという技術一般ではなく、データ収集、広告、予測、行動誘導が一体化した特定のビジネスモデルである。
この区別をしないと、AI批判は技術批判と企業制度批判を混同してしまう。
AIは仕事を奪うのか
AIと社会をめぐるもっとも身近な論点は雇用である。しかし「AIによって何人の仕事がなくなるか」という問いだけでは、労働市場の変化を十分に捉えられない。
歴史的に、新技術は職業そのものよりも、職業を構成する個別の作業を変えてきた。コンピュータが普及しても事務職が即座に消滅したわけではなく、計算、記録、検索などの一部の作業が自動化され、人間の担当範囲が変化した。生成AIについても同様に、文章作成、翻訳、プログラミング、調査などの作業の一部を代替または補助する可能性がある。
したがって、重要なのは「職業が消えるか」より、「一つの職業の中で人間とAIの分業がどう変わるか」である。
しかし、この見方にも楽観できない点がある。AIによって一人あたりの生産性が大幅に上昇すれば、企業は同じ仕事量をより少ない人数で処理できる。その利益が賃金上昇や労働時間短縮として労働者に配分される保証はない。
AIの雇用問題は、技術的な代替可能性だけでなく、生産性向上の利益を資本、経営者、労働者の間でどのように分配するかという政治経済の問題でもある。
AIは格差を縮小するのか、拡大するのか
AIには相反する二つの可能性がある。
一方では、高度な専門知識へのアクセスを安価にすることで、能力格差を縮小する可能性がある。専門家でなくても文章、翻訳、プログラミング、分析などの支援を受けられるなら、従来は教育や経験を必要とした作業への参入障壁が下がる。
他方では、高性能なAIを開発・運用できる企業には大量の計算資源、データ、資本が必要になる。その結果、AI産業そのものでは規模の経済が働き、大企業への集中が進む可能性がある。
つまり、利用者側では能力を民主化しながら、供給者側では資本を集中させるという二つの方向が同時に存在しうる。
この矛盾は、AIが格差を縮小する技術なのか拡大する技術なのかという二者択一では理解できない。誰がAIを所有し、誰が利用でき、その生産性上昇から誰が利益を得るのかによって結果は変わる。
人間の判断をAIに任せるべきか
ダニエル・カーネマンらが研究してきた認知バイアスの議論は、人間の判断が必ずしも一貫して合理的ではないことを示してきた。この視点からすれば、一定のルールに基づいて判断するアルゴリズムには、人間の気分や先入観によるばらつきを減らす利点がある。
しかし、人間の不完全さから「だからAIに任せればよい」という結論は出ない。
第一に、AIも過去のデータや人間が設定した目的関数に依存している。第二に、社会的判断には、何を最適化するべきか自体が争われる問題が多い。犯罪再犯率を低下させること、融資損失を減らすこと、患者の生存率を高めることなどは数値化できても、そのためにどの程度の誤判定や不平等を許容するかは技術だけでは決められない。
AIが得意なのは、与えられた目的に対して予測や最適化を行うことである。しかし「何を目的にするべきか」という問いまで自動的に解決するわけではない。
AIの責任は誰が負うのか
AIが社会制度に深く組み込まれるほど、「AIがそう判断した」という説明が責任回避に使われる危険が生じる。
しかしAIは法的・政治的な意味で自ら制度を設計した主体ではない。どのモデルを導入するか、どのデータを使うか、どの精度で運用を開始するか、最終判断を人間に残すかを決めているのは組織である。
そのため重要なのは、「AIに責任を持たせる」ことより、AIを利用する人間と組織の責任の所在を明確にすることだろう。
特に医療、採用、金融、司法など、判断の誤りが人生に大きな影響を与える領域では、AIの予測精度だけでなく、説明、監査、異議申し立て、人間による再審査の仕組みが重要になる。
問題はAIか、それを組み込む社会か
AI論には二つの極端な物語が現れやすい。一つは、AIが人間の能力を飛躍的に拡張し、豊かな社会を実現するという技術楽観論である。もう一つは、AIが雇用、自由、民主主義を破壊するという技術悲観論である。
どちらも重要な可能性を指摘しているが、技術そのものに社会の未来を決定する力を与えすぎている。
同じAIでも、労働者の仕事を補助するために使うことも、人員削減のために使うこともできる。行政サービスを利用しやすくするためにも、市民を監視するためにも利用できる。教育格差を縮小する道具にも、試験や採用をさらに自動化する装置にもなりうる。
したがってAIと社会を考える際の中心的な問いは、「AIは善か悪か」ではない。
**どの判断を機械に任せ、どの判断を人間に残し、AIによって生まれる利益、権力、リスクを誰に配分するのか。**
オニールのアルゴリズム批判、ズボフの監視資本主義論、認知バイアス研究、AIによる雇用変化をめぐる議論は、一見すると異なる問題を扱っている。しかし共通しているのは、技術の性能だけを見ても社会的な結果は予測できないという点である。
AIの未来を決めるのはモデルの性能向上だけではない。企業制度、労働市場、法律、教育、そして社会がどの価値を優先するかという選択もまた、その未来を形作る。AI時代のもっとも重要な問題は、機械がどこまで賢くなるかではなく、賢い機械を持った社会がどのような制度を作るかなのである。