『AGIが実現された後では資本がこれまで以上に重要になる』(原題:By default, capital will matter more than ever after AGI)
この文章は、L Rudolf Lによる記事『By default, capital will matter more than ever after AGI』を日本語に翻訳したものです。
AIやロボットが人間の労働を代替した後の世界についての予測が、訳者である私が考えるイメージと非常に近く、学びになったので日本語訳としてシェアしたいと思いました。
![]() |
訳者によるイメージイラスト |
---
筆者追記:
この投稿の主なポイントは以下の通りです:
労働を代替するAIは、人的生産要素と非人的生産要素の相対的重要性を変化させ、それにより社会が人間に配慮するインセンティブを低下させる一方で、既存の権力をより効果的かつ確固たるものにします。
多くの人々はこの投稿を次のように解釈しています:
(a)「資本」は単に「お金」を意味する(工場やデータセンターなどの物的資本も含むのではなく)
(b)主な懸念は人間同士の不平等(人類の集団的立場、社会変革の可能性、人間の主体性に関するより広範な社会的懸念ではなく)
---
目次(訳者追記)
---
導入
「AGI(訳注:汎用人工知能)が実現された後はお金は重要ではなくなる」という話を多くの人から聞きましたが、これは奇妙で、おそらく完全に間違っていると私は常々感じていました。
まず: 労働とは、価値のあるものを生産する人間の精神的・肉体的努力を意味します。資本財とは、工場、データセンター、ソフトウェアなど、商品やサービスの生産に使用される人間が構築したものです。私は「資本」という言葉を、資本財のストックとそれを購入できる資金の両方を指すために使用します。資本財を除外して単なる資金を指す場合は「お金」と言います。
AIの主な経済的効果は、資本を労働のより一般的な代替物にすることです。人間の時間に対価を支払う必要性が減少します。なぜなら、その作業を資本(例えば、人間の精神労働を代替するソフトウェアを実行するデータセンター)で置き換えることができるからです。
これらの結果について説明し、労働代替型AIは以下のことを意味すると結論付けます:
- 現実世界での結果を購入する能力が劇的に上昇する
- 人間が現実世界で力を行使する能力は劇的に低下する(少なくともお金がなければ)。その理由には以下が含まれます:
- 国家、企業、その他の機関が人間を気にかけるインセンティブがなくなる
- 人々が初期リソースに比べて突出した成果を達成することが難しくなる
- 急進的な平等化措置は起こりそうにない
全体として、これは変革的AIの見過ごされがちな欠点を示しています: 社会が永続的に静的になり、現在の力の不均衡が増幅され、不変のものになる可能性があるということです。
十分に強力なAIがあれば、これは物質的な快適さの不足についてのリスクではありません。政府はAIから得られる富でUBI(訳注:ユニバーサル・ベーシックインカム。政府がすべての国民に条件なく、定期的に最低限の生活を送るのに必要な金銭を支給する制度)を導入することができます。
例えば仮に、アメリカだけがAIによる富を独占し、アメリカ政府が世界のために何もしないとしても、AIが生み出す富が極めて巨大だと仮定すれば、アメリカの裕福な人々のうち、ほんの一部の、アメリカ以外の大義に関心を持つ人々の富だけでも、世界の物質的貧困を終わらせるのに十分かもしれません。
具体的な計算例を示すと:
- アメリカの億万長者の富の1%が外国人への富の移転に使われると仮定
- その富が16回倍増する必要がある(約7万倍の増加)
- そうすれば、地球上の全ての人に50万ドル相当を与えることができる
- シンギュラリティ(技術的特異点)のシナリオでは、経済規模が数ヶ月で倍増するため、この状態に達するのにそれほど時間はかからない
もちろん、AIの爆発的発展がシンギュラリティほど劇的でない場合、またはAI台頭時のダイナミクスが世界の人口の大部分を積極的に無力化する場合(これは現実的な可能性です)、物質的な快適さも問題になる可能性があります。
これらのシナリオで私が最も感情的に動かされるのは、固定化された支配階級を持つ静的な社会が、私にとって活力や生命力を感じさせないということです。できることなら、人間の野心を殺すべきではありません。
また、このような状態は、緩やかに進行する段階的なAIの大惨事をより起こりやすくします。なぜなら、権力が人間を気にかけるインセンティブが減少するからです。
---
デフォルトのシナリオでの解決策
人間が現在賃金を支払われているほとんどすべての仕事において、人間の精神的・肉体的労働が、AIによってより良く/より速く/より安価に行えるようになり、もはや重要な市場価値を持たなくなると仮定しましょう。これを労働代替型AIと呼びます。
結果として生じる失業問題に対する標準的な解決策には、2つのレベルがあります:
- UBI(ユニバーサル・ベーシックインカム)のようなものを採用する
- 私たちはすぐに超知能(スーパーインテリジェンス)の段階に到達し、その超知能が人類の価値観とアラインしていると仮定すれば、物質的な希少性から解放された技術的な夢の国で暮らすことになる - つまり、何でもが可能な世界です
まず注意すべきは、すべての経済計画を行う単一のAIシステムがない限り、お金は引き続き存在するということです。価格は主に情報を伝達することに関するものです。多くのアクターが存在し、それらが互いに取引を行う場合、価格が存在するという強い前提があります(たとえ人間がそれらを見たり、それらと相互作用したりしなくても)。また、シンギュラリティがどれほど急激であっても、豊かさには依然として限りがあり、したがって配分される必要があることを覚えておいてください。
---
現在、お金は才能を買うのに苦労している
お金で多くのものを買うことができます。例えば、資本財は通常かなり簡単に購入でき、多額のお金(または流動資産、または他者が契約を結ぶ意思のある非流動資産、または特別な政府権力)なしでは購入できません。しかし、生の資金を労働力に変換することは、トップレベルの労働力と競争できるような形では驚くほど難しいのです。
Blue OriginとSpaceXを考えてみましょう。Blue Originは2年早く設立され(2000年対2002年)、歴史の大部分でより良い資金を持ち、今日でもSpaceXとほぼ同じ数の従業員(11,000人対13,000人)を雇用しています。しかしSpaceXはBlue Originを圧倒的に支配しています。2000年、ジェフ・ベゾスは47億ドルを手元に持っていました。しかし、比較的資金の乏しいSpaceXの強烈な文化と突出した才能に負けないようにするために彼ができたことを見つけるのは難しいです。
1世紀前、自転車店のリソースしか持たないライト兄弟が、十分な資金を持つサミュエル・ラングレーの事業に勝った例も考えてみましょう。
典型的なVC(ベンチャーキャピタル)と創業者の関係、または買収者とスタートアップの関係を考えてみましょう。どちらの場合も、巨額の金融資本の保有者は、労働力に賭けるために非常に高い価格を喜んで支払います - そしてその賭けは、スタートアップの少数の人々の労働力が、極めて大量の資本に勝つだろうというものです。
お金を結果に変換したい場合、直面する最も深刻な問題は、適切な才能を雇用することです。そしてそれにはいくつかの問題が伴います:
- 同じ分野でかなりの才能を持っていない限り、才能を判断することは難しいことが多いです。したがって、才能を見つけようとしても、しばしば見逃してしまいます。
- 才能は稀少で(そして資格のある才能はさらに稀少です - そして多くのアクターは、ポイント1のために、他の種類の才能に頼ることができません)、したがって、そもそもそれほど多くの才能が存在しません。
- たとえトップレベルの才能を見つけることができても、トップレベルの才能は他の人々よりもお金で買収されることに対して抵抗が強い傾向があります。
(もちろん、お金を持つ者たちは、お金を成果に変換しやすくするインフラを構築し続けています。私は実際に、金融企業が、イギリストップクラスの理系卒業生たちの持つ本来の野心をすべて絞り出し、金融市場での小さな利益を追求することに置き換えようとする、おおむね成功している取り組みを目の当たりにしてきました。富の神(マモン)に仕えなければならないのです!)
労働代替型AIでは、これらの問題は解消されます。
まず、「あなた」自身がAIの能力を正しく判断できないかもしれません。AIの評価エコシステム(AIの性能を測定するための体系的な仕組み)でさえ、AIの真の能力を適切に判断することが難しいかもしれません - そもそもAIを評価すること自体が困難なのです。さらに、口コミのような非公式な評価方法でさえ - 例えばClaude-3.5-Sonnetについては、どんなベンチマークテストよりも的確にその優秀さを評価できた口コミでさえ - AIの能力が向上し続けるにつれて、どのAIが本当に最も優れているのかを判断することがますます困難になるかもしれません。
しかし、本当の違いは「AIはクローン化(コピー)できる」ということです。
現在の状況を見てみましょう:
- ブレークスルーを達成したスター研究者1人に対して、大量の資金が集中します
- 資金を持つ人々は、その研究者の論文がどれだけ社会的に評価されているかは判断できますが、才能そのものを直接判断することは通常できません
- そのため、社会的評価によって「才能が見える形になった」研究者を追いかけることになります
しかしAIの場合は違います:
- スター研究者級のAIは単純にコピーできます
- GPUにお金をかけられる人なら誰でも、そのAIスター研究者を手に入れることができます
人間の場合のような面倒な問題がありません:
- 証明されていない才能を持つ多様な人々を選別する必要がない
- すぐにコピーできないという厄介な制約もない
これが、労働代替型AIを手に入れた後、お金で優秀な人材(才能)を見つけることが容易になる主な理由です。
また、もちろん、才能の価格は大幅に下がります。なぜならAIは同等の人間の労働力よりも安価で、AIはクローン化できるため競争がより激しくなるからです。
お金を才能に変換する際の最後の大きな障壁は、「トップ人材は複雑な人間的な選好を持っており、それが彼らを単純に買収することを難しくしている」ということです。
具体例を見てみましょう:
- 一流のアーティストは、自分の芸術的なビジョンに強く執着しています
- 一流の数学者は、優雅さと美しさへの深い愛着を持っています
- 一流の起業家は、自分のやっていることへの強い信念を持っています(そもそも従業員としてはうまく機能しないでしょう)
人間の才能とパフォーマンスは、意外なことに「分野や使命への神聖な絆」と結びついています。
世界の:
- 皮肉屋たち
- 出世主義者たち
- (比喩的な意味での)ローマ帝国的な存在たち
結果として:
- 野心的なインターン
- SpaceXのような新興企業
- キリスト教のような新興の信仰
といった、使命に突き動かされる存在たちに「昼食を食べられる」(市場や影響力を奪われる)ことになります。
対照的に、AIは「簡単に買収できる」ように特別に存在しています(少なくとも安全性トレーニングの範囲内で)。天才的なAI数学者は、人間の数学者とは異なり、地上での限られた時間を喜んで「面倒な作業コード」の正確性を証明することに費やすでしょう。
最後に(そして明らかに)、AIは最終的に任務において人間の従業員よりもはるかに有能になります。
これは、労働代替型AIを手に入れた後、現実世界での結果を購入するお金の能力が劇的に上昇することを意味します。
---
ほとんどの人の力やレバレッジは、自身が提供する労働に基づいている
労働代替型AIは、ほぼすべての人からその主要な力やレバレッジ(影響力)を奪ってしまいます。
分かりやすい例として、普通の人であれば、誰かがどこかであなたに精神的・肉体的な努力を払って問題を解決してもらうための対価としてお金を支払うからこそ、あなたはお金を手にしているわけです。
でも、ちょっと待ってください!
UBIが存在すると仮定しているなら、問題は解決したことになるのでしょうか?
なぜ国家は親切なのか?
UBIは人間の福祉を気にかける国家によって付与されます。国家が人間の福祉を気にかける理由は多くあります。
過去数世紀にわたって、国家が人間をより気にかけるように大きな変化がありました。
なぜでしょうか?
私たちはその理由を検討し、それらがどの程度持続可能に見えるかを確認できます:
- 啓蒙時代以降の道徳的な変化
とりわけリベラリズムや個人主義が重視されるようになったこと。 - 富と技術の発展
産業革命以前の社会はきわめて貧しかったため、貧困層を大規模に助けようとすれば国家が破産してしまうほどだった。
また、有効な医療のような支援策が可能になったのも、新しい技術の登場によるところが大きい。 - 国家にとって「自由」「繁栄」「教育」を重視するインセンティブがあること
AIは2番目のポイントに大いに役立ちます。1番目に関しては複雑な影響があるでしょう。しかし、ここでは3番目についてもう少し掘り下げたいと思います。なぜなら、このポイントは過小評価されていると思うからです。
産業革命以降、国家と人々の利害は異常なほど一致していました。経済的な競争力を持つために、強い国家は効率的な市場、熟練労働者を生み出す良い教育システム、需要を生み出す繁栄した中産階級を必要とします。階級の出自に関係なく才能を活用することから利益を得ます。また、科学、技術、そしてグローバルなソフトパワーと文化的影響力をもたらす芸術とメディアを育むために高いレベルの自由を許可することからも利益を得ます。国家間の競争は、これらすべての方向にさらに押し進めます - アメリカの成功、または中国共産党でさえ効率的な市場と教育を受けた裕福な市民を推進し、中国の科学とスタートアップのために一定の自由を許可するインセンティブに直面していることを考えてみてください。
これを封建制度と比較してみると、封建社会での「勝ちパターン」は、文字も読めない農民を支配する搾取的な支配階層を築き上げ、そこから得た収益の大部分を近隣の国家との戦争に投じることでした。
詳細は、『狩猟採集民、農耕民、そして化石燃料』に関する私のレビューや、道徳的価値観と経済成長の関係について書いた投稿を参照してください。
労働代替型AIにより、国家のインセンティブ - 他の国家に対する競争力や自身の力を最大化するために国家が取るべき行動という意味で - は、もはやこのような方法で人間と一致しなくなります。インセンティブは封建制時代よりは良いかもしれません。封建制時代のインセンティブは、農民が死なない程度に可能な限り多くを搾取することでした。労働代替型AI後は、人間は採掘される資源というよりも、単に無関係なものになります。しかし、人間にリソースを費やすことを減らし、国家の競争優位を維持するAIにより多くのリソースを費やすことは、依然としてインセンティブ付けされます。
人間はまた、国家に対するレバレッジをはるかに失います。今日、重要なセクターがストライキを起こしたり、軍の一部がクーデターを脅かしたりすると、国家は気にかけなければなりません。なぜなら、その力は少なくとも人口の一部の支持に依存しているからです。人々はまた、「私たちに投資すれば、10年後に国はより強くなるでしょう」というようなことを国家に対して信頼性を持って伝えることができます。しかし、AIが経済を維持し軍事力を保つためのすべての労働を行えるようになると、国家はもはや人間の要求を気にかける事実上の理由を持たなくなります。
アダム・スミスは、自分の夕食が肉屋やビール醸造家、パン屋の善意によるものではないと書きました。今日の古典的リベラル派は、歴史の流れが本当に自由と豊かさへと向かっているのは、国家の善意ではなく、資本主義と地政学的なインセンティブのおかげであると、説得力をもって主張することができます。しかし、労働を代替するAIが普及した後には、これはもはや当てはまらなくなります。歴史の流れが引き続き自由と豊かさへと進むとしたら、それは国家(あるいはAI富豪)の善意によるものとなるでしょう。そうであるなら、人間がレバレッジを持っているうちにその善意を確保し、私たちがその善意が時の試練に耐えると期待する理由をしっかり持つべきです。
私たちに有利な最高のものは民主主義です。現代世界の最も強い制度(つまり西洋民主主義)の深い部分が、すべての人の平等な代表権であることは大きな利点です。しかし、世界の人口のわずか13%しか自由民主主義に住んでいないため、残りの87%の世界の人々の運命について懸念が生じます(特に27%は閉鎖的な独裁制に住んでいます)。また、それによって人文主義的な国家と、あまり良心的ではない国家との間に「モロク的競争」が生じる可能性があり、競争が十分に長く続けば、人間の幸福に投じられる資源が最終的にゼロにまで引き下げられてしまうかもしれません。
上記では国家に焦点を当てています。なぜなら、国家は今日最も強力で持続的な制度だからです。しかし、同様のロジックは、例えば企業や全く新しい種類の組織が最も重要な種類の制度になった場合にも適用されます。
---
もはや突出した結果は得られない?
世界を大きく変える動きは、多くの場合、お金や権力をもともと持っていない人たちが、突出した成功を収め、その結果としてお金や権力を得ることで起こってきました。これは理にかなっています。というのも、お金や権力をすでに持っている人は、現状から恩恵を受けているため、大きな変化を起こそうという熱意を持ちにくいからです。
所得格差に関する意見や、突出した成功を収めた特定のグループに対する考え方がどうであれ、「誰かが突出した成功を収めて世界を変える可能性がある」ということが、停滞を防ぎ、私たちが生きる世界を面白くしてくれるという点には、同意していただけるのではないでしょうか。
では、労働代替型AIが、労働を通じて突出した成功を目指すための様々なルートに対して、どのような影響を及ぼすか考えてみましょう。
起業
起業は、少なくとも技術的な才能があり政治に向いていない若者にとって、マット・クリフォードが「野心のテクノロジー」と呼ぶような存在としてますます選ばれるようになっています。実際、今は起業が以前よりもずっと簡単になりました。AIツールを活用すれば、新たに人を雇わなくても小規模なチームの生産性を大きく高められますし、新しいスキルや分野への参入障壁も下げることができます。
一方で、労働代替型AIが登場しつつあることは、起業の存続性を不確かなものにします。AIが主に「道具」として機能しているうちは、起業家が「意思決定者」として方向性を示すことで、人間の労働の多くが自動化された後でも成功し続けることができるかもしれません。
しかし、十分に強力なAIが開発されれば、人間の起業そのものが時代遅れになる可能性も高いでしょう。たとえば、VC(ベンチャーキャピタル)が資金を直接AIに投入し、AIだけで数百ものスタートアップを同時に運営できるようになれば、人間の起業家がAIをマネジメントするという手間すら不要になるかもしれません。
ハードサイエンス
AIが明確な報酬指標をもつあらゆる分野で急速に進歩しているため、人類がハードサイエンスの分野で大きな成果を上げる時代は、数年以内に終わる可能性が高い。
知識人
ケインズ、フリードマン、ハイエクはいずれも経済学で技術的な研究を行いましたが、彼らが大きな影響力を持ったのは(特にハイエクの場合)自らが打ち立て、広めた世界観によるところが大きいです。これは、数学的経済学の分野で主流だったポール・サミュエルソンなどとは対照的です。ジョン・スチュアート・ミル、ジョン・ロールズ、ヘンリー・ジョージもまた、枠組みや世界観、哲学を築くことで影響力を持ちました。
こうした人々がハードサイエンスの研究者と異なる重要な点は、彼らの仕事の成果が「技術的に正しい」だけで評価されるわけではなく、「道徳的な判断」も含むところだ。たとえAIが超人的な説得力と正確さを備えていたとしても、このジャンルにおけるAIの仕事が、人間の文化における「思想の選択と普及」のプロセスにどう組み込まれるかは不透明だ。おそらく、人間の知識人にとっては厳しい展望だろう。なぜこれまで知識人のイデオロギーが強い力を持ちえたかといえば、それが「希少な天才」の産物だったからだと考えられる。ところが、AIが大量に生み出すイデオロギーの氾濫により、もはやどのイデオロギーも(特に人間が生み出したものは)これまでのように際立った輝きを放つことはなくなるかもしれない。歴史的に特筆されるほどの知識人という存在は、消滅してしまう可能性がある。
政治
政治は、ほかの分野と比べると影響が少ないかもしれません。というのも、多くの人は「政治は人間にやってほしい」と考えているうえ、政治家は何が許されるかというルールを自分たちで決められるからです。ただし、AIが生成するアバターのカリスマ性や、少なくとも欧米では政治家への反感が強いことなどが、予想外の変化を引き起こす可能性もあります。また、現職の政治家が有利になるかどうかは分かりません。AIの導入によって政治キャンペーンの多くの部分のコストが下がるかもしれず、参入のハードルは下がるでしょう。しかし、小規模な陣営には手の届かないような高価で高性能なAIが存在する場合、資金力のある陣営がさらに有利になる可能性があります。
こうした「直接的な影響」よりも、AIが世の中の情報環境(ミーム環境)をどう変えるかによる「間接的な影響」のほうが大きいだろう、と私は考えています。
さらに、本当に勝負するべき場所は大統領や首相を目指して何百万人もの政治的に優秀な人たちが競っている「本当の政治の世界」ではありません。むしろ政治的なスキルを活かし、そうしたスキルがあまり一般的ではない政府の外の分野(例:サム・アルトマンのように)に進むのが得策です。そして、人間に求められる専門知識のハードルを下げつつ、その組織内での「政治ゲーム」に勝てばより大きな見返りを得られるような「超優秀なAI社員」が登場するのを待つのです。
軍事
ナポレオン以来、軍事的成功が強大な権力や大きな変革をもたらす直接的な手段となることは、(良いことに)ほとんどなくなりました。
技術が進歩すればするほど、最新鋭の軍隊を維持するために必要な産業基盤のハードルが上がり、既存の大国が有利になります。AIも最も強力な国々の手中に収まりそうです。
ただし例外として、大国においてクーデターがAIによって簡単になる可能性があります。将来のAI軍隊は、(a) より中央集権的になる(軍が行動を起こすのに大量の人々の同意が必ずしも必要なくなるため)、一方で (b) より厳密に管理できる(人間の社会規範ではなくコードによって権限を制御できるため)とも考えられます。これら2つの要素はそれぞれ相反する方向に働くため、クーデターを起こす難易度が最終的にどう変化するかは不透明です。
もう一つの例外として、革命的な戦術と安価なドローンの組み合わせで、「ドローンのナポレオン」が既存の軍隊に勝利する可能性もあります。しかし重要なのは、いずれの場合も好ましい形で現状を打破するわけではなさそうだ、という点です。
宗教
既存の宗教の中で地位を上げていく際には、前述の政治に関する考え方が参考になるかもしれません。一方、新しい宗教を始めようとする場合には、先ほど触れた知識人に関する考え方が当てはまるかもしれません。
総合的に見ると、強力な労働代替型AIが登場すると、人間のあらゆる“型破りな成功”の可能性は全般的に低下するでしょう。政治に対する影響は比較的弱いかもしれませんが、それでもなお悪影響は避けられません。これは、現在のAIが起業家精神を実際に大きく後押ししているにもかかわらず起こり得ることです。
つまり、労働代替型AIが実現すれば、お金を使わずに現実世界で力を獲得し行使する能力は、劇的に落ち込むことになるだろうという意味です。
---
強制的な平等化はありそうにない
『The Great Leveler』は不平等の歴史を扱った優れた本で、少なくとも著者の見解では批判をかなりうまく乗り越えてきたようです。その結論によれば、過去に大きく不平等が解消された例はいずれも「平準化をもたらす4人の騎士」(総力戦・暴力的革命・国家崩壊・パンデミック)のいずれかによって引き起こされてきました。所得格差の解消を狙う政治的な選択によって、意図的に大規模な平等化が起こった歴史はほぼない、というわけです。
労働代替型AIが実現したと想像してください。UBIが実施され、誰も飢えない状況になったとします。すると、各国や企業はAIを最大限活用しようと必死に争うようになります。しかしAI活用は資本集約型(大きな資本が必要)なので、みな資本の所有者に取り入らざるを得ません。その結果、トップレベルのAI企業は国家レベルの影響力を持つようになり、富の再分配は政治課題の最優先になりにくいでしょう。
ただし、まったく例外がないわけではありません。たとえば、新しい政治運動やイデオロギーが急速に支持を集めるような場合です。それが、AIによるこれまでにない影響(たとえば「誰も仕事をしなくなって、全員が政治活動に集中できるようになった」とか、「AIを使った新しい調整メカニズムが生まれた」など)で後押しされる可能性はあります。
しかし、たとえ未来が素晴らしいトランスヒューマニスト的ユートピアになったとしても、人々が平等なスタートラインに立てるかといえば、そうなる見込みは低いでしょう。また、先の議論を踏まえても、その後に相対的な立ち位置を大きく変えられる可能性も低いと思われます。
さらに、国家間の平等についても考えてみましょう。AIによる恩恵を大きく受けられる国とそうでない国の差はさらに拡大しそうです。UBIのような平等化策を自国民以外に適用するのは、現在の政治システムを考えると非常に難しいでしょう。これは、世界史上もっとも自由主義的・人道主義的な大国とされるアメリカでさえ同様です。そうなると、出生した国によるグローバルなカースト制のような世界秩序が、今よりもさらに強化される可能性があります。移民を受け入れる動機が薄れるからです(人間が経済的に意味のある仕事をする時代でこそ、大きな経済利益をもたらす移民が必要とされてきたわけですが、それが成り立たなくなるため)。
---
デフォルトのシナリオの結果は?
ここでは、投稿の冒頭で提示された前提と上記の分析を受け入れた場合に、労働代替型AIが普及した後の世界がどのようになるかを考えます。
- お金で現実世界の成果を得る力が、今まで以上に大きくなる
- 人々の「労働」によるレバレッジ(影響力)は、これまで以上に小さくなる
- 多くの分野、あるいはすべての分野において、人間の労働による飛び抜けた成功を成し遂げることが不可能になる
- 資本(お金や財産)の大規模な再配分は、国内・国際的いずれにおいても起こらなかった
つまり、労働代替型AIが普及した段階で既に大量の資本を持っていた人々が、恒久的な優位を保つことになります。彼らは、今の「金持ち」よりもはるかに強い力を持つでしょう。ただし、リベラルな制度が強固に維持されるなら、人々への直接的な支配という形ではないかもしれません。しかし少なくとも、物理的・知的成果を手にする力は極めて強大になるはずです。新参者がこれを覆すことは困難です。なぜなら資本さえあれば、どんな分野でもAIを使って超人的な労働力をいくらでも手に入れられるからです。
さらに、この世界の支配的な機関(企業や政府など)が人々に配慮しなくても、自分たちの権力や利益を維持・拡大できる状態になるでしょう。というのも、あらゆる「本当の力」はAIから得られることになるからです。一方で、リベラル・ヒューマニズム的な価値観が政治制度を通じて大きく固定化されるかもしれません。また、UBIのような形で多くの人が一定の購買力を確保し、人間向け経済がある程度残れば、人々の生活に最低限の保障がある可能性もあります。
最良のケース:
- 非常に不平等ではあるけれども、かつてのノルウェーのように(産油国であるノルウェーには、石油という人的労働を必要としない資源があった)、「AI」という膨大な資源による恩恵が社会全体に行き渡る状態。
- 確かに格差はあっても、誰もが豊かな生活を送れる(理想的には、永遠に生きる)。
- 人間が大きな影響を及ぼせるのは、自分の身近なソーシャルネットワーク(友人・家族・コミュニティ)や自分の社会的クラスの範囲に限られる。
- 大きな資本を持たない人(たとえ持っていても)にとっては、もはや「世界全体に対して影響を与える」ことは不可能。
- AIは詩人、芸術家、哲学者など、あらゆる分野で人間を上回るため、個人が何かを成し遂げても、それが評価されるのはせいぜい近しい人間関係の中に留まる。
- 封建社会で「どうしてあの人が権力を持っているのか?」と問えば、「先祖が○○の戦いに参加して活躍したから」といった答えが返ってきたように、未来の世界では「この人が重要なのは、労働代替AIが出現する前の時代に自分か親族が何らかの活動をしていたから」という理由になる。社会的流動性はほぼ消滅し、子どもたちは親の影響下で生きることになる。いわば身分の固定化だ。これを少しでも想像すると、いくらかの“存在論的恐怖”を覚えてもおかしくありません(もちろん、もっと悲惨なシナリオを考えればまだマシな面はあるにしても)。
より悪いケース:
- AIによって巨万の富を得た超富裕層が、ほぼ無制限で抑制されない力を持ち続ける。
- 労働代替AIが出現した当時にどれだけ資本を持っていたかによって、生涯変わらない身分が固定される恒久的な貴族階級が誕生する。
- 現代の感覚からするとぞっとするほど巨大な格差、権力差が生まれる。
- しかし心配はいらない(?)――中世封建社会において下層民が当時の世界秩序をある程度受け入れていたように、未来の下層民もAIによる超人的な説得力(あるいは文化)によって、その世界観を受け入れるかもしれない。
最悪のケース:
- 人類が絶滅する可能性がある。長期にわたって人間の繁栄よりもAIの力を優先するように徐々に最適化が進んでしまうかもしれないからだ。
- また、力や金銭的なインセンティブがその方向へ向かう可能性が高いからだ。
---
教訓は何か?
もしこの投稿を読んで、その結果クオンツファイナンス系の会社に就職することを選んだら、私は悲しい気持ちになります。もしAI分野で何か野心的で大きな影響を与えることをしようとしていたのに、この投稿を読んだせいでAnthropicに就職して、「低リスクで個人的な資本を貯めつつ、採用枠の分だけ多少は世の中に貢献する」という道を選んだとしても、あまり非難はできません。でも正直、少しは悲しく感じるでしょう。
確かに、中期的(2~10年ほど)な個人の経済事情を考えると、こうした選択肢も重く検討すべきかもしれません。しかし同時に、今は何か大きく野心的なことに挑戦するには絶好の時期でもあります。Robin Hansonは、アボリジニの神話の概念にならって、今の時代を「ドリームタイム」と呼んでいます。つまり、将来の世界秩序や価値観がまだ固まっておらず、流動的である時期だというわけです。
これまでの大きな変革――産業化のさまざまな波やインターネットなど――は、人類の野心にとって素晴らしいものだった。しかしAIでは、人間の野心にとって最後で最大の機会が訪れるかもしれない一方で、それがすぐに永遠の終わりを迎える可能性もある。どうして『今を生きろ(Carpe diem)』とならないのだろうか?
そして私たちは、世界がもつ活力を守る努力をするべきでもある
AGI以降の未来を論じる合理主義的な思考は、あまりにも「解決至上主義(ソリューショニスト)」に傾きがちです。その極端なイメージをざっくり言うと、「道徳を解き明かし、AIを解決し、宇宙に最適な構造を敷き詰めれば完成、それで終わり」というようなもの。(実際の主要な議論の中心人物はもっと複雑な考えを持っています。たとえばPaul Christianoのこのポッドキャストでの23:30あたりの発言などがそうです。ただ、コミュニティ全体の風潮としては、ステレオタイプ的にそういう方向に傾きがちだという印象があります。)
私としては、社会やその発展が、常に変化しつつ動的に成長していく姿のほうが健全だと考えています。そして個人がそこに新しいものを付け加えたり変革したりできる能力を保ち続けられることが重要です。そのためには、大きな野心が成功し得る可能性と、そこから生まれる大きな変化や混乱(ディスラプション)を許容する環境を維持する必要があります。
どうすればよいのか、正直わかりません。ただ、強力なAIの登場を、人類の役割を根こそぎ奪うような「巨大で不可避な壁」と見なす必要はないと思います。すべてを平等に、そして完全に飲み込むような真っ白で止められない壁というわけではありません。少なくともある程度の間は、その壁にはひび割れが生じるでしょうし、いったんそこに到達してみるか、あるいは遠くからでも注意深く探してみれば、それらのひびは銀河規模の視点で眺めるよりもはるかに大きく見えるはずです。しかし、AIが人間のあらゆる能力を次々と上回っていく“パレート改善”に近づくにつれ、最終的には私たち自身の能力を拡張しなければ太刀打ちできなくなるだろう、と私は考えています。
Comments
Post a Comment
コメントもらえるととても嬉しいよ!