アンソロピック ダリオ・アモデイ最高経営責任者（CEO）とサム・アルトマンOpenAI最高経営責任者（CEO）は最新記事で、AIの方向性に関する両社の焦点の違いを示している。 ダリオ・アモデイ氏は、信頼性が高く制御可能なAIシステムを確保する鍵として、AIモデルの解釈可能性とセキュリティを強調し、サム・アルトマン氏は、AIの商業化と技術的ブレークスルーを重視している。サム・アルトマンはAIの商業化と技術的ブレークスルーを重視し、大規模コンピューティングとデータドリブンによるAI能力の促進を強調している。AI開発の長期的な目標という点でも2人の間には違いがあり、ダリオ・アモデイはAIが人間社会や安全・安心に与える長期的な影響に重きを置いているのに対し、サム・アルトマンはAIの商業的価値の実現や技術進歩による社会変革に傾倒している。
ダリオ・アモデイはスタンフォード大学で神経科学の博士号を取得しており、彼の最新論文『Machines of Loving Grace』では、将来の強力な人工知能（彼はこれをAGIとは呼びたくないと考えている）が人間に与えるポジティブな影響について述べている！
この10,000字の記事は、AIに関心を持つすべての人にとって一読の価値がある。
長文のため、記事の主要部分を要約した。それでも、原文を読まれることをお勧めする。
核心的な議論： アモデイは、強力なAI（彼はAGIという用語の使用を避けている）には、リスクはあるにせよ、人間の生活を根本的に改善する可能性があると考えている。彼は、強力なAIの出現から5～10年以内に、生物学、神経科学、経済発展、平和的統治、仕事と意味の分野で大きな進歩を目撃することになるだろうと予測している。
キーコンポーネント：
強力なAIの可能性は過小評価されている： アモデイは、ほとんどの人が強力なAIの潜在的利益を過小評価しているが、それと同様にそのリスクも過小評価していると主張する。彼は、強力なAIは基本的にポジティブな未来につながり、リスクはその未来を達成するための唯一の障害であると主張する。"ほとんどの人は、そのリスクを過小評価するのと同様に、強力なAIの潜在的な利益を過小評価していると思う。"
強いAIの定義とフレームワークアモデイは、「強いAI」を、ノーベル賞受賞者よりも知的で、人間と同等のインターフェイスと行動能力を持つ、現在の大規模言語モデルと同様のAIシステムと定義している。彼は、強いAIは2026年かそれ以前に出現し、"データ中心の天才国家 "という形をとるだろうと予測している。強力なAIとは、今日の大規模言語モデルと形式的には類似していると思われるAIモデルを意味するが、異なるアーキテクチャに基づき、複数のインタラクションモデルを含み、異なる方法で訓練される可能性がある：
純粋な知性という点では、生物学、プログラミング、数学、工学、執筆など、ほとんどの関連分野でノーベル賞受賞者よりも賢い。つまり、未解決の数学の定理を証明したり、非常に優れた小説を書いたり、難しいコードベースをゼロから書いたりすることができるのだ。
AIの進歩の限界：アモデイは「知性による限界利益」という概念を紹介した。これは、外界のスピード、データの必要性、本質的な複雑さ、人間の限界、物理法則など、知性そのもの以外にAIの進歩速度を制限する要因があることを示唆している。
「AIの時代に私たちが語るべきことは、知能の限界的な利益であり、知能を補完する他の要素とは何か、知能が非常に高い場合の限界的な要素とは何かを見極めることだと思う」。
変化の5つの主要分野
1.生物学と健康 アモデイは、強力なAIが生物学研究の全プロセスを加速し、今後50～100年の生物学と医学の進歩を5～10年に圧縮すると予測している。これにより、事実上すべての自然感染症の確実な予防と治療、ほとんどのガンの撲滅、遺伝性疾患の効果的な予防と治療、アルツハイマー病の予防、そして人間の寿命の延長が実現するだろう。
「私の基本的な予測は、AIが可能にする生物学と医学によって、人間の生物学者が今後50年から100年の間に成し遂げる進歩を5年から10年に圧縮することが可能になるというものだ。私はこれを "圧縮された21世紀 "と呼んでいる。つまり、強力なAIの発達に続いて、21世紀を通して我々が成し遂げてきた生物学と医学の進歩を、数年のうちにすべて成し遂げてしまうということだ。"
2.神経科学と心理学アモデイは、強力なAIは、神経科学的なツールや技術の発見を加速させ、またAI自体からの洞察（解釈可能性やスケーリング仮説など）を応用することで、神経科学とメンタルヘルスの分野に革命をもたらすと考えている。これは、ほとんどの精神疾患の治療や予防につながるだけでなく、人間の認知的・感情的能力の大幅な拡大につながるだろう。
"私の推測では、これら4つの進歩ラインが一緒に働くことで、身体的な病気と同じように、AIの関与がなくても、今後100年以内にほとんどの精神疾患が治癒または予防される可能性がある--つまり、AIが5～10年加速すれば治るかもしれない"
3.経済発展と貧困： アモデイは、不平等に対処し経済成長を促進するAIの能力は、技術を発明する能力ほど確実ではないことを認めた。しかし、彼は、AIが発展途上国が先進国に追いつくのを助けることができると楽観的な見方を崩していない。それは、医療介入の分配を最適化し、経済成長を促進し、食料安全保障を保証し、気候変動を緩和し、国内の不平等に対処することである。
「全体として、私はAIの生物学的進歩がすぐに発展途上国の人々に恩恵をもたらすだろうと楽観視している。私は、AIが前例のない経済成長をもたらし、発展途上国が少なくとも現在の先進国のレベルに追いつけるようになることに期待しているが、自信はない。
4.平和とガバナンス アモデイは、AIは権威主義政権にも民主主義政権にも悪用される可能性があるため、それ自体が民主主義と平和の発展を保証するものではないと主張する。彼は、強力なAIのサプライチェーンを確保し、それを迅速に拡大し、敵対国がチップや半導体装置などの重要な資源にアクセスするのを阻止したり遅らせたりすることで、優位に立つための「協調戦略」を民主主義国が採用することを提唱している。これにより、民主主義国家は世界の舞台を支配できるようになり、最終的にはグローバルな民主主義の普及を促進することができるだろう。
「AIは権威主義的な政権にも民主主義的な政権にも利用される可能性があるからだ。
5.仕事と意義 アモデイは、AIがほとんどの仕事をこなす世界であっても、人間は意味や目的を見出すことができると主張する。彼は、意味とは主に経済的な労働よりも、人間関係やつながりから生まれると主張する。しかし彼は、AI主導の経済が現在の経済システムに挑戦する可能性があることを認め、未来の経済がどのように組織されるかを探るために、より広範な社会的対話が必要であると述べている。
「AIがほとんどの仕事をこなすようになっても、人間は意味や目的を見出すことができると思う。意味は主に人間関係やつながりから生まれるもので、経済的な労働から生まれるものではないと思います"
アモデイは、強力なAIが正しく扱われれば、現在よりも優れた世界、つまり病気や貧困、不平等のない世界、自由民主主義と人権を特徴とする世界を実現できると信じている。このビジョンを実現するには、膨大な努力と闘争、そして個人、AI企業、政策立案者による協調的な努力が必要であることを彼は認めている。
「ほとんどの病気が克服され、生物学的自由と認知的自由が拡大し、何十億もの人々が貧困から解放され、新しいテクノロジーを共有し、自由民主主義と人権がルネッサンスする。影響を与えるだろう。"
結論 アモデイはその論文の中で、強力なAIが人間社会をどのように再構築しうるかについて、説得力のあるビジョンを示している。彼は強力なAIの計り知れない可能性を強調すると同時に、それに伴う課題やリスクも指摘している。彼は、AIが全人類に利益をもたらすよう、AIの発展に舵を切るための積極的な行動を呼びかけている。
記事の整理と校正が非常に難しいので、読む前にトリプルリンクをお願いします。以下が元記事です。
マシン ラビング・グレイス[01]
AIはいかにして世界をより良く変えるか
--ダリオ・アモデイ
オリジナルリンク：https://darioamodei.com/machines-of-loving-grace
私は強力なAIのリスクについてよく考え、話している。私がCEOを務めるAnthropic社は、これらのリスクを軽減する方法について多くの研究を行ってきました。そのため、私が悲観論者や「破滅論者」であり、AIは主に悪いもの、危険なものだと結論付ける人が時々いる。私はそんなことはまったく思っていない。実際、私がリスクに注目する主な理由のひとつは、リスクこそが、私が見る根本的にポジティブな未来と私たちとの間に立ちはだかる唯一のものだからである。ほとんどの人は、AIがもたらすであろう大きな利益を過小評価していると思う。ほとんどの人がリスクの重大さを過小評価しているようにね。
この記事では、そのメリット、つまりすべてがうまくいった場合に強力なAIが存在する世界がどのようなものになるかを概説してみた。もちろん、確実で正確な未来を知ることは誰にもできないし、強力なAIの影響は、過去の技術革新よりもさらに予測が困難になる可能性が高い。しかし、私の目標は、たとえ細部のほとんどが間違っていたとしても、少なくとも、何が起こるかを理解するための、教養のある有益な推測をすることである。具体的なビジョンの方が、曖昧で抽象的なものよりも議論を前進させるのに有効だと思うからだ。
しかし、最初に、なぜ私と人間工学が強力なAIの利点についてあまり話さなかったのか、そして、なぜ私たちが一般的なリスクについて多くのことを話し続けることになるのかを簡単に説明したい。具体的には、私は次のような思いからこの選択をした：
- レバレッジの最大化AI技術の基本的な発展とその恩恵の多く（すべてではない）は、（リスクがすべてを台無しにしない限り）必然のように思われ、基本的に強力な市場原理によって動いている。一方、リスクは事前に決定されるものではなく、私たちの行動によって発生の可能性を劇的に変えることができる。
- プロパガンダと誤解されないように。人工知能企業はAIの驚くべき利点ばかりを語るが、それはプロパガンダのように感じられたり、マイナス面から注意をそらそうとしているように感じられたりする。また、原則的に、「自分の本について話す」ことに時間を費やしすぎるのは、精神的に良くないと思う。
- 誇張を避ける。AIベンチャーの公人（AI企業のリーダーは言うに及ばず）の多くが、AGI後の世界について、まるで民衆を救いに導く預言者のように、自分たちだけで達成することが使命であるかのように語る姿に、私はしばしば不快感を覚える。企業が一方的に世界を形成していると考えるのは危険だと思うし、実際の技術的目標を宗教的な言葉で考えるのも危険だ。
- SF」の荷物は避ける。ほとんどの人は強力なAIの利点を過小評価していると思うが、急進的なAIの未来について議論する数少ない人々は、しばしば過度に「SF」的なトーンでそれを行う（例えば、心のアップロード、宇宙探査、または一般的なサイバーパンクの雰囲気）。これは、人々がこれらの主張をあまり真剣に受け止めず、非現実的な感覚を植え付けることにつながると思う。はっきり言って、問題は、説明されているテクノロジーが可能かどうか、あるいはあり得るかどうかということではない（この点については、メイン記事で詳しく論じている）。社会問題などなど。その結果、しばしば狭いサブカルチャーの空想のように読めてしまい、多くの人々の興味をそいでしまう。
このような懸念があるにもかかわらず、私は、上記のような落とし穴を避けながら、強力なAIのあるより良い世界がどのようなものかを議論することは重要だと思う。実際、単なる火消しの計画ではなく、真に刺激的な未来像を持つことが肝要だと思う。強力なAIが意味することの多くは対立的で危険なものだが、最終的には、誰もがより良くなるようなポジティブで成果のために、そして人々を団結させて争いを乗り越え、未来の課題に立ち向かうために、私たちは戦わなければならないのだ。恐怖は原動力となるが、それだけでは十分ではない。
強力なAI（ロボット工学、製造業、エネルギーなどを含む）の積極的な応用分野は非常に多いが、ここでは、人間の生活の質を直接的に向上させる可能性が最も高いと思われる一握りの分野に焦点を当てようと思う。私が最も関心を抱いているのは、以下の5つのカテゴリーである：
- 生物学と身体の健康
- 神経科学とメンタルヘルス
- 経済発展と貧困
- 平和と統治
- 仕事と意味
私の予測は（SF的な「シンギュラリティ」ビジョン [02] を除けば）ほとんどの基準からすれば過激なものになるだろうが、私は誠意をもってそう言っているつもりだ。私の言うことすべてが間違っている可能性もあるが（上記の私の指摘を繰り返せば）、少なくとも、さまざまな分野の進歩がどの程度加速しそうなのか、そしてそれが実際に何を意味するのかについて、半分析的な評価に基づいて自分の見解を述べようとしている。私は幸いにも生物学と神経科学の両分野で専門的な経験を積んでおり、経済発展の分野では勉強熱心なアマチュアだが、間違いもたくさん犯すだろう。この記事を書くことで、それぞれの分野の専門家（生物学、経済学、国際関係学など）を集めて、私がここに書いた内容をより良く、より洞察力のあるものに仕上げることができれば価値があることに気づかされた。ここでの私の努力は、そのグループの出発点であると考えるのが最善である。
前提条件とフレームワーク
記事全体をより正確な情報にするためには、強力なAI（すなわち、5年から10年のカウントダウンがいつ始まるのか）という意味を明確にし、そのようなAIが存在した後の影響について考える枠組みを提供することが役に立つ。
強力なAI（私はAGIという言葉は好きではない）[03]がどのようなものになるのか、そしていつ（あるいはいつ）登場するのかは、それ自体が大きなテーマである。私がこれまで公然と議論してきたテーマであり、いずれまったく別の記事を書くことになるだろう。明らかに、多くの人々は強力なAIがすぐに構築されることに懐疑的であり、中にはまったく構築されないのではないかと疑う人さえいる。もっと時間がかかる可能性もあるが、私は早ければ2026年に実現すると考えている。しかし、この記事の目的上、そのような疑問は脇に置き、合理的な時間内に実現すると仮定し、その後の5～10年間に何が起こるかに焦点を当てたい。また、そのようなシステムがどのように見えるか、どのような能力を持つか、どのように相互作用するかについても、意見が分かれる余地はあるが、想定しておきたい。
パワフルなAIとは、おそらく形式的には今日のLLMと同じようなAIモデルだが、異なるアーキテクチャに基づき、複数の相互作用モデルを含み、異なる方法で学習されるかもしれない。次のような特性を持つ：
- 純粋な知能[04]という点では、生物学、プログラミング、数学、工学、著述など、関連分野のノーベル賞受賞者のほとんどよりも賢い。つまり、未解決の数学の定理を証明したり、非常に優れた小説を書いたり、難しいコードベースをゼロから書いたりすることができるのだ。
- 単なる「話しかける知的なもの」であるだけでなく、テキスト、音声、ビデオ、マウスやキーボードの操作、インターネットへのアクセスなど、バーチャルに働く人間が利用できる「インターフェース」をすべて備えている。インターネット上での行動、人間との指示の授受、資料の注文、実験の指示、ビデオの視聴、ビデオの作成など、このインターフェースによって可能になるあらゆる操作、コミュニケーション、遠隔操作を行うことができる。繰り返しになるが、これらすべてのタスクを、世界で最も有能な人間のそれを上回るスキルで実行する。
- 受け身で質問に答えるだけでなく、何時間も、何日も、何週間もかかる仕事を与えられ、必要なときに説明を求めながら、賢い従業員のようにこなすのだ。
- 物理的な形態は持たないが（コンピューター画面上で生きている以外）、コンピューターを通して既存の物理的な道具やロボット、実験器具をコントロールすることができる。
- モデルのトレーニングに使用されるリソースは、数百万のインスタンスを実行するために再利用することができ（これは2027年頃に予測されるクラスタサイズと一致する）、モデルは人間の約10倍～100倍の速度で情報を吸収し、操作を生成することができる[05]。しかし、物理世界や相互作用するソフトウェアの応答時間によって制限される可能性がある。
- これらの何百万ものコピーのそれぞれは、無関係なタスクに独立して取り組むこともできるし、必要であれば、人間のように、特定のタスクに特に適するように微調整された異なるサブグループで一緒に働くこともできる。
私たちはこれを「データセンターの天才国家」と要約することができる。
明らかに、そのような存在は非常に難しい問題を非常に素早く解決することができるだろう。私には2つの「極端な」立場が間違っているように思える。第一に、優れた知性がその上に構築され、ありとあらゆる科学的、工学的、運用上の課題を即座に解決することで、世界は数秒から数日のうちに瞬時に変容する（「シンギュラリティ」）と考えるかもしれない。しかし、これには物理的・実用的な限界がある。例えば、ハードウェアの製造や生物学的な実験には限界がある。新しい天才国家でさえ、こうした限界にぶつかるだろう。知性は確かに非常に強力だが、万人にとって魔法ではない。
次に、逆に、技術的進歩は現実世界のデータや社会的要因によって飽和または制限されるため、人間より賢い知性はほとんど増加しないと考えているかもしれない［06］。私にとっては、これも同様に信じられないことだ。本当に賢い人々の集団があれば、進歩が劇的に加速するような科学的、あるいは社会的問題を何百も思いつく。特に、彼らが単なる分析にとどまらず、現実の世界で物事を実現できるのであれば（私たちの仮説上の天才国家は、人間のチームを指導したり支援したりすることもできる）。
おそらく真実は、この2つの極端なイメージの混乱したミックスのようなものだろうと思う。このような細部について生産的に考えるためには、新しいフレームワークが必要だと思う。
経済学者はしばしば「生産要素」について語る。労働／土地／資本への限界収益」という言葉は、ある要因がある状況において限界要因である場合もあれば、そうでない場合もあるという考えを表している。例えば、空軍には飛行機とパイロットが必要だが、飛行機がなければパイロットを増やしてもあまり役に立たない。例えば、空軍には飛行機とパイロットが必要だ。私は、AIの時代には「知能の限界利益」[07]について話すべきであり、知能が非常に高い場合に、知能を補完し、制限する他の要因とは何かを解明するべきだと考えている。私たちはこのように考えることに慣れていない。"賢くなることは、このタスクにどの程度役立ち、どの程度のタイムスケールなのか？"と問うのだ。-- しかし、それは非常に強力なAIが存在する世界を概念化する正しい方法のように思える。
知性を制限したり補ったりすると思われる要因のリストには、次のようなものがある：
- 外の世界のスピード.知的エージェントは、物事を成し遂げるために世界と相互作用する必要があり、また学習する必要もある [08]。しかし、世界はゆっくりと動いている。細胞や動物は一定の速度で動くので、それらに関する実験には一定の時間がかかり、それは削減不可能かもしれない。人間とのコミュニケーションや既存のソフトウェア・インフラも同様だ。加えて、科学においては、多くの実験を順次行う必要があり、各実験は前の実験から学んだり構築したりする。これらのことは、がんの治療法の開発など、ある大きなプロジェクトが完了するまでの短縮不可能な最小速度が存在する可能性があることを意味する。
- データの需要.生データが不足していることがあり、データがない場合は、知性を増やしても役に立たない。今日の素粒子物理学者たちは非常に賢く、さまざまな理論を展開しているが、素粒子加速器のデータは非常に限られているため、それらを選択するためのデータが不足している。しかし、粒子加速器のデータは非常に限られているため、そのどちらかを選択するためのデータが不足しているのだ。もし彼らが超知性を持っていたとしても、おそらく、より大きな加速器を作るために加速することを除けば、それ以上のことはできないだろう。
- 本質的な複雑性.物事の中には、本質的に予測不可能なものやカオス的なものがあり、最も強力なAIであっても、現在の人間やコンピューターよりもそれを予測したり解明したりすることはできない。例えば、非常に強力なAIであっても、カオス系（三体問題など）を予測できるのは、一般に、現在の人間やコンピューターよりもわずかに長い期間だけである[09]。
- 人間の限界.多くのことは、法律を破ったり、人間に危害を加えたり、社会を混乱させたりしなければできない。協調的なAIは、これらのことをやりたがらないだろう（協調的でないAIがいたら、またリスクの話に戻ってしまう）。人間の社会構造の多くは非効率的、あるいは積極的に有害でさえあるが、法的要件、人々の習慣を変える意欲、政府の行動などの制約を尊重しながら変えることは難しい。原子力発電、超音速飛行、さらにはリフトなどの技術的進歩は、技術的にはうまくいっているが、規制や誤った恐怖心によって、その影響は劇的に減少している。
- 物理法則.これは最初の点をより明白にしたものである。物理学には破ることのできない法則がある。光速よりも速く移動することは不可能である。プリンは自分でかき混ぜることはできない。チップは、信頼できなくなる前に、1平方センチメートルあたり非常に多くのトランジスタを持つことができる。コンピューティングには、1ビットあたりの消去に必要な最小限のエネルギーが必要であり、世界のコンピューティング密度は制限されている。
さらに、時間スケールによる違いもある。短期的には制約を受けることが難しいものでも、長期的には知性の影響を受けやすくなるかもしれない。例えば、以前は生きた動物を使った実験が必要であったことを試験管内で学べるようにする新しい実験パラダイムを開発したり、新しいデータを収集するのに必要なツール（例えば、より大型の粒子加速器）を構築したり、（倫理的な制約の範囲内で）人間に基づく制約を回避する方法を見つけたりするのに知能が使われるかもしれない（例えば、臨床試験システムを改善するのを助けたり、臨床試験が官僚的でない新しい管轄区域を作るのを助けたりする）。あるいは、科学そのものを改良して、ヒト臨床試験の必要性を減らしたり、安価にしたりする）。
したがって、最初は知能が他の生産要素によって大きくボトルネックにされるが、時間の経過とともに知能自体が他の要素をどんどん迂回していくような構図を想像すべきである（物理法則のように絶対的なものもある）[10]。重要なのは、すべてがどれくらいのスピードで、どのような順序で起こるかということである。
以上のような枠組みを念頭に置きながら、冒頭で述べた5つの分野での質問に答えていこうと思う。
1.生物学と健康
生物学は、科学の進歩が人間の生活の質を直接的かつ決定的に向上させる可能性が最も高い分野であろう。人類最古の病気（天然痘など）のいくつかは、前世紀にようやく克服されたが、まだまだ多くの病気が存在しており、それらを克服することは、人道的にも大きな功績となるだろう。病気を治すだけでなく、生物科学は、人間の健康寿命を延ばし、人間自身の生物学的プロセスの制御と自由を増やし、現在人間が不変のものと考えている日常的な問題を解決することによって、原理的には人間の健康のベースラインの質を向上させることができる。
前節の「制約」の言葉で言えば、インテリジェンスを生物学に直接応用するための主な課題は、データ、物理世界のスピード、そして固有の複雑性である（実際、この3つはすべて相互に関連している）。また、臨床試験となると、後の段階で人間の限界が出てくる。これらの問題を一つずつ解決していこう。
多くの生物学的プロトコールでは、バクテリアなどの細胞を培養したり、化学反応が起こるのをただ待つだけで、時には数日から数週間かかることもある。動物実験では数カ月（あるいはそれ以上）かかることもあり、人体実験では数年（長期的な結果研究の場合は数十年）かかることも多い。これと少し関連しているのは、データが不足しがちであるという事実である。量ではなく、質においてである。目的の生物学的効果を、起こっている他の10,000の事柄から切り離したり、ある過程に因果的に介入したり、ある効果を（間接的でノイズの多い方法ではなく）直接測定したりする、明確で曖昧さのないデータが常に不足しているのである。間接的あるいはノイズの多い方法で結果を推測する）。私が質量分析で収集したプロテオミクスデータのような大規模で定量的な分子データでさえ、ノイズが多く、多くのことを見逃している（これらのタンパク質はどの種類の細胞にあるのか？細胞のどの部分にあるのか？細胞周期のどの段階にあるのか？）.
このデータ問題の責任の一端は、本質的な複雑性にある。ヒトの代謝の生化学を示すグラフを見たことがある人なら、この複雑なシステムのどの部分の影響も切り分けるのが非常に難しいこと、ましてや正確で予測可能な方法で介入するのが難しいことを知っているだろう。最後に、ヒトを対象とした実験に本来必要な時間以外にも、実際の臨床試験には官僚的な規制要件が多く含まれ、（私を含む多くの人の意見では）不必要な余分な時間と遅れが生じると考えられている。
このような背景から、多くの生物学者は生物学におけるAIや「ビッグデータ」の価値に懐疑的である。歴史的に見れば、数学者、コンピュータ科学者、物理学者は過去30年間、その技術を生物学に応用し、かなりの成功を収めてきた。しかし、アルファフォールドやアルファプロテオ[11]のような画期的な大発見によって、懐疑的な見方は減ってきている。よく使われるのは、「AIはデータの分析には役立つが、より多くのデータを作成したり、データの質を向上させたりすることはできない」というものだ。ゴミを入れ、ゴミを出す」。
しかし、AIを間違った方法で考えているのは、悲観的な見方だと思う。AIの進歩に関する核となる仮定が正しいのであれば、AIについて考える正しい方法は、データ解析の方法としてではなく、生物学者が行う仕事の「すべて」を行うバーチャルな生物学者として考えることであり、これには、現実世界での実験の設計と実行（研究室のロボットを制御するか、あるいは単に人間にどの実験を行うべきかを指示することである。）研究責任者が大学院生に行うように）、新しい生物学的手法や測定技術の発明などである。研究プロセス全体をスピードアップすることで、AIは生物学を真に加速することができるのです。AIが生物学を変える能力について話すときに私が受ける最も一般的な誤解なので、これを繰り返しておきたい：私はAIについて、単にデータを分析するためのツールとして話しているのではない。冒頭の強力なAIの定義に基づけば、私はAIを使って生物学者が行うほとんどすべてのことを実行し、導き、改善することについて話しているのだ。
生物学の進歩の大部分は、ごくわずかな発見からもたらされるものであり、それは通常、生物学的システムに正確でありながら汎用的、あるいはプログラム可能な介入を可能にするツールや技術に関するものである。このような発見は年に1件程度であろうが、全体としては間違いなく生物学の進歩の50%以上を牽引している。これらの発見が非常に強力なのは、固有の複雑さとデータの制限を削減し、生物学的プロセスの理解と制御を直接的に増大させるからである。数十年にわたってなされた発見の中には、生物学の基本的な科学的理解を可能にし、最も強力な治療アプローチの多くを推進したものもある。
いくつか例を挙げよう：
- CRISPR：生体内の任意の遺伝子をリアルタイムで編集（任意の遺伝子配列を他の任意の遺伝子配列に置き換える）できる技術。オリジナルの技術が開発されて以来、特定の細胞種をターゲットにしたり、精度を高めたり、欠陥のある遺伝子の編集を減らしたりする改良が続けられており、これらはすべて人間が安全に使用するために必要なことである。
- 何が起こっているかを精密なレベルで観察するための様々な種類の顕微鏡：高度な光学顕微鏡（様々な蛍光技術、特殊光学系など）、電子顕微鏡、原子間力顕微鏡など。
- ゲノムの配列決定と合成、そのコストはここ数十年で数桁下がった。
- 光遺伝学技術とは、光にさらすことで神経細胞を発火させる技術である。
- mRNAワクチンは原理的には、何に対してもワクチンを設計し、それを迅速に適応させることができる（mRNAワクチンはCOVIDのときに有名になった）。
- CAR-Tのような細胞療法は、免疫細胞を体外に取り出し、原理が何であれ攻撃するように "再プログラム "することを可能にする。
- 病気の細菌説や、免疫系とがんの関連性といった概念的な洞察 [13] 。
私がわざわざこれらのテクニックを列挙したのは、それらについて重要な主張をしたいからである：優秀で創造的な研究者が増えれば、こうした発見の割合は10倍以上になると思う。あるいは、言い換えればこのような発見は、インテリジェンスにとって有益だと思うそして、生物学や医学の他のすべての分野も、基本的にはそれに従っている。
なぜそう思うのか？というのも、「知性へのリターン」を見極めようとするとき、私たちはいくつかの質問をすることに慣れるべきだからである。第一に、このような発見はたいていごく少数の研究者によってなされ、しばしば同じグループによって繰り返しなされる。このことは、無作為の探索よりもむしろ熟練を示唆している（後者は、長時間の実験が制限要因であることを示唆しているかもしれない）。例えば、バクテリアの免疫系に自然に存在するCRISPRは1980年代から知られていたが、一般的な遺伝子編集に再利用できることに人々が気づくまでにさらに25年かかった。また、有望な方向性が科学界から支持されなかったために、何年も遅れてしまった（mRNAワクチンの発明者のプロフィールを参照。）第三に、成功したプロジェクトは、多くの場合、大規模な資金が投入された試みではなく、当初は有望視されなかった縁の下の力持ちや余技である。このことは、発見の原動力は大規模な資源プールだけでなく、創意工夫であることを示唆している。
最後に、これらの発見のいくつかは "系列依存"（発見Bをするための道具や知識を得るためには、まず発見Aをする必要がある）であり、それがまた実験的な遅れの原因となる可能性があるが、多く（おそらくほとんど）は独立であり、つまり多くの発見を同時にすることができる。-しかし、多くの、おそらくほとんどの発見は独立しており、同時に多くの発見をすることができる。もし科学者がもっと賢くて、人間が持っている膨大な生物学的知識（CRISPRの例をもう一度考えてみよう）を結びつけるのが上手であれば、このような発見が何百と待ち構えていることだろう。AlphaFold/AlphaProteoの成功は、（狭い分野の狭いツールではあるが）原理を証明するものであり、進むべき道を示すものである。
したがって、強力なAIがあれば、このような発見の速度を少なくとも10倍にすることができ、今後50～100年の生物学的進歩を5～10年で達成することができるのではないだろうか。[14] なぜ100倍ではないのか？もしかしたら可能かもしれないが、ここにシリアルがある。
1年で100年の進歩を得るには、動物実験や顕微鏡や高価な実験施設の設計など、多くのことを最初に正しく行う必要がある。私は、5～10年で1000年の進歩を遂げるという（ばかばかしいと思われるかもしれない）考えには賛成だが、1年で100年の進歩を遂げることには懐疑的だ。実験やハードウェアは一定の「遅れ」をもって設計されており、論理的に推論できないことを学習するためには、一定の「不可逆的な」反復を必要とする。しかし、この上に大規模な並列性があるかもしれない[15]。
臨床試験についてはどうだろう？臨床試験には官僚主義や遅滞がつきものだが、実はその遅滞の多くは、ほとんど効かない、あるいは漠然と効く薬を厳密に評価する必要性から生じている。平均的な抗がん剤は、生存期間を数ヶ月延長する一方で、副作用を注意深く測定する必要がある（アルツハイマー病治療薬も同様である）。このため、（統計的検出力を得るために）膨大な研究が行われ、難しいトレードオフが行われることになる。また、規制当局は、官僚主義や競合する利害関係の複雑さのために、一般的に決定を下すのが得意ではない。
COVIDのmRNAワクチンは9カ月で承認されたが、これは通常よりはるかに早い。それでも、この条件下でも臨床試験は遅すぎた。mRNAワクチンはおそらく2カ月程度で承認されるはずだった。しかし、このような遅れ（薬の場合、合計で〜1年）は、超並列処理と、あまり多くはないがある程度の反復（「数回の試行」）の必要性と非常に相性がよく、5〜10年後には根本的な転換につながる可能性がある。より楽観的な見方をすれば、AI主導の生物科学は、ヒトで起こることをより正確に予測できる動物実験や細胞実験の優れたモデル（あるいはシミュレーション）を開発することで、臨床試験における反復の必要性を減らすかもしれない。これは、数十年を要する老化プロセスをターゲットとする薬剤を開発する場合に特に重要であり、そのためにはより速い反復サイクルが必要となる。
最後に、臨床試験と社会的障壁という話題について、生物医学的イノベー ションは、他のいくつかの技術と比べて、ある面では展開に成功し ているという異常に強い実績があることを明らかにしておく価値がある [16]。冒頭で述べたように、これらの技術の多くは、技術的にはうまく機能しているにもかかわらず、社会的要因によって妨げられている。このことは、AIが達成できることについて悲観的な見方を示しているのかもしれない。しかし、生物医学は、医薬品の開発プロセスがあまりに煩雑であるにもかかわらず、いったん開発されると、しばしばうまく展開され、使用されるという点でユニークである。
要約すると、私の基本的な予測は、AIを活用した生物学と医学によって、人間の生物学者が今後50～100年で成し遂げるであろう進歩を5～10年で圧縮することが可能になるということである。私はこれを「圧縮された21世紀」と呼んでいる。強力なAIが開発されれば、21世紀を通じて成し遂げられるであろう生物学的・医学的進歩のすべてを、数年以内に成し遂げられるという考え方である。
今後数年間に強力なAIに何ができるかを予測することは本質的に難しく、推測の域を出ないが、「外力なしに今後100年間に人間に何ができるか」を問うことには一定の具体性がある。20世紀に我々が達成したことを見たり、21世紀の最初の20年を外挿したり、「10個のCRISPRと50個のCAR-T」が我々に何をもたらすかを尋ねたりするだけでも、強力なAIに期待できる一般的な進歩のレベルを見積もるための、実用的で情報に基づいた方法を提供することができる。
以下に、予想されることを列挙してみた。これは厳密な方法論に基づくものではないし、細部においてはほぼ間違いなく間違っていることが証明されるだろうが、我々が予想すべきラディカリズムの一般的なレベルを伝えようとするものである：
- ほぼすべての自然感染症の確実な予防と治療[17].20世紀における感染症との闘いの莫大な進歩を考えれば、圧縮された21世紀において「仕事を成し遂げる」ことができると想像することは、決して過激なことではない。感染症がTOTAL撲滅における貧困と不平等に依存しているかどうか（むしろ一部の場所だけでなく）については、セクション3で議論する。
- がんの撲滅。過去数十年間で、がんの死亡率は年間約2%減少している。したがって、現在の人類の科学のペースでは、21世紀にはほとんどのがんを撲滅できる見込みである。いくつかのサブタイプはすでに大量に治癒しており（例えば、CAR-T療法によるある種の白血病）、私は、がんの初期段階をターゲットにして増殖を阻止する非常に選択的な薬剤にさらに期待している。可能かもしれないが、時間と人間の専門知識の両面で非常に高価なものである。
- 遺伝性疾患の予防と治療に非常に効果的である。胚スクリーニングの改善により、ほとんどの遺伝性疾患を予防できるようになるかもしれないし、より安全で信頼性の高いCRISPRの子孫が、既存の集団におけるほとんどの遺伝性疾患を治癒するかもしれない。ほとんどの細胞に影響を及ぼす全身性疾患は、最後の難治性分子かもしれない。
- アルツハイマー病の予防。私たちは、アルツハイマー病の原因を解明するのに苦労している（ベータアミロイドが関係しているが、実際の詳細は非常に複雑なようだ）。生物学的効果を分離する、より優れた測定ツールで解決できることのようです。ですから、私はAIが解決してくれると楽観視しています。何が起こっているのか本当に理解できれば、比較的簡単な介入で予防できる可能性は高い。とはいえ、すでに存在するアルツハイマー病のダメージを元に戻すのは難しいかもしれない。
- 他のほとんどの病気の治療が改善された。これは、糖尿病、肥満、心臓病、自己免疫疾患など、他の病気を含むカテゴリーである。これらの病気のほとんどは、がんやアルツハイマー病よりも「対処しやすい」ように思われる。これらの病気のほとんどは、がんやアルツハイマー病よりも「対処しやすい」ように思われ、多くの場合、すでに急減している。例えば、心臓病による死亡率は501 TP3T以上減少しており、GLP-1作動薬のような単純な介入は肥満や糖尿病に対して大きな進歩を遂げている。
- 生物学的自由。過去70年間、私たちは避妊、不妊治療、体重管理などで進歩を遂げてきたが、AIが加速する生物学は、可能なことの範囲を劇的に拡大すると思う。体重、外見、生殖、その他の生物学的プロセスは、完全に人々のコントロール下に置かれるようになるだろう。私たちはこれを「生物学的自由」と呼ぶことにする。つまり、誰もがなりたい自分を選び、最も魅力的な生き方をする権利を持つべきだということだ。もちろん、世界的な平等なアクセスについては疑問がある。これについては第3章で述べる。
- 人類の長寿倍増[18].これは急進的に見えるかもしれないが、平均寿命は20世紀にほぼ3倍になった（約40年から約75年へ）ので、「圧縮された21世紀」は再び2倍の150年になることが「トレンド」である。実際の老化プロセスを遅らせるために必要な介入策は、前世紀の（主に子供の）病気による早死を防ぐために必要な介入策とは明らかに異なるが、その変化の大きさは前例がないものではない [19] 。具体的には、限定的な副作用でラットの最大寿命を25-501 TP3T延ばす薬剤がすでに多数存在している。一部の動物（ある種のカメなど）は200年生きているので、人間が理論的な上限に達していないことは明らかである。少なくとも、最も必要とされているのは、信頼性が高く、操作の影響を受けにくいヒトの老化のバイオマーカーかもしれない。そうすれば、実験や臨床試験を迅速に繰り返すことができるからだ。ヒトの寿命が150年に達すれば、「脱出速度」に到達し、現在生きているほとんどの人が望むだけ生きられるだけの時間を稼ぐことができるかもしれないが、それが生物学的に可能であるという保証はない。
このリストを見て、もし7～12年後（AIの時間軸のポジティブバージョンに当てはまる）にこれらすべてが実現したら、世界はどれほど変わっているだろうかと考えてみる価値はあるだろう。これは想像を絶するヒューマニズムの勝利であり、何千年もの間、人類を苦しめてきた大災害のほとんどを一挙に解消するものであることは間違いない。私の友人や同僚の多くが子育てをしているが、その子どもたちが大人になったとき、病気といえば壊血病や天然痘、あるいはペストについて聞くような話になることを願っている。その世代はまた、生物学的な自由と自己表現の増加から恩恵を受け、運がよければ、望むだけ長生きできるようになるだろう。
このような変化が、（強力なAIを予期している小さなコミュニティを除いて）誰にとってもどれほど驚くべきものであるか、過大評価することは難しい。例えば、米国では現在、何千人もの経済学者や政策専門家が、社会保障制度とメディケアの支払能力を維持する方法、さらに広くは医療費（医療費は主に70歳以上の人々、特にがんなどの末期疾患の人々によって支えられている）を削減する方法について議論している。これらすべてが実現すれば、現役世代と引退世代の人口比率が劇的に変化するため、これらの制度を取り巻く状況は根本的に改善する可能性がある[20]。これらの課題が、新技術へのアクセスをいかに広く確保するかといった他の課題に取って代わられることは間違いないだろうが、生物学だけが加速化に成功したとしても、世界がどれほど変わるかを考えてみる価値はあるだろう。
2.脳科学と心
前節では、「身体の病気」と生物学一般に焦点を当て、神経科学やメンタルヘルスについては触れなかった。しかし、神経科学は生物学の一分野であり、心の健康は身体の健康と同じくらい重要である。実際、どちらかといえば、精神的健康は肉体的健康よりも人間の幸福に直接的な影響を与える。何億人もの人々が、依存症、うつ病、統合失調症、低機能自閉症、PTSD、精神病質[21]、知的障害などの問題により、生活の質が非常に低くなっている。さらに数十億人が、これらの深刻な臨床障害の軽いバージョンと解釈されることも多い日常的な問題と闘っている。そして、一般的な生物学と同様に、人間の経験の基本的な質を向上させるために、問題解決を超えることが可能かもしれない。
私が生物学について概説した基本的な枠組みは、神経科学にも同様に当てはまる。上記のリストでは、オプトジェネティクスは神経科学の発見であり、クラリティや拡大顕微鏡の最近の進歩も同じ方向への進歩である。このような進歩の速度は、AIによって同様に加速されると思います。したがって、「5～10年で100年の進歩を遂げる」という枠組みは、生物学と同じように神経科学にも当てはまりますし、同じ理由から、神経科学にも当てはまります。生物学と同様、20世紀における神経科学の進歩は甚大であった。例えば、1950年代まではニューロンがどのように発火するのか、またなぜ発火するのかさえ理解されていなかった。したがって、AIによって加速される神経科学が、数年以内に急速な進歩を遂げることは合理的であると思われる。
この基本的な図式に付け加えるべきことのひとつは、ここ数年でAIについて学んだ（あるいは学びつつある）ことのいくつかは、たとえそれが人間によってのみ行われ続けるとしても、神経科学の進歩に役立つ可能性があるということである。解釈可能性は明らかな例である。生物学的ニューロンは、表向きには人工ニューロンとはかなり異なる動作をするが（スパイクとスパイク・レートを介して通信を行うため、人工ニューロンにはない時間的要素がある。単純な細胞ネットワークが、重要な計算を共同で実行するために、組み合わせ的な線形／非線形演算をどのように行うか」という問題は同じであり、計算と回路に関する興味深い問題のほとんどにおいて、個々のニューロン通信の詳細は抽象化されるだろうと私は強く疑っている[22]。この例として、AIシステムの解釈可能性研究者は最近、マウスの脳における計算メカニズムを再発見した。
人工神経回路網を使った実験は、実際の神経回路網を使った実験よりもはるかに簡単である（後者では通常、動物の脳を切り刻む必要がある）ため、解釈可能性は神経科学の理解を深めるためのツールになるかもしれない。さらに、強力なAI自体が、人間よりもこのツールを開発し、適用できるかもしれない。
もちろん、解釈可能性だけでなく、AIから学んだ、知的システムがどのように訓練されているかということも、神経科学に革命を起こすはずだ（起きているかどうかはわからないが）。
私が神経科学に携わっていた頃、多くの人が学習について、今なら間違った質問だと思うようなことに焦点を当てていた。スケール仮定／痛みを伴う教訓という概念がまだ生まれていなかったからだ。単純な目的関数と大量のデータが組み合わさることで、信じられないほど複雑な行動を引き起こす可能性があるという考えから、緊急の計算の詳細よりも、目的関数やアーキテクチャーの偏りを理解することの方が興味深かったのだ。ここ数年、私はこの分野をよく追いかけてはいないが、計算神経科学者たちはこの教訓を十分に吸収していないのではないかと漠然と感じている。私のスケール仮説に対する態度は常に「ああ、これは知能がどのように機能し、どのように簡単に進化するかについてのハイレベルな説明だ」というものでしたが、平均的な神経科学者の見解はそうではないと思います。「知能の秘密」は完全には受け入れられていない。
神経科学者は、この基本的な洞察と人間の脳の特殊性（生物物理学的制約、進化の歴史、トポロジー、運動や感覚の入出力の詳細）を組み合わせて、神経科学の重要なパズルを解こうとするべきだと思う。AI神経科学者は、進歩を加速させるためにこの視点をより効果的に使うことができるだろう。
私は、AIが4つの異なるルートを通じて神経科学の進歩を加速させ、そのすべてが連携してほとんどの精神疾患を治療し、機能を改善することができると予想している：
- 伝統的な分子生物学、化学、遺伝学。これは本質的に第1節と同じ一般的な生物学であり、AIも同じメカニズムでそれを加速させる可能性がある。
神経伝達物質を調節して脳機能を変化させたり、覚醒や知覚に影響を与えたり、気分を変えたりする薬はたくさんあり、AIはさらに多くの発明を手助けしてくれるだろう。
- きめ細かな神経学的測定と介入。これは、多くの個々のニューロンや神経回路が何をしているかを測定し、その行動を変えるために介入する能力である。オプトジェネティクスと技術的神経プローブは、生体内で測定と介入を同時に行うことができる技術であり、非常に高度な方法（例えば、多数の個々のニューロンの発火パターンを読み取る分子テープ）も提案されており、原理的には可能であると思われる。
- 高度計算神経科学。前述したように、現代のAIと「ザ・ホール」特有の洞察は、精神病や気分障害のような複雑な障害の真の原因やダイナミクスを明らかにする可能性を含め、システム神経科学の問題にうまく応用できるかもしれない。
- 行動的介入。神経科学の生物学的側面に焦点を当てているため、あまり触れてこなかったが、精神医学と心理学は20世紀に幅広い行動介入法を開発した。より広義には、常に最高の自分になるよう手助けし、相互作用を研究し、より効果的になるよう学習する手助けをする「AIコーチ」という概念は、非常に有望に思える。
私は、これら4つの進歩の道筋が協力し合うことで、身体疾患との闘いのように、うまくいけば今後100年以内に、つまりおそらくAIが加速してから5～10年以内に、ほとんどの精神疾患を治療または予防できるようになると考えている。具体的には
- ほとんどの精神疾患は治る可能性がある。私は精神疾患の専門家ではないが（神経科学では、ニューロンの小さなグループを研究するためのプローブを作ることに時間を費やしている）、PTSD、うつ病、統合失調症、依存症などの疾患は、上記の4つの方向性の組み合わせによって解明され、非常に効果的に治療できるのではないかと思う。その答えは、「生化学的に何かが間違っている」（非常に複雑である可能性もあるが）、そして「神経ネットワークに、高いレベルで何かが間違っている」ということかもしれない。つまり、これはシステム神経科学の問題であり、上述の行動介入の影響を否定するものではない。生体内での人体計測と介入のためのツールは、迅速な反復と進歩につながりそうだ。
- 非常に "構造的 "な状況であれば、より難しいかもしれないが、不可能ではない。サイコパスには、脳の特定の領域が単純に小さかったり、発達していなかったりするという、神経解剖学的な顕著な違いがあるという証拠がいくつかある。サイコパスはまた、非常に幼い頃から共感能力に欠けていると考えられている。これは脳の違いにかかわらず、常にそうであったのかもしれない。同じことが、ある種の知的障害や、おそらく他の症状にも当てはまるかもしれない。脳の配線を変えるというのは難しそうだが、知性にとっては見返りの大きい作業であるようだ。大人の脳をより早期に、あるいはより可塑的な状態に誘導し、脳を改造できるようにする方法があるかもしれない。しかし、私の直感では、AIがこの分野で何を発明できるかについては楽観的である。
- 精神病の効果的な遺伝的予防は可能であると思われる。ほとんどの精神疾患は部分的に遺伝するものであり、ゲノムワイド関連研究は、通常多数存在する関連因子の同定において進展し始めている。身体疾患の場合と同様に、胚スクリーニングによってこれらの疾患のほとんどを予防できる可能性がある。ひとつ違うのは、精神疾患は多遺伝子性（多くの遺伝子が寄与している）である可能性が高いことで、その複雑さゆえに、疾患と関連する正の形質を無意識のうちに選択してしまう危険性がある。不思議なことに、近年のGWAS研究は、これらの相関関係が過大評価されている可能性を示唆しているようだ。いずれにせよ、AIによって加速された神経科学は、これらの問題に対処するのに役立つかもしれない。もちろん、複雑な形質に対する胚スクリーニングは、いくつかの社会的問題を引き起こし、議論を呼ぶだろう。
- 私たちは、臨床疾患における日々の問題も解決されるとは考えていない。私たちの多くは、日常的に心理的な問題を抱えている。怒りっぽい人もいれば、集中力が続かなかったり、よく眠くなったりする人もいる。今日では、例えば注意力や集中力を高める薬（カフェイン、モダフィニル、リタリン）が存在するが、以前の多くの分野と同様に、もっと多くの可能性があるかもしれない。まだ発見されていないそのような薬物はもっとたくさんあるかもしれないし、標的を絞った光刺激（上記のオプトジェネティクスを参照）や磁場など、まったく新しい介入方法があるかもしれない。20世紀に認知機能や感情状態を調整する薬がどれだけ開発されたかを考えると、私は、誰もが脳のパフォーマンスを向上させ、より充実した日常生活を送ることができる「圧縮された21世紀」について、非常に楽観的である。
- 人間のベースライン体験はもっと良くなる。さらに一歩進んで、多くの人が、啓示、創造的なひらめき、思いやり、充実感、超越、愛、美、瞑想的な安らぎといった特別な瞬間を経験する。このような体験の特徴や頻度は、人によって、また時間によっても異なり、時には様々な薬物によって引き起こされることもある（副作用を伴うことも多いが）。これらのことから、「可能な体験の空間」は非常に広く、より多くの人の人生がこうした非日常的な瞬間で構成されている可能性があることが示唆される。また、さまざまな認知機能を向上させる可能性もある。これは「生物学的自由」や「延命」の神経科学版と言えるかもしれない。
SFの世界ではよく出てくる話題だが、ここではあえて取り上げない。人間の脳のパターンとダイナミクスを取り込み、それをソフトウェアにインスタンス化する「意識のアップロード」というアイデアだ。このトピックは、それ自体が論文の主題になり得るが、簡単に答えれば、アップロードは原理的には可能だと思うが、実際には技術的・社会的に大きな課題に直面しており、たとえ強力なAIを使ったとしても、我々が話している5年から10年の枠外に置かれるかもしれないということだ。
つまり、AIによって加速された神経科学は、治療を劇的に改善し、おそらくほとんどの精神疾患を治癒させ、「認知的・精神的自由」と人間の認知的・感情的能力を劇的に拡大させる可能性がある。それは、セクション1で説明した身体的健康の改善と同じくらい急進的なものになるだろう。おそらく世界は外見上大きく変わることはないだろうが、人間が経験する世界はより良く、より人道的な場所となり、自己実現の機会がより多く提供される場所となるだろう。また、メンタルヘルスが改善されれば、政治的・経済的に見える問題も含め、他の多くの社会問題も改善されるのではないだろうか。
3.経済発展と貧困
最初の2つのセクションは、病気を治し、人間の生活の質を向上させるためのUNDGの新技術を扱っている。しかし、人道的見地からすれば、明らかな疑問がある。
ある病気の治療法を開発することと、その病気を世界から根絶することは別の話である。より広範に言えば、既存の保健介入策の多くは、世界の他の地域ではまだ適用されておらず、（保健以外の）技術改善についてもしばしば同じことが言える。サハラ以南のアフリカの1人当たりGDPは約2,000ドルであるのに対し、米国は約75,000ドルである。もしAIが先進国の経済成長と生活の質をさらに向上させる一方で、発展途上国にはほとんど貢献しないのであれば、これはひどい道徳的失敗であり、前2節の真の人道的勝利の汚点とみなすべきである。理想を言えば、強力なAIは、たとえ発展途上国に革命をもたらしたとしても、発展途上国が先進国に「追いつく」のを助けるべきである。
私は、AIが不平等や経済成長の問題を解決する基盤技術を発明できるという自信はあまりない。というのも、テクノロジーは知能（複雑さやデータ不足を回避する能力を含む）に対する見返りが格段に高いのに対し、経済は人間からの制約が多く、固有の複雑さが多いからだ。私は、AIが有名な「社会主義的コンピューティング問題」[23]を解決できるかどうかについては少し懐疑的であり、仮に解決できたとしても、政府がそのような存在に経済政策を委ねるとは（あるいは委ねるべきではないと）考えている。また、効果的ではあるが懐疑的な治療法を受け入れるよう、人々をどのように説得するかという問題もある。
発展途上国が直面する課題は、官民両部門に蔓延する汚職によってさらに深刻化している。汚職は貧困を悪化させ、それがさらに汚職を生むという悪循環を生む。AI主導の経済開発プログラムでは、汚職や脆弱な制度など、極めて人間的な課題を考慮する必要がある。
とはいえ、私は楽観できる明確な理由があると思う。病気は根絶され、多くの国が貧困から富裕に転じた。そして、これらのタスクに関わる意思決定は、（人間の制約や複雑さにもかかわらず）高い知能リターンを示すことは明らかである。また、人間の制約を迂回できるような的を絞った介入策があるかもしれず、AIはそれらに集中することができる。先進国のAI企業も政策立案者も、発展途上国が取り残されないよう、それぞれの役割を果たす必要がある。このセクションでは、引き続き楽観論を展開するが、成功は保証されておらず、我々の努力次第であることを忘れないでほしい。
以下では、強力なAIが開発された5年後、10年後の発展途上国がどうなっているかを推測する：
- 健康介入の配分。私が最も楽観視しているのは、世界における保健介入の分布である。天然痘は1970年代に完全に根絶され、ポリオとモルモット病は年間100件未満で事実上根絶されている。数学的に洗練された疫学的モデリングは、疾病撲滅キャンペーンで積極的な役割を果たしてきた。人間よりも賢いAIシステムが、人間よりも優れた仕事をこなせる可能性は高いと思われる。流通のロジスティクスも大幅に最適化されるかもしれない。GiveWellの初期に寄付をしたことで学んだことのひとつは、ある保健チャリティーは他のチャリティーよりも効果的であるということだ。例えば、マラリアは罹患するたびに治療が必要なため撲滅が難しいが、1回のワクチン接種で済むワクチンであれば物流はよりシンプルになる（実際、そのようなマラリア用ワクチンは現在開発中である）。例えば、病気を媒介する蚊を根絶するために、病気を媒介しないようにする細菌に感染させた蚊を放したり（その後、他のすべての蚊に感染させる）、遺伝子操作によって蚊を駆除したりする。そのためには、何百万人もの人々を個別に治療するような協調的なキャンペーンではなく、1つか少数の集中的な行動が必要となる。全体として、AIがもたらす健康への恩恵（おそらく50%）のかなりの部分が世界の最貧国に行き渡るまでには、5～10年というのが妥当な時間枠だと思う。開発途上国が先進国に遅れをとり続けるとしても、強力なAIが導入されてから5～10年以内に、少なくとも現在の先進国並みの健康状態になることが良い目標かもしれない。もちろん、この目標を達成するには、グローバル・ヘルス、慈善事業、政治的アドボカシー、その他多くの分野で多大な努力が必要であり、AI開発者と政策立案者の双方が協力すべきである。
- 経済成長。発展途上国は、健康面だけでなく経済のあらゆる面で、先進国に急速に追いつくことができるのだろうか？前例はある。20世紀最後の数十年間、東アジアの数カ国は年間実質GDP成長率10%を持続的に達成し、先進国に追いついた。人間の経済プランナーは、経済全体を直接コントロールするのではなく、いくつかの重要なレバー（輸出主導型成長のための産業政策や、天然資源に依存する誘惑への抵抗など）を引くことによって、この成功につながる決断を下した。「人工知能を持つ財務大臣や中央銀行家」が、この10%の達成を再現したり、あるいは凌駕したりする可能性はある。10%の成果。重要な問題は、発展途上国の政府に自己決定の原則を尊重させながら、どのように採用してもらうかである。エイズ／マラリア／寄生虫の根絶は生産性に大きな影響を与えるだろうし、神経科学への介入（気分や集中力の向上など）が先進国でも発展途上国でも経済的利益をもたらすことは言うまでもない。最後に、健康以外のAI加速技術（エネルギー技術、輸送用ドローン、建築資材の改良、物流・流通の改善など）は、自然に世界に浸透する可能性がある。例えば、サハラ以南のアフリカでさえ、慈善的な努力をしなくても、市場メカニズムを通じて携帯電話が急速に普及している。より否定的な側面としては、AIやオートメーションがもたらす多くの潜在的なメリットにもかかわらず、特にまだ工業化が進んでいない国々にとっては、経済発展への課題ともなる。こうした国々が自動化の時代にも経済を発展・向上させる方法を見つけることは、経済学者や政策立案者が取り組むべき重要な課題である。全体として、夢のシナリオ（そしておそらく目標）は、発展途上国の年間GDP成長率が20%となり、そのうちの10%がAIによる経済的意思決定からもたらされ、さらに10%がAIによって加速されたものである。TP3TがAIによる経済的意思決定によってもたらされ、さらに10%がAIによって加速されたテクノロジーの自然な普及によってもたらされる。実現すれば、サハラ以南のアフリカは5～10年以内に現在の中国の一人当たりGDPに到達し、他の多くの発展途上国は現在の米国のGDPを上回るレベルに達することができる。繰り返しになるが、これは夢のシナリオであり、既定路線で実現するものではない。
- 食料安全保障[24].より優れた肥料や農薬、より自動化された農法、より効率的な土地利用など、作物に関する技術の進歩は作物の収穫量を劇的に増加させ、20世紀には何百万人もの人々を飢餓から救った。現在、遺伝子工学は多くの作物をさらに改良している。より多くの方法を見つけ、農業サプライチェーンをより効率的にすることで、発展途上国と先進国の格差を縮めるのに役立つ、AIを活用した第二の緑の革命が起こるかもしれない。
- 気候変動の緩和。気候変動は発展途上国でより強く感じられ、その発展を妨げるだろう。大気中の炭素除去やクリーンエネルギー技術から、炭素集約的な工場畜産への依存を減らす実験室飼育の食肉まで、気候変動を緩和したり食い止めたりする技術の改善にAIがつながることが期待できる。もちろん、上述したように、テクノロジーだけが気候変動の進展を制限しているわけではない。この記事で論じた他のすべての問題と同様、人間の社会的要因が重要なのだ。しかし、AIを活用した研究が、気候変動の緩和をより低コストで有害なものにせず、反対意見の多くを無意味なものにし、発展途上国におけるより多くの経済発展の可能性を解き放つ手段を与えてくれると考えるには、十分な理由がある。
- 国家内の不平等私は主に、世界的な現象としての不平等について論じてきた（それが最も重要な現れだと私は考えている）が、もちろん不平等は国内にも存在する。先進的な医療介入、特に長寿薬や認知機能強化薬の劇的な増加に伴い、これらの技術が「金持ちだけのもの」であるという正当な懸念があることは確かである。私が先進国内の不平等について特に楽観的なのは、2つの理由があるからである。第一に、先進国では市場がよりよく機能し、一般的に高価値技術のコストを長期的に削減するのに適している[25]。第二に、先進国の政治制度は市民に対してより敏感であり、UAプログラムを実施するための国家的能力が高い。もちろん、そのような要求が成功するとは限らない。ここで私たちは、公正な社会を確保するために、できる限りのことを集団で行う必要がある。富の不平等（救命技術や生命を向上させる技術へのアクセスにおける不平等とは対照的）という、対処がより困難と思われる別の問題があり、これについては第5章で述べる。
- オプトアウト問題..先進国でも発展途上国でも、AIがもたらす恩恵から「オプトアウト」する人々がいるという問題がある（反ワクチン運動や、より一般的なラッダイト運動に似ている）。例えば、適切な意思決定が最も苦手な人々が、意思決定能力を向上させる技術開発そのものをオプトアウトすることで、格差が拡大し、反ユートピア的な下層階級（これは民主主義を弱体化させると考える研究者もいる。）これは、AIの前向きな進歩に再び道徳的な汚点をつけることになる。人々を強制することは倫理的に不可能だと思うので、この問題を解決するのは難しいが、少なくとも人々の科学的理解を深める努力はできる。勇気づけられる兆候のひとつは、歴史的に反テクノロジー・キャンペーンは実際の行動よりも声が大きくなる傾向があるということだ。現代のテクノロジーに対する反対運動は盛んだが、少なくとも個人的な選択の問題である場合は、ほとんどの人が結局それを採用している。個人はほとんどの健康技術や消費者技術を採用する傾向があるが、原子力エネルギーのような真に妨げとなる技術は、集団的な政治的決定となる傾向がある。
全体として、私はAIの生物学的進歩を発展途上国の人々に迅速にもたらすことに楽観的である。自信はないが、AIが前例のない経済成長率を達成し、発展途上国が少なくとも現在の先進国のレベルを上回ることを期待している。私は、先進国と発展途上国の両方における「オプトアウト」の問題を心配しているが、それは時間の経過とともに消滅し、AIがそのプロセスを加速させることができるのではないかと考えている。世界は完璧ではないだろうし、遅れている人々は少なくとも最初の数年は追いつけないだろう。しかし、私たちの努力によって、正しい方向に急速に前進することができる。そうすれば、地球上のすべての人間に約束されている尊厳と平等の約束に、少なくともいくらかは貢献することができるのだ。
4.平和とガバナンス
疾病、貧困、不平等が大幅に削減され、人間の経験のベースラインが大幅に改善される。だからといって、人間の苦しみの主な原因がすべて解決されたわけではない。人類は依然として互いを脅かす存在なのだ。
技術の進歩や経済の発展が民主主義や平和につながるという傾向はあるが、それは非常に緩やかな傾向であり、しばしば（そして最近では）逆行している。20世紀初頭、人々は戦争を過去のものとしたと考えていた。30年前、フランシス・フクヤマは「歴史の終わり」と自由民主主義の究極の勝利について書いた。20年前、アメリカの政策立案者たちは、中国との自由貿易によって中国が豊かになり、自由化が進むと信じていた。信頼できる理論によれば、インターネット技術は、当初考えられていたように、民主主義よりも権威主義を実際に支持している可能性がある（例えば、「アラブの春」の間）。強力なAIが、平和、民主主義、自由の問題とどのように交わるかを理解しようとすることは重要なようだ。
残念ながら、AIが民主主義と平和を優先的に、あるいは構造的に促進すると信じる理由は、AIが人間の健康を構造的に促進し、貧困を緩和すると信じる理由以上にない。人間の対立は敵対的なものであり、AIは原理的に「善人」と「悪人」の両方を助けることができる。どちらかといえば、いくつかの構造的要因が心配に思える。AIはプロパガンダや監視をより容易にするかもしれないが、どちらも権威主義的支配者のツールキットにおける重要な道具である。AIが民主主義と個人の権利を支持することを望むなら、私たちはその結果のために戦わなければならない。リベラル・デモクラシーの勝利と政治的安定は保証されたものではなく、おそらく不可能でさえある。
国際紛争と国家の内部構造です。国際面では、強力なAIが誕生したときに、世界の舞台で民主主義国家が優位に立つことが重要だと思われる。AIによる権威主義は、あまりに怖くて考えられない。だから、民主主義国家は、権威主義国家に圧倒されないためにも、権威主義国家内で人権侵害が起こらないようにするためにも、強力なAIが世界に進出できる条件を整える必要がある。
私の現在の推測では、これを達成する最善の方法は「コンコーダンス戦略」 [26]であり、民主主義国の連合は、サプライチェーンを確保し、急速に拡大し、敵対国が重要な資源（チップや半導体装置など）にアクセスするのを阻止または遅延させることによって、強力なAIに対して（たとえ一時的であっても）明確な優位性を獲得しようとするものである。).連合は、AIを利用して強固な軍事的優位（棒）を獲得する一方、民主主義を促進する連合の戦略（これは「平和の原子」にやや似ている）を支持する代わりに、強力なAIの恩恵をより多くの国に分配する（ニンジン）ことを提案する。連合の目標は、世界のより多くの国々から支持を得、最悪の敵対国を孤立させ、最終的には、すべての利益を求めて民主主義国家と競争することをあきらめ、優れた敵対国とは戦わないようにすることである。
もしこのようなことができれば、民主主義国家が世界の舞台を支配し、権威主義国家に弱体化されたり、服従させられたり、破壊されたりすることを避ける経済力と軍事力を持ち、AIの優位性を永続的なものに変えることができるかもしれない。これは楽観的な見方だが、「永遠の1991年」、つまり民主主義国家が勝利し、フクヤマの夢が実現する世界をもたらす可能性がある。繰り返しになるが、これを実現するのは非常に難しい。特に、民間のAI企業と民主的な政府が緊密に協力し、アメとムチのバランスについて極めて賢明な意思決定を行う必要があるからだ。
仮にこれがすべてうまくいったとしても、各国内での民主主義と権威主義の闘いという問題が残る。もちろん、ここで何が起こるかを予測するのは難しいが、民主主義国家が最も強力なAIをコントロールする世界的な環境を考えると、AIは実際にどこでも民主主義をサポートするような構造になるかもしれないという楽観的な考えもある。特に、そのような環境では、民主主義政府は情報戦争に勝つためにスーパーAIを使うことができる。権威主義国家の影響力や宣伝活動に対抗することができ、権威主義国家にはブロックしたり監視したりする技術的能力がない情報やAIサービスへのアクセスを提供することで、おそらく自由な情報のグローバルな環境を作り出すことさえできるだろう。プロパガンダを配信する必要はないかもしれないが、単に悪意ある攻撃に対抗し、情報の自由な流れを排除するためである。即効性はないものの、このような公平な競争の場は、いくつかの理由から、グローバル・ガバナンスを徐々に民主主義へとシフトさせる可能性が高い。
第1に、第1節から第3節で述べた生活の質の向上は、すべての条件が同じであれば、民主主義を促進するはずである。特に、メンタルヘルス、幸福度、教育の向上は民主主義を促進すると予想される。一般的に、人は他の欲求が満たされれば、より多くの自己表現を求めるものであり、民主主義は自己表現の一形態である。これとは対照的に、権威主義は恐怖と恨みで繁栄する。
第二に、権威主義者が検閲できない限り、自由な情報が権威主義を弱体化させる可能性は十分にある。検閲されていないAIは、抑圧的な政府を弱体化させる強力なツールを個人に提供することもできる。抑圧的な政府は、人々が「皇帝は服を着ていない」ということに気づかないように、ある種の一般常識を否定することで存続している。例えば、ミロシェビッチ政権打倒に貢献したスルジャ・ポポヴィッチは、権威主義者を心理的に無力化し、呪縛を解き、独裁者に反対する人々を結集させるテクニックについて、多くの著作を残している。超人的に有能なバージョンのAIがすべての人のポケットに入れば（そのスキルは知性に対して高い見返りがあるようだ）、世界中で反体制派や改革派への支援を生み出すことができるだろう。繰り返すが、長く厳しい戦いになるだろうし、勝利が保証されているわけでもない。しかし、AIを正しい方法で設計し構築すれば、少なくとも自由を擁護する人々があらゆる場所で優位に立てる戦いになるだろう。
神経科学や生物学と同じように、どうすれば物事を「普通より良く」できるかを問うことができる。権威主義を避ける方法だけでなく、民主主義を今より良くするにはどうすればいいかを問うことができるのだ。民主主義国家であっても、不正はしばしば起こる。法の支配する社会は、誰もが法の前に平等であり、誰もが基本的人権を享受できることを市民に約束しているが、実際には必ずしもそのような権利を享受できていないことは明らかである。この約束は、たとえ部分的に達成されたとしても誇れるものである。
例えば、AIは意思決定やプロセスをより公正にすることで、法律や司法制度を改善することができるのだろうか？今日、AIシステムが法律や司法の文脈で差別の原因になるという大きな懸念があり、こうした懸念は重要であり、擁護される必要がある。同時に、民主主義の存続可能性は、リスクに対応するだけでなく、民主主義制度を改善するために新技術を利用することにかかっている。真に成熟し成功したAIの導入は、偏見を減らし、誰に対しても公平になる可能性を秘めている。
何世紀もの間、法制度は、公正であることを目的とする法律は本質的に主観的であり、したがって偏った人間によって解釈されなければならないというジレンマに直面してきた。現実の世界は混沌としており、常に数式で説明することができないため、法律を完全に機械化しようとする試みはうまくいかなかった。その代わりに、法制度は「残酷で異常な刑罰」や「社会的価値の完全な欠如」といった、悪名高い不正確な基準に依存している。そして、その基準は人間によって解釈され、しばしば偏見や偏見、社会的価値の欠如を示すような形で解釈される。-そしてしばしば、偏見や好意、恣意性を示すような形で解釈される。暗号通貨における「スマート・コントラクト」は、法律に革命を起こしていない。なぜなら、通常のコードは、すべての興味深い事柄について裁定できるほど賢くないからだ。しかし、AIは十分に賢いかもしれない。再現可能で機械的な方法で、広範で曖昧な判断を下すことができる初めてのテクノロジーなのだ。
私は、文字通り裁判官をAIシステムに置き換えることを提案しているわけではないが、公平性と、現実世界の厄介な状況を理解し対処する能力の組み合わせは、法律と司法にとって重大なプラスに働くはずだ。少なくとも、このようなシステムは人間の意思決定を補助する役割を果たすだろう。このようなシステムには透明性が重要であり、洗練されたAI科学がそれを提供してくれるかもしれない。このようなシステムの学習過程を幅広く研究し、高度な解釈可能技術を使用して最終モデルの内部を調べ、人間には不可能な隠れたバイアスがないかどうかを評価することができるだろう。このようなAIツールは、司法や警察における基本的権利の侵害を監視し、憲法をより自主的なものにするためにも利用できるだろう。
同様に、AIは意見を集約し、市民間のコンセンサスを促し、対立を解決し、共通点を見つけ、妥協を求めるために使うことができる。この点については、Anthropic社とのコラボレーションを含む、Computational Democracy Projectが初期のアイデアをいくつか取り上げている。より多くの情報を得た思慮深い市民は、民主主義制度を確実に強化する。
また、医療給付や社会サービスなど、原則的には誰もが利用できるにもかかわらず、実際にはしばしば不足し、他の場所よりも不利な状況にある行政サービスの提供にAIを活用する機会も明らかにある。これには、医療サービス、車両登録、税金、社会保障、建築基準法の施行などが含まれる。非常に思慮深く、十分な知識を持ったAIがいれば、政府が提供するはずのあらゆるものにわかりやすくアクセスできるようになり、また、しばしば混乱しがちな政府のルールを遵守する手助けをしてくれる。国家の能力を向上させることは、法の下の平等という約束を果たすと同時に、民主的な統治に対する敬意を強めることにもつながる。サービスが十分に実施されていないことが、現在の政府に対する冷笑の主な原因となっている[27]。
どれも漠然としたアイデアであり、冒頭で述べたように、生物学や神経科学、貧困削減の進歩に比べれば、実現可能性に対する自信ははるかに乏しい。非現実的なユートピア的アイデアかもしれない。しかし、野心的なビジョンを持ち、大胆な夢を描き、新しいことに挑戦する姿勢は重要だ。自由、個人の権利、法の下の平等を保証するものとしてのAIのビジョンは、無視するにはあまりに強力だ。21世紀のAI主導の政治は、個人の自由をより強力に保護すると同時に希望の光となり、リベラル・デモクラシーを世界が採用したいと望む政治形態にする手助けをすることができる。
5.仕事と意味
病気、貧困、不平等を緩和するだけでなく、リベラル・デモクラシーが支配的な政治形態となり、既存のリベラル・デモクラシーがより良いものになる。が残る。「私たちがこのような技術的に進歩した世界に住み、公正でまともな世界に住んでいるのは素晴らしいことだ。ところで、どうやって経済的に生き残るのだろう？"
この問題は他の問題よりも難しいと思う。というのも、この問題は、社会がどのように組織化されているかというマクロな問題を含んでおり、多くの場合、時間をかけて、分散された方法でしか解決できないからである。例えば、歴史的な狩猟採集社会は、狩猟やそれにまつわるさまざまな宗教的儀式がなければ人生は無意味だと想像していたかもしれないし、飽食のテクノロジー社会は無目的だと想像していたかもしれない。また、私たちの経済がどのようにしてすべての人を養っているのか、機械化された社会で人はどのような機能を効果的に果たすことができるのか、理解していないかもしれない。
それにもかかわらず、このセクションの簡潔さは、決して私がこれらの疑問を真剣に受け止めていないことを示唆するものではなく、それどころか、明確な答えがないことの表れであることを念頭において、少なくともいくつかの言葉を述べることは価値がある。
意味について言えば、もしあなたが意味のないタスクに従事しているのなら、それはAIがよりうまくこなせるからにほかならないという誤った見方があるようだ。ほとんどの人は何事においても世界一ではないし、それが特に気になるわけでもないようだ。確かに、今日でも比較優位性によって貢献することはできるし、自分が生み出す経済的価値から意味を見出すこともできるかもしれないが、人々は経済的価値を生み出さない活動も大いに楽しんでいる。私はビデオゲームや水泳、外を散歩したり、友人と話したりすることに多くの時間を費やしているが、これらはすべて経済的価値を生み出さない。ビデオゲームがもっとうまくなりたいとか、山でもっと速く自転車に乗れるようになりたいとか、そんなことに一日を費やすかもしれない。いずれにせよ、意義は経済的な労働からではなく、人間関係やつながりから生まれることがほとんどだと思う。ポストAIの世界では、研究プロジェクトを立ち上げたり、ハリウッド俳優を目指したり、会社を立ち上げたりするのと同じように、複雑な戦略で非常に難しい課題に何年もかけて挑戦することは十分に可能だ[28]。(a)どこかのAIが原理的にこのタスクをもっとうまくこなせるかもしれない、(b)このタスクはもはやグローバル経済における経済的リターンの要素ではない、という事実は、私にはどうでもいいことのように思える。
実際、経済的な部分は有意義な部分よりも難しいように思える。このセクションで言う「経済的」とは、十分に発達したAI主導型経済では、ほとんどの、あるいはすべての人間が有意義な貢献をすることができないという可能性のある問題を意味する。これは、第3章で論じる不平等、特に新技術へのアクセスの不平等という個別の問題よりも、はるかにマクロな問題である。
まず第一に、短期的には、比較優位の議論によって人間が重要な存在であり続け、実際に生産性が向上し、ある意味では競争条件が平準化されることに同意する。AIが特定の仕事において90%だけ優れている限り、残りの10%は人間を高度に活用し、報酬を増やし、AIが得意とする仕事を補完し、増幅する人間の仕事を新たに大量に生み出し、「10%」が拡大してほとんどすべての人を雇用し続けることを可能にする。実際、AIが人間よりも100%のことができるようになっても、特定の作業において非効率的であったり高価であったりする場合、あるいは人間とAIへの資源投入量が大きく異なる場合には、比較優位の論理が適用され続ける。人間が長期にわたって相対的（あるいは絶対的）優位性を維持できる可能性がある分野のひとつは、物理的な世界である。したがって、「データ中心の天才国家」に到達した後でも、人間経済は関連性を持ち続けることができると思う。
しかし、長い目で見れば、AIは非常に効果的で安価なものとなり、もはやそのようなことは当てはまらなくなるだろう。その時点で、現在の経済体制はもはや意味をなさなくなり、経済のあり方についてより広範な社会的対話が必要になるだろう。
狩猟採集から農業へ、農業から封建制へ、封建制から工業制へと、文明は過去に大きな経済的変化にうまく対処してきた。私は、何か新しく奇妙なビジョンが必要になるのではないかと考えている。それは、万人に対する大規模なユニバーサル・ベーシック・インカムのようなものかもしれない。それは、AIシステムによって運営される資本主義経済かもしれない。そして、AIシステムは、ある種の二次的な経済に基づいて、AIシステムの判断（最終的には人間の価値観に由来する）に基づいて、（AIシステムが人間の間で報いることが理にかなっていると考えるものから）人間に資源を配分する。もしかしたら、その経済はWhuffieポイントで動いているのかもしれない。あるいは、通常の経済モデルでは予想されないような形で、人間が依然として経済的価値を持つことになるかもしれない。これらの解決策はすべて、多くの可能性のある問題を抱えており、多くの反復と実験が行われない限り、理にかなっているかどうかはわからない。他のいくつかの課題と同様、良い結果を得るためには闘わなければならないかもしれない。搾取的あるいは反ユートピア的な方向性も可能であり、それを阻止する必要がある。これらの問題については、もっと多くのことを書くことができるし、将来そうしたいと思っている。
概要
以上のようなさまざまなテーマを通して、私は、AIがうまくいけば、今よりもずっと良い世界になるというビジョンを提示しようとした。そのような世界が現実的かどうかはわからないし、たとえ現実的だとしても、多くの勇敢で献身的な人々の努力と闘いなしには実現しないだろう。誰もが（AI企業も含めて!）)は、リスクを防ぐためにも、恩恵をフルに享受するためにも、それぞれの役割を果たす必要がある。
しかし、それは戦うに値する世界なのだ。ほとんどの病気が克服され、生物学的自由と認知的自由が拡大し、何十億もの人々が貧困から解放され、新しいテクノロジーが共有され、自由民主主義と人権がルネッサンスする......このようなことが5年後、10年後に起こったとしても、それを目の当たりにしたすべての人が影響を受けるとは思えない。.つまり、すべての新技術がもたらす個人的な恩恵を目の当たりにすれば、それはきっと素晴らしいことだろう。つまり、私たちが長い間抱いてきた一連の理想が、すべての人のために同時に実現されるという経験を目の当たりにするということだ。多くの人が涙を流すと思う。
この記事を書く過程で、私は興味深い緊張感に気づいた。ここで紹介するビジョンは、極めてラディカルなものである。ほとんどすべての人が今後10年の間に実現するとは思っておらず、多くの人がとんでもない空想だと思うかもしれない。誰もが同意するわけではない価値観や政治的選択を具現化したものである。しかし同時に、まるで良い世界を想像しようとするさまざまな試みが必然的にここに行き着いたかのような、非常に明白な何か、つまり過剰に決定された何かがある。
アイアン・M・バンクスの『ゲーム・プレイヤー』[29]の主人公は、このような状況にもかかわらず、超越的な美しさを保っている。私たちはその実現に微力ながら貢献する機会がある。にもかかわらず、それは超越的な美しさを保っている。私たちには、その実現にささやかながら貢献する機会がある。-カルチャーと呼ばれる社会のメンバーは、私がここで提案していることと基盤が一致しており、抑圧的で軍国主義的な帝国を旅している。しかし、このゲームは十分に複雑であるため、その中でのプレイヤーの戦略は、彼ら自身の政治的・哲学的見解を反映する傾向がある。主人公がゲームの中で皇帝を倒すことに成功したという事実は、冷酷な競争と適者生存の社会によって設計されたゲームのルールの中でさえ、彼の価値観（文化の価値観）が勝利の戦略を表していることを示唆している。競争は自滅的であり、思いやりと協力に基づいた社会へと導く傾向がある。競争は自滅的であり、思いやりと協力に基づく社会をもたらす傾向がある。
文化の価値観は、百万もの小さな決断の積み重ねであり、明確な道徳的力を持ち、すべての人を同じ側に引き込む傾向があるため、勝利への戦略であると私は思う。公正さ、協調性、好奇心、自律性といった人間の基本的な直感は、反論するのが難しい。私たちが予防できる病気で子どもたちは死ぬべきではないと考えるのは簡単で、そこから「すべての人の子どもにはその権利がある」と考えるのも簡単だ。そこから、私たちは団結し、その結果を達成するために創意工夫を凝らすべきだと主張するのは簡単だ。不必要に他人を攻撃したり危害を加えたりする人間は罰せられるべきだという意見に反対する人はほとんどいないし、そこから、罰は一貫性があり体系的なものであるべきだと考えるようになるのは難しいことではない。同様に、人は自分の人生や選択に自律性と責任を持つべきだという考え方も同様だ。このような単純な直観は、論理的な結論に突き進むと、最終的には法の支配、民主主義、啓蒙主義の価値観につながる。必ずしも必然ではないにせよ、少なくとも統計的な傾向として、人類はすでにここに向かっている。
それにもかかわらず、それは超越的な美しさを保っている。私たちには、その実現にささやかながら貢献する機会がある。
Kevin Esvelt、Parag Mallick、Stuart Ritchie、Matt Yglesias、Erik Brynjolfsson、Jim McClave、Allan Dafoe、そしてこの記事の草稿をレビューしてくれたAnthropicの多くの人々に感謝する。
私たちに道を示してくれた2024年のノーベル化学賞受賞者に感謝する。
#脚注
01.https://allpoetry.com/All-Watched-Over-By-Machines-Of-Loving-Grace
02.何人かの人たちの反応は、"これは当たり障りがなさすぎる "というものだろう。そういう人たちは、ツイッターで言うところの「草に触れる」必要があると思う。しかし、もっと重要なのは、当たり障りのなさが社会的な観点から見て良いということだ。人々が一度に対応できる変化には限界があり、私が述べているペースは、おそらく社会が極端な動揺なしに吸収できる限界に近いと思う。
03.AGIという言葉は、SF的なお荷物をたくさん積んだ、不正確な言葉だと思う。
と誇大広告。私は「強力なAI」あるいは「専門的な科学と工学」を好む。
04.本稿では、「知性」という用語を、さまざまな領域にわたって適用できる一般的な問題解決能力を指すものとして使用する。これには、推論、学習、計画、創造性などの能力が含まれる。本稿では「知能」を略語として使用するが、認知科学やAIの研究において、知能の性質は複雑で議論の多いテーマであることは認識している。研究者の中には、知能は単一の統一された概念ではなく、むしろ独立した認知能力の集合であると主張する者もいる。また、さまざまな認知能力の根底には、知能の一般的な要素（g因子）があると考える研究者もいる。この議論はまた別の機会に。
05.これは、現在のAIシステムの速度とほぼ同じである。例えば、1ページのテキストを数秒で読むことができ、おそらく20秒で1ページのテキストを書くことができる。時間が経つにつれて、より大きなモデルはより遅くなり、より強力なチップはより速くなる傾向がある。
06.これはストローマンの立場のように見えるかもしれないが、タイラー・コーエンやマット・イグレシアスのような注意深い思想家は、（彼らが完全にそう考えているとは思わないが）深刻な問題としてこれを取り上げており、私はそれがクレイジーだとは思わない。
07.私が知る限り、この問題に最も近い経済学的研究は、「汎用技術」と汎用技術を補完する「無形投資」に関する研究である。
08.このような学習には、アドホックな状況内学習や伝統的なトレーニングが含まれる。
09.カオスシステムでは、小さな誤差は時間とともに指数関数的に増幅されるため、計算能力が大幅に向上しても予測能力はわずかしか向上せず、測定誤差によって予測能力がさらに低下する可能性がある。
10.もう1つの要因は、もちろん、強力なAIそのものが、さらに強力なAIを生み出すために利用されるかもしれないということだ。私の仮説では、これは起こるかもしれない（実際、おそらく起こるだろう）が、その影響は、まさにここで議論されている「知性に対する限界利益の逓減」のため、あなたが考えているよりも小さくなるだろう。言い換えれば、AIは非常に急速に賢くなり続けるだろうが、その影響は最終的には非知的な要因によって制限されることになり、そうした要因を分析することが、AIを超える科学的進歩のスピードにとって重要なのだ。
11.これらの業績は、私にとってインスピレーションであり、おそらくAIが生物学を変革するために使用されている現存する最も強力な例である。
12. "科学の進歩は、新技術、新発見、新アイデア、おそらくこの順にかかっている" - シドニー・ブレナー
13.この点を指摘してくれたParag Mallickに感謝する。
14.AIを活用した科学が将来どのような発見をもたらすかについて、憶測で文章を埋め尽くしたくはないが、可能性のいくつかを思い浮かべてみよう： - AlphaFoldやAlphaProteoのような、より優れた計算ツールの設計 - つまり、特殊なAI計算生物学ツールを作る能力を加速させる汎用AIシステム - より効率的で選択的なCRISPR。- より効率的で選択的なCRISPR。- 材料科学と小型化のブレークスルーにより、より優れた移植可能なデバイスが開発される。- 幹細胞、細胞分化、脱分化の制御が向上し、その結果、組織の再生や再形成が可能になる。- 免疫系をよりよく制御する：がんや感染症に対処するために免疫系を選択的にオンにし、自己免疫疾患に対処するために免疫系を選択的にオフにする。
15.もちろん、AIは、どの実験を実行するかについて、より賢い選択をするのにも役立つ。実験の設計を改善したり、第1ラウンドの実験から多くのことを学び、第2ラウンドで重要な質問を絞り込むことができるようにしたり、などである。
16.この点を指摘してくれたマシュー・イグレシアスに感謝する。
17.多剤耐性株など、急速に進化する病気は、病院を進化の実験室として利用し、治療に対する耐性を絶えず向上させる。
18.人間の寿命が5～10年で2倍になったかどうかを知るのは難しいかもしれない。達成はしているかもしれないが、研究期間内ではわからないかもしれない。
19.これが私が言いたいことで、病気の治療や老化そのものを遅らせるという生物学的な明らかな違いはともかく、統計的な傾向をより遠くから見て、「細部は違っていても、人間科学はこの傾向が続く可能性が高いと思う。結局のところ、複雑な物事の滑らかな傾向というのは、非常に異質な構成要素から必然的に成り立っている」ということである。
20.例えば、年率1%、あるいは0.5%の生産性向上は、これらのプログラムに関連する予測に変革的な効果をもたらすと聞いている。本稿で検討したアイデアが実現すれば、生産性の伸びはこれをはるかに上回る可能性がある。
21.メディアは地位の高いサイコパスを描くことを好むが、平均的なサイコパスは、経済的な見通しが悪く、衝動を制御できず、刑務所で多くの時間を過ごすことになる人物である。
22.これは、解釈可能性から学んだ結果の多くが、注意メカニズムのような現在の人工ニューラルネットワークのアーキテクチャの詳細が変更されたり、置き換えられたりしても、関連し続けるという事実に似ていると思う。
23.私は、これは古典的なカオスシステムのようなものだと考えている。しかし、後のセクションで述べるように、もっと控えめな介入が可能かもしれない。経済学者のエリック・ブリンヨルフソン（Erik Brynjolfsson）が私に投げかけた反論は、大企業（例えば、ウォルマートやYouTuber）は、分散化されたプロセスよりも消費者を理解するのに十分な集中化された知識を持ち始めているというものだ。
24.この点を指摘してくれたケビン・エスベルトに感謝する。
25.例えば、携帯電話は金持ちのための技術として始まったが、すぐに非常に安くなり、年々改良され、「高級」携帯電話を買う利点はもはや存在しなくなった。
26.これは、近々発表されるランド・ペーパーのタイトルであり、私が説明する戦略を大まかに示している。
27.一般の人々が公的機関といえば、陸運局、国税庁、メディケア、あるいは同様の機能での経験を思い浮かべるかもしれない。そうした経験を今よりもポジティブなものにすることは、過剰なシニシズムと闘うための強力な方法であるように思われる。
28.実際、AI主導の世界では、こうした可能性のある課題やプロジェクトの範囲は、現在よりもはるかに大きくなるだろう。
29.SFにしないという自分のルールを破ってしまったが、少なくとも言及するのは難しいと思う。実際、SFは未来について広がりのある思考実験をするための唯一の情報源のひとつであり、それが非常に狭いサブカルチャーと結びついているのは悪いことだと思う。
日本語 
简体中文 
English 
Deutsch (Sie) 
Português do Brasil