Claude CEO의 최신 10,000단어 글은 샘 알트만보다 더 합리적이고 실용적입니다!

인류학 최신 기고문에서 Dario Amodei CEO와 OpenAI CEO인 샘 알트먼은 AI의 방향에 대한 각 회사의 서로 다른 초점을 보여줍니다. Dario Amodei는 안정적이고 제어 가능한 AI 시스템을 보장하기 위한 핵심으로 AI 모델의 해석 가능성과 보안을 강조하는 반면, 샘 알트먼은 AI 상용화와 기술 혁신에 중점을 두고 기술 혁신에 중점을 두며 대규모 컴퓨팅과 데이터 중심을 통한 AI 역량 증진을 강조합니다. 두 사람 사이에는 AI 개발의 장기적인 목표에 있어 차이가 있는데, Dario Amodei는 AI가 인간 사회와 안전 및 보안에 미치는 장기적인 영향에 더 중점을 두는 반면, Sam Altman은 기술 발전을 통해 AI의 상업적 가치와 사회 변화를 실현하는 데 더 중점을 둡니다.

다리오 아모데이는 스탠포드에서 신경과학 박사 학위를 받았으며, 최근 저서 에서 미래의 강력한 인공지능(그는 이를 AGI라고 부르지 않기를 선호합니다)이 인간에게 미칠 긍정적인 영향을 설명하면서 각 영역에서 엄격하고 상세한 추론 과정을 통해 샘 알트만보다 훨씬 더 합리적이고 객관적이며 관련성이 높은 글을 썼습니다!

10,000단어에 달하는 이 글은 AI에 관심이 있는 사람이라면 누구나 읽어볼 만한 가치가 있습니다.

글의 길이가 길기 때문에 핵심적인 부분만 요약했습니다. 그래도 원문과 함께 번역된 원본 기사를 읽어보시길 권해 드립니다.

핵심 인수: 아모데이는 강력한 인공지능(AGI라는 용어는 사용하지 않습니다)이 위험에도 불구하고 인간의 삶을 근본적으로 개선할 수 있는 잠재력을 가지고 있다고 믿습니다. 그는 강력한 AI가 등장한 후 5~10년 이내에 생물학, 신경과학, 경제 발전, 평화적 거버넌스, 일과 의미 분야에서 큰 발전을 이룰 것이라고 예측합니다.

핵심 구성 요소:

강력한 AI의 잠재력은 과소평가되고 있습니다: 아모데이는 대부분의 사람들이 강력한 AI의 잠재적 이점을 과소평가하는 것처럼 그 위험성도 과소평가하고 있다고 주장합니다. 그는 강력한 AI는 근본적으로 긍정적인 미래로 이어질 것이며, 위험은 그러한 미래를 달성하는 데 있어 유일한 장애물이라고 주장합니다." 이어 "대부분의 사람들이 강력한 AI의 잠재적 이점을 과소평가하는 만큼 그 위험성도 과소평가하고 있다"고 덧붙였습니다.

강력한 AI를 위한 정의와 프레임워크아모데이는 강력한 인공지능을 오늘날의 대규모 언어 모델과 유사한 인공지능 시스템으로 정의하며, 노벨상 수상자보다 더 지능적이고 인간과 동등한 인터페이스 및 행동 능력을 갖추고 있다고 말합니다. 그는 강력한 AI가 2026년 또는 그 이전에 등장할 것이며 "데이터 중심 천재들의 국가"의 형태를 띠게 될 것이라고 예측합니다."" 강력한 AI란 다른 아키텍처를 기반으로 하고, 여러 상호작용 모델을 포함하며, 다른 방식으로 학습될 수 있지만 오늘날의 대규모 언어 모델과 형식적으로 유사할 가능성이 있는 AI 모델을 의미하며 다음과 같은 특성을 가지고 있습니다:

순수 지능만 놓고 보면 생물학, 프로그래밍, 수학, 공학, 글쓰기 등 대부분의 관련 분야에서 노벨상 수상자보다 더 똑똑합니다. 즉, 풀리지 않는 수학 정리를 증명하고, 아주 훌륭한 소설을 쓰고, 어려운 코드 베이스를 처음부터 다시 작성하는 등의 작업을 수행할 수 있습니다.

AI 발전의 한계: 아모데이는 '지능의 한계적 향상'이라는 개념을 제안하며 외부 세계의 속도, 데이터의 필요성, 내재적 복잡성, 인간의 한계, 물리 법칙 등 지능 자체 이외의 요인들이 AI의 발전 속도를 제한할 수 있다고 주장합니다.

"인공지능 시대에 우리가 이야기해야 할 것은 지능의 한계적 이점과 지능을 보완하는 다른 요소는 무엇이고 지능이 매우 높을 때 제한적인 요소는 무엇인지를 알아내는 것이라고 생각합니다."

5가지 주요 변화 영역

1. 생물학 및 건강: 아모데이는 강력한 AI가 생물학 연구의 전체 과정을 가속화하여 향후 50~100년의 생물학 및 의학 발전을 5~10년으로 압축할 것이라고 예측합니다. 이는 거의 모든 자연 전염병의 확실한 예방 및 치료, 대부분의 암 제거, 유전 질환의 효과적인 예방 및 치료, 알츠하이머병 예방, 인간 수명 연장으로 이어질 것입니다.

"저의 기본적인 예측은 AI를 활용한 생물학과 의학이 향후 50~100년 동안 인간 생물학자들이 이룩할 발전을 5~10년 안에 압축할 수 있을 것이라는 것입니다. 저는 이를 '압축된 21세기'라고 부릅니다. 즉, 강력한 AI의 발달에 따라 21세기 동안 이루어진 생물학과 의학의 모든 진보를 몇 년 안에 이룰 수 있을 것입니다."

2. 신경과학과 심리학:아모데이는 강력한 인공지능이 신경과학적 도구와 기술의 발견을 가속화하고 인공지능 자체의 통찰력(예: 해석 가능성 및 가설 확장)을 적용함으로써 신경과학과 정신건강 분야에 혁명을 일으킬 것이라고 믿습니다. 이를 통해 대부분의 정신 질환을 치료하거나 예방할 수 있을 뿐만 아니라 인간의 인지적, 정서적 능력을 크게 확장할 수 있을 것입니다.

"제 생각에는 이 네 가지 발전이 함께 작용하여 신체 질환과 마찬가지로 향후 100년 내에 대부분의 정신 질환을 AI의 개입 없이도 치료하거나 예방할 수 있을 것"이라며 "5~10년 안에 AI를 가속화하면 치료할 수 있을 것"이라고 말합니다.

3. 경제 발전과 빈곤: 아모데이는 불평등을 해소하고 경제 성장을 촉진하는 AI의 능력은 기술 발명 능력에 비해 확실하지 않다는 점을 인정했습니다. 그러나 그는 AI가 보건 개입의 분배를 최적화하고 경제 성장을 촉진하며 식량 안보를 보장하고 기후 변화를 완화하고 국가 내 불평등을 해소함으로써 개발도상국이 선진국을 따라잡는 데 도움을 줄 수 있다고 낙관적으로 전망했습니다.

"전반적으로 저는 AI의 생물학적 발전이 곧 개발도상국 사람들에게 혜택을 줄 것이라고 낙관합니다. AI가 전례 없는 경제 성장률로 이어져 개발도상국이 최소한 현재 선진국 수준을 따라잡을 수 있을 것이라는 희망은 있지만 확신은 없습니다."

4. 평화와 거버넌스: 아모데이는 AI는 권위주의 정권과 민주주의 정권 모두에 의해 악용될 수 있기 때문에 그 자체로는 민주주의와 평화의 발전을 보장하지 못한다고 주장합니다. 그는 민주주의 국가들이 강력한 AI를 위한 공급망을 확보하고, 빠르게 확장하며, 적들이 칩이나 반도체 장비와 같은 핵심 자원에 접근하는 것을 막거나 지연시킴으로써 이점을 얻기 위한 '공동의 전략'을 채택해야 한다고 주장합니다. 이를 통해 민주주의 국가가 세계 무대를 지배하고 궁극적으로 글로벌 민주주의의 확산을 촉진할 수 있습니다.

"저는 AI가 권위주의 정권과 독재 정권에 의해 사용될 수 있기 때문에 그 자체로는 민주주의와 평화의 진전을 보장하지 못한다고 생각합니다."

5. 업무와 중요성: 아모데이는 인공지능이 대부분의 업무를 수행하는 세상에서도 인간은 여전히 의미와 목적을 찾을 수 있다고 주장합니다. 그는 의미는 주로 경제적 노동보다는 관계와 연결에서 비롯된다고 주장합니다. 그러나 그는 AI 기반 경제가 현재의 경제 시스템에 도전할 수 있으며 미래의 경제가 어떻게 조직될지 탐구하기 위해 더 광범위한 사회적 대화가 필요하다는 점을 인정합니다.

"인공지능이 대부분의 업무를 수행하는 세상에서도 인간은 여전히 의미와 목적을 찾을 수 있다고 생각합니다. 의미는 주로 경제적 노동이 아니라 관계와 연결에서 비롯된다고 생각합니다."

아모데이는 강력한 인공지능이 올바르게 활용된다면 지금보다 더 나은 세상, 질병과 빈곤, 불평등이 없는 세상, 자유민주주의와 인권이 특징인 세상을 만들 수 있다고 믿습니다. 그는 이러한 비전을 실현하려면 엄청난 노력과 투쟁이 필요하며 개인, AI 기업, 정책 입안자들의 공동의 노력이 필요하다는 점을 인정합니다.

"5~10년 안에 대부분의 질병이 퇴치되고, 생물학적, 인지적 자유가 확대되고, 수십억 명이 빈곤에서 벗어나고 새로운 기술을 공유하며, 자유민주주의와 인권이 부활하는 등 이런 일이 일어난다면 이를 보는 모든 사람이 영향을 받게 될 것입니다. 영향을 미칠 것입니다."

결론: 아모데이는 이 글에서 강력한 AI가 인간 사회를 어떻게 재편할 수 있는지에 대한 설득력 있는 비전을 제시합니다. 그는 강력한 AI의 엄청난 잠재력을 강조하는 동시에 그에 따른 도전과 위험도 지적합니다. 그는 모든 인류에게 혜택이 돌아갈 수 있도록 AI의 발전을 이끌기 위한 적극적인 조치를 취할 것을 촉구합니다.

글을 정리하고 교정하기가 매우 어려우므로 읽기 전에 세 번 링크해 주세요. 아래는 원본 기사입니다.

기계 사랑의 은혜[01]

AI가 세상을 더 나은 곳으로 변화시키는 방법

--다리오 아모데이

원본 링크: https://darioamodei.com/machines-of-loving-grace

저는 강력한 인공지능의 위험성에 대해 많이 생각하고 이야기합니다. 제가 CEO로 있는 Anthropic은 이러한 위험을 완화하는 방법에 대해 많은 연구를 해왔습니다. 이 때문에 사람들은 가끔 제가 비관론자나 '종말론자'라고 단정 짓고 AI는 주로 나쁘거나 위험하다고 생각합니다. 저는 전혀 그렇게 생각하지 않습니다. 사실 제가 위험에 초점을 맞추는 주된 이유 중 하나는 위험이야말로 제가 바라보는 근본적으로 긍정적인 미래와 우리를 가로막는 유일한 요소이기 때문입니다.대부분의 사람들이 AI가 가져올 수 있는 엄청난 이점을 과소평가하고 있다고 생각합니다.대부분의 사람들이 위험의 심각성을 과소평가하는 것처럼 말입니다.

이 글에서는 이러한 혜택의 윤곽, 즉 모든 것이 순조롭게 진행될 경우 강력한 AI가 적용된 세상이 어떤 모습일지 대략적인 윤곽을 그려보려고 노력했습니다. 물론 미래를 확실하고 정확하게 알 수 있는 사람은 아무도 없으며, 강력한 AI의 영향은 과거의 기술 변화보다 훨씬 더 예측하기 어려울 것이므로 이 모든 것은 필연적으로 추측으로 구성될 수밖에 없습니다. 하지만 제 목표는 대부분의 세부 사항이 틀릴지라도 최소한 어떤 일이 일어날지 파악할 수 있는 교육적이고 유용한 추측을 하는 것입니다. 구체적인 비전이 모호하고 추상적인 비전보다 논의를 진전시키는 데 더 좋은 방법이라고 생각하기 때문에 많은 세부 사항을 포함시켰습니다.

먼저, 강력한 AI의 장점에 대해서는 많이 이야기하지 않은 이유와 일반적인 위험성에 대해서는 계속 이야기할 것 같은 이유를 간략하게 설명해드리고자 합니다. 특히 다음과 같은 이유에서 이런 선택을 하게 되었습니다:

- 활용도 극대화.인공지능 기술의 근본적인 발전과 그 혜택의 많은 부분은 (위험이 모든 것을 망치지 않는 한) 피할 수 없는 것처럼 보이며, 근본적으로 강력한 시장의 힘에 의해 주도되고 있습니다. 반면에 위험은 미리 결정된 것이 아니며 우리의 행동에 따라 발생 가능성이 크게 달라질 수 있습니다.

- 선동으로 오인받지 않도록 주의하세요.인공지능 회사들은 인공지능의 모든 놀라운 이점에 대해 이야기하는데, 이는 선전이나 단점으로부터 주의를 돌리려는 시도처럼 느껴질 수 있습니다. 또한 원칙적으로 '책에 대해 이야기하는 데 너무 많은 시간을 보내는 것은 영혼에 좋지 않다고 생각합니다.

- 과장하지 마세요.저는 많은 AI 벤처 기업의 리더는 말할 것도 없고 많은 AI 벤처 공인들이 마치 자신들의 사명이 사람들을 구원으로 인도하는 선지자처럼 혼자서 인공지능 이후의 세계를 달성하는 것인 양 이야기하는 방식에 종종 불쾌감을 느낍니다. 기업이 일방적으로 세상을 형성한다고 생각하는 것도 위험하고, 실제 기술적 목표를 종교적 관점에서 생각하는 것도 위험하다고 생각합니다.

- '공상 과학' 같은 짐은 피하세요.대부분의 사람들이 강력한 인공지능의 장점을 과소평가하고 있다고 생각하지만, 급진적인 인공지능의 미래를 논하는 소수의 사람들은 종종 지나치게 '공상과학적' 어조(예: 업로드 마인드, 우주 탐험, 일반적인 사이버 펑크 분위기 등)로 이야기합니다. 이로 인해 사람들은 이러한 주장을 덜 진지하게 받아들이고 비현실적인 느낌을 받게 된다고 생각합니다. 분명히 말하자면, 문제는 설명된 기술이 가능한지 또는 가능성이 있는지 여부가 아니라(이에 대해서는 본 기사에서 자세히 설명합니다), '분위기'가 어떤 종류의 미래가 바람직한지, 사회 문제가 어떻게 진화할지 등에 대한 수많은 문화적 짐과 명시되지 않은 가정을 내포하고 있다는 점입니다. 사회 문제 등 그 결과 좁은 하위문화의 환상처럼 읽히면서 대부분의 사람들을 외면하게 되는 경우가 많습니다.

이러한 모든 우려에도 불구하고 위에서 언급한 함정을 피하면서 강력한 AI를 갖춘 더 나은 세상이 어떤 모습일지 논의하는 것이 중요하다고 생각합니다. 사실, 단순한 소방 계획이 아니라 진정으로 고무적인 미래 비전을 갖는 것이 중요하다고 생각합니다. 강력한 인공지능의 많은 함의는 대립적이거나 위험하지만, 궁극적으로 우리는 이를 위해, 모두가 더 나은 결과를 위해, 그리고 사람들이 경쟁을 극복하고 미래의 도전에 맞설 수 있도록 단결하기 위해 싸워야 합니다. 두려움은 동기를 부여하는 요소이지만 그것만으로는 충분하지 않으며 희망도 필요합니다.

로봇 공학, 제조, 에너지 등 강력한 AI의 긍정적인 적용 분야는 매우 많지만, 저는 인간의 삶의 질을 직접적으로 향상시킬 수 있는 잠재력이 가장 크다고 생각되는 몇 가지 분야에 초점을 맞추려고 합니다. 제가 가장 관심을 갖고 있는 다섯 가지 분야는 다음과 같습니다:

1. 생물학 및 신체 건강
2. 신경과학과 정신 건강
3. 경제 발전과 빈곤
4. 평화와 거버넌스
5. 일과 의미

저의 예측은 공상 과학의 "특이점" 비전[02]을 제외하고는 대부분의 기준에서 급진적일 수 있지만, 선의의 의도로 한 말입니다. 제가 말하는 모든 것은 쉽게 틀릴 수 있지만(위의 요점을 반복하자면), 적어도 다양한 분야의 발전이 얼마나 가속화될 가능성이 있고 그것이 실제로 무엇을 의미하는지에 대한 반분석적 평가에 근거하여 제 견해를 제시하려고 노력하고 있습니다. 저는 운 좋게도 생물학과 신경과학 분야에서 전문적인 경험을 쌓았고, 경제 개발 분야에서는 배운 아마추어이지만 실수를 많이 할 것이라고 확신합니다. 이 글을 쓰면서 생물학, 경제학, 국제 관계 등 각 분야의 전문가 그룹을 모아 제가 쓴 글보다 더 나은, 더 통찰력 있는 글을 쓰는 것이 가치 있을 것이라는 것을 깨달았습니다. 여기에서의 저의 노력이 그 그룹의 출발점이라고 생각하는 것이 가장 좋습니다.

기본 가정 및 프레임워크

기사 전체를 보다 정확하고 알기 쉽게 전달하기 위해 강력한 AI의 의미를 명확히 하고(즉, 5-10년 카운트다운이 시작되는 시점), 그러한 AI가 존재하게 되면 어떤 영향을 미칠지 생각해 볼 수 있는 틀을 제공하는 것이 도움이 될 것입니다.

강력한 인공지능(저는 인공지능이라는 용어를 좋아하지 않습니다.)[03]이 어떤 모습일지, 언제(또는 언제) 등장할지는 그 자체로 큰 주제입니다. 이 주제는 제가 공개적으로 논의한 적이 있고 언젠가는 완전히 별도의 포스팅을 작성할 것입니다. 물론 많은 사람들이 강력한 인공지능이 조만간 개발될 수 있을지에 대해 회의적인 시각을 가지고 있고, 심지어는 아예 개발될 수 있을지조차 의심하는 사람들도 있습니다. 더 오래 걸릴 수도 있지만 빠르면 2026년에나 가능할 것으로 생각합니다. 하지만 이 글에서는 이러한 의문은 제쳐두고 합리적인 시간 내에 실현될 것이라고 가정하고 그 이후 5~10년 동안 어떤 일이 일어날지에 초점을 맞추고자 합니다. 또한 그러한 시스템이 어떤 모습일지, 그 기능은 무엇일지, 어떻게 상호 작용할지 가정해보고 싶지만 이에 대해서는 이견의 여지가 있습니다.

강력한 AI를 사용하면 형식적으로는 오늘날의 LLM과 유사하지만, 다른 아키텍처를 기반으로 하고 여러 상호 작용 모델을 포함하며 다양한 방식으로 학습될 수 있는 AI 모델이 다음과 같은 속성을 가지고 있습니다. 다음과 같은 속성을 가지고 있습니다:

- 순수 지능[04] 측면에서는 생물학, 프로그래밍, 수학, 공학, 작문 등 관련 분야의 노벨상 수상자 대부분보다 더 똑똑합니다. 즉, 풀리지 않는 수학 정리를 증명하고, 아주 좋은 소설을 쓰고, 어려운 코드 베이스를 처음부터 다시 작성하는 등의 작업을 수행할 수 있습니다.

- 단순히 '대화하는 지능형 사물'일 뿐만 아니라 텍스트, 오디오, 비디오, 마우스 및 키보드 제어, 인터넷 액세스 등 사람이 가상으로 작업할 수 있는 모든 '인터페이스'를 갖추고 있습니다. 인터넷에서 작업을 수행하고, 사람과 지시를 주고받으며, 재료를 주문하고, 실험을 지시하고, 비디오를 보고, 비디오를 만드는 등 이 인터페이스를 통해 가능한 모든 작업, 통신 또는 원격 조작을 수행할 수 있습니다. 다시 한 번 말하지만, 이 모든 작업을 세계에서 가장 유능한 인간을 능가하는 기술로 수행합니다.

- 단순히 수동적으로 질문에 답하는 것이 아니라 몇 시간, 며칠 또는 몇 주가 걸리는 작업을 부여한 다음 스마트한 직원처럼 필요한 경우 설명을 요청하는 등 능동적으로 업무를 수행할 수 있습니다.

- 컴퓨터 화면에 존재하는 것 외에 물리적 구현은 없지만 컴퓨터를 통해 기존의 물리적 도구, 로봇 또는 실험실 장비를 제어할 수 있으며 이론적으로는 로봇이나 장비를 스스로 설계할 수도 있습니다.

- 모델 훈련에 사용되는 리소스는 수백만 개의 인스턴스(2027년경 예상 클러스터 규모와 일치)를 실행하기 위해 용도를 변경할 수 있으며, 모델은 인간보다 약 10배에서 100배의 속도로 정보를 흡수하고 작업을 생성할 수 있습니다[05]. 그러나 물리적 세계 또는 상호 작용하는 소프트웨어의 응답 시간에 의해 제한될 수 있습니다.

- 이러한 수백만 개의 복사본은 각각 관련 없는 작업에서 독립적으로 작동하거나, 원하는 경우 특정 작업에 특히 적합하도록 미세 조정된 여러 하위 그룹을 통해 사람처럼 함께 작동할 수도 있습니다.

이를 '데이터 센터의 천재 국가'로 요약할 수 있습니다.

분명히 그러한 단체는 매우 어려운 문제를 매우 빠르게 해결할 수 있지만 얼마나 빨리 해결할 수 있는지 파악하기는 쉽지 않습니다. 두 가지 "극단적인" 입장은 저에게는 잘못된 것 같습니다. 첫째, 뛰어난 지능이 구축되어 가능한 모든 과학, 공학 및 운영 작업을 즉시 해결함으로써 세상이 단 몇 초 또는 며칠 만에 즉시 변화("특이점")할 것이라고 생각할 수 있습니다. 문제는 하드웨어를 구축하거나 생물학적 실험을 수행하는 데 있어 물리적, 현실적인 한계가 있다는 것입니다. 새로운 천재 국가도 이러한 한계에 직면하게 될 것입니다. 지능은 실제로 매우 강력하지만 모든 사람에게 마법이 되는 것은 아닙니다.

둘째, 반대로 기술 발전이 포화 상태이거나 실제 데이터 또는 사회적 요인에 의해 제한되어 인간보다 더 똑똑한 지능이 거의 증가하지 않을 것이라고 생각할 수도 있습니다[06]. 저는 정말 똑똑한 사람들이 분석에만 국한되지 않고 현실 세계에서 일을 실현할 수 있다면(가상의 천재 국가가 인간 팀을 멘토링하거나 지원하는 등) 진보를 극적으로 가속화할 수 있는 과학적 또는 사회적 문제를 수백 가지 떠올릴 수 있습니다.

업무와 분야에 따라 이 두 가지 극단적인 이미지가 혼재되어 있고, 매우 미묘한 세부 사항도 존재한다고 생각합니다. 이러한 세부 사항을 생산적인 방식으로 생각하기 위해서는 새로운 프레임워크가 필요하다고 생각합니다.

경제학자들은 종종 노동, 토지, 자본과 같은 "생산 요소"에 대해 이야기합니다. "노동/토지/자본에 대한 한계 수익률"이라는 문구는 주어진 상황에서 특정 요소가 제한 요소가 될 수도 있고 아닐 수도 있다는 생각을 담고 있습니다. 예를 들어 공군에는 비행기와 조종사가 필요한데 비행기가 없는 경우 조종사를 더 고용한다고 해서 큰 도움이 되지 않습니다. 더 많은 조종사를 고용한다고 해서 큰 도움이 되지 않습니다. 저는 인공지능 시대에는 '지능의 한계 편익'[07]에 대해 이야기하고 지능이 매우 높을 때 지능을 보완하는 다른 요소와 제한하는 요소가 무엇인지 파악해야 한다고 생각합니다. 우리는 "더 똑똑해지는 것이 이 작업에 얼마나 도움이 되는지, 그리고 어느 정도의 시간 범위에서?"라는 식으로 생각하는 데 익숙하지 않습니다. -- 하지만 이는 매우 강력한 AI를 갖춘 세상을 개념화하는 데 적합한 방법인 것 같습니다.

인텔리전스를 제한하거나 보완하는 것으로 의심되는 요소 목록에는 다음이 포함됩니다:

- 외부 세계의 속도. 지능형 에이전트는 일을 처리하기 위해 세상과 상호 작용해야 하며 학습도 해야 합니다[08]. 하지만 세상은 너무 느리게 움직입니다. 세포와 동물은 고정된 속도로 움직이기 때문에 이들에 대한 실험에는 일정 시간이 걸리며, 이는 줄일 수 없는 시간일 수 있습니다. 인간 및 기존 소프트웨어 인프라와의 통신도 마찬가지입니다. 또한 과학에서는 일반적으로 많은 실험을 순차적으로 수행해야 하며, 각 실험은 이전 실험에서 학습하거나 구축해야 합니다. 이 모든 것은 지능이 계속 증가하더라도 더 이상 줄일 수 없는 암 치료제 개발과 같은 주요 프로젝트를 완료할 수 있는 최소한의 속도가 있을 수 있다는 것을 의미합니다.

- 데이터에 대한 수요. 때로는 원시 데이터가 부족할 때도 있고, 데이터가 없는 상황에서는 더 많은 지능이 도움이 되지 않습니다. 오늘날의 입자 물리학자들은 매우 똑똑하고 다양한 이론을 개발했지만, 입자 가속기 데이터가 매우 제한적이기 때문에 그 중에서 선택할 수 있는 데이터가 부족합니다. 초지능이 있다면 더 큰 가속기를 구축하기 위해 가속을 가속하는 것 외에는 더 나은 결과를 얻지 못할 것입니다.

- 내재적 복잡성. 어떤 것들은 본질적으로 예측할 수 없거나 혼란스러워서 아무리 강력한 인공지능이라도 오늘날의 인간이나 컴퓨터보다 더 잘 예측하거나 풀지 못합니다. 예를 들어, 매우 강력한 AI라도 일반적으로 3체 문제와 같은 혼란스러운 시스템은 오늘날의 인간이나 컴퓨터보다 약간 더 오래 예측할 수 있을 뿐입니다[09].

- 인간의 한계. 법을 어기거나 인간을 해치거나 사회를 혼란에 빠뜨리지 않고는 많은 일을 할 수 없습니다. 정렬된 인공지능은 이러한 일을 하고 싶어하지 않을 것입니다(정렬되지 않은 인공지능이 있다면 다시 위험에 대해 이야기하게 됩니다). 많은 인간 사회 구조는 비효율적이거나 심지어 긍정적으로 해롭지만 법적 요건, 사람들의 습관을 바꾸려는 의지 또는 정부의 행동과 같은 제약을 존중하면서 바꾸기가 어렵습니다. 원자력, 초음속 비행, 심지어 리프트와 같은 기술 발전은 기술적으로는 잘 이루어졌지만 규제나 잘못된 공포로 인해 그 영향력이 크게 감소했습니다.

- 물리 법칙. 이것은 첫 번째 요점의 더 분명한 버전입니다. 깨지지 않는 것처럼 보이는 물리 법칙이 있습니다. 빛의 속도보다 빠르게 여행하는 것은 불가능합니다. 푸딩은 스스로 저어지지 않습니다. 칩은 평방 센티미터당 트랜지스터 수가 너무 많으면 불안정해집니다. 컴퓨팅에는 지워지는 비트당 최소한의 에너지가 필요하므로 컴퓨팅 밀도가 제한됩니다.

시간 척도에 따라 또 다른 구분이 있습니다. 단기간에 제한하기 어려운 것들은 장기적으로는 지능에 더 취약할 수 있습니다. 예를 들어, 이전에는 살아있는 동물을 대상으로 실험해야 했던 것을 시험관 내에서 학습할 수 있는 새로운 실험 패러다임을 개발하거나 새로운 데이터를 수집하는 데 필요한 도구(예: 대형 입자가속기)를 구축하거나 (윤리적 제약 내에서) 임상시험 시스템을 개선하고 임상시험이 덜 관료적인 새로운 관할권을 만드는 데 도움이 되는 방법을 찾는 데 지능을 사용할 수 있으며, 인간 중심의 제약을 극복할 수 있는 방법을 찾는 데 지능을 사용할 수 있습니다. 또는 과학 자체를 개선하여 인간 임상시험의 필요성을 줄이거나 더 저렴하게 만드는 것 등).

따라서 처음에는 지능이 다른 생산 요소에 의해 크게 병목 현상을 일으키지만, 시간이 지나면서 지능 자체가 다른 요소들을 점점 우회하여 완전히 사라지지는 않더라도(물리 법칙과 같이 절대적인 것도 있습니다) [10]. 중요한 질문은 모든 일이 얼마나 빨리, 그리고 어떤 순서로 일어나는가입니다.

위의 프레임워크를 염두에 두고 서론에서 언급한 다섯 가지 영역에 대한 질문에 답해 보겠습니다.

1. 생물학 및 건강

생물학은 아마도 과학적 진보가 인간의 삶의 질을 직접적이고 결정적으로 개선할 수 있는 가장 큰 잠재력을 가진 분야일 것입니다. 가장 오래된 인류의 질병 중 일부(예: 천연두)는 지난 세기에 마침내 정복되었지만 아직도 더 많은 질병이 존재하며, 이를 극복하는 것은 인류의 위대한 업적이 될 것입니다. 생물과학은 질병을 치료하는 것 외에도 원칙적으로 인간의 건강한 수명을 연장하고, 우리 자신의 생물학적 과정에 대한 통제력과 자유를 높이며, 현재 인간 조건의 변하지 않는 부분으로 간주되는 일상적인 문제를 해결함으로써 인간 건강의 기준선을 향상시킬 수 있습니다.

이전 섹션의 제약 조건에서 지능을 생물학에 직접 적용하는 데 있어 가장 큰 어려움은 데이터, 물리적 세계의 속도, 내재된 복잡성입니다(실제로 이 세 가지 모두 서로 연관되어 있습니다). 인간의 한계는 임상시험의 후기 단계에서도 드러납니다. 이러한 문제를 하나씩 해결해 보겠습니다.

박테리아나 다른 세포를 배양하거나 화학 반응이 일어나기를 기다리는 많은 생물학적 프로토콜은 속도를 높일 수 있는 뚜렷한 방법 없이 며칠 또는 몇 주가 걸리는 경우도 있습니다. 동물 실험은 수개월(또는 그 이상)이 걸릴 수 있으며, 인간 실험은 수년(또는 장기 결과 연구의 경우 수십 년)이 걸리는 경우가 많습니다. 데이터의 양이 아니라 질이 부족한 경우가 많다는 사실도 이와 관련이 있습니다. 즉, 관심 있는 생물학적 효과를 다른 1만 가지의 다른 현상과 분리하거나 특정 과정에 인과적으로 개입하거나 특정 효과를 직접 측정하는(간접적이거나 잡음이 있는 방식이 아닌) 명확하고 모호하지 않은 데이터가 항상 부족하다는 사실과도 관련이 있습니다. 결과를 추론하는 간접적이거나 시끄러운 방식이 아닌) 직접적으로 측정합니다. 질량 분석으로 작업할 때 수집하는 프로테오믹스 데이터와 같은 대규모의 정량적 분자 데이터도 노이즈가 많고 놓치는 부분이 많습니다(이 단백질이 어떤 종류의 세포에 있는가? 세포의 어느 부분에 있는가? 세포 주기의 어느 단계에 있는가?) .

인간 신진대사의 생화학을 보여주는 차트를 본 적이 있다면, 이 복잡한 시스템의 어떤 부분의 영향을 정확하거나 예측 가능한 방식으로 개입하는 것은 말할 것도 없고 분리하는 것이 매우 어렵다는 것을 알고 있을 것입니다. 마지막으로, 인간을 대상으로 실험을 수행하는 데 필요한 고유한 시간 외에도 실제 임상시험에는 (저를 포함한 많은 사람들의 의견에 따르면) 불필요한 추가 시간과 지연을 추가하는 것으로 간주되는 많은 관료적 및 규제 요건이 수반됩니다.

이 때문에 많은 생물학자들은 생물학에서 AI와 '빅 데이터'의 가치에 대해 회의적인 시각을 가지고 있습니다. 역사적으로 수학자, 컴퓨터 과학자, 물리학자들은 지난 30년 동안 그들의 기술을 생물학에 적용하여 상당한 성공을 거두었지만, 당초 기대했던 진정한 혁신적 영향력을 달성하지는 못했습니다. AlphaFold(개발자에게 노벨 화학상을 안겨준) 및 AlphaProteo[11]와 같은 획기적인 혁신으로 인해 회의론이 일부 줄어들기는 했지만, 여전히 AI는 제한된 상황에서만 유용하다는 인식이 존재하고 있으며 앞으로도 그럴 것입니다. 일반적인 공식은 "AI는 데이터를 더 잘 분석할 수는 있지만 더 많은 데이터를 생성하거나 데이터의 품질을 개선할 수는 없다. 쓰레기는 들어오고 쓰레기는 나갑니다.".

하지만 저는 AI에 대해 잘못된 방식으로 생각하는 비관적인 견해라고 생각합니다. AI 발전에 대한 우리의 핵심 가정이 맞다면, AI를 데이터 분석 방법이 아니라 실제 세계에서 실험을 설계하고 실행하는 등 생물학자가 하는 모든 작업을 수행하는 가상 생물학자로 생각하는 것이 옳습니다(실험실 로봇을 제어하거나 단순히 인간에게 어떤 실험을 실행할지 지시하는 등 - 주요 연구자가 대학원생 등을 위해 하는 것처럼). 어떤 실험을 실행할지 알려주는 등), 새로운 생물학적 방법이나 측정 기법을 발명하는 등의 작업을 수행합니다. 전체 연구 프로세스의 속도를 높이는 것이야말로 AI가 생물학을 진정으로 가속화할 수 있는 방법입니다.AI가 생물학을 변화시키는 능력에 대해 이야기할 때 가장 흔히 오해하는 것이 바로 이 점입니다. 저는 단순히 데이터를 분석하기 위한 도구로서의 AI에 대해 이야기하는 것이 아니라는 점을 다시 한 번 강조하고 싶습니다. 이 글의 서두에서 설명한 강력한 AI의 정의에 따르면, 저는 AI를 사용하여 생물학자가 하는 거의 모든 작업을 수행하고, 안내하고, 개선하는 것에 대해 이야기하고 있습니다.

가속화가 어디에서 오는지 좀 더 구체적으로 설명하자면, 생물학 발전의 상당 부분은 일반적으로 생물학적 시스템에 정밀하지만 일반적이거나 프로그래밍 가능한 개입을 허용하는 도구나 기술과 관련된 극소수의 발견에서 비롯됩니다[12]. 이러한 발견은 1년에 약 1건 정도이며, 전체적으로는 501 TP3T 이상의 생물학적 진보를 이끌고 있는 것으로 추정됩니다. 이러한 발견이 강력한 이유는 내재된 복잡성과 데이터의 한계를 줄이고 생물학적 과정에 대한 이해와 통제력을 직접적으로 향상시키기 때문입니다. 수십 년 동안 이루어진 발견 중 일부는 생물학에 대한 기본적인 과학적 이해를 가능하게 했고, 가장 강력한 치료 접근법 중 상당수를 이끌어냈습니다.

몇 가지 예는 다음과 같습니다:

- 크리스퍼: 살아있는 유기체의 모든 유전자를 실시간으로 편집(임의의 유전자 서열을 다른 임의의 서열로 대체)할 수 있는 기술입니다. 최초 기술 개발 이후 특정 세포 유형을 표적으로 삼고, 정확도를 높이고, 결함이 있는 유전자의 편집을 줄이기 위해 지속적으로 개선되어 왔으며, 이는 모두 안전한 인간 사용에 필요한 것입니다.

- 첨단 광학 현미경(다양한 형광 기술, 특수 광학 기술 등), 전자 현미경, 원자력 현미경 등 다양한 종류의 현미경으로 정밀하게 관찰할 수 있습니다.

- 게놈 염기서열 분석 및 합성 비용은 지난 수십 년 동안 몇 배로 떨어졌습니다.

- 광유전학 기술은 뉴런이 빛에 노출되어 발화하도록 만드는 기술입니다.

- mRNA 백신은 원칙적으로 모든 것에 대한 백신을 설계한 다음 신속하게 적용할 수 있습니다(mRNA 백신은 확실히 코로나 기간 동안 유명해졌습니다).

- CAR-T와 같은 세포 치료는 면역 세포를 몸 밖으로 꺼내어 원리가 무엇이든 공격하도록 '재프로그램'할 수 있습니다.

- 질병의 세균 이론과 면역 체계와 암의 연관성 [13]과 같은 개념적 통찰력.

제가 이 모든 기술을 나열하는 수고를 감수한 이유는 이 기술에 대한 핵심적인 주장을 하고 싶기 때문입니다:재능 있고 창의적인 연구자가 더 많다면 이러한 발견의 비율을 10배 이상 높일 수 있다고 생각합니다.다시 말해이러한 결과는 인텔리전스 분야에서 좋은 성과를 거둔다고 생각합니다.그리고 생물학과 의학의 다른 모든 분야는 기본적으로 이를 따릅니다.

왜 그렇게 생각하나요? '지능으로의 복귀'를 결정할 때 몇 가지 질문을 던지는 데 익숙해져야 하기 때문입니다. 첫째, 이러한 발견은 보통 극소수의 연구자들에 의해 이루어지며, 종종 같은 그룹의 사람들이 반복적으로 이루어지기 때문에 무작위적인 검색보다는 기술을 시사합니다(후자는 실험 시간이 오래 걸리는 것이 제한 요인일 수 있습니다). 예를 들어, 박테리아에서 자연적으로 발생하는 면역 체계의 구성 요소인 크리스퍼는 1980년대부터 알려졌지만 사람들이 일반적인 유전자 편집에 사용될 수 있다는 사실을 깨닫는 데는 25년이 더 걸렸습니다. 또한 유망한 방향에 대한 과학계의 지원 부족으로 인해 수년 동안 지연되었습니다(mRNA 백신 발명가에 대한 프로필 참조; 비슷한 사례가 많이 있습니다). 셋째, 성공적인 프로젝트는 대규모 자금이 투입된 프로젝트가 아니라 처음에는 유망한 것으로 여겨지지 않았던 변두리 또는 뒷전 프로젝트인 경우가 많습니다. 이는 발견을 촉진하는 것은 대규모 리소스 풀링이 아니라 독창성이라는 것을 시사합니다.

마지막으로, 이러한 발견 중 일부는 "연속적 의존성"(A를 먼저 발견해야 B를 발견할 수 있는 도구나 지식을 얻을 수 있음)이 있어 실험이 지연될 수 있지만, 대부분의 발견은 독립적이어서 동시에 여러 가지를 발견할 수 있습니다. -그러나 많은 경우, 아마도 대부분은 독립적이기 때문에 동시에 많은 것을 만들 수 있습니다. 이 두 가지와 생물학자로서의 일반적인 경험은 과학자들이 인간이 가진 방대한 양의 생물학적 지식을 더 똑똑하고 더 잘 연결한다면(다시 한 번 CRISPR의 예를 생각해 보세요), 그러한 발견이 수백 가지가 될 수 있다는 것을 강력하게 시사합니다. 중요한 문제를 인간보다 더 효율적으로 해결한 AlphaFold/AlphaProteo의 성공은 (비록 좁은 분야의 좁은 도구이긴 하지만) 앞으로 나아갈 길을 제시하는 원리 증명을 제공합니다.

따라서 저는 강력한 인공지능이 이러한 발견의 속도를 적어도 10배 이상 증가시켜 5~10년 안에 50~100년의 생물학적 진보를 이룰 수 있을 것이라고 생각합니다. [14] 왜 100배는 안 될까요? 아마도 가능할지도 모르지만, 여기 연재물이 있습니다.

1년 안에 100년의 발전을 이루려면 동물 실험, 현미경이나 고가의 실험실 시설 설계 등 처음부터 제대로 해야 할 일이 많습니다. 저는 5-10년 안에 1000년의 발전을 이룰 수 있다는 (어쩌면 터무니없이 들리는) 생각에는 열려 있지만, 1년 안에 100년의 발전을 이룰 수 있을지에 대해서는 매우 회의적입니다. 또는 실험과 하드웨어는 일정한 '지연'을 가지고 설계되어 논리적으로 추론할 수 없는 것을 학습하기 위해 일정한 수의 '환원 불가능한' 반복을 필요로 하기 때문에 피할 수 없는 일정한 지연이 있다고 생각합니다. 그러나 이 위에 대규모 병렬 처리가 있을 수 있습니다[15].

임상시험은 어떤가요? 임상시험과 관련된 모든 관료주의와 느린 속도는 궁극적으로 거의 효과가 없거나 모호한 약물을 엄격하게 평가해야 하는 필요성에서 비롯된 것입니다. 이는 슬프게도 오늘날 대부분의 치료법이 그러합니다. 평균적인 항암제는 생존 기간을 수개월 연장하는 반면, 신중하게 측정해야 하는 심각한 부작용이 있습니다(알츠하이머 치료제의 경우도 마찬가지입니다). 이는 통계적 힘을 얻기 위해 대규모 연구와 어려운 절충안으로 이어지며, 규제 당국은 관료주의와 이해관계의 복잡성으로 인해 일반적으로 결정을 내리는 데 능숙하지 않습니다.

실제로 효과가 있으면 승인 절차가 빨라지고, 효과가 크면 승인 절차가 훨씬 더 쉬워집니다. COVID에 대한 mRNA 백신은 평소보다 훨씬 빠른 9개월 만에 승인되었습니다. 하지만 이러한 조건에서도 임상시험은 너무 느려서 약 2개월 안에 mRNA 백신이 승인되었어야 했습니다. 그러나 이러한 지연(약물의 경우 총 1년 정도)은 대규모 병렬 처리와 너무 많지는 않지만 일부 반복("몇 번의 시도")의 필요성과 매우 호환되며, 이는 5-10년 내에 근본적인 변화로 이어질 수 있습니다. 보다 낙관적인 전망으로는, AI 기반 생물과학이 인간에게 일어날 일을 더 정확하게 예측하는 동물 및 세포 실험의 더 나은 모델(또는 시뮬레이션)을 개발함으로써 임상시험에서 반복의 필요성을 줄일 수 있을 것입니다. 이는 수십 년이 걸리고 더 빠른 반복 주기가 필요한 노화 과정을 표적으로 하는 약물을 개발할 때 특히 중요할 것입니다.

마지막으로, 임상시험과 사회적 장벽이라는 주제와 관련하여, 생물의학 혁신은 다른 기술에 비해 일부 측면에서 유난히 성공적인 배포 실적을 가지고 있다는 점을 분명히 할 필요가 있습니다[16]. 서론에서 언급했듯이, 이러한 기술 중 상당수는 기술적으로는 잘 작동하지만 사회적 요인에 의해 방해를 받고 있습니다. 이는 AI가 달성할 수 있는 가능성에 대한 비관적인 시각을 나타낼 수 있습니다. 그러나 바이오 의약품은 의약품 개발 과정이 지나치게 번거롭지만 일단 개발이 완료되면 성공적으로 배치되어 사용되는 경우가 많다는 점에서 독특합니다.

요약하자면, 저는 AI 기반 생물학과 의학이 향후 50~100년 동안 인간 생물학자들이 이룩할 발전을 5~10년 안에 압축할 수 있을 것이라고 예측합니다. 저는 이를 '압축된 21세기'라고 부르는데, 강력한 AI를 개발한 후 몇 년 안에 21세기에 걸쳐 이루어질 모든 생물학적, 의학적 진보를 이룰 수 있다는 개념입니다.

향후 몇 년 안에 강력한 인공지능이 어떤 일을 할 수 있을지 예측하는 것은 본질적으로 어렵고 추측에 불과하지만, "향후 100년 동안 인간이 외부의 힘 없이 무엇을 할 수 있을지"를 묻는 것은 어느 정도 구체성이 있습니다. 단순히 20세기에 우리가 달성한 것을 살펴보거나 21세기의 첫 20년을 기준으로 추정하거나 "10개의 크리스퍼와 50개의 CAR-T"가 우리에게 무엇을 가져올지 묻는 것만으로도 강력한 AI로부터 기대할 수 있는 일반적인 수준의 발전을 예측할 수 있는 실용적이고 정보에 입각한 방법을 제공합니다.

아래에 우리가 예상할 수 있는 사항을 나열해 보았습니다. 이는 엄격한 방법론에 근거한 것은 아니며 세부적인 부분에서 틀릴 수도 있지만, 우리가 예상할 수 있는 일반적인 급진주의의 수준을 전달하려고 노력했습니다:

- 거의 모든 자연 감염병의 확실한 예방 및 치료[17].20세기 전염병 퇴치의 엄청난 발전을 고려할 때, 압축된 21세기에 "모든 것을 위한 백신"을 만들 수 있다고 상상하는 것은 급진적이지 않습니다. mRNA 백신과 유사한 기술은 이미 "모든 것을 위한 백신"을 가리키고 있습니다. 전염병이 일부 지역이 아닌 전체 퇴치에서 빈곤과 불평등에 의존하는지 여부는 섹션 3에서 논의합니다.

- 대부분의 암을 제거합니다.암 사망률은 지난 수십 년 동안 매년 약 21%씩 감소해 왔으며, 현재 인류 과학의 발전 속도라면 21세기에는 대부분의 암을 퇴치할 수 있을 것으로 예상됩니다. 일부 아형(예: CAR-T 치료를 통한 특정 유형의 백혈병)은 이미 많은 수가 치료되었으며, 암의 초기 단계를 표적으로 삼아 암의 성장을 막는 매우 선택적인 약물에 대해 더욱 기대가 됩니다.AI는 또한 치료 요법을 암의 개별화된 게놈에 매우 정밀하게 맞춤화할 수 있게 해줄 것입니다. 가능하지만 시간과 인간의 전문성 측면에서 매우 비용이 많이 들며, AI를 통해 확장할 수 있을 것입니다.

- 유전 질환의 매우 효과적인 예방과 효과적인 치료.개선된 배아 스크리닝을 통해 대부분의 유전 질환을 예방할 수 있으며, 더 안전하고 신뢰할 수 있는 CRISPR 자손은 기존 인구의 대부분의 유전 질환을 치료할 수 있을 것입니다. 대부분의 세포에 영향을 미치는 전신 질환은 최후의 난치성 분자일 수 있습니다.

- 알츠하이머병 예방.알츠하이머병의 원인을 파악하는 데 어려움을 겪고 있습니다(베타 아밀로이드와 관련이 있지만 실제 세부 사항은 매우 복잡한 것 같습니다). 생물학적 영향을 분리하는 더 나은 측정 도구로 해결할 수 있는 문제인 것 같아서 AI가 이 문제를 해결할 수 있을 것으로 낙관하고 있습니다. 일단 무슨 일이 일어나고 있는지 제대로 이해하면 비교적 간단한 개입으로 예방할 수 있는 가능성이 높습니다. 하지만 이미 발생한 알츠하이머병의 손상은 되돌리기 어려울 수 있습니다.

- 대부분의 다른 질병의 치료가 개선되었습니다.이는 당뇨병, 비만, 심장병, 자가면역질환 등을 포함한 다른 질병을 포괄하는 카테고리입니다. 이러한 질병의 대부분은 암이나 알츠하이머병보다 해결이 "더 쉬운" 것으로 보입니다. 이러한 질병의 대부분은 암이나 알츠하이머병보다 해결이 '쉬운' 것으로 보이며, 많은 경우 이미 가파르게 감소하고 있는 추세입니다. 예를 들어, 심장 질환으로 인한 사망률은 501 TP3T 이상 감소했으며, GLP-1 작용제와 같은 간단한 개입으로 비만과 당뇨병에 대한 큰 진전을 이루었습니다.

- 생물학적 자유.지난 70년 동안 우리는 피임, 생식력 관리, 체중 관리 등의 분야에서 진전을 이루었지만, 인공지능이 가속화하는 생물학은 체중, 외모, 생식 및 기타 생물학적 과정을 완전히 통제할 수 있는 범위를 극적으로 확장할 것이라고 생각합니다. 우리는 이를 '생물학적 자유'라는 제목으로 언급할 것이며, 이는 모든 사람이 자신이 되고 싶은 사람을 선택하고 자신에게 가장 잘 맞는 방식으로 삶을 살아갈 권리를 가져야 한다는 것을 의미합니다. 물론 전 세계적인 동등한 접근성에 대한 의문은 섹션 3에서 논의합니다.

- 인간 수명 두 배 연장[18].급진적으로 보일 수 있지만 20세기에 기대 수명이 거의 3배(약 40년에서 약 75년)로 늘어났기 때문에 '압축된 21세기'는 다시 150년으로 두 배가 되는 것이 '추세'입니다. 분명히 실제 노화 과정을 늦추는 데 필요한 개입은 지난 세기에 질병으로 인한 조기 사망(주로 어린이)을 예방하는 데 필요한 것과는 다르지만 변화의 규모는 전례가 없는 것은 아닙니다[19]. 특히, 쥐의 최대 수명을 25~501 TP3T까지 늘리면서 부작용은 제한적인 약물이 이미 다수 존재합니다. 일부 동물(예: 특정 유형의 거북이)은 200년을 살았으므로 인간은 이론적 상한선에 도달하지 않은 것이 분명합니다. 최소한 가장 필요한 것은 신뢰할 수 있고 조작에 덜 민감한 인간 노화 바이오마커로, 이를 통해 실험 및 임상시험을 빠르게 반복할 수 있을 것입니다. 인간의 수명이 150년에 도달하면 '탈출 속도'에 도달하여 현재 살아있는 대부분의 사람들이 원하는 만큼 오래 살 수 있는 충분한 시간을 벌 수 있을지도 모르지만, 이것이 생물학적으로 가능하다는 보장은 없습니다.

이 목록을 살펴보고 이 모든 것이 7~12년 후에 실현된다면 세상이 얼마나 달라질지 생각해 볼 가치가 있습니다(긍정적인 버전의 AI 타임라인에 해당). 수천 년 동안 인류를 괴롭혀온 대부분의 재앙을 한꺼번에 없애는 상상할 수 없는 인본주의적 승리가 될 것이라는 데는 의심의 여지가 없습니다. 많은 친구와 동료들이 아이를 키우고 있는데, 그 아이들이 자랄 때 질병에 대한 언급이 괴혈병, 천연두, 페스트에 대한 이야기처럼 들렸으면 좋겠습니다. 그 세대는 생물학적 자유와 자기 표현의 증가, 그리고 운이 좋으면 원하는 만큼 오래 살 수 있는 능력의 혜택을 누리게 될 것입니다.

이러한 변화가 모든 사람에게 얼마나 놀랍게 다가올지 과대평가하기는 어렵습니다(강력한 인공지능을 기대하는 소규모 커뮤니티는 제외). 예를 들어, 미국에서는 현재 수천 명의 경제학자와 정책 전문가들이 소셜 시큐리티와 메디케어의 재정 건전성을 유지하는 방법과 더 넓게는 의료 비용(주로 70세 이상, 특히 암과 같은 말기 질환을 앓는 사람들이 부담하는)을 줄이는 방법에 대해 논의하고 있습니다. 이 모든 것이 실현된다면, 노동 인구와 은퇴 인구의 비율이 극적으로 변화할 것이므로 이러한 프로그램의 상황은 근본적으로 개선될 수 있습니다[20]. 물론 새로운 기술에 대한 광범위한 접근을 보장하는 방법과 같은 다른 과제로 대체되겠지만, 생물학이 가속화에 성공한 유일한 분야라고 해도 세상이 얼마나 변화할지 생각해 볼 필요가 있습니다.

2. 신경과학과 마음

이전 섹션에서는 일반적으로 신체 질환과 생물학에 초점을 맞추었고 신경과학이나 정신 건강에 대해서는 다루지 않았습니다. 하지만 신경과학은 생물학의 하위 분야이며 정신 건강은 신체 건강만큼이나 중요합니다. 사실, 정신 건강은 신체 건강보다 인간의 행복에 더 직접적인 영향을 미칩니다. 수억 명의 사람들이 중독, 우울증, 조현병, 저기능 자폐증, 외상 후 스트레스 장애, 정신병[21] 또는 지적 장애와 같은 문제로 인해 삶의 질이 매우 낮습니다. 수십억 명의 사람들이 이러한 심각한 임상 장애의 가벼운 버전으로 해석될 수 있는 일상적인 문제로 어려움을 겪고 있습니다. 그리고 일반적인 생물학처럼 문제 해결을 넘어 인간 경험의 기본 품질을 개선하는 것이 가능할 수도 있습니다.

제가 생물학에 대해 설명한 기본 프레임워크는 신경과학에도 동일하게 적용됩니다. 이 분야는 측정 또는 정밀한 개입 도구와 관련된 몇 가지 발견에 의해 주도되고 있습니다. 위의 목록에서 광유전학은 신경과학의 발견이며, 최근의 선명도 및 확대 현미경의 발전은 신경과학에 직접 적용 가능한 여러 일반적인 세포 생물학 방법 외에도 같은 방향으로의 발전입니다. 저는 이러한 발전의 속도가 AI에 의해 비슷하게 가속화될 것이라고 생각하며, 따라서 '5~10년 안에 100년의 진보'라는 프레임워크는 생물학과 마찬가지로 신경과학에도 동일한 방식으로, 그리고 동일한 이유로 적용됩니다. 생물학과 마찬가지로 20세기 신경과학의 발전은 엄청났으며, 예를 들어 1950년대까지만 해도 뉴런이 어떻게, 왜 발화하는지조차 이해하지 못했습니다. 따라서 AI로 가속화된 신경과학이 몇 년 안에 급속한 발전을 이룰 것이라는 것은 당연해 보입니다.

이 기본 그림에 한 가지 덧붙여야 할 점은 지난 몇 년 동안 우리가 AI에 대해 배웠거나 배우고 있는 것 중 일부는 신경과학을 발전시키는 데 도움이 될 수 있다는 점입니다(비록 그것이 인간에 의해서만 계속 수행되더라도). 생물학적 뉴런은 표면적으로는 인공 뉴런과 상당히 다르게 작동하지만(스파이크와 스파이크 속도를 통해 통신하므로 인공 뉴런에는 없는 시간적 요소가 있으며, 세포 생리학 및 신경 전달 물질과 관련된 많은 세부 사항이 작동을 크게 수정합니다), '어떻게 분산되고 훈련된 단순한 셀룰러 네트워크가 조합 선형/비선형 연산을 수행하여 중요한 연산을 공동으로 수행하는 방법"에 대한 질문은 동일하며, 계산 및 회로에 대한 대부분의 흥미로운 질문에서 개별 뉴런 통신의 세부 사항은 추상화될 것으로 생각됩니다 [22]. 그 예로 최근 AI 시스템 해석 가능성 연구자들은 쥐의 뇌에서 계산 메커니즘을 재발견했습니다.

실제 네트워크보다 인공 신경망에 대한 실험을 수행하는 것이 훨씬 쉽기 때문에(후자는 일반적으로 동물의 뇌를 절단해야 함) 해석 가능성은 신경과학에 대한 이해를 향상시키는 도구가 될 수 있습니다. 또한, 강력한 인공지능 자체가 인간보다 이 도구를 더 잘 개발하고 적용할 수 있을지도 모릅니다.

물론, 해석 가능성 외에도 지능형 시스템이 어떻게 훈련되는지에 대해 AI로부터 배운 것은 신경과학의 혁명을 일으킬 것입니다(실제로 일어났는지는 모르겠지만).

제가 신경과학 분야에서 일할 당시에는 규모 가정이나 고통스러운 교훈이라는 개념이 아직 등장하지 않았기 때문에 많은 사람들이 학습에 대해 지금 생각하면 잘못된 질문이라고 생각하는 것에 집중했습니다. 대량의 데이터와 결합된 단순한 목적 함수가 엄청나게 복잡한 동작을 유도할 수 있다는 생각은 긴급한 계산의 세부 사항보다는 목적 함수와 아키텍처 편향을 이해하는 데 더 흥미를 갖게 했습니다. 최근 몇 년 동안 이 분야를 면밀히 추적하지는 않았지만, 계산 신경과학자들이 이 교훈을 완전히 흡수하지 못했다는 막연한 느낌이 듭니다. 규모 가설에 대한 저의 태도는 항상 "아하 - 지능이 어떻게 작동하고 어떻게 그렇게 쉽게 진화하는지에 대한 높은 수준의 설명이다"였지만, 평균적인 신경 과학자의 견해는 아니라고 생각하며, AI 분야에서 규모 가설은 다음과 같은 역할을합니다. "지능의 비밀"로 완전히 받아들여지지도 않습니다.

저는 신경과학자들이 이 근본적인 통찰력을 인간 뇌의 특수성(생물물리적 제약, 진화의 역사, 위상학, 운동 및 감각 입출력의 세부 사항)과 결합하여 주요 신경과학 퍼즐을 풀어나가야 한다고 생각합니다. 이 중 일부는 그럴 수도 있지만 충분하지 않다고 생각하며, AI 신경과학자들은 이러한 관점을 보다 효과적으로 활용하여 발전을 가속화할 수 있을 것입니다.

저는 AI가 네 가지 경로를 통해 신경과학의 발전을 가속화하여 대부분의 정신 질환을 치료하고 기능을 개선할 수 있을 것으로 예상합니다:

- 전통적인 분자 생물학, 화학 및 유전학.이는 본질적으로 섹션 1과 동일한 일반 생물학이며, AI는 동일한 메커니즘을 통해 이를 가속화할 수 있습니다.

신경전달물질을 조절하여 뇌 기능을 변화시키고, 주의력이나 지각에 영향을 미치며, 기분을 변화시키는 등 많은 약물이 있으며, AI는 우리가 더 많은 것을 발명하는 데 도움을 줄 수 있습니다. 또한 AI는 정신 질환의 유전적 기초에 대한 연구를 가속화할 수 있습니다.

- 세분화된 신경학적 측정 및 개입.이것은 수많은 개별 뉴런이나 신경 회로가 무엇을 하고 있는지 측정하고 그들의 행동을 변화시키기 위해 개입할 수 있는 능력입니다. 광유전학 및 기술 신경 탐침은 살아있는 유기체를 측정하고 동시에 개입할 수 있는 기술이며, 일부 매우 진보된 방법(예: 수많은 개별 뉴런의 발화 패턴을 읽는 분자 테이프)도 제안되었으며 원칙적으로 가능한 것으로 보입니다.

- 고급 컴퓨터 신경과학.위에서 언급했듯이, 현대 AI와 더 홀의 구체적인 통찰력은 정신병이나 기분 장애와 같은 복잡한 장애의 진정한 원인과 역학을 밝히는 등 시스템 신경과학의 문제에 성공적으로 적용될 수 있을 것입니다.

- 행동 개입.신경과학의 생물학적 측면에 초점을 맞추다 보니 많이 언급하지는 않았지만, 20세기에 정신의학과 심리학은 확실히 광범위한 행동 개입을 발전시켰으며, AI는 새로운 접근법을 개발하고 환자가 기존 접근법을 고수하도록 돕는다는 측면에서 이러한 개입을 가속화할 수 있습니다. 더 넓게 보면, 항상 최고의 자아가 될 수 있도록 돕고, 상호작용을 연구하고, 더 효과적인 방법을 배우도록 돕는 'AI 코치'라는 개념은 매우 유망해 보입니다.

저는 이 네 가지 발전의 길이 함께 협력하면 신체 질환과의 싸움과 마찬가지로 향후 100년 내에, 그리고 아마도 5~10년 내에 대부분의 정신 질환을 치료하거나 예방할 수 있을 것이라고 생각합니다. 구체적으로 제 예상은 이렇습니다:

- 대부분의 정신 질환은 완치될 수 있습니다.저는 정신과적 장애에 대한 전문가는 아니지만(신경과학 분야에서 소규모 뉴런 그룹을 연구하는 탐침을 만드는 데 시간을 보내고 있습니다), 위의 네 가지 방향의 조합을 통해 PTSD, 우울증, 조현병, 중독 등과 같은 장애를 매우 효과적으로 파악하고 치료할 수 있을 것으로 생각됩니다. 그 해답은 "생화학적으로 뭔가 잘못되었다"(매우 복잡할 수도 있지만)와 "신경망에 고차원적으로 문제가 있다"일 수 있습니다. 즉, 이는 시스템 신경과학의 문제이지만 위에서 설명한 행동 개입의 영향을 부정하는 것은 아닙니다. 생체 내 인간 측정 및 개입을 위한 도구는 빠른 반복과 진전을 가져올 것으로 보입니다.

- 매우 '구조적인' 상황은 더 어려울 수 있지만 불가능하지는 않습니다.사이코패스는 뚜렷한 신경해부학적 차이와 관련이 있다는 증거가 있는데, 사이코패스의 경우 뇌의 특정 영역이 더 작거나 덜 발달되어 있다는 것입니다. 또한 사이코패스는 아주 어릴 때부터 공감 능력이 부족한 것으로 알려져 있는데, 이는 두뇌의 차이와 관계없이 항상 그랬을 수도 있습니다. 특정 지적 장애나 다른 질환의 경우에도 마찬가지일 수 있습니다. 뇌를 재구성하는 것은 어렵게 들리지만, 지능에 대한 보상이 큰 작업인 것 같습니다. 성인의 뇌를 더 일찍 또는 더 가소성 상태로 유도하여 리모델링할 수 있도록 하는 방법이 있을 수 있습니다. 저는 이에 대해 매우 불확실하지만, 제 본능은 이 분야에서 인공지능이 무엇을 발명할 수 있을지에 대해 낙관하고 있습니다.

- 정신병의 효과적인 유전적 예방이 가능한 것으로 보입니다.대부분의 정신과적 장애는 부분적으로 유전되며, 유전체 전반에 걸친 연관성 연구를 통해 관련 요인을 파악하는 데 진전이 이루어지고 있으며, 그 수는 매우 많습니다. 이러한 장애의 대부분은 신체 질환과 마찬가지로 배아 선별 검사를 통해 예방이 가능할 수 있습니다. 한 가지 차이점은 정신 질환은 다원성(여러 유전자가 기여하는)일 가능성이 높기 때문에 복잡성으로 인해 무의식적으로 질병과 관련된 긍정적인 형질을 선택할 위험이 있다는 것입니다. 흥미롭게도 최근 몇 년간의 GWAS 연구에 따르면 이러한 상관관계가 과대평가될 수 있는 것으로 보입니다. 어쨌든 AI로 가속화된 신경과학은 이러한 문제를 해결하는 데 도움이 될 수 있습니다. 물론 복잡한 형질에 대한 배아 선별은 사회적 문제를 야기하고 논란의 여지가 있지만, 대부분의 사람들은 중증 또는 장애가 있는 정신 장애에 대한 선별에 찬성할 것으로 생각됩니다.

- 임상 질병의 일상적인 문제도 해결될 것이라고 생각하지 않습니다.우리 대부분은 일반적으로 임상 질환 수준으로 발전하지 않는 일상적인 심리적 문제를 가지고 있습니다. 어떤 사람들은 쉽게 화를 내고, 어떤 사람들은 집중력이 떨어지거나 자주 졸리고, 어떤 사람들은 두려움이나 불안을 느끼거나 변화에 잘 반응하지 못합니다. 오늘날에는 카페인, 모다피닐, 리탈린 등 주의력이나 집중력 향상에 도움이 되는 약물이 존재하지만, 이전의 많은 분야와 마찬가지로 더 많은 가능성이 있을 수 있습니다. 아직 발견되지 않은 더 많은 약물이 있을 수 있으며, 표적 광자극(위의 광유전학 참조)이나 자기장처럼 완전히 새로운 개입 방법이 있을 수도 있습니다. 20세기에 인지 기능과 감정 상태를 조절하기 위해 개발된 수많은 약물을 고려할 때, 저는 모든 사람이 뇌의 기능을 향상시키고 더 만족스러운 일상 경험을 할 수 있는 '압축된 21세기'에 대해 매우 낙관적으로 생각합니다.

- 인간의 기본 경험은 더 나아질 수 있습니다.한 걸음 더 나아가 많은 사람들이 계시, 창조적 영감, 연민, 성취감, 초월, 사랑, 아름다움 또는 명상적 평화의 특별한 순간을 경험합니다. 이러한 경험의 성격과 빈도는 사람마다, 시기마다 다르며 때로는 다양한 약물에 의해 유발될 수도 있습니다(종종 부작용이 동반되기도 하지만). 이 모든 것은 '가능한 경험의 공간'이 매우 넓으며, 더 많은 사람들의 삶이 이러한 특별한 순간으로 구성될 수 있음을 시사합니다. 또한 다양한 인지 기능을 향상시킬 수도 있습니다. 이것은 "생물학적 자유" 또는 "생명 연장"의 신경과학적 버전일 수 있습니다.

공상과학 소설에서 자주 등장하지만 여기서 일부러 다루지 않은 주제는 인간 두뇌의 패턴과 역학을 포착하여 소프트웨어로 인스턴스화하는 "의식 업로드"라는 아이디어입니다. 이 주제는 그 자체로 논문의 주제가 될 수 있지만, 간단히 말하자면 원칙적으로는 업로드가 가능하다고 생각하지만 실제로는 강력한 AI가 있더라도 우리가 말하는 5~10년이라는 기간을 벗어날 수 있는 중대한 기술적, 사회적 도전에 직면해 있다는 것입니다.

요컨대, AI 가속 신경과학은 치료를 획기적으로 개선하고 대부분의 정신 질환을 치료할 수 있으며, '인지적, 정신적 자유'와 인간의 인지적, 정서적 능력을 획기적으로 확장할 수 있습니다. 이는 섹션 1에서 설명한 신체적 건강 개선만큼이나 급진적인 변화가 될 것입니다. 아마도 세상은 겉으로 보기에는 크게 달라지지 않겠지만, 인간이 경험하는 세상은 더 나은 곳, 더 인간적인 곳, 더 많은 자아실현의 기회를 제공하는 곳이 될 것입니다. 또한 정신 건강이 개선되면 정치적 또는 경제적 문제를 포함한 다른 많은 사회 문제도 개선될 것이라고 생각합니다.

3. 경제 발전과 빈곤

처음 두 섹션에서는 질병을 치료하고 인류의 삶의 질을 개선하기 위한 UNDG의 신기술을 다룹니다. 하지만 인도주의적 관점에서 보면 "모든 사람이 이러한 기술을 이용할 수 있는가?"라는 질문은 당연한 질문입니다.

질병에 대한 치료법을 개발하는 것과 이 세상에서 질병을 근절하는 것은 별개의 문제입니다. 더 넓게 보면, 기존의 많은 보건 개입이 아직 세계의 다른 지역에서는 적용되지 않았으며, (보건 이외의) 기술적 개선도 마찬가지입니다. 즉, 세계 여러 지역의 생활 수준은 여전히 극도로 열악합니다. 사하라 사막 이남 아프리카의 1인당 GDP는 약 2,000달러인데 비해 미국은 약 7만 5,000달러에 불과합니다. AI가 선진국의 경제 성장과 삶의 질을 더욱 향상시키면서 개발도상국에는 거의 도움이 되지 않는다면 이는 끔찍한 도덕적 실패이자 앞선 두 섹션의 진정한 인도주의적 승리에 오점을 남기는 것으로 간주해야 합니다. 이상적으로는 강력한 AI가 개발도상국을 혁신하더라도 개발도상국이 선진국을 '따라잡는' 데 도움이 되어야 합니다.

저는 AI가 불평등과 경제 성장의 문제를 해결할 수 있는 기반 기술을 발명할 수 있을 것이라고 확신하지 못하는데, 기술은 지능(복잡성과 데이터 부족을 해결할 수 있는 능력 포함)이 훨씬 높은 반면 경제는 인간의 제약이 많고 내재된 복잡성이 많다는 점을 고려할 때 그렇게 될 것이라고 확신할 수 없습니다. 저는 인공지능이 그 유명한 '사회주의 컴퓨팅 문제'[23]를 해결할 수 있을지에 대해서는 다소 회의적이며, 설사 가능하다고 하더라도 정부가 경제 정책을 인공지능에 맡기지는 않을 것이며, 맡겨서도 안 된다고 생각합니다. 또한 효과는 있지만 회의적일 수 있는 치료법을 사람들이 받아들이도록 설득하는 방법의 문제도 있습니다.

개발도상국이 직면한 문제는 공공 부문과 민간 부문 모두에 만연한 부패로 인해 더욱 복잡해집니다. 부패는 빈곤을 악화시키고, 이는 다시 더 많은 부패를 낳는 악순환을 낳습니다. AI 기반 경제 개발 프로그램은 부패, 취약한 제도 및 기타 매우 인간적인 문제를 고려해야 합니다.

그럼에도 불구하고 저는 낙관할 만한 분명한 이유가 있다고 생각합니다. 질병이 퇴치되었고, 많은 국가가 빈곤에서 부유한 국가로 변모했으며, 이러한 작업과 관련된 결정은 (인간의 제약과 복잡성에도 불구하고) 높은 지능 수익을 보여 주므로 AI가 현재보다 더 잘할 수 있을 것입니다. 또한 인간의 제약을 우회할 수 있는 표적화된 개입이 있을 수 있으며, AI는 이에 집중할 수 있습니다. 더 중요한 것은 우리가 노력해야 한다는 것입니다. 선진국의 AI 기업과 정책 입안자 모두 개발도상국이 뒤처지지 않도록 자신의 역할을 다해야 한다는 도덕적 의무가 너무 큽니다. 따라서 이 섹션에서는 계속해서 낙관론을 주장하겠지만, 성공이 보장되는 것은 아니며 우리의 공동 노력에 달려 있다는 점을 기억하시기 바랍니다.

아래에서는 강력한 AI가 개발된 후 5~10년 후 개발도상국의 모습이 어떻게 변할지 추측해봅니다:

- 건강 중재 배포.제가 가장 낙관적으로 생각하는 분야는 전 세계 보건 개입의 분포입니다. 1970년대에 천연두가 완전히 퇴치되었고, 소아마비와 기니피그병은 연간 100건 미만으로 사실상 퇴치되는 등 하향식 캠페인에 의해 질병이 사실상 퇴치되었습니다. 수학적으로 정교한 역학 모델링은 질병 퇴치 캠페인에서 적극적인 역할을 해왔으며, 인간보다 더 똑똑한 AI 시스템이 인간보다 더 잘할 수 있을 것으로 보입니다. 유통 물류도 크게 최적화될 수 있습니다. 기브웰의 초기 기부자로서 제가 배운 것 중 하나는 어떤 보건 자선단체는 다른 단체보다 더 효과적이라는 것입니다. 예를 들어 말라리아는 발병할 때마다 치료가 필요하기 때문에 근절이 어렵지만, 한 번만 접종하면 되는 백신이 개발되면 물류가 더 간단해집니다(실제로 말라리아 백신이 현재 개발 중입니다). 예를 들어, 질병을 옮기지 못하게 하는 박테리아에 감염된 모기를 풀어 다른 모기를 모두 감염시키거나 유전자 드라이브를 사용하여 모기를 제거하는 등 동물 매개체를 표적으로 삼아 일부 질병을 박멸하는 더 간단한 배포 메커니즘도 가능합니다. 이를 위해서는 수백만 명의 사람들을 개별적으로 치료해야 하는 대규모 캠페인보다는 한 가지 또는 몇 가지 집중적인 조치가 필요합니다. 전반적으로 5~10년 정도면 AI를 통한 보건 혜택의 상당 부분(아마도 50%)이 세계 최빈국에 확산될 수 있는 합리적인 기간이라고 생각합니다. 개발도상국이 선진국보다 계속 뒤처지더라도 강력한 AI를 통해 5~10년 내에 최소한 현재 선진국만큼 건강해지는 것이 좋은 목표가 될 수 있습니다. 물론 이 목표를 달성하려면 세계 보건, 자선 활동, 정치적 옹호 등 여러 분야에서 엄청난 노력이 필요하며, AI 개발자와 정책 입안자 모두 도움을 주어야 합니다.

- 경제 성장.개발도상국이 건강뿐만 아니라 경제의 모든 측면에서 선진국을 빠르게 따라잡을 수 있을까요? 선례가 있습니다: 20세기 마지막 수십 년 동안 몇몇 동아시아 경제는 연간 실질 GDP 성장률이 약 101%에 달해 선진국을 따라잡을 수 있었습니다. 인간 경제 계획가들은 경제 전체를 직접 통제하기보다는 수출 주도 성장을 위한 산업 정책, 천연자원 부의 유혹에 대한 저항 등 몇 가지 주요 수단을 통해 이러한 성공을 이끌어낸 결정을 내렸으며, '인공 지능 재무부 장관과 중앙은행 총재'는 이러한 10% 성과를 재현하거나 심지어 능가할 수도 있습니다. 10%의 성과. 중요한 문제는 개발도상국 정부가 자결권 원칙을 존중하면서 이를 채택하도록 하는 방법인데, 일부는 열성적일 수 있지만 다른 일부는 회의적일 수 있습니다. 낙관적인 측면에서는 앞서 언급한 많은 보건 개입이 자연스럽게 경제 성장을 증가시킬 수 있습니다. 에이즈/말라리아/기생충 퇴치는 생산성에 혁신적인 영향을 미칠 것이며, 일부 신경과학 개입(예: 기분과 집중력 향상)은 선진국과 개발도상국 모두에서 경제적 이익을 가져올 것입니다. 마지막으로, 비의료 인공지능 가속화 기술(예: 에너지 기술, 운송용 드론, 건축 자재 개선, 물류 및 유통 개선 등)이 자연스럽게 전 세계에 스며들 수 있으며, 사하라 이남 아프리카에서도 자선단체의 노력 없이 시장 메커니즘을 통해 휴대폰이 빠르게 보편화되고 있는 것처럼 인공지능은 전 세계에 자연스럽게 침투할 수 있습니다. 부정적인 측면으로는 AI와 자동화의 많은 잠재적 이점에도 불구하고, 특히 아직 산업화되지 않은 국가에서는 경제 발전에 걸림돌이 될 수 있습니다. 이러한 국가들이 자동화 시대에도 경제를 발전시키고 개선할 수 있는 방법을 찾는 것은 경제학자와 정책 입안자들이 해결해야 할 중요한 과제입니다. 전반적으로 꿈의 시나리오이자 목표가 될 수 있는 것은 개발도상국의 연간 GDP 성장률이 201%에 달하고, 그 중 101%는 AI를 활용한 경제 의사결정에서, 나머지 101%는 AI 가속화를 통해 달성하는 것입니다. 기술의 자연스러운 확산으로 인한 것입니다. 이 목표가 실현된다면 사하라 사막 이남 아프리카는 5~10년 내에 중국의 현재 1인당 GDP에 도달할 수 있고, 다른 많은 개발도상국도 현재 미국 GDP를 상회하는 수준에 도달할 수 있을 것입니다. 다시 한 번 강조하지만, 이는 꿈의 시나리오이지 저절로 실현되는 것이 아니라 우리 모두가 함께 노력해야만 가능한 일입니다.

- 식량 안보[24].더 나은 비료와 살충제, 더 많은 자동화, 더 효율적인 토지 사용과 같은 농작물의 기술 발전은 20세기에 농작물 수확량을 극적으로 증가시키고 수백만 명의 사람들을 기아로부터 구해냈습니다. 이제 유전공학은 많은 작물을 더욱 개선하고 있습니다. 이를 위한 더 많은 방법을 찾고 농업 공급망을 더 효율적으로 만들면 개발도상국과 선진국 간의 격차를 줄이는 데 도움이 되는 AI 기반의 두 번째 녹색 혁명이 일어날 수 있습니다.

- 기후 변화 완화.기후 변화는 개발도상국에서 더 강하게 느껴질 것이며, 이는 개발도상국의 발전을 저해할 것입니다. 대기 중 탄소 제거 및 청정 에너지 기술부터 탄소 집약적인 공장식 축산업에 대한 의존도를 낮추는 실험실 사육 육류에 이르기까지 기후 변화를 완화하거나 저지하는 기술을 개선하는 데 AI가 기여할 것으로 기대할 수 있습니다. 물론 위에서 설명한 것처럼 기후 변화의 진전을 제한하는 것은 기술만이 아니며, 이 글에서 논의한 다른 모든 문제와 마찬가지로 인간의 사회적 요인도 중요합니다. 하지만 AI를 활용한 연구가 기후 변화 완화에 드는 비용과 피해를 줄일 수 있는 수단을 제공함으로써 많은 반대 의견을 무의미하게 만들고 개발도상국의 경제 발전 가능성을 열어줄 것이라고 생각하는 데에는 충분한 이유가 있습니다.

- 국가 내 불평등.저는 주로 불평등을 전 세계적인 현상(이것이 가장 중요한 현상이라고 생각합니다)으로 논의했지만, 물론 불평등은 국가 내에서도 존재합니다. 특히 수명 연장이나 인지력 향상 약물과 같은 첨단 건강 개입이 급격히 증가하면서 이러한 기술이 '부유층만을 위한 것'이라는 우려는 분명 타당한 측면이 있습니다. 저는 특히 두 가지 이유로 선진국 내 불평등에 대해 낙관적입니다. 첫째, 선진국에서는 시장이 더 잘 작동하며, 일반적으로 시간이 지남에 따라 고가 기술의 비용을 줄이는 데 능숙합니다[25]. 둘째, 선진국의 정치 기관은 시민들에게 더 민감하고 UA 프로그램을 실행할 수 있는 국가적 역량을 갖추고 있기 때문에 시민들은 삶의 질을 근본적으로 개선하는 기술에 대한 접근을 요구할 것으로 예상합니다. 물론 이러한 요구가 반드시 성공할 것이라는 보장은 없으며, 공정한 사회를 만들기 위해 우리가 할 수 있는 모든 것을 총동원해야 할 때입니다. 생명을 구하고 삶을 향상시키는 기술에 대한 접근성의 불평등과는 반대로 부의 불평등이라는 별도의 문제가 있는데, 이 문제는 5장에서 다루겠습니다.

- 옵트아웃 문제.. 선진국과 개발도상국 모두에서 사람들이 AI 기반의 혜택을 '거부'하는 문제가 있습니다(일반적으로 백신 반대 운동이나 러다이트 운동과 유사). 예를 들어, 올바른 의사 결정을 내릴 능력이 가장 떨어지는 사람들이 의사 결정 능력을 향상시키는 바로 그 기술 개발을 거부함으로써 격차를 확대하고 심지어 반유토피아적 하층민을 형성하는 등 나쁜 피드백 루프가 발생할 수 있습니다(일부 연구자들은 민주주의를 약화시킬 것이라고 생각합니다. 다음 섹션에서 자세히 설명합니다). 이는 AI의 긍정적인 발전에 다시 한 번 도덕적 오점을 남기게 될 것입니다. 윤리적으로 사람들에게 강요하는 것은 불가능하다고 생각하기 때문에 해결하기 어려운 문제이지만, 적어도 사람들의 과학적 이해를 향상시키기 위해 노력할 수 있으며, 아마도 AI 자체가 이를 도울 수 있을 것입니다. 한 가지 고무적인 징후는 역사적으로 기술 반대 캠페인이 실제 행동보다 더 큰 경향이 있다는 것입니다. 현대 기술에 대한 반대는 인기가 있지만, 대부분의 사람들은 적어도 개인적인 선택의 문제일 때는 결국 기술을 채택하게 됩니다. 대부분의 건강 및 소비자 기술은 개인이 채택하는 경향이 있는 반면, 원자력 에너지와 같이 진정으로 방해가 되는 기술은 집단적인 정치적 결정에 의해 채택되는 경향이 있습니다.

전반적으로 저는 개발도상국 사람들에게 AI의 생물학적 발전을 빠르게 가져올 수 있을 것으로 낙관합니다. 저는 확신은 없지만 AI가 전례 없는 경제 성장률을 달성하여 개발도상국을 적어도 현재 선진국 수준보다 앞서게 할 수 있을 것이라고 희망합니다. 저는 선진국과 개발도상국 모두에서 '옵트아웃' 문제가 걱정되지만, 시간이 지나면 사라질 것이며 AI가 그 과정을 가속화하는 데 도움이 될 수 있다고 생각합니다. 세상은 완벽하지 않을 것이고, 뒤처진 사람들은 적어도 처음 몇 년 동안은 따라잡을 수 없을 것입니다. 하지만 우리의 노력을 통해 올바른 방향으로 빠르게 발전할 수 있습니다. 그렇게 한다면 지구상의 모든 인간을 위한 존엄성과 평등이라는 약속에 최소한 어느 정도 기여할 수 있을 것입니다.

4. 평화와 거버넌스

질병, 빈곤, 불평등이 크게 감소하고 인간 경험의 기준선이 크게 개선되는 등 처음 세 가지 요소에서 모든 것이 잘 진행된다고 가정해 봅시다. 그렇다고 해서 인간 고통의 모든 주요 원인이 해결되었다는 의미는 아닙니다. 인간은 여전히 서로에게 위협이 되고 있습니다.

기술 발전과 경제 발전이 민주주의와 평화로 이어지는 경향이 있지만, 이는 종종 (그리고 최근에는) 거꾸로 가는 매우 느슨한 추세입니다. 20세기 초만 해도 사람들은 전쟁은 이제 끝났다고 생각했지만 두 차례의 세계대전이 일어났습니다. 30년 전 프랜시스 후쿠야마는 "역사의 종말"과 자유 민주주의의 궁극적인 승리에 대해 썼지만, 아직 그런 일은 일어나지 않았습니다. 20년 전 미국 정책 입안자들은 중국과의 자유무역이 중국이 부유해지면 자유화로 이어질 것이라고 믿었지만, 그런 일은 일어나지 않았고 지금은 부활한 권위주의 블록과 함께 제2의 냉전으로 향하고 있는 것처럼 보입니다. 인터넷 기술이 원래 생각했던 것처럼 민주주의보다 권위주의를 더 선호할 수 있다는 신빙성 있는 이론도 있습니다(예: 아랍의 봄). 강력한 인공지능이 평화, 민주주의, 자유의 문제와 어떻게 교차할지 이해하는 것이 중요해 보입니다.

안타깝게도 저는 AI가 구조적으로 인류의 건강을 증진하고 빈곤을 완화할 것이라고 믿는 것보다 우선적으로 또는 구조적으로 민주주의와 평화를 발전시킬 것이라고 믿을 이유가 더 이상 없습니다. 인간의 갈등은 적대적이며, AI는 원칙적으로 '선한 쪽'과 '나쁜 쪽' 모두를 도울 수 있습니다. 오히려 몇 가지 구조적 요인이 우려스러운데, 권위주의 통치자의 핵심 도구인 선전과 감시를 AI가 더 잘 촉진할 수 있다는 점입니다. 따라서 우리는 개별 행위자로서 올바른 방향으로 나아갈 수 있도록 노력해야 합니다. AI가 민주주의와 개인의 권리에 유리하게 작용하기를 원한다면, 우리는 그러한 결과를 위해 싸워야 할 것입니다. 저는 국제적 불평등보다 자유민주주의와 정치적 안정의 승리가 보장되지 않고 어쩌면 가능하지도 않으며, 과거에 종종 그랬던 것처럼 우리 모두의 큰 희생과 헌신이 필요하다는 점을 더 강하게 느낍니다.

이 문제에는 국제적 갈등과 국가 내부 구조라는 두 가지 부분이 있다고 생각합니다. 국제적인 측면에서는 강력한 인공지능이 만들어질 때 민주주의가 세계 무대에서 우위를 점하는 것이 중요해 보입니다. 인공지능에 의한 권위주의는 생각하기조차 무섭기 때문에 민주주의 국가는 권위주의자들에 압도당하지 않고 권위주의 국가 내에서 인권 침해가 발생하지 않도록 강력한 인공지능이 세상에 진입할 수 있는 조건을 설정할 수 있어야 합니다.

현재로서는 이를 달성하는 가장 좋은 방법은 '일치 전략'[26]으로, 민주주의 연합이 공급망을 확보하고, 빠르게 확장하며, 적의 주요 자원(예: 칩 및 반도체 장비)에 대한 접근을 막거나 지연시킴으로써 강력한 AI에 대해 일시적이지만 확실한 우위를 확보하고자 하는 것입니다(이 전략은 '일치 전략'이라고도 합니다.) ). 연합은 AI를 사용하여 강력한 군사적 우위(채찍)를 달성하는 동시에, 민주주의 증진을 위한 연합의 전략('평화 원자'와 다소 유사)을 지원하는 대가로 점점 더 많은 국가에 강력한 AI의 혜택을 분배(당근)하겠다고 제안할 것입니다. 연합의 목표는 점점 더 많은 세계의 지지를 얻고, 최악의 적들을 고립시키고, 궁극적으로 그들이 모든 혜택을 위해 민주주의 국가들과의 경쟁을 포기하고 우월한 적들과 싸우지 않을 수 있는 더 나은 위치에 놓이게 하는 것입니다(모든 혜택을 위해 민주주의 국가들과의 경쟁을 포기하고 우월한 적들과 싸우지 않을 수 있는).

이 모든 것을 할 수 있다면 민주주의가 세계 무대를 지배하고 권위주의 국가에 의해 약화되거나 정복되거나 파괴되는 것을 피할 수 있는 경제적, 군사적 힘을 갖게 될 것이며, 그들의 AI 우위를 지속적인 것으로 바꿀 수 있는 세상이 될 것입니다. 이는 낙관적으로는 민주주의가 우세하고 후쿠야마의 꿈이 실현되는 '영원한 1991년'으로 이어질 수 있습니다. 다시 한 번 강조하지만, 이는 민간 AI 기업과 민주적인 정부 간의 긴밀한 협력과 당근과 채찍의 균형에 대한 매우 현명한 의사결정이 필요하기 때문에 실현되기는 매우 어려울 것입니다.

이 모든 것이 순조롭게 진행되더라도 각 국가 내에서 민주주의와 권위주의 사이의 투쟁이라는 문제가 남습니다. 물론 여기서 어떤 일이 일어날지 예측하기는 어렵지만, 민주주의가 가장 강력한 AI를 통제하는 글로벌 환경을 고려할 때 AI가 실제로 모든 곳에서 민주주의를 지원하도록 구조화될 수 있다는 낙관적인 전망도 있습니다. 특히, 이러한 환경에서는 민주적 정부가 슈퍼 AI를 사용하여 정보 전쟁에서 승리할 수 있습니다. 권위주의 국가의 영향력과 선전 활동에 대응하고, 권위주의 국가가 차단하거나 감시할 기술적 능력이 부족한 정보와 AI 서비스에 대한 액세스를 제공함으로써 자유로운 정보의 글로벌 환경을 조성할 수도 있겠죠. 선전을 전달하기 위한 것이 아니라 단순히 악의적인 공격에 대응하고 정보의 자유로운 흐름을 차단하기 위한 것일 수도 있습니다. 당장은 아니지만, 이러한 공평한 경쟁의 장은 여러 가지 이유로 글로벌 거버넌스를 민주주의로 점진적으로 전환할 수 있는 좋은 기회입니다.

첫째, 1~3번 섹션의 삶의 질 향상은 모든 것이 동등하다면 민주주의를 증진시켜야 하며, 역사적으로도 어느 정도는 그렇게 해왔습니다. 특히 정신 건강, 행복, 교육의 개선은 권위주의적 지도자에 대한 지지와 음의 상관관계가 있기 때문에 이 세 가지가 모두 민주주의를 증진할 것으로 기대합니다. 일반적으로 사람들은 다른 욕구가 충족될 때 더 많은 자기 표현을 원하며, 민주주의는 자기 표현의 한 형태입니다. 반대로 권위주의는 공포와 분노를 바탕으로 번성합니다.

둘째, 권위주의자들이 정보를 검열할 수 없는 한, 자유로운 정보가 실제로 권위주의를 약화시킬 가능성이 높습니다. 검열되지 않은 AI는 또한 개인에게 억압적인 정부를 약화시킬 수 있는 강력한 도구를 제공할 수 있습니다. 억압적인 정부는 사람들이 "황제에게는 옷이 없다"는 사실을 깨닫지 못하도록 상식을 부정함으로써 생존합니다. 예를 들어, 밀로세비치 정부 전복을 도왔던 스르야 포포비치(Srdja Popovic)는 권위주의자들의 심리적 힘을 약화시키고, 주문을 깨고, 독재자에 대한 반대를 결집하는 기술에 대해 광범위하게 저술했습니다. 모든 사람이 사용할 수 있는 초인적으로 효과적인 AI(지능에 대한 보상이 높은 것으로 보이는 기술)는 전 세계의 반체제 인사들과 개혁가들의 지지를 이끌어낼 수 있습니다. 다시 말하지만, 길고 힘든 싸움이 될 것이고 승리가 보장되지는 않지만, 우리가 AI를 올바른 방식으로 설계하고 구축한다면 적어도 자유를 옹호하는 사람들이 모든 곳에서 우위를 점할 수 있는 싸움이 될 수 있습니다.

신경과학과 생물학처럼, 우리는 권위주의를 피하는 방법뿐만 아니라 민주주의를 지금보다 더 나은 것으로 만들 수 있는 방법에 대해 질문할 수 있습니다. 민주주의에서도 불의는 종종 발생합니다. 법치주의가 지배하는 사회는 모든 사람이 법 앞에 평등하고 모든 사람이 기본적인 인권을 누릴 것이라고 시민들에게 약속하지만, 실제로 사람들이 이러한 권리를 항상 보장받는 것은 아닙니다. 이 약속은 부분적으로 이행되더라도 자랑스러워해야 할 일이지만, AI가 더 잘할 수 있도록 도울 수 있을까요?

예를 들어, AI가 더 공정한 결정과 절차를 통해 우리의 법률 및 사법 시스템을 개선할 수 있을까요? 오늘날 AI 시스템이 법적 또는 사법적 맥락에서 차별의 원인이 될 것이라는 주요 우려가 있으며, 이러한 우려는 중요하고 방어해야 할 필요가 있습니다. 동시에 민주주의의 생존 가능성은 위험에 대응하는 데 그치지 않고 새로운 기술을 사용하여 민주적 제도를 개선하는 데 달려 있습니다. 진정으로 성숙하고 성공적인 AI 구현은 편견을 줄이고 모든 사람에게 더 공정해질 수 있는 잠재력을 가지고 있습니다.

수세기 동안 법 체계는 정의롭기 위한 법이 본질적으로 주관적이기 때문에 편향된 인간에 의해 해석되어야 한다는 딜레마에 직면해 왔습니다. 현실 세계는 혼란스럽고 항상 수학적 공식으로 설명할 수 없기 때문에 법을 완전히 기계화하려는 시도는 성공하지 못했습니다. 대신, 법률 시스템은 '잔인하고 비정상적인 처벌' 또는 '사회적 가치의 완전한 결여'와 같이 악명 높은 부정확한 기준에 의존하며, 이러한 기준은 인간이 편견과 편견, 사회적 가치의 결여를 보여주는 방식으로 해석하는 경우가 많습니다. -그리고 종종 편견, 편애, 자의성을 드러내는 방식으로 해석되기도 합니다. "암호화폐의 '스마트 계약'이 법에 혁명을 일으키지 못한 이유는 일반적인 코드는 모든 흥미로운 것들을 지배할 만큼 충분히 똑똑하지 않기 때문입니다. 하지만 AI는 반복 가능하고 기계적인 방식으로 광범위하고 모호한 판단을 내릴 수 있는 최초의 기술인 만큼 충분히 똑똑할 수 있습니다.

말 그대로 판사를 인공지능 시스템으로 대체하자는 것이 아니라, 공정성과 복잡한 현실 상황을 이해하고 대처하는 능력의 결합은 법과 정의에 매우 긍정적인 영향을 미칠 것입니다. 최소한 이러한 시스템은 인간의 의사결정을 돕는 역할을 할 수 있을 것입니다. 이러한 시스템에서는 투명성이 중요하며, 정교한 AI 과학이 이를 제공할 수 있습니다. 이러한 시스템의 훈련 과정을 광범위하게 연구하고 해석 가능한 고급 기술을 사용하여 최종 모델을 들여다보고 인간에게는 불가능한 숨겨진 편견이 있는지 평가할 수 있습니다. 이러한 AI 도구는 사법 또는 경찰의 기본권 침해를 모니터링하는 데도 사용될 수 있으며, 헌법의 자기 집행력을 강화할 수 있습니다.

마찬가지로 AI는 시민들 사이에서 의견을 취합하고 합의를 이끌어내며 갈등을 해결하고 공통점을 찾고 타협점을 모색하는 데 사용될 수 있습니다. 이와 관련된 초기 아이디어 중 일부는 컴퓨터 민주주의 프로젝트에서 채택되었으며, 여기에는 Anthropic과의 협업도 포함됩니다. 정보에 밝고 사려 깊은 시민은 분명 민주주의 제도를 강화합니다.

원칙적으로는 모든 사람이 이용할 수 있지만 실제로는 일부 지역에서는 다른 지역보다 부족하고 열악한 정부 서비스(예: 의료 혜택이나 사회 서비스)를 제공하는 데 AI를 사용할 수 있는 분명한 기회도 있습니다. 여기에는 의료 서비스, 차량 등록, 세금, 사회 보장, 건축법 집행 등이 포함됩니다. 정부가 제공해야 하는 모든 정보를 이해하기 쉬운 방식으로 제공하고, 종종 혼란스러운 정부 규정을 준수하도록 도와주는 역할을 하는 매우 사려 깊고 충분한 정보를 갖춘 AI가 있다면 큰 도움이 될 것입니다. 국가의 역량을 강화하면 법 앞의 평등이라는 약속을 이행하고 민주적 거버넌스에 대한 존중을 강화하는 데 도움이 됩니다. 제대로 실행되지 않는 서비스는 현재 정부에 대한 냉소주의의 주요 원인입니다[27].

이 모든 것은 막연한 아이디어이며, 이 섹션의 서두에서 말씀드렸듯이 저는 생물학, 신경과학, 빈곤 퇴치 분야에서 제가 이룬 성과에 비해 실현 가능성에 대한 확신이 훨씬 적습니다. 비현실적인 유토피아적 아이디어일 수도 있습니다. 하지만 야심찬 비전을 갖고 대담하게 꿈꾸고 새로운 것을 시도하는 것이 중요합니다. 자유, 개인의 권리, 법 앞의 평등을 보장하는 AI의 비전은 무시하기에는 너무 강력합니다. 21세기 인공지능이 주도하는 정치는 개인의 자유를 더욱 강력하게 보호하는 동시에 자유민주주의를 전 세계가 원하는 정부 형태로 만드는 데 도움이 되는 희망의 등불이 될 수 있습니다.

5. 업무와 의미

질병, 빈곤, 불평등을 완화할 뿐만 아니라 자유민주주의가 지배적인 정부 형태가 되고 기존의 자유민주주의가 더 나은 버전이 되는 등 처음 네 부분의 모든 것이 잘 진행된다고 해도 적어도 한 가지 중요한 질문이 남습니다. 한 가지 중요한 질문이 남아있습니다. "우리가 이렇게 기술적으로 발전된 세상, 공정하고 품위 있는 세상에 살고 있다는 것은 좋은 일입니다."라고 반문할 수도 있지만, AI가 모든 일을 하는 상황에서 인간은 어떻게 의미를 가질 수 있을까요? 그런데 경제적으로 어떻게 살아남을 수 있을까요?"라고 반문할 수 있습니다.

저는 이 문제가 다른 문제보다 더 어렵다고 생각합니다. 제 말은 이 문제는 사회가 어떻게 조직되는지에 대한 거시적인 질문, 즉 시간이 지나고 분산된 방식으로만 해결될 수 있는 질문을 포함하기 때문에 다른 문제보다 더 예측하기 어렵다는 것입니다. 예를 들어, 과거의 수렵 채집 사회에서는 수렵과 그와 관련된 다양한 종교 의식이 없다면 삶이 무의미할 것이라고 상상했을 수도 있고, 만족스러운 기술 사회는 무의미하다고 상상했을 수도 있습니다. 그들은 또한 우리 경제가 어떻게 모든 사람을 부양하는지, 또는 기계화된 사회에서 사람들이 어떤 기능을 효과적으로 수행할 수 있는지 이해하지 못했을 수도 있습니다.

그럼에도 불구하고 이 섹션의 간결함이 이러한 질문을 진지하게 받아들이지 않는다는 것을 의미하는 것이 아니라 오히려 명확한 답변이 부족하다는 신호라는 점을 염두에 두고 몇 마디 말씀드리는 것이 좋습니다.

의미와 관련해서는, 이해가 되지 않는 작업을 하고 있다면 인공지능이 더 잘할 수 있기 때문이라고 생각하는 것은 잘못된 생각일 가능성이 높다고 생각합니다. 대부분의 사람들은 어떤 분야에서든 세계 최고가 아니며, 그렇다고 해서 특별히 신경 쓰지 않는 것 같습니다. 물론 오늘날에도 여전히 비교우위를 통해 기여할 수 있고 경제적 가치에서 의미를 얻을 수 있지만, 사람들은 경제적 가치를 창출하지 않는 활동도 매우 즐깁니다. 저는 비디오 게임, 수영, 바깥 산책, 친구들과 대화하는 데 많은 시간을 보내지만 모두 경제적 가치를 창출하지 않습니다. 비디오 게임을 더 잘하거나 산에서 자전거를 더 빨리 타려고 하루를 보낼 수도 있고, 어딘가에서 저보다 더 잘하는 사람이 있어도 상관없습니다. 어쨌든 저는 의미란 주로 경제적 노동이 아니라 관계와 연결에서 비롯된다고 생각합니다. 사람들은 경쟁의식이 있더라도 성취감을 원하며, 인공지능 이후의 세상에서는 오늘날 사람들이 연구 프로젝트를 시작하거나 할리우드 배우가 되려고 하거나 회사를 창업할 때와 마찬가지로 복잡한 전략을 가지고 매우 어려운 작업을 시도하는 데 수년을 보내는 것이 완벽하게 가능합니다[28]. (a) 원칙적으로 어딘가에 있는 AI가 이 작업을 더 잘 수행할 수 있고, (b) 이 작업이 더 이상 글로벌 경제에서 경제적 수익의 요소가 아니라는 사실은 저에게는 중요하지 않은 것 같습니다.

사실 저는 의미 있는 부분보다 경제적인 부분이 더 어려운 것 같습니다. 이 섹션에서 "경제적"이라는 것은 충분히 발전된 AI 기반 경제에서 대부분의 또는 모든 인간이 의미 있는 기여를 하지 못할 수 있다는 문제를 의미합니다. 이는 섹션 3에서 논의하는 불평등, 특히 신기술에 대한 불평등한 접근이라는 개별적인 문제보다 훨씬 더 거시적인 문제입니다.

첫째, 단기적으로는 비교우위 논쟁이 인간을 계속 관련성 있게 만들고 실제로 생산성을 높이며 어떤 면에서는 경쟁의 장을 평준화할 것이라는 데 동의합니다. AI가 특정 업무에서 90%만 더 잘하는 한, 나머지 10%는 인간을 더 많이 활용하고 보상을 늘리며 실제로 AI가 잘하는 것을 보완하고 증폭하는 새로운 인간 일자리를 많이 창출하여 '10%'가 확장되어 거의 모든 사람을 계속 고용할 수 있도록 할 것입니다. 실제로 AI가 인간보다 100%의 일을 더 잘할 수 있다고 해도 특정 업무에서 비효율적이거나 비용이 많이 들거나 인간과 AI에 투입되는 자원이 크게 다르다면 비교우위의 논리는 계속 적용됩니다. 인간이 시간이 지나도 상대적(또는 절대적) 우위를 유지할 수 있는 한 가지 영역은 물리적 세계입니다. 따라서 저는 인간 경제가 '데이터 중심의 천재 상태'에 도달한 이후에도 계속 관련성을 유지할 수 있다고 생각합니다.

하지만 장기적으로는 AI가 너무 광범위하고 저렴해져서 더 이상 이런 방식이 적용되지 않을 것이라고 생각합니다. 그 시점이 되면 현재의 경제 구조는 더 이상 의미가 없어지고 경제를 어떻게 조직해야 하는지에 대한 광범위한 사회적 대화가 필요하게 될 것입니다.

미친 소리처럼 들릴지 모르지만, 사실 인류는 과거 수렵 채집에서 농업으로, 농업에서 봉건제도로, 봉건제에서 산업주의로 이어지는 주요 경제 변화에 성공적으로 대처해 왔습니다. 저는 새롭고 낯선 무언가, 오늘날 아무도 잘 하지 못하는 비전이 필요할 것이라고 생각합니다. 모든 사람을 위한 대규모 보편적 기본소득과 같은 것이 될 수도 있지만, 이는 해결책의 일부에 불과하다고 생각합니다. 인공지능 시스템에 의해 운영되는 자본주의 경제가 될 수도 있고, 일종의 2차 경제를 기반으로 인공지능 시스템의 판단(궁극적으로 인간의 가치에서 비롯된)에 따라 인간에게 (인공지능 시스템이 인간 사이에서 보상하는 것이 합리적이라고 생각하는 것에 따라) 자원을 배분할 수도 있습니다. 어쩌면 경제가 Whuffie 포인트로 운영될 수도 있습니다. 또는 일반적인 경제 모델에서 예상하지 못한 방식으로 인간이 여전히 경제적으로 가치 있는 존재가 될 수도 있습니다. 이러한 모든 해결책에는 수많은 문제가 발생할 수 있으며, 많은 반복과 실험이 이루어지지 않는 한 그 의미가 명확하지 않습니다. 다른 도전 과제와 마찬가지로 좋은 결과를 얻기 위해 싸워야 할 수도 있습니다. 착취적이거나 반유토피아적인 방향도 가능하기 때문에 이를 막아야 합니다. 이러한 문제에 대해 더 많은 글을 쓸 수 있으며, 앞으로도 그렇게 하고 싶습니다.

요약

위에서 언급한 다양한 주제를 통해 저는 인공지능이 잘 발전한다면 지금보다 훨씬 더 나은 세상이 될 것이라는 비전을 제시하려고 노력했습니다. 그 세상이 현실적일지 모르겠고, 현실적이라고 해도 많은 용감하고 헌신적인 사람들의 많은 노력과 투쟁 없이는 실현되지 않을 것입니다. 모든 사람(AI 회사 포함!) )는 위험을 예방하고 모든 이점을 실현하기 위해 각자의 역할을 다해야 합니다.

그러나 그것은 싸울 가치가 있는 세상입니다. 대부분의 질병 퇴치, 생물학적 및 인지적 자유의 성장, 수십억 명의 빈곤 퇴치, 신기술 공유, 자유민주주의와 인권의 르네상스 등 5~10년 안에 이런 일이 일어난다면, 이를 목격하는 모든 사람에게 영향을 미칠 수 있을지는 의문입니다. . 모든 신기술의 개인적 혜택을 목격하는 것은 분명 놀라운 일이겠죠. 우리가 오랫동안 간직해 온 일련의 이상이 모두에게 동시에 실현되는 경험을 목격하는 것이죠. 많은 사람들이 눈물을 흘릴 것이라고 생각합니다.

이 글을 쓰는 과정에서 저는 흥미로운 긴장감을 느꼈습니다. 이 글에서 제시된 비전은 매우 급진적이라는 느낌이 들었습니다. 거의 모든 사람들이 향후 10년 내에 일어날 것으로 예상하는 일이 아니며, 많은 사람들에게 터무니없는 환상처럼 느껴질 수도 있습니다. 모든 사람이 동의하지 않을 가치와 정치적 선택을 구체화하고 있기 때문에 바람직하지 않다고 생각하는 사람도 있을 수 있습니다. 하지만 동시에 좋은 세상을 상상하려는 다양한 시도가 필연적으로 여기에 도달한 것처럼 매우 분명한 무언가, 즉 과도하게 결정된 무언가가 있습니다.

이 모든 것에도 불구하고 주인공인 이언 뱅크스의 더 게임 플레이어[29]는 초월적인 아름다움의 존재로 남아 있습니다. 우리는 그 실현에 작게나마 기여할 수 있는 기회가 있습니다. 그럼에도 불구하고 그것은 초월적인 아름다움으로 남아 있습니다. 우리는 그 실현에 작은 기여를 할 수 있는 기회가 있습니다. -문화라는 사회의 구성원들은 제가 여기서 제안하는 것과 그 토대가 일치하는 억압적이고 군사주의적인 제국, 즉 격투 게임의 복잡한 경쟁에 의해 리더십이 결정되는 제국으로 여행하고 있습니다. 그러나 이 게임은 충분히 복잡하기 때문에 플레이어의 전략은 자신의 정치적, 철학적 견해를 반영하는 경향이 있습니다. 게임에서 주인공이 황제를 물리친다는 사실은 무자비한 경쟁과 적자생존의 사회가 설계한 게임의 규칙 내에서도 그의 가치(문화의 가치)가 승리 전략이 될 수 있음을 시사하며, 스콧 알렉산더의 잘 알려진 게시물에서도 같은 주장을 펼칩니다. 경쟁은 자기 패배적이며 동정심과 협동을 기반으로 하는 사회로 이끄는 경향이 있습니다. '도덕적 우주의 원호'도 이와 유사한 개념입니다.

문화의 가치는 명확한 도덕적 힘을 가지고 있고 모두를 같은 편으로 끌어들이는 경향이 있는 수많은 작은 결정의 총합이기 때문에 승리 전략이라고 생각합니다. 공정성, 협력, 호기심, 자율성과 같은 인간의 기본적인 직관은 논쟁하기 어렵고, 더 파괴적인 충동은 그렇지 않은 경향이 있다는 점에서 누적된 방식으로 작용합니다. 우리가 예방할 수 있는 질병으로 아이들이 죽어서는 안 된다고 생각하기 쉽고, 거기에서 모든 사람의 아이는 그런 권리를 누릴 자격이 있다고 생각하기 쉽습니다. 그리고 그 결과를 달성하기 위해 우리가 단결하고 창의력을 발휘해야 한다고 주장하기 쉽습니다. 불필요하게 다른 사람을 공격하거나 해를 끼치는 사람은 처벌을 받아야 한다는 데 이의를 제기하는 사람은 거의 없으며, 처벌이 일관되고 체계적이어야 한다는 데 사람들의 마음을 사로잡는 것은 어렵지 않습니다. 마찬가지로 사람들은 자신의 삶과 선택에 대해 자율성과 책임감을 가져야 한다는 생각도 비슷합니다. 이러한 단순한 직관은 논리적인 결론에 도달하면 궁극적으로 법치주의, 민주주의, 계몽주의적 가치로 이어집니다. 반드시 필연적인 것은 아니더라도 적어도 통계적 추세로 볼 때 인류는 이미 이 방향으로 나아가고 있습니다. 인공지능은 논리를 더 선명하게 하고 목적지를 더 명확하게 만들어 더 빨리 도달할 수 있는 기회를 제공할 뿐입니다.

그럼에도 불구하고 그것은 여전히 초월적인 아름다움으로 남아 있습니다. 우리는 그 실현에 작게나마 기여할 수 있는 기회가 있습니다.

이 글의 초안을 검토해 주신 Kevin Esvelt, Parag Mallick, Stuart Ritchie, Matt Yglesias, Erik Brynjolfsson, Jim McClave, Allan Dafoe 및 Anthropic의 많은 분들께 감사드립니다.

2024년 노벨 화학상 수상자가 길을 제시해 주셔서 감사합니다.

# 각주

01.https://allpoetry.com/All-Watched-Over-By-Machines-Of-Loving-Grace

02. "너무 심심하다"는 반응이 있을 것으로 예상됩니다. 그런 사람들은 트위터의 표현을 빌리자면 "잔디를 만져야 한다"고 생각합니다. 하지만 더 중요한 것은 사회적 관점에서는 부드러움이 좋다는 것입니다. 사람들이 한 번에 감당할 수 있는 변화의 양에는 한계가 있다고 생각하며, 제가 설명하는 속도는 아마도 극심한 격변 없이 사회가 흡수할 수 있는 한계에 가까울 것입니다.

03. AGI는 많은 공상과학적 짐을 쌓는 부정확한 용어라고 생각합니다.

과대 광고. 저는 과대 광고 없이도 제가 의미하는 바를 달성하는 '강력한 AI' 또는 '전문 과학 및 엔지니어링'을 선호합니다.

이 글에서 '지능'이라는 용어는 다양한 영역에 걸쳐 적용될 수 있는 일반적인 문제 해결 능력을 지칭합니다. 여기에는 추론, 학습, 계획, 창의력과 같은 능력이 포함됩니다. 이 글 전체에서 '지능'을 약어로 사용하지만, 지능의 본질은 인지 과학과 AI 연구에서 복잡하고 논란이 많은 주제라는 것을 잘 알고 있습니다. 일부 연구자들은 지능이 하나의 통합된 개념이 아니라 독립적인 인지 능력의 집합이라고 주장합니다. 다른 연구자들은 다양한 인지 능력의 밑바탕에 지능의 일반적 요인(G-인자)이 있다고 믿습니다. 이는 다음 기회에 논의할 문제입니다.

05. 현재 인공지능 시스템의 대략적인 속도입니다. 예를 들어, 몇 초 안에 한 페이지의 텍스트를 읽고 20초 안에 한 페이지의 텍스트를 쓸 수 있으며, 이는 사람이 이러한 작업을 수행하는 것보다 10~100배 빠른 속도입니다. 시간이 지남에 따라 더 큰 모델일수록 속도가 느려지는 경향이 있지만, 더 강력한 칩일수록 속도가 빨라지는 경향이 있으며 지금까지는 두 가지 효과가 대략적으로 상쇄되었습니다.

06. 이것은 지푸라기라도 잡는 심보처럼 보일 수 있지만, 타일러 코웬이나 매트 이글레시아스 같은 신중한 사상가들은 이를 심각한 문제로 제기했고(전적으로 동의하지는 않지만), 저는 이것이 미친 짓이라고 생각하지 않습니다.

07. 제가 아는 한 이 문제를 다루는 가장 가까운 경제학 연구는 범용 기술을 보완하는 '범용 기술'과 '무형 투자'에 관한 연구입니다.

08. 이러한 학습에는 임시, 상황별 학습 또는 전통적인 교육이 포함될 수 있으며, 둘 다 물리적 환경에 의해 제한될 수 있습니다.

09. 혼돈 시스템에서는 작은 오차가 시간이 지남에 따라 기하급수적으로 증가하므로 계산 능력이 크게 증가해도 예측력이 약간만 증가하더라도 측정 오류는 실제로 이를 더 감소시킬 수 있습니다.

10. 다른 요인은 물론 강력한 인공지능 자체가 더 강력한 인공지능을 만드는 데 사용될 수 있다는 것입니다. 제 가설은 이런 일이 일어날 수 있지만(실제로 일어날 수도 있습니다), 그 영향은 생각보다 작을 것이라는 것입니다. 왜냐하면 여기서 논의한 "지능의 한계 수익 감소"가 바로 그 이유 때문입니다. 즉, AI는 계속해서 매우 빠르게 더 똑똑해지겠지만 궁극적으로 비지능적 요인에 의해 그 영향력이 제한될 것이며, 이러한 요인을 분석하는 것이 AI를 넘어서는 과학적 진보의 속도에 매우 중요하다는 것입니다.

11. 이러한 성과는 저에게 영감을 주었으며 아마도 현존하는 가장 강력한 AI가 생물학을 혁신하는 데 사용된 사례일 것입니다.

"과학적 발전은 새로운 기술, 새로운 발견, 새로운 아이디어의 순서로 이루어집니다." - 시드니 브레너

13. 이 점을 제기해 주신 Parag Mallick에게 감사드립니다.

AI를 활용한 과학이 미래에 어떤 특별한 발견을 할 수 있을지에 대한 추측으로 지면을 채우고 싶지는 않지만, 몇 가지 가능성에 대한 브레인스토밍은 다음과 같습니다. - AlphaFold 및 AlphaProteo와 같은 더 나은 계산 도구 설계 - 전문화된 AI 계산 생물학 도구를 만드는 능력을 가속화하는 범용 AI 시스템 - 보다 효율적이고 선택적인 CRISPR. - 보다 효율적이고 선택적인 크리스퍼 - 보다 진보된 세포 치료법. - 재료 과학 및 소형화 혁신으로 더 나은 이식형 기기 개발. - 줄기세포, 세포 분화 및 탈분화, 그리고 그에 따른 조직 재성장 또는 재형성 능력에 대한 더 나은 제어. - 면역 체계의 더 나은 제어: 암과 전염병에 대처하기 위해 면역 체계를 선택적으로 켜고 자가 면역 질환에 대처하기 위해 면역 체계를 선택적으로 끕니다.

물론 AI는 실험 설계를 개선하고, 첫 번째 실험에서 더 많은 것을 학습하여 두 번째 실험에서 핵심 질문을 좁힐 수 있도록 하는 등 어떤 실험을 실행할지 더 현명하게 선택하는 데도 도움을 줄 수 있습니다.

16. 이 점을 제기해 주신 Matthew Yglesias에게 감사드립니다.

병원을 진화 실험실로 삼아 치료에 대한 내성을 지속적으로 개선하는 다제내성 균주와 같이 빠르게 진화하는 질병은 특히 대처가 어려울 수 있으며, 100%에 도달하지 못하게 하는 요인이 될 수 있습니다.

5-10년 안에 인간의 수명이 두 배로 늘어날지 여부는 알기 어려울 수 있습니다. 달성했을 수도 있지만 연구 기간 내에 알 수 없을 수도 있습니다.

19... 질병을 치료하고 노화 과정 자체를 늦추는 데 있어 생물학적 차이가 분명함에도 불구하고, 오히려 통계적 추세를 좀 더 멀리서 보면 "세부적인 것은 다르더라도 결국 복잡한 것의 완만한 추세는 매우 이질적인 요소들로 구성될 수밖에 없기 때문에 인간 과학은 이런 추세를 이어갈 가능성이 높다고 생각한다"는 것이 제가 말씀드리고 싶은 내용입니다.

예를 들어, 생산성 증가율이 연간 11 TP3T 또는 0.51 TP3T만 증가해도 이러한 프로그램과 관련된 예측에 혁신적인 영향을 미칠 수 있다고 들었습니다. 이 백서에서 고려한 아이디어가 실현된다면 생산성 증가는 이보다 훨씬 더 커질 수 있습니다.

21. 미디어는 높은 지위의 사이코패스를 묘사하는 것을 좋아하지만, 평균적인 사이코패스는 재정적 전망이 좋지 않고 충동 조절 능력이 떨어져 결국 감옥에서 많은 시간을 보내는 사람일 수 있습니다.

이는 주의 메커니즘과 같은 현재 인공 신경망의 일부 구조적 세부 사항이 변경되거나 대체되더라도 해석 가능성에서 얻은 많은 결과가 계속 관련성이 있다는 사실과 어느 정도 유사하다고 생각합니다.

23. 저는 이것이 대부분 분산된 방식으로 관리되어야 하는 환원 불가능한 복잡성에 시달리는 고전적인 혼돈 시스템과 비슷하다고 생각합니다. 뒷부분에서 주장하겠지만, 좀 더 완만한 개입이 가능할 수도 있습니다. 경제학자 에릭 브린욜프손(Erik Brynjolfsson)이 제기한 반론은 대기업(예: 월마트나 유튜버)이 분산된 프로세스보다 소비자를 더 잘 이해할 수 있는 충분한 중앙 집중식 지식을 갖추기 시작했으며, 이는 아마도 누가 최고의 현지 지식을 가지고 있는지에 대한 하이에크의 통찰을 수정해야 한다는 주장일 것입니다.

24. 이 점을 제기해 주신 Kevin Esvelt에게 감사드립니다.

예를 들어, 휴대폰은 부자들을 위한 기술로 시작되었지만 곧 매우 저렴해졌고 해마다 개선이 빠르게 이루어져 '고급' 휴대폰을 구입하는 이점이 더 이상 존재하지 않게 되었으며 오늘날 대부분의 사람들이 비슷한 품질의 휴대폰을 소유하고 있습니다.

26. 이것은 곧 발표될 RAND 보고서의 제목이며, 제가 설명하는 전략의 대략적인 개요를 담고 있습니다.

27. 일반 사람들은 공공기관을 떠올릴 때 차량국, 국세청, 메디케어 또는 이와 유사한 기능에 대한 경험을 떠올릴 수 있습니다. 이러한 경험을 지금보다 더 긍정적으로 만드는 것이 과도한 냉소주의와 싸우는 강력한 방법인 것 같습니다.

28. 실제로 AI가 주도하는 세상에서는 이러한 가능한 과제와 프로젝트의 범위가 지금보다 훨씬 더 커질 것입니다.

29. 공상 과학 소설로 만들지 않겠다는 제 나름의 규칙을 어겼지만, 적어도 언급하기는 어렵습니다. 사실 공상과학은 미래에 대한 광범위한 사고 실험을 할 수 있는 유일한 원천 중 하나인데, 너무 좁은 하위 문화에 얽매여 있는 것은 안타까운 일이라고 생각해요.