OpenAI CEO가 바라보는 AGI 경제학: 향후 10년간의 파괴적 변화를 보여주는 세 가지 관찰 결과

1.3K 00

샘 알트만, OpenAI 최고 경영자, CEO

OpenAI의 사명은 일반화된 인공지능(AGI)이 모든 인류에게 혜택을 줄 수 있도록 하는 것입니다.

OpenAI는 AGI를 가리키는 시스템이 등장하고 있으므로 우리가 처한 순간을 이해하는 것이 중요하다고 생각합니다.AGI는 слабо를 정의하는 용어이지만 일반적으로 OpenAI는 여러 영역에서 증가하는 복잡성에 인간 수준으로 대처할 수 있는 시스템을 AGI로 간주합니다.

댓글: AGI의 정의가 모호하다는 사실은 현재 AI 개발의 최첨단과 불확실성을 반영하며, OpenAI가 정의의 모호함을 인정한 것은 AGI의 개념이 여전히 진화하고 있음을 시사합니다.

인간은 이해하고 창조하려는 타고난 욕구를 지닌 도구 제작자이며, 이를 통해 우리 모두를 위한 더 나은 세상을 만들어갑니다. 각 세대는 이전 세대의 발견 위에 서서 전기, 트랜지스터, 컴퓨터, 인터넷, 그리고 곧 다가올 AGI와 같은 더 강력한 도구를 만들어냈습니다.

시간이 지남에 따라 인류의 꾸준한 혁신의 행진은 사람들의 삶의 거의 모든 측면에 전례 없는 번영과 개선을 간헐적으로 가져왔습니다.

어떤 의미에서 AGI는 인류가 함께 만들어가고 있는 더 높은 진보의 발판에서 또 하나의 도구일 뿐입니다. 다른 의미에서 AGI는 시작이며, "이번에는 다르다"라고 말하기 어렵습니다. 우리 앞에 펼쳐진 경제 성장은 놀랍고, 이제 우리는 모든 질병을 치료하고, 가족과 더 많은 시간을 보내고, 창의적 잠재력을 최대한 실현할 수 있는 세상을 상상할 수 있게 되었습니다. 잠재력.

댓글: 샘 알트먼은 의학의 혁신과 생산성 향상 등 AGI가 가져올 낙관적인 미래를 그려봅니다. 그러나 이러한 장밋빛 비전은 일자리 대체, 권력 집중 등 AGI가 가져올 수 있는 잠재적 위험과 윤리적 문제와 대조를 이룹니다.

아마도 10년 후에는 지구상의 모든 사람이 오늘날 가장 영향력 있는 사람들보다 더 많은 것을 성취할 수 있게 될 것입니다.

OpenAI는 AI 개발에서 계속해서 빠른 진전을 보이고 있습니다. 다음은 AI의 경제성에 대한 세 가지 관찰 결과입니다:

AI 모델의 지능 수준은 모델을 학습하고 실행하는 데 사용되는 리소스 양의 로그와 거의 같습니다. 이러한 리소스는 주로 학습 계산, 데이터 및 추론 계산에 사용됩니다. 돈을 얼마든지 지출하고도 일관되고 예측 가능한 수익을 얻을 수 있는 것처럼 보이지만, 이를 예측하는 스케일링 법칙은 몇 배 이상 정확합니다.
특정 수준의 AI 사용 비용은 약 12개월마다 10배씩 하락하며, 가격이 낮아질수록 사용량이 늘어납니다. 2023년 초에 GPT-4를 시작할 수 있습니다. 토큰 이는 2024년 중반의 GPT-4o 토큰 가격에서 확인할 수 있으며, 이 기간 동안 각 토큰의 가격은 약 150배 하락할 것입니다. 무어의 법칙은 18개월마다 2배의 속도로 세상을 변화시켰는데, 이는 무어의 법칙보다 훨씬 더 강력한 변화입니다.
스마트 선형 성장의 사회경제적 가치는 본질적으로 기하급수적으로 증가합니다. 그 결과, OpenAI는 기하급수적으로 증가하는 투자가 가까운 미래에 중단될 이유가 없다고 보고 있습니다.

댓글: 이 세 가지 관찰은 산술적 투자와 지능 향상 사이의 긍정적인 상관관계, 급격한 비용 하락으로 인한 보편화, 지능 향상의 막대한 사회경제적 보상이라는 AI 발전의 핵심적인 경제적 동인을 보여줍니다. 그러나 이러한 기하급수적인 성장의 지속 가능성과 환경 및 사회적 자원에 미치는 영향은 더 깊이 고려해야 할 필요가 있습니다.

이 세 가지 관찰이 계속 유지된다면 사회에 미치는 영향은 엄청날 것입니다.

OpenAI는 이제 가상 동료처럼 느껴질 AI 에이전트를 출시하기 시작했습니다.

OpenAI가 특히 중요할 것으로 예상하는 소프트웨어 엔지니어링 에이전트의 경우를 상상해 봅시다. 그러한 에이전트가 결국 일류 기업에서 몇 년의 경력을 가진 소프트웨어 엔지니어가 할 수 있는 대부분의 작업을 기껏해야 며칠 동안만 수행할 수 있다고 상상해 보십시오. 새로운 아이디어가 뛰어나지도 않을 것이고, 사람의 감독과 지도가 많이 필요할 것이며, 어떤 일에는 매우 능숙하지만 다른 일에는 의외로 서툴 것입니다.

하지만 현실에 존재하지만 비교적 초보적인 가상의 동료라고 생각하세요. 이제 그러한 상담원이 1,000명 또는 백만 명이라고 상상해 보세요. 이제 각 지식 업무 영역에 그러한 에이전트가 있다고 상상해 보세요.

댓글: AI 에이전트의 등장은 특히 소프트웨어 엔지니어링과 같은 지식 집약적인 분야에서 '가상 동료'로서의 잠재력을 강조하면서 업무 패턴의 근본적인 변화를 예고하고 있습니다. 그러나 창의성, 복잡한 문제 해결, 인간과의 상호작용 측면에서 AI 에이전트의 한계가 무엇인지, 기존 직업에 미칠 잠재적 영향은 무엇인지는 아직 지켜봐야 합니다.

어떤 면에서 AI는 경제적으로 트랜지스터와 같은 존재가 될 수 있는데, 이는 확장성이 뛰어나고 경제의 거의 모든 분야에 침투하는 거대한 과학적 발견입니다. 우리는 트랜지스터나 트랜지스터 회사에 대해 크게 생각하지 않습니다. 그 혜택은 매우 광범위하게 분산되어 있기 때문입니다. 하지만 우리는 컴퓨터, TV, 자동차, 장난감 등이 놀라운 기능을 발휘하기를 원합니다.

세상은 한꺼번에 변하지 않을 것이며, 변한 적도 없습니다. 단기적으로 삶은 대체로 평소와 비슷할 것이며, 2025년의 사람들은 2024년과 거의 같은 방식으로 시간을 보낼 것입니다. 우리는 여전히 사랑에 빠지고, 가정을 꾸리고, 온라인에서 다투고, 자연 속에서 하이킹을 하는 등의 활동을 할 것입니다.

그러나 미래는 무시할 수 없는 방식으로 우리에게 다가올 것이며, 장기적으로 우리 사회와 경제에 엄청난 변화를 가져올 것입니다. 우리는 새로운 할 일, 서로에게 도움이 되는 새로운 방법, 경쟁하는 새로운 방법을 찾게 되겠지만 지금과는 매우 다를 수 있습니다.

동기 부여, 의지력, 결단력은 매우 중요합니다. 무엇을 해야 할지 올바른 결정을 내리고 끊임없이 변화하는 세상을 헤쳐나가는 방법을 알아내는 것은 엄청난 가치가 있습니다. 회복탄력성과 적응력은 발전에 도움이 되는 기술이 될 것입니다. AGI는 인류 역사상 가장 위대한 의지력의 지렛대가 될 것이며, 개인에게 그 어느 때보다 더 큰 영향력을 부여할 것입니다.

OpenAI는 AGI의 영향이 고르지 않을 것으로 예상합니다. 일부 산업은 거의 변화가 없겠지만, 과학적 발전은 지금보다 훨씬 더 빨라질 수 있으며, AGI의 영향은 다른 모든 산업보다 더 클 수 있습니다.

많은 상품의 가격은 결국 급격히 하락할 것이며(현재로서는 스마트 비용과 에너지 비용으로 인해 많은 것들이 제한되고 있습니다), 사치품과 일부 본질적으로 희소한 자원(토지 등)의 가격은 더욱 급격히 상승할 가능성이 높습니다.

기술적으로 OpenAI가 나아갈 길은 매우 명확해 보입니다. 그러나 AGI를 사회에 통합하는 방법에 대한 공공 정책과 집단적 의견은 중요합니다. OpenAI가 일찍 그리고 자주 출시되는 이유 중 하나는 사회와 기술이 함께 진화할 시간을 주기 위해서입니다.

댓글: OpenAI는 기술 개발과 사회적 적응의 동시성을 강조합니다. 가능한 한 빨리 제품을 출시하여 사회가 적응하고 AGI의 방향을 형성할 수 있는 시간을 주는 것은 긍정적인 전략입니다. 그러나 이러한 '공진화' 과정에서 혁신의 속도, 윤리적 고려 사항, 사회적 형평성 사이의 균형을 맞추는 방법은 여전히 복잡한 문제로 남아 있습니다.

AI는 경제와 사회의 모든 영역에 스며들어 모든 것이 스마트해지기를 기대하게 될 것입니다. OpenAI의 많은 사람들은 사람들이 오픈 소스를 포함해 그 어느 때보다 기술에 대한 통제권을 더 많이 갖게 될 것이며, 보안과 개인의 권한 부여 사이에 균형이 필요하다는 점을 인정할 것으로 예상합니다.

OpenAI는 결코 무모해지기를 원하지 않으며, AGI 보안과 관련하여 환영받지 못할 몇 가지 주요 결정과 제한이 있을 수 있지만, 방향적으로는 OpenAI가 AGI를 달성하는 데 가까워질수록 개인의 권한 강화에 대한 선호가 강해질 것으로 보고 있으며, OpenAI가 볼 수 있는 또 다른 가능한 길은 AI가 권위주의 정부가 대규모 감시와 자율성 상실을 통해 국민을 통제하는 데 사용하는 것입니다.

AGI의 혜택이 널리 분배되도록 하는 것이 중요합니다. 기술 발전의 역사적 영향에 따르면 우리가 관심을 갖는 대부분의 지표(건강 결과, 경제적 번영 등)는 평균적으로 장기적으로 개선되지만 평등 개선은 기술에 의해 결정되는 것 같지 않으며, 이를 제대로 달성하려면 새로운 사고가 필요할 수 있습니다.

댓글: 샘 알트먼은 권위주의 정부가 사회 통제를 위해 AI를 사용하는 것과 같은 AGI의 잠재적인 부정적 시나리오에 대해 우려를 표명했습니다. 동시에 그는 보안과 개인의 역량 강화 사이의 균형을 맞추는 것이 중요하며, AGI가 모든 사람에게 혜택을 줄 수 있도록 해야 한다고 강조했습니다. 기술의 양날의 검에 대한 이러한 인식은 칭찬할 만합니다.

특히 자본과 노동 사이의 힘의 균형이 쉽게 무너질 수 있는 만큼 조기에 개입해야 할 필요가 있습니다. OpenAI는 지구상의 모든 사람이 AI를 많이 사용할 수 있도록 '컴퓨팅 예산'을 제공하는 것과 같이 이상하게 들리는 아이디어에도 열려 있지만, 지능 비용을 무자비하게 낮추는 것만으로도 원하는 효과를 얻을 수 있는 방법이 많다고 보고 있습니다.

2035년의 모든 사람은 2025년의 모든 사람과 동등한 지적 역량을 동원할 수 있어야 하며, 모든 사람은 무한한 재능을 발휘하고 상상할 수 있는 모든 방식으로 지도받을 권리가 있어야 합니다. 수많은 인재들이 자신의 재능을 충분히 발휘할 수 있는 자원이 부족한 현실을 바꾸어 창의적인 결과물을 만들어낸다면 우리 모두에게 엄청난 혜택이 될 것입니다.

초안을 검토해 주신 Josh Achiam, Boaz Barak, Aleksander Madry에게 특별히 감사드립니다.

*본 문서에서 AGI 용어를 사용한 것은 명확하게 전달하기 위한 것이며, OpenAI는 OpenAI와 Microsoft의 관계를 정의하는 정의 및 프로세스를 변경하거나 해석할 의도가 없습니다. OpenAI는 장기적으로 Microsoft와 협력할 모든 의도를 가지고 있습니다. 이 각주가 우스꽝스러워 보일 수도 있지만, 한편으로는 일부 언론인이 우스꽝스러운 글을 써서 클릭을 얻으려 한다는 것을 알고 있기 때문에 OpenAI는 선제적으로 그러한 우스꽝스러운 글을 막고 있습니다 .......