AI 검색 기업 Exa의 CEO, reo3 출시 후 토론: AGI 전야에 대한 생각

서문

최근 몇 명의 친구들과 O3(OpenAI o3)에 대해 이야기했는데, 친구들의 반응은 "세상에, 정말 이런 일이 일어나고 있는 거야?"로 요약할 수 있습니다.

네, 실제로 이런 일이 일어나고 있습니다. 앞으로 몇 년은 정말 정신없는 한 해가 될 것입니다. 이것은 은하계 수준의 중요성은 아니더라도 역사적으로 중요한 순간입니다.

놀랍게도 현재 일어나고 있는 일에 대한 심도 있는 논의가 없습니다. AI 연구소는 이에 대해 이야기하지 못하고, 언론은 거의 보도하지 않으며, 정부는 이에 대해 이해하지 못합니다.

소셜 미디어 피드를 통해 인류의 미래에 대해 논의하는 것이 마치 디스토피아 시트콤처럼 느껴질 정도로 아이러니하지만, 이것이 현실입니다.

다음은 현재 상황에 대한 저의 생각, 즉 X-플랫폼 사고의 심연에 대한 저의 기여입니다. 이러한 생각은 완전히 숙고되지 않은 흥미로운 추측이라는 점에 유의하는 것이 중요합니다. 저는 깊이 생각하고 모든 아이디어를 검토할 시간이 충분하지 않았으며, 그 중 많은 아이디어가 틀릴 수도 있습니다. 하지만 이러한 아이디어가 현재 상황을 이해하려는 사람들에게 도움이 되기를 바랍니다.

O3 영향 및 동향

기술 혁신의 속도

• O3의 등장은 충격적이지 않았어야 했습니다. OpenAI는 두 달 전에 테스트 시간 확장 차트를 보여주었고, 컴퓨터 개발의 역사를 통해 아무리 믿기지 않더라도 이러한 추세선을 믿어야 한다는 것을 배웠습니다.
• 정말 충격적인 것은 이 모든 것이 두 달 만에 이루어졌다는 것입니다. 대학 수준의 AI에서 박사 수준의 AI로 도약한 것입니다. 인간에게 변화는 흥미진진한 일이지만 이렇게 빠른 변화는 충격적입니다.

향후 개발 계획

• O3 레벨 모델은 보상 함수를 정의할 수 있는 모든 작업을 최적화하는 데 탁월한 성능을 발휘합니다.
• 단기적으로(1년) 용량 불균형에 대한 모델을 확보할 것입니다:
  • 수학, 프로그래밍 및 일반 추론의 AGI 수준
  • 소설 쓰기와 같은 영역에서는 여전히 평범한 수준입니다.
• 장기적으로(1~3년) 새로운 영역(감정 데이터, 지각 데이터 등)의 강화 학습 학습이 계속 추가되면서 모델의 사각지대는 점차 해결될 것입니다.

다양한 영역에 미치는 영향

수학자의 미래

• 수학자는 AI 대체에 가장 취약한 집단 중 하나 일 수 있습니다.
• 수학적 작업은 주로 물리적 세계와의 접촉이 적은 상징적 공간에서 수행됩니다.
• 700일 이내에 인간은 더 이상 알려진 우주에서 최고의 수학자가 될 수 없을 것으로 예측됩니다.

소프트웨어 엔지니어의 운명

단기적 영향

• 모든 소프트웨어 엔지니어는 승진하는 것과 같습니다.
• 2025년 말에는 코딩이 소규모 에이전트를 조정하여 다양한 작업을 수행하는 것과 비슷해질 것입니다.
• 명확하게 규정된 PR 업무는 O4 시스템에서 수행할 수 있습니다.

장기 전망

• 소프트웨어 엔지니어링의 본질은 요구 사항을 순수한 논리로 변환하는 것입니다.
• 프로그래밍 언어 추상화 수준이 바이너리에서 영어로 상향 조정됩니다.
• 기술 담당자가 아닌 직원도 프로그래밍에 참여할 수 있습니다.
• 최고의 개발자는 여전히 다양한 수준의 추상화 사이를 편안하게 전환할 수 있는 사람입니다.

육체 노동 및 로봇 공학

• 육체 노동자에 대한 AI의 상대적으로 느린 영향
• 주요 병목 현상은 하드웨어 개선과 빠르고 안정적인 지각 액션 모델입니다.
• 로봇공학의 혁신은 로봇이 로봇을 제작할 수 있고 AI가 AI 연구를 수행할 수 있을 때까지는 오지 않을 수 있습니다.

컴퓨팅 성능 및 경쟁 환경

컴퓨팅 리소스에 대한 경쟁

• 주요 연구소에서 슈퍼컴퓨팅 클러스터를 구축하고 있습니다.
• 모델 이점보다 계산 능력이 더 중요할 수 있습니다.
• 인재의 이동성과 연구소 간 정보 교환으로 인해 1년 이상 기술 우위를 유지하기가 어렵습니다.

O레벨 모델링의 특수 효과

• 대규모 컴퓨팅 시설 구축에 대한 인센티브 제공
• NVIDIA의 시장 입지를 바꿀 수 있습니다.
• 오픈 소스 프로젝트는 글로벌 컴퓨팅 리소스를 결합하여 이점을 얻을 수 있습니다.

과학 연구의 혁명

이론 과학

• 이론 물리학이 가장 먼저 영향을 받습니다.
• AI는 과학 이론의 생성 및 검증을 가속화할 수 있습니다.
• 물리적 실험과 자료에 대한 액세스가 진행에 병목 현상을 일으킬 수 있습니다.

위험 및 과제

주요 위험

1. 인간의 AI 남용
2. 사회 불안
3. 통제 불능의 AI
4. 국제 분쟁의 심화

규제 및 사회적 영향

• 정부 규제는 AI 개발의 중요한 요소가 될 것입니다.
• 테러 및 사회 붕괴 위험 가능성
• 2025년은 AI가 비교적 자유로운 개발 단계에 있는 마지막 해가 될 수 있습니다.

향후 전망

낙관적인 기대치

• 획기적인 물리학 발견
• 화성과 달에 로봇으로 건설한 기지
• 완벽한 지능형 튜터링 시스템
• 부작용이 없는 생체 강화 약물
• 효율적이고 깨끗한 에너지 시스템
• 알려지지 않은 더 많은 획기적인 발견

궁극적인 목표

• 초지능의 실현
• 물리 법칙이 허용하는 모든 가능성
• 생명 연장 및 성간 여행
• 우주의 기원 탐구하기

조치 권장 사항

개인을 위한 권장 사항

1. 효율적인 문제 해결 능력 개발
2. 팀워크 기술 향상
3. 빠르게 변화하는 세상에 적응하기
4. 개인의 성공에서 집단적 발전의 추구로 나아가기

사회에 대한 기여

1. 사회 안정에 기여하는 제품 개발
2. 품질 정보 배포
3. 지역 거버넌스 참여
4. 전 세계가 AI 시대로 원활하게 전환할 수 있도록 지원

결론

인공지능 시대를 맞이하여 우리 모두는 미래를 만들어갈 책임이 있습니다. 이는 AI 연구실만의 과제가 아니라 인류 공동체 전체의 공동의 사명입니다. 미래는 불확실성으로 가득 차 있지만, 전례 없는 기회로 가득 차 있기도 합니다. 이 기술 혁명이 재앙이 아닌 진보를 가져올 수 있도록 함께 노력합시다.