넥서스: 확장 가능한 다중 지능형 신체 시스템 구축을 위한 차세대 파이썬 프레임워크

1.5K 00

최근 몇 년 동안 대규모 언어 모델(LLM)의 급속한 발전으로 다중 에이전트 시스템(MAS)의 기능이 크게 향상되었습니다. 이러한 시스템은 작업을 자동화할 수 있을 뿐만 아니라 인간에 가까운 추론 능력도 발휘할 수 있습니다. 하지만 기존의 MAS 아키텍처는 복잡한 코드 구현으로 인해 재사용성이 크게 제한되는 경우가 많습니다. 이 문제를 해결하기 위해 Nexus가 개발되었습니다.넥서스 는 확장 가능하고 재사용 가능한 LLM 기반 MAS를 구축하기 위해 설계된 경량 Python 프레임워크입니다. 계층화된 아키텍처, 감독된 워크플로 설계를 지원하며 기술적 배경 지식이 없어도 쉽게 사용할 수 있습니다.

멀티 에이전트 시스템(MAS) 개요

다중 에이전트 시스템(MAS)은 분산형 인공 지능(AI)의 기반 시스템입니다. 이를 통해 복잡한 작업을 보다 관리하기 쉬운 구성 요소로 세분화하여 자율 지능(에이전트)이 실행할 수 있습니다. 이러한 지능은 과거 지식, 다른 지능과의 상호 작용, 환경 정보를 사용하여 사람의 개입 없이 의사 결정을 내립니다. 이러한 자율성은 MAS를 기존의 분산형 문제 해결 시스템과 차별화하며 역동적이고 불확실한 환경에서 효과적으로 작동할 수 있는 능력을 향상시킵니다.

MAS에서 지능은 어느 정도의 자율성을 가지며 서로 협력하여 통합된 전체를 형성하여 문제를 해결합니다. MAS 아키텍처의 핵심 구성 요소에는 지능, 환경 및 상호 작용이 포함됩니다. 지능은 역할, 역량 및 지식 모델을 갖춘 핵심 행위자입니다. 환경은 지능이 존재하는 외부 세계이며, 지능은 환경의 정보를 인식하고 그에 따라 행동합니다. 지능 간의 커뮤니케이션을 상호 작용이라고 하며 조정, 협상 또는 시스템 요구 사항에 따라 어떤 형태로든 이루어질 수 있습니다.

MAS 아키텍처는 전통적, ReAct, LLM 기반 등 다양한 형태를 취할 수 있습니다. 전통적인 MAS 아키텍처는 관찰과 행동을 통해 환경과 상호작용하는 인텔리전스로 구성되며, ReAct(추론 및 행동) 유형의 인텔리전스 아키텍처는 고급 추론 기능을 도입합니다. 반면 LLM 기반 아키텍처는 추론과 의사 결정을 위한 인텔리전스로서 LLM을 활용합니다.

MAS 아키텍처

MAS 아키텍처가 직면한 주요 과제는 여러 인텔리전스 간의 조정, 작업 할당, 대규모 시스템의 확장성 등입니다. 이러한 문제를 해결하기 위해 연구자들은 리더 인텔리전스가 글로벌 목표를 정의하고 작업을 위임하는 리더-팔로워(LF) 계층 구조, 중간 계층 인텔리전스 프레임워크가 인텔리전스 간의 서비스 검색 및 조정을 단순화하는 방법 등 다양한 접근 방식을 제안해 왔습니다.

최근 대규모 언어 모델링(LLM) 분야의 발전으로 MAS 아키텍처와 인간에 가까운 추론과 같은 응용 기능이 향상되고 있습니다. LLM을 MAS 아키텍처에 통합하면 중앙 추론 지능으로 작동하여 역동적인 환경에서 적응력, 협업 및 의사 결정을 향상시킬 수 있습니다. 이러한 발전으로 인해 과거에는 MAS 접근법의 범위를 벗어났던 다중 모드 추론, 복잡한 수학적 문제 해결, 자율 주행과 같은 분야에서도 MAS를 쉽게 적용할 수 있게 되었습니다.

LLM 기반 MAS는 두 가지 중요한 원칙, 즉 LLM의 효율성을 극대화하기 위한 작업별 아키텍처와 도메인별 지식을 구현하고 이를 지능에 적용하기 위한 방법론에 의존합니다. 그러나 LLM 기반 MAS에 외부 지식을 통합하면 지식의 제약과 다른 도메인에 대한 제한된 적응성으로 인해 전반적인 복잡성이 증가하고 확장성 문제가 발생할 수 있습니다. 또한, 특히 비전문가가 LLM 기반 MAS를 처음부터 개발 및 배포하는 것은 매우 어렵습니다.

새로운 오픈 소스 Python 프레임워크인 Nexus를 사용하면 로우코드 설계 표준을 사용하여 MAS 아키텍처를 쉽게 설계할 수 있으며, 가볍고 확장 가능하며 LLM 및 애플리케이션 도메인에 구애받지 않아 다양한 작업과 문제에 걸쳐 지능형 자동화가 가능합니다.

넥서스 프레임워크에 대한 심층적인 이해

넥서스 프레임워크는 단일 루트 수퍼바이저 에이전트를 여러 작업 수퍼바이저 및 워커 에이전트와 통합하는 모듈식 설계를 기반으로 합니다. 이러한 구성 요소는 효율적인 작업 위임, 확장성 및 유연성을 위해 계층적 실행 그래프에 따라 설계되었습니다. 루트 수퍼바이저는 사용자와 인텔리전스 간의 커뮤니케이션을 조정하는 역할을 담당하며, 작업 분해, 인텔리전스 선택 및 결과 집계 등의 주요 업무를 수행합니다.

작업 분해는 높은 수준의 단서를 실행 가능한 하위 작업으로 세분화하는 것을 포함합니다. 지능형 기관 선택은 전문성에 따라 가장 적합한 작업 지능에 작업을 위임하는 것을 말합니다. 반면 결과 집계는 위임된 하위 작업의 결과물을 수집하여 최종 응답으로 결합하는 것을 포함합니다. 작업 지능은 상사가 작업을 할당하는 전문화된 문제 해결사입니다. 각 작업 지능은 시스템 메시지, 관련 도구 및 기능, 환경 데이터에 의해 정의된 고유한 전문성으로 구성된 고립된 환경에서 작동합니다. 작업 지능의 기능에는 전문화된 도구(예: 웹 검색) 또는 지식 기반을 사용하여 도메인별 작업을 수행하고, 도구 또는 지식 기반과 상호 작용하여 전환 결과를 반복적으로 개선하며, 할당된 작업이 완료되면 감독자에게 결과물을 반환하는 것이 포함됩니다.

넥서스에는 글로벌 메모리와 외부 도구 세트가 포함되어 있습니다. 메모리는 명령어와 함께 부분적인 결과를 저장하고 모든 지능이 작업 진행 상황을 인지할 수 있도록 하며, Nexus의 메모리는 감독자가 전역 액세스 권한을 갖고 작업 중인 지능은 이벤트 기록으로 제한되며 작업 감독자는 할당된 지능과 관련된 모든 메모리 위치에 액세스할 수 있는 공유 저장소입니다. 반면에 외부 도구를 사용하면 웹 검색이나 외부 리소스(클라우드 스토리지 버킷 등)에 대한 액세스와 같은 전용 방식으로 특정 작업을 수행할 수 있습니다.

넥서스 아키텍처

넥서스는 작업 분해 및 실행을 위한 반복 프로세스를 도입하여 세 가지 주요 상호 작용 루프로 나눕니다:

사용자-감독자 상호 작용이 루프에서 사용자는 감독자에게 높은 수준의 프롬프트를 제공합니다. 슈퍼바이저는 작업 실행 계획을 설명하고 개략적으로 설명하며 계속해서 사용자의 목표에 맞게 계획을 조정합니다. 이 교환은 반복적이며 슈퍼바이저가 다른 지능에게 하위 작업을 위임하거나 솔루션을 완성할 준비가 될 때까지 계속됩니다.
감독자 - 지능형 신체 조정이 루프에서 관리자는 전문성 정도에 따라 업무 지능에 하위 작업을 할당합니다. 그러면 작업 지능은 사용 가능한 도구를 사용하여 중간 결과를 생성합니다.
인텔리전트 바디 내부 작동마지막 루프는 각 작업 지능의 내부 환경 내에서 작동합니다. 작업 지능은 외부 도구와 리소스의 반복적인 사용을 기반으로 중간 결과를 개선합니다. 솔루션이 얻어지면 최종 합성을 위해 슈퍼바이저에게 다시 전달됩니다.

이러한 루프를 통해 Nexus는 인텔리전스와 운영 환경 간의 다양한 상호 작용 패턴을 지원할 수 있습니다. 작업 복잡성이 증가함에 따라 프레임워크에 새로운 인텔리전스를 통합할 수 있고, 작업 인텔리전스가 독립적으로 작동할 수 있으며, 반복 피드백 루프가 있는 계층적 위임을 통해 작업을 쉽게 재할당하거나 개선할 수 있으므로 인텔리전스 실패의 영향을 줄일 수 있는 확장 가능한 모듈식 강력함도 갖췄습니다.

넥서스 성능 평가 및 분석

넥서스의 성능 평가는 합격률, 즉 벤치마크 테스트의 총 샘플 수 대비 모든 검사를 통과한 샘플 수의 비율을 기준으로 합니다. 코딩 작업에서는 프로그래밍 관련 작업 해결의 효율성을 기준으로 Nexus 프레임워크의 효율성을 평가했습니다. 평가에는 HumanEval 및 VerilogEval-Human 벤치마크가 사용되었습니다.

HumanEval 벤치마크는 Python 코드 생성에 초점을 맞춘 164개의 문제 모음을 기반으로 하며, VerilogEval-Human은 Verilog 코드 생성 및 검증과 관련된 156개의 문제를 포함하고 있습니다. 아래 그림은 코드 관련 작업을 해결하기 위한 Nexus 기반 MAS 아키텍처를 보여줍니다.

코드 관련 작업을 위한 넥서스 기반 MAS 아키텍처

아래 표는 절제 연구의 합격률을 기준으로 제안된 워크플로우의 효과를 보여줍니다.

결과 - 1

다음 표는 제안된 넥서스 기반 워크플로우의 성능을 기존의 관련 솔루션과 비교한 것입니다.

결과 - 2

수학 문제 해결에 있어 Nexus의 효과는 MATH 데이터 세트를 통해 입증되었습니다. 감독자, 수학자 인텔리전스 및 검토자 인텔리전스가 사용된 워크플로우가 사용되었습니다. 이들은 모두 Claude 3.5v2 LLM이 지원됩니다.

수학 문제를 위한 넥서스 기반 MAS 아키텍처

MATH 데이터 세트에 대한 제거 연구 결과

넥서스 실습: 코드 검토 및 리팩토링

다음으로, 실제 사례를 사용하여 코드 검토 및 리팩터링을 위해 Nexus로 MAS 아키텍처를 구축하는 방법을 보여드립니다.

1단계: 필요한 라이브러리 설치

!git clone https://github.com/PrimisAI/nexus.git
%cd nexus
!pip install -e .

2단계: 라이브러리 가져오기 및 LLM 구성 설정하기

from primisai.nexus.core import Agent, Supervisor
from google.colab import userdata
import os
os.environ["OPENAI_API_KEY"] = userdata.get("OPENAI_API_KEY")
llm_config = {
"api_key": os.getenv("OPENAI_API_KEY"),
"model": "gpt-4o",
"base_url": "https://api.openai.com/v1"
}

3단계: 슈퍼바이저, 코드 리뷰어, 코드 리팩터 등 세 가지 인텔리전스를 생성합니다.

# 创建主管智能体
coordinator = Supervisor("ProgrammingCoordinator", llm_config)
# 创建代码审查智能体，并设置其系统消息
code_reviewer = Agent(
"CodeReviewer",
llm_config,
system_message="你是一位专注于代码分析的编码专家。你的任务是审查代码，识别错误并提出改进建议。"
)
# 创建代码重构智能体，并设置其系统消息
code_refactor = Agent(
"CodeRefactor",
llm_config,
system_message="你是一位专注于代码重构的编码专家。你的目标是提高代码的可读性和效率。"
)

4단계: 코디네이터에게 인텔리전스 등록하기

coordinator.register_agent(code_reviewer)
coordinator.register_agent(code_refactor)

5단계: 지식인 계층 구조 표시하기

coordinator.display_agent_graph()

6단계: 대화형 세션을 시작하고 검토 및 리팩터링을 위한 샘플 Python 코드를 제공합니다.

coordinator.start_interactive_session()

수출

결과물에서 볼 수 있듯이 Nexus는 제공된 Python 코드를 MAS 아키텍처를 기반으로 검토하고 리팩터링하여 적절한 문서가 포함된 보다 강력하고 효율적이며 사용하기 쉬운 버전을 만들 수 있었습니다.

요약 및 전망

경량 Python 프레임워크인 Nexus는 LLM 기반 다중 지능 시스템의 개발과 관리를 크게 간소화합니다. 계층화된 접근 방식을 통한 모듈식 설계와 YAML 기반 아키텍처 및 워크플로 정의를 통해 원활한 통합, 확장성 및 유연성을 제공하며, Nexus는 MAS 개발의 중요한 진전을 의미하며 LLM 기반 문제 해결 능력을 더욱 향상시킬 것을 약속합니다.

앞으로 LLM 기술이 계속 발전함에 따라 넥서스는 다음과 같은 분야에서 더 큰 역할을 할 것으로 기대됩니다:

더 복잡한 작업 처리향상된 LLM 추론 기능을 통해 Nexus는 도메인 간 지식 통합, 장기 계획 등과 같이 더 복잡하고 까다로운 작업을 처리할 수 있습니다.
다양한 애플리케이션 시나리오스마트 제조, 스마트 시티, 핀테크 등 다양한 애플리케이션에서 사용할 수 있는 유연성과 확장성을 갖춘 Nexus를 소개합니다.
더욱 강력한 커뮤니티 지원넥서스가 오픈 소스로 공개되고 홍보됨에 따라 더 많은 개발자가 넥서스의 개발과 개선에 참여하게 될 것이며, 이들은 함께 MAS 기술의 경계를 넓혀갈 것입니다.

전반적으로 넥서스는 다중 지능형 신체 시스템을 구축하고 관리할 수 있는 강력하고 유연한 플랫폼을 제공하며, 넥서스의 등장은 AI 분야의 발전을 가속화하고 현실 세계의 복잡한 문제를 해결하기 위한 새로운 아이디어와 방법을 제공할 것입니다.

참조:https://arxiv.org/pdf/2502.19091