컨텍스트: 다양한 데이터 소스의 원활한 통합, 다양한 작업 시나리오 콘텐츠를 완성하기 위한 다중 역할 에이전트 자동화

일반 소개

컨텍스트 오토파일럿은 심층적인 통합과 자동화된 오피스를 통해 팀 생산성을 향상시키기 위해 설계된 Context의 지능형 AI 생산성 도구입니다. 이 도구는 세계 최초의 컨텍스트 엔진인 Context-1을 활용하여 사용자의 데이터에서 심층 인용과 새로운 인사이트를 도출하여 정확한 답변을 제공할 수 있으며, 100개 이상의 통합을 지원하는 Context Autopilot은 사용자를 다양한 데이터 소스에 원활하게 연결하여 전문적인 문서, 프레젠테이션 및 데이터 시각화를 빠르게 생성하고 편집할 수 있도록 도와줍니다.

컨텍스트는 다양한 업무에 따라 사람처럼 생각하며 비즈니스 컨설팅, 재무 분석, 데이터 시각화, 기업 보고서 작성, 프로젝트 프레젠테이션, 데이터 분석 등과 같은 전문적인 업무 시나리오를 자동으로 생성하는 데 적합합니다.

기능 목록

• 심층적인 인용문과 새로운 인사이트Context-1 엔진을 활용하여 사용자 데이터에서 심층적인 인용문과 새로운 인사이트를 추출합니다.
• 데이터 통합100개 이상의 데이터 통합을 지원하며 사용자를 다양한 데이터 소스에 원활하게 연결할 수 있습니다.
• 문서 생성 및 편집계약서, 보고서 등 전문 문서를 빠르게 생성하고 편집할 수 있습니다.
• 프레젠테이션 생성 및 편집고객 프레젠테이션부터 내부 검토까지 전문적인 프레젠테이션을 빠르게 생성하고 편집할 수 있습니다.
• 데이터 시각화파이썬을 사용하여 데이터 시각화를 만들고 대규모 데이터 집합을 분석합니다.
• 자연어 명령복잡한 재무 모델을 구축 및 수정하고 자연어 명령을 통해 데이터 추세를 분석할 수 있습니다.

도움말 사용

설치 프로세스

1. 계정 등록하기페이지 오른쪽 상단의 '등록하기' 버튼을 클릭하고 관련 정보를 입력하여 등록을 완료합니다.
2. 소프트웨어 다운로드등록이 완료되면 계정에 로그인하여 컨텍스트 자동 조종 장치 설치 패키지를 다운로드합니다.
3. 소프트웨어 설치하기다운로드한 설치 패키지를 실행하고 지시에 따라 설치를 완료합니다.

사용 프로세스

1. 계정에 로그인컨텍스트 자동 조종 소프트웨어를 열고 등록한 계정 정보를 입력하여 로그인합니다.
2. 데이터 통합메인 인터페이스에서 '데이터 통합' 옵션을 선택하고 메시지에 따라 통합이 필요한 데이터 소스에 연결합니다.
3. 문서 생성'문서 생성' 기능을 선택하고 관련 정보를 입력하면 소프트웨어가 자동으로 전문 문서를 생성합니다.
4. 문서 편집생성된 문서를 기반으로 내장된 편집 도구를 사용하여 수정 및 개선할 수 있습니다.
5. 프레젠테이션 만들기'프레젠테이션 생성' 기능을 선택하고 관련 정보를 입력하면 소프트웨어가 자동으로 전문적인 프레젠테이션을 생성합니다.
6. 데이터 시각화데이터 시각화 기능을 선택하면 Python 코드를 사용하여 데이터 시각화를 만들어 데이터 추세를 분석할 수 있습니다.
7. 자연어 명령 사용'자연어 명령' 인터페이스에서 자연어 명령을 입력하면 소프트웨어가 자동으로 재무 모델 구축 및 데이터 추세 분석과 같은 해당 작업을 수행합니다.

기능 작동 흐름

1. 심층적인 인용문과 새로운 인사이트메인 인터페이스에서 '심층 견적' 기능을 선택하고 분석할 데이터를 입력하면 소프트웨어가 자동으로 심층 견적과 새로운 인사이트를 추출합니다.
2. 데이터 통합'데이터 통합' 인터페이스에서 통합할 데이터 소스를 선택하고 지시에 따라 연결을 완료합니다.
3. 문서 생성 및 편집'문서 생성' 인터페이스에서 관련 정보를 입력하면 소프트웨어가 자동으로 문서를 생성합니다. 생성 후에는 내장된 편집 도구를 사용하여 수정하고 개선할 수 있습니다.
4. 프레젠테이션 생성 및 편집'프레젠테이션 생성' 화면에서 관련 정보를 입력하면 소프트웨어가 자동으로 프레젠테이션을 생성합니다. 프레젠테이션이 생성되면 내장된 편집 도구를 사용하여 수정하고 개선할 수 있습니다.
5. 데이터 시각화'데이터 시각화' 화면에서 Python 코드를 입력하면 소프트웨어가 자동으로 데이터 시각화 차트를 생성합니다.
6. 자연어 명령'자연어 명령' 인터페이스에서 자연어 명령을 입력하면 소프트웨어가 자동으로 재무 모델 구축 및 데이터 추세 분석과 같은 해당 작업을 수행합니다.

컨텍스트 자동 조종 기능 소개

존재컨텍스트다음과 같이 소개합니다.자동 조종 장치 - 사용자처럼 학습하고, 사용자처럼 생각하고, 사용자처럼 도구를 사용하는 AI 생산성 제품군으로, 세계 최초컨텍스트 엔진기존 워크플로와 원활하게 통합되도록 설계된 지원을 제공하며 오늘날의 대부분의 정보 작업을 처리할 수 있습니다.

인공 지능을 재고하기 위한 도구

대규모 언어 모델(LLM)이 점점 더 스마트해짐에 따라 우리가 사용하는 도구도 함께 발전해야 합니다. 소프트웨어는 전통적으로 1970년대부터 이어져 온 인간의 입력을 위해 구축되어 왔습니다. 이러한 패러다임은 변화하고 있으며, 미래에는 생성성이 중심이 될 것입니다. 현재의 솔루션은 점진적이거나 해석이 불가능하거나 워크플로우 변경이 필요한 경우가 많아 도입과 유용성에 한계가 있습니다.

LLM 기반 운영 체제

오토파일럿은 모델이 주요 조정자이자 추론자가 되어 컨텍스트 엔진과 함께 작동하는 LLM 기반 운영 체제를 제공함으로써 이러한 문제를 해결합니다. 전용 도구와 부족한 컨텍스트 컨텍스트를 제공하여 모델을 묶어두지 않고 조직을 분석하고 인간처럼 사고할 수 있도록 합니다.

자동 조종 장치에는 Drive, Sharepoint와 같은 서비스, Slack, 이메일과 같은 커뮤니케이션 채널, 고객 문서, 개인 메모, 외부 데이터베이스에 직접 연결되는 자체 작업 공간이 있습니다.

기존 워크플로와 원활하게 통합

자동 조종 기능은 사용자가 사용하는 것과 동일한 도구를 사용하여 프로젝트를 빌드합니다. 전체 오피스 제품군, 브라우저 및 코드 편집기에 액세스할 수 있으며, 오토파일럿 애플리케이션은 독립적으로 설계되어 직접 상태 작업과 복잡한 다단계 워크플로우를 모두 지원합니다.

이는 인간이 의미 있는 이해와 상호 작용을 위해 필요한 지식을 AI에 제공합니다. 오토파일럿은 사용자와 적극적으로 소통하여 선호도와 정보를 묻고, 피드백을 받고, 작업을 동시에 수행하면서 사용자가 가장 중요한 일에 집중할 수 있도록 해줍니다.

진행 상황을 실시간으로 보고하여 인간과 기계의 지속적인 협업을 가능하게 합니다. 복잡한 과제에 직면하면 오토파일럿은 스스로 복제하여 공동의 목표에 집중하는 협업 에이전트 그룹을 구성할 수 있습니다. 이를 통해 잘 조율된 팀처럼 작업을 위임하고 효율적으로 실행할 수 있습니다.

메모리 스택: 컨텍스트 엔진 강화

이 모든 것은 오토파일럿의 메모리 스택에 의해 수행됩니다.를 구현하면 공유 작업 공간을 넘어 파일 시스템과 입력 간의 일관성을 보장합니다. 컨텍스트 엔진은 지속적인 반영과 출력 반복을 지원합니다.

컨텍스트 엔진: 새로운 패러다임

컨텍스트 엔진을 통해 모델은 방대한 양의 지식을 추론하고 이를 실제로 이해할 수 있습니다. 이것이 바로 오토파일럿이 수백 단계가 필요한 작업을 계획하고 추론하며 수행할 수 있는 이유입니다.

검색 강화 세대(RAG)은 검색 아키텍처에 의해 근본적으로 제한되며 의미적으로 유사한 소량의 데이터로만 확장할 수 있습니다. 반면에 오토파일럿의 컨텍스트 엔진은 수많은 에이전트가 지식창고를 지속적으로 탐색하여 새로운 경로를 추적하고, 연관성을 발견하고, 인사이트를 발견할 수 있게 해줍니다. 수천 개의 상호 작용을 추출함으로써 긴 컨텍스트 모델과 관련된 성능 저하 없이 대규모 컨텍스트에 걸쳐 최첨단 인텔리전스를 제공할 수 있습니다.

컨텍스트는 동적이며 시간이 지남에 따라 학습하고 오류를 수정합니다. 오토파일럿은 들어오는 정보를 지속적으로 모니터링하고 외부 데이터 소스를 쿼리하여 자율적으로 스스로를 개선합니다. 이를 통해 심층적인 업무 이해와 기술 습득이 가능하며, 오토파일럿은 다른 직원과 마찬가지로 사용자가 선택한 지침에 따라 교육을 받을 수 있습니다.

기술 평가: 컨텍스트 엔진 벤치마킹하기

컨텍스트 엔진의 효율성을 평가하기 위해 두 가지 포괄적인 벤치마크를 사용하여 다른 프론티어 모델 및 RAG 구현과 비교했습니다:

• 헬멧::긴 문맥 언어 모델을 효과적이고 철저하게 평가하는 방법(Yen et al., 2024)
• LOFT::긴 컨텍스트 프론티어 벤치마킹.에 소개된"긴 컨텍스트 언어 모델에 검색, RAG, SQL 등이 포함될 수 있나요?".(Lee et al., 2024)

기존 벤치마크의 한계

널리 사용되는 "건초 더미에서 바늘 찾기" 테스트는 긴 컨텍스트 창 내에서 특정 정보를 찾는 모델의 능력을 평가합니다. 그러나 거의 모든 모델이 포화 상태이며 실제 성능과 거의 상관관계가 없습니다. HELMET은 기존의 긴 컨텍스트 벤치마크를 크게 개선하고 RULER와 같은 다른 인기 벤치마크의 단점을 해결합니다.

헬멧 벤치마크 결과

그림 1128k 유닛에서 최첨단 LCLM(Llama-3.1 8B/70B, GPT-4omini, GPT-4o-08-06 및 Gemini-1.5 플래시/프로)의 데모. 토큰 입력 길이에 따른 긴 컨텍스트 벤치마킹 결과. 예상치 못한 추세가 나타났습니다. Llama 8B가 RULER에서 Llama 70B를 능가하는 반면에 쌍둥이자리 1.5 플래시는 Gemini 1.5 Pro보다 성능이 뛰어납니다. 마찬가지로, InfiniteBench에서는 Llama 8B가 Llama 70B보다 성능이 뛰어나고, Needle in a Haystack에서는 Gemini 1.5 Flash가 Gemini 1.5 Pro보다 성능이 뛰어납니다. 반면, HELMET은 이러한 프론티어 모델의 순위를 더 일관되게 매겼습니다.

그림 2긴 컨텍스트 벤치마크인 제로스크롤, 롱벤치, L-Eval, 룰러, ∞벤치, 헬멧을 비교합니다. 헬멧에는 7가지 작업 카테고리가 있으며, 이들 간의 상관관계는 낮습니다. 128k 토큰보다 큰 컨텍스트 창 크기의 평가를 지원하지만, 현재 공식 리포지토리에서는 최대 128k 토큰 크기의 평가를 지원합니다. 그렇기 때문에 더 큰 컨텍스트 크기(특히 100만 토큰)에 대한 성능을 평가할 때 LOFT를 사용합니다.

평가 방법론

다음 매개변수를 사용하여 이를 평가했습니다:

• 헬멧전체 벤치마크의 무작위 15% 하위 집합에서 실행합니다.
  • 작업 유형 및 지표::
    • RAG: 일치하는 문자열
    • 단락 재정렬: NDCG@10(정규화된 할인 누적 이익)
    • 인용이 있는 세대: 회상/인용
    • 긴 문서 QA모델 기반/루즈 F1/정확도
    • 초록모델 기반
    • 다중 샘플 상황별 학습: 정확도
    • 포괄적 리콜: 일치하는 문자열
• LOFT: 세 가지 작업의 무작위 30% 하위 집합에서 실행합니다.
  • 작업 유형 및 지표::
    • RAG하위 스팬 정확히 일치
    • 텍스트 검색: Recall@1
    • SQL: 정확도

멀티 카메라 컨텍스트 학습 작업은 공식 저장소에 100만 개의 토큰 컨텍스트 크기를 테스트할 수 있는 데이터 세트가 없기 때문에 생략했습니다. 또한 오디오 검색 및 시각 검색 작업도 건너뛰었습니다. 이 평가에 사용된 모든 모델은 작성 시점에 사용 가능한 최신 버전입니다.

벤치마킹 결과

평가 결과, 오토파일럿의 컨텍스트 엔진은 HELMET과 같은 벤치마크에서 선두를 달리고 프론티어 모델을 사용하는 GraphRAG보다 성능이 뛰어난 것으로 나타났습니다. 오토파일럿은 전체 지식을 추론하고 진정으로 이해함으로써 기존 RAG 아키텍처의 한계를 뛰어넘습니다.