Microsoft, 수정 도구 출시: AI 환각으로 인한 신뢰의 위기를 끝낼 수 있을까요?

마이크로소프트는 최근 생성형 AI 모델의 고질적인 문제인 'AI 환상'을 해결하기 위해 '코렉션'이라는 AI 도구를 출시했습니다.AI 환상은 AI가 생성한 콘텐츠에 오류, 부정확성 또는 허위의 정보가 포함되는 문제를 말합니다. 이는 사용자가 AI의 신뢰성에 의문을 품게 할 뿐만 아니라 고도의 정확성이 요구되는 분야에서 AI를 적용하는 데 제한이 됩니다. Microsoft의 수정 도구는 Microsoft Azure AI 콘텐츠 보안 API에 통합되어 사용자가 이러한 문제로 인한 부정적인 영향을 줄이는 데 도움을 주는 것을 목표로 합니다.

수정 도구는 어떻게 작동하나요?

수정 도구는 두 가지 모델을 함께 사용합니다. 한편으로는 분류기 모델이 부정확하거나 허구이거나 관련성이 없는 생성된 콘텐츠에 플래그를 지정하는 데 사용되고, 다른 한편으로는 언어 모델이 이러한 오류를 인증된 '사실'과 비교하고 수정하는 역할을 담당합니다. 이러한 교차 검증 접근 방식은 AI가 생성한 콘텐츠의 정확성과 신뢰성을 효과적으로 개선할 수 있습니다. Microsoft에 따르면 Correction은 자체 생성 모델을 지원할 뿐만 아니라 Meta의 Llama 및 OpenAI의 GPT-4와 같은 주요 생성 모델과 함께 사용할 수도 있습니다.

여전히 남아있는 AI 착각의 수수께끼

보정 도구의 출시는 AI 환각 문제에 대한 특정 솔루션을 제공하지만 전문가들은 여전히 이에 대해 의구심을 가지고 있습니다. 워싱턴 대학의 연구원 오스 키스는 환각 문제는 생성적인 AI 작동 메커니즘의 일부이기 때문에 AI 환각을 제거하려는 시도는 물에서 수소를 제거하는 것만큼이나 어렵다고 지적했습니다. 한편, 다른 전문가들은 코렉션이 환각 문제를 줄이는 데 효과적이더라도 사용자가 AI에 지나치게 의존하는 잘못된 보안 의식을 유발할 수 있다고 경고했습니다.

또한, 보정 도구의 출시는 콘텐츠 보안과 정확성에 대한 생성 AI 업계의 높은 관심을 반영합니다. 특히 의료 및 법률과 같이 정확성이 요구되는 분야에서는 AI 환각 문제가 심각한 결과를 초래할 수 있습니다. 수정은 개발자가 이러한 중요한 영역에서 AI 기술을 보다 효과적으로 사용하여 사용자 불만과 잠재적인 평판 위험을 줄이는 데 도움이 될 수 있다고 Microsoft는 말합니다.

신뢰와 AI의 미래

Microsoft의 보정 도구는 AI 환각 문제를 해결하기 위한 한 단계에 불과합니다. 이 복잡한 기술적 과제를 완전히 해결할 수는 없지만, 생성 AI의 신뢰성을 높이는 데 있어 중요한 발전입니다. 앞으로 기술이 계속 발전하고 다른 보안 조치가 도입되면 AI는 점차 더 많은 사용자의 신뢰를 얻을 수 있을 것입니다. 그러나 업계 전문가들은 사용자가 AI가 생성한 콘텐츠에 의존할 때는 여전히 주의를 기울여야 하며, 필요에 따라 정보를 검증할 필요가 있다고 경고합니다.