Microsoft запускает инструмент коррекции: сможет ли он положить конец кризису доверия, вызванному галлюцинациями ИИ?

Компания Microsoft недавно запустила инструмент ИИ под названием "Коррекция", который призван решить давнюю проблему "иллюзии ИИ" в генеративных моделях ИИ. Иллюзия ИИ - это проблема ошибок, неточностей или вымышленной информации в контенте, создаваемом ИИ. Это не только заставляет пользователей сомневаться в достоверности ИИ, но и ограничивает применение ИИ в областях, где требуется высокая степень точности. Инструмент Microsoft "Коррекция", интегрированный в Microsoft Azure AI Content Security API, призван помочь пользователям снизить негативное влияние подобных проблем.

Как работает инструмент "Коррекция"?

Инструмент "Коррекция" использует две модели, работающие в тандеме: с одной стороны, модель классификатора используется для отметки сгенерированного контента, который может быть неправильным, вымышленным или неактуальным, а с другой стороны, языковая модель отвечает за сравнение и исправление этих ошибок с подтвержденными "фактами". Такой подход к перекрестной проверке позволяет эффективно повысить точность и надежность генерируемого ИИ контента. По словам Microsoft, Correction поддерживает не только собственные генеративные модели, но и может использоваться с основными генеративными моделями, такими как Meta's Llama и OpenAI's GPT-4.

Иллюзия ИИ остается загадкой

Хотя запуск инструмента "Коррекция" предлагает определенное решение проблемы галлюцинаций ИИ, эксперты все еще высказывают сомнения по этому поводу. Ос Киз, исследователь из Университета Вашингтона, отметил, что устранить галлюцинации ИИ так же сложно, как удалить водород из воды, поскольку проблема галлюцинаций является частью механизма работы генеративного ИИ. Между тем, другие эксперты предупреждают, что даже если "Коррекция" будет эффективна в снижении проблемы галлюцинаций, это может вызвать ложное чувство безопасности, что пользователи слишком полагаются на ИИ.

Кроме того, запуск инструмента "Коррекция" отражает высокую степень обеспокоенности индустрии генеративного ИИ вопросами безопасности и точности контента. Особенно в таких областях, как здравоохранение и юриспруденция, где требуется точность, проблема галлюцинаций ИИ может иметь серьезные последствия. Correction поможет разработчикам более эффективно использовать технологии ИИ в этих критически важных областях, снижая недовольство пользователей и потенциальные репутационные риски, заявили в Microsoft.

Доверие и будущее искусственного интеллекта

Инструмент "Коррекция" от Microsoft - это лишь один шаг в решении проблемы галлюцинаций ИИ. Хотя он не может полностью решить эту сложную техническую проблему, это важное событие в повышении доверия к генеративному ИИ. В будущем, по мере совершенствования технологии и введения других мер безопасности, ИИ сможет постепенно завоевать доверие все большего числа пользователей. Однако эксперты отрасли также предупреждают, что пользователям по-прежнему необходимо сохранять осторожность, полагаясь на контент, созданный ИИ, и убеждаться в том, что информация проверяется по мере необходимости.