Microsoft lanza una herramienta de corrección: ¿puede acabar con la crisis de confianza provocada por las alucinaciones de la IA?

Microsoft acaba de lanzar una herramienta de IA llamada "Corrección", que pretende resolver el viejo problema de la "ilusión de IA" en los modelos generativos de IA.La ilusión de IA se refiere al problema de los errores, inexactitudes o información ficticia en los contenidos generados por IA. Esto no sólo hace que los usuarios cuestionen la credibilidad de la IA, sino que también limita su aplicación en campos que requieren un alto grado de precisión. La herramienta de corrección de Microsoft, integrada en la API de seguridad de contenidos de IA de Microsoft Azure, pretende ayudar a los usuarios a reducir el impacto negativo de estos problemas.

¿Cómo funciona la herramienta de corrección?

La herramienta de corrección emplea dos modelos que trabajan en tándem: por un lado, el modelo clasificador se utiliza para marcar los contenidos generados que pueden ser incorrectos, ficticios o irrelevantes, mientras que, por otro, el modelo lingüístico se encarga de comparar y corregir estos errores con "hechos" certificados. Este enfoque de validación cruzada puede mejorar eficazmente la precisión y fiabilidad de los contenidos generados por IA. Según Microsoft, Correction no sólo es compatible con sus propios modelos generativos, sino que también puede utilizarse con modelos generativos de uso generalizado, como Llama de Meta y GPT-4 de OpenAI.

El enigma de la ilusión de la IA sigue ahí

Aunque el lanzamiento de la herramienta Corrección ofrece una cierta solución al problema de las alucinaciones de la IA, los expertos siguen teniendo reservas al respecto. Os Keyes, investigador de la Universidad de Washington, señaló que intentar eliminar las alucinaciones de la IA es tan difícil como intentar eliminar el hidrógeno del agua, ya que el problema de las alucinaciones forma parte del mecanismo de funcionamiento generativo de la IA. Mientras tanto, otros expertos han advertido de que incluso si la Corrección es eficaz para reducir el problema de las alucinaciones, podría desencadenar una falsa sensación de seguridad de que los usuarios dependen excesivamente de la IA.

Además, el lanzamiento de la herramienta de corrección refleja la gran preocupación que existe en el sector de la IA generativa por la seguridad y la precisión de los contenidos. Especialmente en ámbitos como la sanidad y la abogacía, donde se requiere precisión, el problema de las alucinaciones de la IA puede tener graves consecuencias. Correction puede ayudar a los desarrolladores a utilizar la tecnología de IA de forma más eficaz en estas áreas críticas, reduciendo la insatisfacción de los usuarios y los posibles riesgos para su reputación, ha afirmado Microsoft.

La confianza y el futuro de la IA

La herramienta de corrección de Microsoft es sólo un paso para abordar el problema de las alucinaciones de la IA. Aunque puede que no resuelva por completo este complejo reto técnico, es un avance importante para impulsar la credibilidad de la IA generativa. En el futuro, a medida que la tecnología siga mejorando y se introduzcan otras medidas de seguridad, la IA podrá ganarse gradualmente la confianza de más usuarios. Sin embargo, los expertos del sector también advierten de que los usuarios deben seguir siendo cautos cuando confíen en contenidos generados por IA y asegurarse de que la información se verifica como es debido.