Claude innova la función de caché de texto largo de la API para mejorar drásticamente la eficacia del procesamiento y reducir costes

Claude anunció recientemente una nueva y revolucionaria función de la API, la caché de texto largo, una medida diseñada para ofrecer a los usuarios una experiencia de servicio más eficiente y menos costosa.

La principal ventaja de esta innovadora función es que permite al modelo de Claude "recordar" largos fragmentos de datos introducidos por el usuario, como libros enteros, bases de código completas o documentos de gran tamaño. Al almacenar en caché esta información, el usuario no tiene que repetirla en interacciones posteriores, lo que reduce significativamente el tiempo y los costes de procesamiento de datos.

Según los datos oficiales facilitados por Claude, tras activar la función de almacenamiento en caché de texto largo, la velocidad de procesamiento puede aumentar hasta 85%, mientras que el coste puede reducirse hasta 90%. Esto significa que, ya sea para diálogos en profundidad, desarrollo de código o análisis de documentos, el usuario podrá experimentar una rapidez de respuesta sin precedentes.

Esta función tiene una amplia gama de escenarios de aplicación y es especialmente adecuada para las siguientes áreas:

• Agente de diálogo: experiencia de diálogo más fluida y menos costosa mediante el almacenamiento en caché de comandos o documentos largos.
• Asistente de codificación: almacena en caché la base de código para mejorar la eficacia de la finalización de código y la respuesta a preguntas.
• Procesamiento de documentos de gran tamaño: incruste y recupere rápidamente materiales de gran tamaño sin preocuparse por los retrasos en la respuesta.

Esta función es compatible actualmente con los modelos Claude 3.5 Sonnet y Claude 3 Haiku, y el equipo de Claude tiene previsto ampliarla a más modelos en un futuro próximo.

Los usuarios que deseen experimentar esta función deben seguir los pasos que se indican a continuación:

1. Asegúrese de que tiene acceso a la API de Claude.
2. Seleccione un modelo que admita la función de almacenamiento en caché de texto largo.
3. Habilitar el almacenamiento en caché en la solicitud de API, definiendo qué almacenar en caché.
4. Envíe una solicitud y comience a utilizar el contenido almacenado en caché para simplificar las operaciones posteriores.

Esta innovadora iniciativa de Claude supondrá sin duda un enorme cambio en el campo del tratamiento de textos largos, ya que ayudará a los usuarios a optimizar tanto la eficacia como el coste del tratamiento de la información. Los desarrolladores pueden esperar que esta nueva función revolucione su flujo de trabajo.