¡¡¡GRATIS!!! Github une fuerzas con Azure para hacer gratuitas para los desarrolladores las principales llamadas a la API de modelos de código abierto de código cerrado, incluida o1

El denso código de la pantalla se entremezclaba con información de configuración de varios modelos de API, y el café de la mesa hacía tiempo que se había enfriado.

Esta es una imagen real de lo que muchos desarrolladores experimentan cuando intentan crear aplicaciones de IA: configuración engorrosa del entorno, API costosas y soporte de documentación insuficiente ......

"Qué genial sería tener una plataforma unificada que facilite a todos los desarrolladores el uso de diversos modelos de IA".

Este deseo, hoy, por fin se ha hecho realidad.

GitHub ha lanzado oficialmente el servicio GitHub Models, llevando una revolución en el desarrollo de IA a más de 100 millones de desarrolladores en todo el mundo.

Analicemos este nuevo producto que cambia las reglas del juego.

Una revolución silenciosa del desarrollo

El papel del desarrollador está cambiando profundamente en el mundo en rápida evolución de la IA.GitHub ha anunciado oficialmente el plan gratuito GitHub Copilot, que ya está disponible para todos los usuarios.

El paso del tradicional "programador" al "ingeniero de IA" no es sólo un cambio de título, sino una revolución en todo el paradigma del desarrollo de software.

La aparición de GitHub Models refleja este punto de inflexión histórico.

¿Por qué modelos GitHub?

Ya no es necesario cuando necesite utilizar modelos de IA en sus proyectos:

• Cambiar de plataforma para encontrar el modelo adecuado
• Configurar diferentes entornos y dependencias para cada modelo
• Preocupación por los elevados costes de las llamadas a la API
• Enredarse en complejos procesos de implantación

Todos estos problemas se resuelven elegantemente en GitHub Models.

Potentes modelos a su alcance

La gama de modelos es de lujo

GitHub Models ofrece una impresionante biblioteca de modelos:

• Llama 3.1: el último gran modelo de código abierto de Meta destaca en varios benchmarks
• GPT-4o: uno de los modelos comerciales más potentes de OpenAI con soporte de entrada multimodal
• GPT-4o mini: una versión más ligera para aplicaciones que requieren un tiempo de respuesta rápido
• Phi 3: el eficiente modelo de Microsoft que rinde sorprendentemente bien en tareas específicas
• Mistral Grande 2: Conocido por su baja latencia, adecuado para el desarrollo de aplicaciones en tiempo real.

Cada modelo tiene sus propias ventajas, y los promotores pueden elegir el que mejor se adapte a sus necesidades específicas.

Sorprendentemente fácil de usar

Imdoaa, miembro de nuestro grupo y director técnico de una empresa emergente, compartió su experiencia con los modelos de GitHub:

"Antes, teníamos especiales quebraderos de cabeza a la hora de seleccionar y probar modelos de IA. O bien teníamos que pagar tarifas elevadas o dedicar mucho tiempo a desplegar modelos de código abierto. Con GitHub Models, ya no existe ninguno de estos problemas. Podemos comparar rápidamente los resultados de diferentes modelos en el patio de recreo y encontrar el que mejor se adapte a nuestras necesidades. Lo mejor es que todo el proceso, desde la experimentación hasta el despliegue, se realiza dentro del ecosistema de GitHub y la experiencia es increíblemente fluida."

Conocimiento profundo de los tres puntos fuertes fundamentales

1. Un entorno de juego revolucionario

Playground es más que un simple entorno de pruebas de modelos, es un completo laboratorio de IA:

• Ajuste de parámetros en tiempo real::
  • Control de la temperatura
  • Ajuste del número máximo de fichas
  • Ajuste del muestreo Top-p
  • Optimización de los avisos del sistema

• Comparación multimodelo::
  Se pueden abrir varios modelos al mismo tiempo para realizar pruebas comparativas y visualizar la diferencia de rendimiento de distintos modelos con la misma entrada.
• Historia Ahorro::
  Todos los procedimientos experimentales se registran para su posterior revisión y optimización.

2. Integración perfecta de Codespaces

La integración de Codespaces facilita enormemente el proceso de desarrollo:

• Entorno preconfigurado::
  Todas las dependencias y configuraciones necesarias están listas de fábrica.
• Soporte multilingüe::
  Ofrece ejemplos de código y SDK para Python, JavaScript, Java y otros lenguajes convencionales.

• control de versiones::
  La integración directa con los repositorios de GitHub facilita la gestión de los cambios en el código.

3. Garantía de implantación a nivel de empresa

Gracias a la compatibilidad con Azure AI, las implantaciones a nivel empresarial resultan sencillas y fiables:

• Despliegue mundial::
  Más de 25 regiones Azure entre las que elegir, lo que garantiza un acceso rápido a usuarios de todo el mundo.
• Cumplimiento de las normas de seguridad::
  Cumple las normas de seguridad de nivel empresarial y admite el cifrado de datos y el control de acceso.
• escalabilidad::
  Escala automáticamente los recursos en función de la demanda para garantizar la estabilidad del servicio.

Análisis en profundidad del uso de las cuotas

El diseño de las cuotas de uso para las distintas versiones refleja la estrategia de producto de GitHub:

Versión gratuita y Copilot Individual

• Peticiones por minuto: 10
• Cuota diaria: 50
• Limitaciones de las fichas:
  • Entrada: 8000
  • Salida: 4000
• Solicitudes simultáneas: 2

Esta cuota es adecuada para desarrolladores individuales para la validación de proyectos y el aprendizaje.

Copiloto Business

• Mantener los mismos límites de concurrencia y de tokens
• Peticiones diarias elevadas al 100
• Adecuado para las necesidades de desarrollo de equipos pequeños

Empresa Copilot

• Peticiones por minuto: 15
• Cuota diaria: 150
• Mayor límite de fichas:
  • Entrada: 16000
  • Salida: 8000
• Solicitudes simultáneas: 4
• Adecuado para el desarrollo de aplicaciones empresariales

Consejos prácticos

Consejos para mejorar la eficiencia del desarrollo

• Política de caché inteligente

  # 示例代码：实现简单的结果缓存 import hashlib import json  class ModelCache:     def __init__(self):         self.cache = {}              def get_cache_key(self, prompt, params):         data = f"{prompt}_{json.dumps(params, sort_keys=True)}"         return hashlib.md5(data.encode()).hexdigest()              def get_or_compute(self, prompt, params, model_func):         key = self.get_cache_key(prompt, params)         if key in self.cache:             return self.cache[key]         result = model_func(prompt, params)         self.cache[key] = result         return result 

• Optimización del tratamiento por lotes
  Organice bien los lotes de solicitudes para evitar llamadas frecuentes a la API.
• Buenas prácticas para la gestión de errores
  Implementar un mecanismo de reintento inteligente para gestionar los fallos temporales.

Recomendaciones de seguridad

• Gestión de tokens de acceso
  • Rotación regular Acceso personal Ficha
  • Utilización del principio del menor privilegio
  • Evitar la codificación rígida de tokens en el código
• seguridad de los datos
  • Desensibilizar los datos antes de enviarlos al modelo
  • Permitir auditorías de acceso a los datos
  • Comprobación periódica de los registros de seguridad

mirar hacia delante

La visión de Thomas Dohmke, CEO de GitHub, es ayudar al mundo a alcanzar su objetivo de mil millones de desarrolladores en los próximos años. Detrás de esta ambición hay una firme creencia en la democratización de la IA.

Comienza hoy mismo tu andadura como Ingeniero en IA.

• Preparación de la solicitud
  • Visita la página oficial de GitHub Models
  • Presentar una solicitud de lista de espera
  • Preparar la cuenta de GitHub y el token de acceso personal
• Configuración del entorno

  import OpenAI from "openai";  const token = process.env["GITHUB_TOKEN"]; const client = new OpenAI({   baseURL: "https://models.inference.ai.azure.com",   apiKey: token }); 

• Iniciar el experimento
  • Probar distintos modelos en el patio de recreo
  • Proyecto de inicio rápido con código de ejemplo
  • Ampliación progresiva de las funciones de la aplicación

observaciones finales

La evolución de la tecnología de IA está remodelando el futuro del desarrollo de software. el lanzamiento de GitHub Models es algo más que el nacimiento de un nuevo producto, es el comienzo de una nueva era. Ofrece a todos los desarrolladores la oportunidad de participar en la revolución de la IA y cambiar el mundo con ideas y prácticas innovadoras.

Ahora, lo que tienes ante ti ya no es la cuestión de si empezar a desarrollar IA, sino cómo utilizar mejor la potente plataforma de GitHub Models para ir más allá en el camino de un ingeniero de IA. La oportunidad está ahí, ¿estás preparado?

Como dijo un desarrollador senior, "GitHub Models no es solo una herramienta, es una llave para abrir la era de la IA. Con ella, todo desarrollador puede convertirse en ingeniero de IA y toda idea puede hacerse realidad."

Ahora es el momento de iniciar su viaje de desarrollo de la IA.