LlamaCoder : Générer et publier rapidement de petites applications Web à l'aide de mots-clés

Ensemble AI, la principale plateforme cloud d'accélération de l'IA, aide les développeurs et les entreprises à concevoir, développer et gérer de manière transparente l'ensemble du cycle de vie de l'IA générative en s'appuyant sur des modèles open source tels que Llama.

Pour inspirer les développeurs qui s'appuient sur Llama, Together AI a créé le programme LlamaCoder App--Une application web open source qui permet aux utilisateurs de générer des applications complètes à partir d'invites en utilisant Llama 3.1 405B.

Un mois seulement après sa sortie, Together AI est devenu un succès viral. Plus de 2 000 stars GitHub et des centaines de développeurs ont cloné le dépôt et généré plus de 200 000 applications à l'aide de LlamaCoder.

"Les développeurs l'adorent", déclare Hassan El Mghari, ingénieur logiciel et responsable des relations avec les développeurs chez Together AI. "C'est incroyable de voir des gens créer des applications de quiz, des horloges de tomates, des applications de budgétisation, et bien d'autres choses encore, simplement à partir d'invites et en les adaptant à leurs besoins. Cela montre vraiment la puissance de Llama 3.1 405B."

Dans cet exemple, Llamacoder construit une application de quiz sur l'histoire.

Il a ajouté que Llama 3.1 405B est le premier modèle open source à donner de bons résultats dans ce cas particulier d'utilisation du codage.Together AI a également développé un certain nombre d'autres exemples d'applications qui utilisent Llama 3.1, notamment LlamaTutorune application qui aide les gens à apprendre, et TurboSeekun moteur de recherche alimenté par l'IA.

"Le modèle Llama repousse les limites des grands modèles linguistiques open source pour rivaliser avec les meilleurs modèles fermés tout en fournissant des outils sécurisés pour un développement responsable", a déclaré M. El Mghari. Il a également indiqué que les capacités de pointe de Llama 3.1 405B en matière de connaissances générales, de contrôlabilité, de mathématiques, d'utilisation d'outils et de traduction multilingue ont le potentiel d'accélérer rapidement l'adoption de l'IA open source par les développeurs et les entreprises.

Élargissement des scénarios d'utilisation à chaque nouvelle version

Plus de 150 000 développeurs et entreprises utilisent la plateforme Together pour un large éventail de scénarios d'utilisation, y compris les jeux, le service à la clientèle, l'analyse comparative et la génération de résumés. Bien qu'ils utilisent la plate-forme Together pour alimenter des applications d'IA générative, chaque développeur et entreprise reste propriétaire de ses poids de réglage fin et peut les télécharger pour d'autres scénarios d'utilisation.

Dans cet exemple, Llamacoder construit une application de budgétisation.

"Notre vision est d'apporter les innovations de la recherche dans les environnements de production aussi rapidement que possible. Basé sur nos recherches de pointe en matière d'optimisation de l'inférence, le moteur d'inférence Together s'appuie sur des innovations telles que le noyau FlashAttention-3, un prédicteur personnalisé basé sur RedPajama et les techniques de quantification les plus précises du marché", a déclaré El Mghari. "Ces avancées permettent aux développeurs de créer et d'exécuter des applications d'IA générative basées sur les modèles Llama 3.1 à l'échelle de production avec des performances, une précision et une rentabilité inégalées."

Cela a été rendu possible par une approche ouverte, explique M. El Mghari, qui ajoute que de nombreuses entreprises utilisant l'IA de Together sont passées de fournisseurs fermés à des fournisseurs ouverts parce qu'elles étaient désireuses de profiter des avantages de l'open source.

"L'IA open source change la donne pour la communauté de l'IA", a-t-il déclaré. "C'est dans l'intérêt de tous les développeurs et c'est ce qui permettra de progresser et d'innover le plus rapidement. En outre, elle permet aux organisations de s'approprier véritablement leurs données et leurs modèles et de bénéficier d'une flexibilité totale, au lieu d'être enfermées dans des carcans.