Volcano Ark : Formation au Big Model et service de Cloud Computing, S'inscrire pour 150 $ d'arithmétique équivalente

Introduction générale

Volcano Ark est une plateforme d'informatique en nuage lancée par Volcano Engine qui se concentre sur les services de grands modèles et vise à fournir aux entreprises une solution complète allant de la sélection des modèles à l'application en passant par la formation. S'appuyant sur la grande expérience de ByteDance dans le domaine de l'IA, Volcano Ark intègre les ressources de grands modèles de plusieurs entreprises d'IA de premier plan, telles que Baichuan Intelligence, MiniMax, etc., couvrant des applications multi-scénarios telles que le traitement du langage naturel et la génération d'images. Que vous ayez besoin de modèles pré-entraînés prêts à l'emploi ou d'une mise au point personnalisée, Volcano Ark peut répondre à la demande grâce à sa puissante infrastructure en nuage. Il est largement utilisé dans des secteurs tels que la finance, l'éducation et le commerce électronique, aidant les entreprises à déployer rapidement de grands modèles et à améliorer leur intelligence.

Liste des fonctions

• modèle carréLes macromodèles pré-entraînés sont disponibles et peuvent être sélectionnés et utilisés directement par l'utilisateur à la demande.
• modélisation et mise au pointLes données peuvent être téléchargées afin d'affiner le grand modèle pour l'adapter à des scénarios d'entreprise spécifiques.
• service d'inférenceTraitement des données en temps réel à l'aide de grands modèles, par exemple génération de texte, questions-réponses, etc.
• Formation en nuageLes ressources de calcul à haute performance pour les grands modèles afin de soutenir les tâches de formation à grande échelle.
• Outils d'évaluationLes modèles d'évaluation : des fonctions d'évaluation intégrées pour aider les utilisateurs à tester les performances des grands modèles.
• API DockingFournir des interfaces pour intégrer les capacités des grands modèles dans les systèmes d'entreprise.
• la sécuritéLes services de la Commission européenne sont chargés de veiller à la sécurité et à la conformité des données des grands modèles et des processus de calcul.

Utiliser l'aide

S'inscrire et se connecter

1. Entrer sur le site officiel: Type "https://console.volcengine.com/ark/".
2. S'inscrire à un compte: :
   • Cliquez sur "S'inscrire" dans le coin supérieur droit, entrez votre numéro de téléphone portable ou votre adresse électronique et définissez un mot de passe.
   • Après avoir effectué la vérification captcha, activez le compte.
3. Plate-forme de connexion: :
   • Utilisez votre compte enregistré pour vous connecter. Lors de la première connexion, il se peut que vous deviez lier des informations commerciales pour débloquer d'autres fonctionnalités.

Principales fonctions

1. sélection d'un grand modèle (modèle carré)

• **进入模型广场Après avoir ouvert une session, cliquez sur "Model Plaza" dans la barre de navigation de gauche.
• Parcourir les modèles: :
  • La page affiche plusieurs grands modèles (par exemple, des modèles linguistiques, des modèles d'images), chacun étiqueté avec des scénarios applicables (par exemple, service client intelligent, génération de texte).
  • Cliquez sur le nom du modèle pour afficher les détails, y compris la taille des paramètres, les langues prises en charge, etc.
• Utilisation du modèle: :
  • Sélectionnez un grand modèle et cliquez sur "Ajouter à l'espace de travail" pour l'utiliser lors d'opérations ultérieures.

2. la mise au point du modèle

• Création de tâches: :
  • Naviguez vers "Model Finishing" et cliquez sur "New Finishing Task".
• Télécharger les données: :
  • Préparez les ensembles de données relatives à l'entreprise (les formats TXT et CSV sont pris en charge) et cliquez sur "Télécharger les fichiers".
  • Les données doivent correspondre au format d'entrée du modèle cible (par exemple, du texte brut pour la modélisation linguistique).
• Paramètres de réglage: :
  • Sélectionnez un grand modèle de base et ajustez les paramètres de formation (par exemple, le taux d'apprentissage, la taille du lot).
  • Les paramètres par défaut conviennent aux premières tentatives et peuvent être personnalisés par les utilisateurs avancés.
• Commencer à peaufiner: :
  • Cliquez sur "Démarrer la formation", la plateforme appelle les ressources GPU du nuage pour les exécuter.
  • Vérifiez votre progression dans la "Gestion des tâches" et téléchargez le grand modèle peaufiné lorsque vous avez terminé.

3. l'inférence des données

• Nouveau raisonnement: :
  • Cliquez sur "Nouvelle tâche de raisonnement" dans "Service de raisonnement".
• données d'entrée: :
  • Saisir manuellement (par exemple une question) ou télécharger des données en masse (par exemple un fichier CSV).
• Exécution du grand modèle: :
  • Sélectionnez le grand modèle dans l'espace de travail et cliquez sur "Exécuter".
  • Le système renvoie des résultats, tels que le texte généré ou les conclusions de l'analyse, qui peuvent être téléchargés ou consultés directement.
• scénario d'applicationLes services d'assistance à la clientèle : Générer des réponses au service clientèle, des résumés d'articles, etc.

4. formation basée sur l'informatique dématérialisée

• Configuration de l'environnement: :
  • Dans Cloud Training, sélectionnez les ressources informatiques (par exemple, une configuration multi-GPU).
• Télécharger des ressources: :
  • Télécharger du code personnalisé (par exemple, des scripts PyTorch) et des ensembles de données d'entraînement.
• Formation des cadres: :
  • Cliquez sur "Démarrer la formation", la plateforme alloue des ressources pour exécuter la formation au grand modèle.
  • Le journal d'entraînement est affiché en temps réel et les paramètres peuvent être ajustés à tout moment.

5. évaluation du modèle

• Aller à l'examen: :
  • Naviguez vers "Outils d'évaluation" et sélectionnez le grand modèle que vous souhaitez tester.
• Téléchargement des jeux de tests: :
  • Fournissez les données étiquetées (par exemple les paires question-réponse) et cliquez sur "Démarrer l'évaluation".
• Voir les résultats: :
  • Le système génère des mesures (par exemple, la précision, les scores F1) qui sont affichées sous forme de graphiques.
  • Prise en charge de l'exportation des rapports d'évaluation pour l'optimisation des modèles.

Fonctions vedettes

Big Model API Docking

• Obtenir la clé: :
  • Cliquez sur "Generate API Key" dans "Developer Centre" et sauvegardez-le correctement.
• système intégré: :
  • Téléchargez le SDK Volcano Ark et configurez l'environnement conformément à la documentation.
  • Exemple de code (Python) :

    from volcengine.ark import ArkClient
    client = ArkClient(api_key='你的密钥')
    result = client.inference(model_id='模型ID', input='你好')
    print(result)
    

• utiliserLa recherche et le développement : Intégrer les capacités des grands modèles dans les applications d'entreprise, telles que les systèmes intelligents de questions et réponses.

Gestion de la sécurité des grands modèles

• l'attribution des privilèges: :
  • Définissez des niveaux d'accès pour votre équipe dans la Gestion de la sécurité.
• protection des données: :
  • Transmission cryptée par défaut, possibilité pour les utilisateurs d'activer le cryptage du stockage.
• conformité: :
  • Des outils intégrés vérifient la conformité des données avec les réglementations sectorielles.

Conseils et astuces

• Préparation des donnéesLes données doivent être de bonne qualité avant d'être affinées, afin d'éviter que des bruits parasites n'affectent les performances des modèles à grande échelle.
• Suivi des ressourcesLa gestion de la facturation : Visualiser la consommation des ressources informatiques dans la "Gestion de la facturation" pour une planification rationnelle des tâches.
• Canaux de soutienPour toute question, veuillez consulter la documentation du centre d'aide ou contacter le service clientèle.

Grâce aux étapes ci-dessus, les utilisateurs peuvent utiliser pleinement la fonction de grand modèle de Volcano Ark et réaliser facilement le processus complet, de la sélection à l'application en passant par la mise au point.