Ne déployez pas de grands modèles localement, Mistral lance un package API gratuit pour les développeurs disposant d'une connectivité domestique directe !

N'accédez pas à ONE-API et ne demandez pas plusieurs comptes en tant que charge de service transitoire ! L'un est contraire à l'éthique et l'autre est bloqué.

 

MistralAI a lancé l'API gratuite depuis quelques jours, a hésité à l'envoyer la raison en est que Mistral a trompé à plusieurs reprises les développeurs.... ...A la fin du mois d'août, il a été dit que l'API ne serait pas disponible en septembre sans souscrire au plan, mais il s'est avéré que le 17 septembre, il a directement mis la plupart des modèles à disposition gratuitement.

 

Allez directement sur https://console.mistral.ai/ et allez sur la page de facturation pour l'ouvrir.

Pour adhérer à l'offre gratuite, vous devez d'abord être vérifié par téléphone, ce que j'ai fait ici. En utilisant le numéro virtuel de Google, les numéros de téléphone mobile nationaux peuvent également être saisis, mais je n'ai pas essayé.

不要在本地部署大模型了,Mistral为开发者推出免费API套餐,国内可直连!

 

Après une demi-journée de recherche, je n'ai pu trouver aucune limitation sur le paquet gratuit, et je suis finalement tombé sur une description des limitations sur les types de modèles qui peuvent être utilisés, comme suit :

Mistral Deux types de modèles sont disponibles : les modèles gratuits et les modèles premium.

Modèles avancés

ModèleDisponibilité du poidsDisponible via l'APIDescriptionMax JetonsPoints d'extrémité de l'APIVersion
Mistral Large✔️
Licence de recherche Mistral
✔️Notre modèle de raisonnement de haut niveau pour les tâches très complexes, dont la dernière version v2 a été publiée en juillet 2024. article de blog128kmistral-large-latest24.07
Mistral Petit✔️
Licence de recherche Mistral
✔️Notre dernier petit modèle d'entreprise avec la dernière version v2 sortie en septembre 2024. en savoir plus sur nos article de blog32kmistral-small-latest24.09
Codestral✔️
Licence de non-production Mistral
✔️Notre modèle linguistique de pointe pour le codage sorti en mai 202432kcodestral-latest24.05
Mistral Embed✔️Notre sémantique de pointe pour l'extraction de la représentation des extraits de texte8kmistral-embed23.12

Modèles libres

  • Derniers modèles
ModèleDisponibilité du poidsDisponible via l'APIDescriptionNombre maximal de jetonsPoints d'extrémité de l'APIVersion
Pixtral✔️
Apache2
✔️Un modèle 12B avec des capacités de compréhension d'images en plus du texte. En savoir plus sur notre article de blog128kpixtral-12b-240924.09
  • modèle de test
ModèleDisponibilité du poidsDisponible via l'APIDescriptionNombre maximal de jetonsPoints d'extrémité de l'APIVersion
Mistral Nemo✔️
Apache2
✔️Notre meilleur modèle multilingue open source sorti en juillet 2024. En savoir plus sur notre article de blog128kopen-mistral-nemo24.07
Codestral Mamba✔️
Apache2
✔️Notre premier modèle mamba 2 open source sorti en juillet 2024. En savoir plus sur notre article de blog256kopen-codestral-mambav0.1
Mathstral✔️
Apache2
Notre premier modèle mathématique open source sortira en juillet 2024. Pour en savoir plus, consultez notre site web. article de blog32kNAv0.1
  • modèle dépassé
ModèleDisponibilité du poidsDisponible via l'APIDescriptionNombre maximal de jetonsPoints d'extrémité de l'APIVersion
Mistral 7B✔️
Apache2
✔️Notre premier modèle dense sortira en septembre 2023. En savoir plus sur notre article de blog32kopen-mistral-7bv0.3
Mixtral 8x7B✔️
Apache2
✔️Notre premier mélange épars d'experts sortira en décembre 2023. En savoir plus sur notre article de blog32kopen-mixtral-8x7bv0.1
Mixtral 8x22B✔️
Apache2
✔️Notre meilleur modèle open source à ce jour sorti en avril 2024. En savoir plus sur notre article de blog64kopen-mixtral-8x22bv0.1

 

Il semble que des versions gratuites soient disponibles, en demandant le format d'adresse : https://api.mistral.ai/v1/chat/completions

Il suffit ensuite de créer la clé et de l'utiliser :

不要在本地部署大模型了,Mistral为开发者推出免费API套餐,国内可直连!

 

Note : Leur api ne supporte pas les paramètres de pénalité, vous pouvez demander à un travailleur de la bloquer, sinon elle peut être anormale dans de nombreux terminaux.

不要在本地部署大模型了,Mistral为开发者推出免费API套餐,国内可直连!

 

Les scripts des travailleurs de terrain ne sont pas pris en charge par le filtrage mistral (mise à jour du traitement inter-domaines des cors) :

/**
* Welcome to Cloudflare Workers! This is your first worker.
*
* - Run "npm run dev" in your terminal to start a development server
* - Open a browser tab at http://localhost:8787/ to see your worker in action
* - Run "npm run deploy" to publish your worker
*
* Learn more at https://developers.cloudflare.com/workers/
*/


export default {
async fetch(request, env) {
// 处理预检请求
if (request.method === 'OPTIONS') {
return handleOptions(request);
}

const url = new URL(request.url);
url.host = 'api.mistral.ai';

let body;
try {
// 获取 body 数据并解析为 JSON
body = await request.json();
} catch (error) {
return new Response('Invalid JSON', { status: 400 });
}

// 定义支持字段列表
const allowedFields = ['model', 'messages', 'temperature', 'top_p', 'max_tokens', 'min_tokens', 'stream', 'stop', 'random_seed','response_format','tools','tool_choice','safe_prompt'];

// 过滤 body 中不在支持字段列表中的字段
const filteredBody = filterFields(body, allowedFields);

const newBody = JSON.stringify(filteredBody);
const modifiedRequest = new Request(url, {
method: request.method,
body: newBody,
headers: request.headers
});

return fetch(modifiedRequest);
}
}
// 过滤不支持参数
function filterFields(obj, allowedFields) {
let result = {};
for (const key in obj) {
if (allowedFields.includes(key)) {
result[key] = obj[key];
}
}
return result;
}
// 处理预检请求的函数
function handleOptions(request) {
const headers = {
'Access-Control-Allow-Origin': '*', // 允许所有来源
'Access-Control-Allow-Methods': 'GET, POST, OPTIONS', // 允许的方法
'Access-Control-Allow-Headers': 'Content-Type, Authorization', // 允许的头部
'Access-Control-Max-Age': '86400', // 预检请求的缓存时间(秒)
};

return new Response(null, {
status: 204,
headers: headers
});
}

 

Le modèle à code libre nécessite une demande de clé séparée pour être utilisé.

不要在本地部署大模型了,Mistral为开发者推出免费API套餐,国内可直连!

 

Bien qu'il existe de nombreux modèles peu coûteux et performants (DeepSeek), et même des API gratuites pour les grands modèles (Wisdom Spectrum), les modèles gratuits doivent être sélectionnés parmi les meilleurs.

Mistral a un modèle de code spécialisé Codestral, le contenu ci-dessus a été introduit, le classement LMSYS est assez élevé, vous pouvez accéder au curseur pour essayer d'utiliser le sentiment est correct.

不要在本地部署大模型了,Mistral为开发者推出免费API套餐,国内可直连!
© déclaration de droits d'auteur

Articles connexes

Pas de commentaires

Vous devez être connecté pour participer aux commentaires !
S'inscrire maintenant
aucun
Pas de commentaires...