AI个人学习
和实操指南

不要在本地部署大模型了,Mistral为开发者推出免费API套餐,国内可直连!

切勿接入ONE-API,申请多账号作为中转服务负载!一是不道德,二是封号。

 

MistralAI推出API免费套餐已有几天,一直犹豫不觉是否发出来的原因是Mistral已经多次忽悠开发者...8月底本来说9月不订阅计划就用不了,结果在9月17日直接将大部分模型免费开放。

 

直接访问 https://console.mistral.ai/ ,进入计费页面开通。

加入免费计划首先要通过电话验证,这里我已经认证过了。使用谷歌虚拟号码,国内手机号也支持输入,不过我没有试。

不要在本地部署大模型了,Mistral为开发者推出免费API套餐,国内可直连!-1

 

找半天免费套餐有什么限制,也没找到,最后只看到一份可使用的模型型号限制说明,如下:

Mistral 提供两种类型的模型:免费模型和高级模型。

高级模型

Model Weight availability Available via API Description Max Tokens API Endpoints Version
Mistral Large ✔️
Mistral Research License
✔️ Our top-tier reasoning model for high-complexity tasks with the lastest version v2 released July 2024. Learn more on our blog post 128k mistral-large-latest 24.07
Mistral Small ✔️
Mistral Research License
✔️ Our latest enterprise-grade small model with the lastest version v2 released September 2024. Learn more on our blog post 32k mistral-small-latest 24.09
Codestral ✔️
Mistral Non-Production License
✔️ Our cutting-edge language model for coding released May 2024 32k codestral-latest 24.05
Mistral Embed ✔️ Our state-of-the-art semantic for extracting representation of text extracts 8k mistral-embed 23.12

免费模型​

  • 最新模型
Model Weight availability Available via API Description Max Tokens API Endpoints Version
Pixtral ✔️
Apache2
✔️ A 12B model with image understanding capabilities in addition to text. Learn more on our blog post 128k pixtral-12b-2409 24.09
  • 测试模型
Model Weight availability Available via API Description Max Tokens API Endpoints Version
Mistral Nemo ✔️
Apache2
✔️ Our best multilingual open source model released July 2024. Learn more on our blog post 128k open-mistral-nemo 24.07
Codestral Mamba ✔️
Apache2
✔️ Our first mamba 2 open source model released July 2024. Learn more on our blog post 256k open-codestral-mamba v0.1
Mathstral ✔️
Apache2
Our first math open source model released July 2024. Learn more on our blog post 32k NA v0.1
  • 陈旧模型
Model Weight availability Available via API Description Max Tokens API Endpoints Version
Mistral 7B ✔️
Apache2
✔️ Our first dense model released September 2023. Learn more on our blog post 32k open-mistral-7b v0.3
Mixtral 8x7B ✔️
Apache2
✔️ Our first sparse mixture-of-experts released December 2023. Learn more on our blog post 32k open-mixtral-8x7b v0.1
Mixtral 8x22B ✔️
Apache2
✔️ Our best open source model to date released April 2024. Learn more on our blog post 64k open-mixtral-8x22b v0.1

 

看来免费的都可以用,请求地址格式:https://api.mistral.ai/v1/chat/completions

然后直接创建密钥即可使用:

不要在本地部署大模型了,Mistral为开发者推出免费API套餐,国内可直连!-1

 

注意:他们家 api 不支持惩罚参数,可以搞个 worker 屏蔽掉,否则在很多终端中可能异常。

不要在本地部署大模型了,Mistral为开发者推出免费API套餐,国内可直连!-1

 

mistral 过滤不支持字段 worker 脚本(更新 cors 跨域处理):

/**
* Welcome to Cloudflare Workers! This is your first worker.
*
* - Run "npm run dev" in your terminal to start a development server
* - Open a browser tab at http://localhost:8787/ to see your worker in action
* - Run "npm run deploy" to publish your worker
*
* Learn more at https://developers.cloudflare.com/workers/
*/

export default {
async fetch(request, env) {
// 处理预检请求
if (request.method === 'OPTIONS') {
return handleOptions(request);
}

const url = new URL(request.url);
url.host = 'api.mistral.ai';

let body;
try {
// 获取 body 数据并解析为 JSON
body = await request.json();
} catch (error) {
return new Response('Invalid JSON', { status: 400 });
}

// 定义支持字段列表
const allowedFields = ['model', 'messages', 'temperature', 'top_p', 'max_tokens', 'min_tokens', 'stream', 'stop', 'random_seed','response_format','tools','tool_choice','safe_prompt'];

// 过滤 body 中不在支持字段列表中的字段
const filteredBody = filterFields(body, allowedFields);

const newBody = JSON.stringify(filteredBody);
const modifiedRequest = new Request(url, {
method: request.method,
body: newBody,
headers: request.headers
});

return fetch(modifiedRequest);
}
}
// 过滤不支持参数
function filterFields(obj, allowedFields) {
let result = {};
for (const key in obj) {
if (allowedFields.includes(key)) {
result[key] = obj[key];
}
}
return result;
}
// 处理预检请求的函数
function handleOptions(request) {
const headers = {
'Access-Control-Allow-Origin': '*', // 允许所有来源
'Access-Control-Allow-Methods': 'GET, POST, OPTIONS', // 允许的方法
'Access-Control-Allow-Headers': 'Content-Type, Authorization', // 允许的头部
'Access-Control-Max-Age': '86400', // 预检请求的缓存时间(秒)
};

return new Response(null, {
status: 204,
headers: headers
});
}

 

免费的代码模型需要单独申请密钥使用

不要在本地部署大模型了,Mistral为开发者推出免费API套餐,国内可直连!-1

 

虽然目前国内有很多价格及低、性能也不错的模型(DeepSeek),甚至也有免费的大模型API(智谱清言)但免费也要优中选优嘛。

Mistral有专精代码的模型Codestral,上面内容已经介绍,LMSYS 排名挺高,可以接入到Cursor试试,用起来感觉还行。

不要在本地部署大模型了,Mistral为开发者推出免费API套餐,国内可直连!-1

AI轻松学

普通人的AI入门指南

帮助你以低成本、零基础学会如何利用AI工具。AI就像办公软件一样,是每个人的必备技能。 掌握AI会让你在求职中占据优势,在未来的工作和学习中事半功倍。

查看详情>
未经允许不得转载:首席AI分享圈 » 不要在本地部署大模型了,Mistral为开发者推出免费API套餐,国内可直连!
分享到

首席AI分享圈

首席AI分享圈专注于人工智能学习,提供全面的AI学习内容、AI工具和实操指导。我们的目标是通过高质量的内容和实践经验分享,帮助用户掌握AI技术,一起挖掘AI的无限潜能。无论您是AI初学者还是资深专家,这里都是您获取知识、提升技能、实现创新的理想之地。

联系我们