Не развертывайте большие модели локально, Mistral запускает бесплатный пакет API для разработчиков с прямым внутренним подключением!

Не заходите на ONE-API и не подавайте заявки на несколько аккаунтов в качестве нагрузки на стайлинговый сервис! Одно неэтично, а другое заблокировано.

MistralAI запустила API бесплатного пакета уже несколько дней, не решаясь выслать, причина в том, что Mistral неоднократно обманывала разработчиков.... ...В конце августа было сказано, что в сентябре он не будет доступен без подписки на план, но оказалось, что 17 сентября он напрямую сделал большинство моделей доступными бесплатно.

Зайдите на сайт https://console.mistral.ai/ и перейдите на страницу выставления счетов, чтобы открыть ее.

Чтобы подключиться к бесплатному тарифному плану, сначала нужно пройти верификацию по телефону, что я и сделал здесь. При использовании виртуального номера Google также поддерживается ввод номеров мобильных телефонов внутри страны, но я не пробовал.

После полудня поисков каких-либо ограничений на бесплатный пакет я так и не смог их найти, и в итоге увидел только описание ограничений на типы моделей, которые можно использовать, в следующем виде:

Мистраль Доступны два типа моделей: бесплатные и премиум.

Похоже, есть бесплатные, формат адреса запроса: https://api.mistral.ai/v1/chat/completions.

Затем просто создайте ключ и используйте его:

Примечание: Их api не поддерживает штрафные параметры, вы можете заставить рабочего заблокировать их, иначе это может быть ненормальным во многих терминалах.

Скрипты полевых работников не поддерживаются фильтрацией мистралей (обновление кросс-доменной обработки cors):

/**
* Welcome to Cloudflare Workers! This is your first worker.
*
* - Run "npm run dev" in your terminal to start a development server
* - Open a browser tab at http://localhost:8787/ to see your worker in action
* - Run "npm run deploy" to publish your worker
*
* Learn more at https://developers.cloudflare.com/workers/
*/


export default {
async fetch(request, env) {
// 处理预检请求
if (request.method === 'OPTIONS') {
return handleOptions(request);
}

const url = new URL(request.url);
url.host = 'api.mistral.ai';

let body;
try {
// 获取 body 数据并解析为 JSON
body = await request.json();
} catch (error) {
return new Response('Invalid JSON', { status: 400 });
}

// 定义支持字段列表
const allowedFields = ['model', 'messages', 'temperature', 'top_p', 'max_tokens', 'min_tokens', 'stream', 'stop', 'random_seed','response_format','tools','tool_choice','safe_prompt'];

// 过滤 body 中不在支持字段列表中的字段
const filteredBody = filterFields(body, allowedFields);

const newBody = JSON.stringify(filteredBody);
const modifiedRequest = new Request(url, {
method: request.method,
body: newBody,
headers: request.headers
});

return fetch(modifiedRequest);
}
}
// 过滤不支持参数
function filterFields(obj, allowedFields) {
let result = {};
for (const key in obj) {
if (allowedFields.includes(key)) {
result[key] = obj[key];
}
}
return result;
}
// 处理预检请求的函数
function handleOptions(request) {
const headers = {
'Access-Control-Allow-Origin': '*', // 允许所有来源
'Access-Control-Allow-Methods': 'GET, POST, OPTIONS', // 允许的方法
'Access-Control-Allow-Headers': 'Content-Type, Authorization', // 允许的头部
'Access-Control-Max-Age': '86400', // 预检请求的缓存时间（秒）
};

return new Response(null, {
status: 204,
headers: headers
});
}

Модель с бесплатным кодом требует отдельного ключа для использования

Хотя существует множество моделей с низкой ценой и хорошей производительностью (DeepSeek), и даже бесплатные API для больших моделей (Wisdom Spectrum), бесплатные модели должны быть выбраны среди лучших.

Mistral имеет специализированный код модели Codestral, выше содержание было введено, LMSYS рейтинг довольно высок, вы можете получить доступ к курсору, чтобы попытаться использовать чувство в порядке.