Mistral AI veröffentlicht das Small 3.1 Modell: ein weiteres Upgrade der multimodalen Open Source Fähigkeiten

Mistral AI hat kürzlich die Einführung seines neuesten Modells angekündigt Mistral Small 3.1, und behauptete, es sei die beste Wahl unter den verfügbaren gleichwertigen Modellen.

Dieses neue Modell baut auf dem Mistral Small 3 auf und bietet signifikante Verbesserungen in den Bereichen Textleistung, multimodales Verstehen und Kontextverarbeitung, mit einem Kontextfenster, das sich auf 128k Token erstreckt.Offizielle Mistral AI Daten zeigen, dass Small 3.1 vergleichbare Modelle wie Gemma 3 und GPT-4o Mini, unter Beibehaltung der 150 pro Sekunde Token Die Geschwindigkeit des Denkens.

Eines der größten Highlights von Mistral Small 3.1 ist die Annahme der Apache 2.0 Open-Source-Lizenz, die eine breitere Nutzung und Untersuchung des Modells ermöglicht.

Moderne KI-Anwendungen stellen immer höhere Anforderungen an die Fähigkeiten der Modelle. Sie müssen in der Lage sein, Text zu verarbeiten, multimodale Eingaben zu verstehen, mehrere Sprachen zu unterstützen und lange Kontexte zu verwalten, während sie gleichzeitig eine niedrige Latenzzeit haben und kosteneffektiv sind.Mistral AI ist davon überzeugt, dass Mistral Small 3.1 das erste Open-Source-Modell ist, das die Leistung führender Closed-Source-Modelle in all diesen Bereichen erreicht oder übertrifft. Open-Source-Modelle.

Nach den von Mistral AI veröffentlichten Leistungsdaten schneidet Mistral Small 3.1 in einer Reihe von Benchmark-Tests gut ab. Um die Vergleichbarkeit der Daten zu gewährleisten, hat Mistral AI, soweit möglich, die von anderen Anbietern gemeldeten Zahlen verwendet, andernfalls wurde das Modell mit seinem generischen Bewertungstool bewertet.

Leistung bei der Einhaltung von Anweisungen

Textbefehl-Benchmarking

Nachfolgend finden Sie einen Vergleich der Textinstruktionsleistung des Mistral Small 3.1 mit anderen Modellen, darunter der Gemma 3-it (27B), Cohere Aya-Vision (32B), GPT-4o Mini und Claude-3.5 Haiku.

Tabellen mit Leistungsdaten

Benchmarking für multimodalen Unterricht

Nachfolgend sind die Ergebnisse des Multimodal Command Benchmark aufgeführt, wobei der MM-MT-Bench zwischen 0 und 100 skaliert ist. In den Vergleich einbezogen sind auch die Modelle Gemma 3-it (27B), Cohere Aya-Vision (32B), GPT-4o Mini und Claude-3.5 Haiku.

Tabellen mit Leistungsdaten

Mehrsprachigkeit

Mistral Small 3.1 zeigt auch seine Stärken bei der Verarbeitung von Mehrsprachigkeit, wenn man es mit Modellen wie Gemma 3-it (27B), Cohere Aya-Vision (32B) und GPT-4o Mini vergleicht.

Tabellen mit Leistungsdaten

Fähigkeit zur Verarbeitung langer Kontexte

Für die Verarbeitung von langem Kontext wurde Mistral Small 3.1 mit Gemma 3-it (27B), GPT-4o Mini und Claude-3.5 Haiku verglichen, um seine Leistung bei der Verarbeitung langer Texte zu überprüfen.

Tabellen mit Leistungsdaten

Leistung vor dem Training

Mistral AI hat auch ein vortrainiertes Basismodell für Mistral Small 3.1 veröffentlicht.

Alle Daten vor dem Training

Der Mistral Small 3.1 Base (24B) wurde mit dem Gemma 3-pt (27B) in Bezug auf die Leistung vor dem Training verglichen.

Tabellen mit Leistungsdaten

Anwendungsszenario

Mistral Small 3.1 ist als vielseitiges Modell positioniert, das ein breites Spektrum an generativen KI-Aufgaben bewältigen kann, einschließlich Befehlsverfolgung, Dialogunterstützung, Bildverständnis und Funktionsaufrufe, und Mistral AI ist überzeugt, dass es eine solide Grundlage für KI-Anwendungen sowohl in Unternehmen als auch für Privatanwender darstellt.

Wichtige Eigenschaften und Fähigkeiten

• Leichtes Gewicht. Mistral Small 3.1 läuft auf einer einzelnen RTX 4090-Grafikkarte oder einem Mac-Gerät mit 32 GB RAM. Das macht ihn ideal für geräteseitige Szenarien.
• Rapid Response Dialogue Assist. Ideal für virtuelle Assistenten und andere Anwendungen, die schnelle, präzise Antworten erfordern.
• Funktionsaufrufe mit geringer Latenzzeit. Fähigkeit zur schnellen Ausführung von Funktionen in einem automatisierten oder agentengestützten Arbeitsablauf.
• Feinabstimmung für bestimmte Bereiche. Mistral Small 3.1 kann auf bestimmte Bereiche abgestimmt werden, um genaue Modelle für spezielle Bereiche zu erstellen. Dies ist besonders nützlich in Bereichen wie Rechtsberatung, medizinische Diagnostik und technische Unterstützung.
• Grundlagen des fortgeschrittenen logischen Denkens. Mistral AI sagt, dass die Fähigkeit der Community, auf Open Source Mistral Modellen aufzubauen, beeindruckend ist. In den letzten Wochen sind einige großartige Inferenzmodelle auf Basis von Mistral Small 3 aufgetaucht, wie z.B. das von Nous Research DeepHermes 24B.. Zu diesem Zweck hat Mistral AI das Basismodell und die Kommandomodell-Kontrollpunkte für Mistral Small 3.1 veröffentlicht, um die nachgelagerte Anpassung des Modells weiter zu unterstützen.

Mistral Small 3.1 bietet ein breites Spektrum an Anwendungsszenarien für Unternehmens- und Verbraucheranwendungen, die ein multimodales Verständnis erfordern, wie z.B. Dokumentenvalidierung, Diagnose, geräteseitige Bildverarbeitung, visuelle Inspektion zur Qualitätskontrolle, Objekterkennung in Sicherheitssystemen, bildbasierte Kundenbetreuung und allgemeine Assistenten.

Benutzerfreundlichkeit

Mistral Small 3.1 steht auf der Hugging Face Website zum Download bereit:Mistral Klein 3.1 Basis im Gesang antworten Mistral Small 3.1 Anleitung. Für den Einsatz in Unternehmen, die eine private und optimierte Inferenzinfrastruktur benötigen, wenden Sie sich an Mistral AI.

Benutzer können auch die Entwicklerplattform von Mistral AI nutzen, um La Plateforme Versuchen Sie API-Aufrufe. Das Modell ist auch auf Google Cloud Vertex AI verfügbar. Mistral Small 3.1 wird in den kommenden Wochen für NVIDIA NIM und Microsoft Azure AI Foundry verfügbar sein.