KI-Wissen Seite 3

Einleitung Wie viele andere auch, waren meine Nachrichten-Tweets in den letzten Tagen voll von Nachrichten, Lob, Beschwerden und Spekulationen über das große Sprachmodell DeepSeek-R1 aus China, das letzte Woche veröffentlicht wurde. Das Modell selbst wird gegen einige der besten Inferenzmodelle von OpenAI, Meta und anderen...

  Zusammenfassung der wichtigsten Beiträge von CORAG CORAG (Cost-Constrained Retrieval Optimization for Retrieval-Augmented Generation) ist ein innovatives Retrieval-Augmented Generation (RAG)-System, das entwickelt wurde, um die wichtigsten Herausforderungen bei bestehenden RAG-Ansätzen anzugehen. Die folgenden CORAG ...

Wissensdestillation ist eine Technik des maschinellen Lernens, die darauf abzielt, das Lernen von einem großen, vortrainierten Modell (d.h. einem "Lehrermodell") auf ein kleineres "Schülermodell" zu übertragen. Distillationstechniken können uns helfen, leichtere generative Modelle für intelligente Dialoge, die Erstellung von Inhalten und andere Bereiche zu entwickeln. Kürzlich Distil...

In letzter Zeit haben viele Personen, die sich mit dem Training und der Inferenz großer Modelle beschäftigen, die Beziehung zwischen der Anzahl der Modellparameter und der Modellgröße diskutiert. Die berühmte Alpaka-Reihe der LLaMA-Großmodelle enthält zum Beispiel vier Versionen mit unterschiedlichen Parametergrößen: LLaMA-7B, LLaMA-13B, LLaMA-33B und LLaMA-65B. Hier "...

Originalartikel: https://arxiv.org/pdf/2412.15479 BEDEUTUNG: Dieser Artikel selbst ist nicht sehr innovativ und hat wenig Anwendungsmöglichkeiten. Er erinnert mich jedoch an drei sehr informative Artikel, die ich vor langer, langer Zeit gelesen habe. Die Lektüre dieses Artikels in Verbindung mit den drei vorangegangenen Artikeln wird Ihnen hoffentlich mehr Inspiration bringen. Empfohlene Lektüre: der...

Im Bereich der künstlichen Intelligenz und des maschinellen Lernens, insbesondere bei der Entwicklung von Anwendungen wie RAG-Systemen (Retrieval Augmented Generation) und der semantischen Suche, ist die effiziente Verarbeitung und Abfrage großer Mengen unstrukturierter Daten von entscheidender Bedeutung. Vektordatenbanken haben sich als eine Kerntechnologie zur Bewältigung dieser Herausforderung herauskristallisiert. Sie sind nicht nur für die Speicherung hochdimensionaler ...

Xiaohongshu, eine angesagte Social-E-Commerce-Plattform in China und sogar in Asien, ist längst über eine einfache Shopping-App hinausgewachsen und hat sich zu einer Wetterfahne für den Lebensstil junger Menschen und zu einer neuen Position für das Markenmarketing entwickelt. Für ausländische Marken und Einzelpersonen, die in den chinesischen Markt eintreten oder junge Verbraucher erreichen wollen, ist die Beherrschung von Xiaohongshu...

Unerwartet hat die KI einen sich halb verändernden Himmel im Bereich der Programmierung ausgelöst. Von v0, bolt.new bis hin zu verschiedenen Programmier-Tools Cursor und Windsurf, die Agant kombinieren, hat AI Coding das riesige Potenzial der Idee MVP. Von der traditionellen KI-unterstützte Codierung, um die heutige direkte Projekterzeugung hinter, am Ende ist...

Bevor wir beginnen, sollten wir ein paar "Schlüsselwörter" verstehen: Workflow: Einfach ausgedrückt, ist es "die vollständigen Schritte, um etwas zu erledigen". Er ist wie eine "Gebrauchsanweisung", die Ihnen sagt, was zu tun ist, in welcher Reihenfolge und von wem, um Ihr Ziel zu erreichen. Input: Bevor der Arbeitsablauf beginnt, müssen Sie...

Beim Aufbau großer Sprachmodellanwendungen (LLM) sind Speichersysteme eine der Schlüsseltechnologien zur Verbesserung der Dialogkontextverwaltung, der langfristigen Informationsspeicherung und des semantischen Verständnisses. Ein effizientes Speichersystem kann dem Modell helfen, die Konsistenz über lange Dialoge hinweg aufrechtzuerhalten, Schlüsselinformationen zu extrahieren und sogar die Fähigkeit zu haben, historische Dialoge abzurufen...

OpenAI Function calling V2 Features Das Kernziel von Function calling V2 ist es, OpenAI-Modellen die Möglichkeit zu geben, mit der Außenwelt zu interagieren, was sich in den folgenden zwei Kernfunktionen widerspiegelt: Fetching Data - Eine funktionsaufrufende Implementierung von RAG: Im Wesentlichen RAG (Retrieve Augmented...

Grundlegende Konzepte Im Bereich der Informationstechnologie bezieht sich Retrieval auf den Prozess des effizienten Auffindens und Extrahierens relevanter Informationen aus einem großen Datenbestand (in der Regel Dokumente, Webseiten, Bilder, Audio-, Video- oder andere Formen von Informationen) als Reaktion auf die Anfrage oder den Bedarf eines Benutzers. Sein Hauptziel ist es, Informationen zu finden, die für die Verwendung relevant sind...

Agent AI: Surveying the Horizons of Multimodal Interaction Ursprünglich veröffentlicht auf https://ar5iv.labs.arxiv.org/html/2401.03568 Zusammenfassung Multimodale KI-Systeme werden in unserem täglichen Leben wahrscheinlich allgegenwärtig sein. Eine Möglichkeit, diese Systeme interaktiver zu machen ...

GraphReader: eine graphenbasierte Intelligenz, die die Verarbeitung langer Texte für große Sprachmodelle verbessert Graphic Expert: wie ein Tutor, der gut darin ist, Mindmaps zu erstellen, wandelt es lange Texte in ein klares Wissensnetzwerk um, so dass die KI jeden für eine Antwort benötigten Schlüsselpunkt leicht finden kann, als ob sie entlang einer Landkarte erkunden würde, und...

CAG (Cache Augmented Generation) ist 40 Mal schneller als RAG (Retrieval Augmented Generation) und revolutioniert den Wissenserwerb: Anstatt externe Daten in Echtzeit abzurufen, wird das gesamte Wissen in den Modellkontext vorgeladen. Es ist so, als würde man eine riesige Bibliothek zu einem Toolkit für unterwegs verdichten, das man bei Bedarf nutzen kann...

Von Julia Wiesinger, Patrick Marlow und Vladimir Vuskovic Ursprünglich veröffentlicht auf https://www.kaggle.com/whitepaper-agents Inhalt Einleitung Was ist ein intelligenter Körper? Modelle Werkzeuge Orchestrierungsebenen Intelligente Körper und Modelle Kognitive Architektur: Wie intelligente Körper funktionieren Werkzeuge ...

Retrieval Augmented Generation (RAG) ist eine der populärsten Anwendungen für Large Language Models (LLMs) und Vektordatenbanken.RAG ist der Prozess der Erweiterung des Inputs für ein LLM mit Kontext, der aus Vektordatenbanken (z.B. Weaviate) abgerufen wird.Die RAG-Anwendung passiert...

Ein Multi-Agenten-System (MAS) ist ein Computersystem, das aus mehreren interagierenden intelligenten Agenten besteht. Multi-Agenten-Systeme können zur Lösung von Problemen eingesetzt werden, die von einem einzelnen intelligenten Agenten oder einem einzelnen System nur schwer oder gar nicht gelöst werden können. Intelligente Agenten können Roboter, Menschen oder weiche...