AI知識 4ページ

  CORAGの主要な貢献の概要 CORAG（Cost-Constrained Retrieval Optimization for Retrieval-Augmented Generation）は、既存のRAGアプローチの主要な課題に対処するために設計された革新的なRAG（Retrieval-Augmented Generation）システムである。以下のCORAG ...

知識蒸留は、事前に訓練された大きなモデル（すなわち「教師モデル」）から、より小さな「生徒モデル」へと学習を移行させることを目的とした機械学習技術である。蒸留技術は、知的対話、コンテンツ作成、その他の分野での軽量な生成モデルの開発に役立つ。 最近、ディスティレーション...

近年、大規模モデルの学習や推論に携わる多くの人々が、モデルのパラメータ数とモデルサイズの関係について議論している。例えば、有名なalpacaシリーズのLLaMAラージモデルには、LLaMA-7B、LLaMA-13B、LLaMA-33B、LLaMA-65Bというパラメータサイズの異なる4つのバージョンがある。 ここでは「...

元記事：https://arxiv.org/pdf/2412.15479 解釈：この記事自体はあまり革新的ではなく、応用も利かない。しかし、ずっとずっと昔に読んだ非常に有益な3つの記事を思い起こさせる。 前の3つの記事と合わせてこの記事を読むことで、より多くのインスピレーションが得られることを期待したい。お薦めの一冊：...

人工知能や機械学習の分野では、特にRAG（Retrieval Augmented Generation）システムやセマンティック検索などのアプリケーションを構築する際、膨大な量の非構造化データを効率的に処理・検索することが極めて重要になる。ベクターデータベースは、この課題に対処するための中核技術として登場した。ベクターデータベースは、高次元データを格納するためだけのものではない。

中国だけでなくアジアでも話題のソーシャルEコマースプラットフォーム「小紅秀」は、単なるショッピングアプリの域を超え、若者のライフスタイルの風見鶏となり、ブランドマーケティングの新たなポジションを確立して久しい。中国市場に参入したい、あるいは若い消費者にリーチしたいと考える海外のブランドや個人にとって、小紅樹を使いこなすことは...

思いがけず、AIはプログラミング分野に半端ない変革の空を起こしている。v0、bolt.newから、Agantを組み合わせた様々なプログラミングツールCursorやWindsurfまで、AIコーディングはアイデアMVPの巨大な可能性を秘めている。伝統的なAIアシスト・コーディングから、今日の直接的なプロジェクト生成の背後にあるものまで、結局は...。

ワークフロー：簡単に言えば、「何かを成し遂げるための完全な手順」のこと。 目標に到達するために、誰が、どのような順序で、何をすべきかを示した「取扱説明書」のようなものだ。 インプット：ワークフローを開始する前に、...

大規模言語モデル（LLM）アプリケーションを構築する際、メモリシステムは対話のコンテキスト管理、長期的な情報保存、意味理解を強化する重要な技術の一つである。効率的なメモリシステムは、モデルが長い対話の一貫性を維持し、重要な情報を抽出し、さらに過去の対話を検索する機能を持つことができます...

OpenAIの関数呼び出しV2の特徴 関数呼び出しV2の中核的な目標は、OpenAIのモデルに外界と相互作用する能力を与えることです。

基本概念 情報技術の分野では、検索とは、ユーザーの問い合わせや必要性に応じて、大規模なデータセット（通常は文書、ウェブページ、画像、音声、動画、その他の形式の情報）から関連する情報を効率的に探し出し、抽出するプロセスを指す。 その中心的な目的は、使用目的に関連する情報を見つけることである。

Agent AI: Surveying the Horizons of Multimodal Interaction Original published at https://ar5iv.labs.arxiv.org/html/2401.03568 Abstract マルチモーダルAIシステムは、我々の日常生活においてユビキタスになる可能性が高い。このようなシステムをよりインタラクティブなものにする一つの方法として ...

GraphReader：大規模な言語モデルのための長文テキスト処理を強化するグラフベースのインテリジェンス Graphic Expert：マインドマップを作るのが得意な家庭教師のように、長文テキストを明確な知識ネットワークに変換することで、AIが地図に沿って探索するように、答えに必要な各キーポイントを簡単に見つけることができ、効果的に...

CAG（キャッシュ・オーグメンテッド・ジェネレーション）は、RAG（リトリーバル・オーグメンテッド・ジェネレーション）よりも40倍高速です。CAGは、知識獲得に革命をもたらします：リアルタイムで外部データを取得する代わりに、すべての知識がモデル・コンテキストにあらかじめロードされます。CAGは知識獲得に革命をもたらします：外部データをリアルタイムで取得する代わりに、すべての知識がモデル・コンテキストに事前にロードされます。これは、巨大なライブラリを、必要なときにすぐに使えるツールキットに凝縮したようなものです...

ジュリア・ヴィージンガー、パトリック・マーロウ、ウラジミール・ヴスコヴィッチ 著 原文 https://www.kaggle.com/whitepaper-agents 目次 はじめに インテリジェント・ボディとは何か？ モデル ツール オーケストレーションレイヤー インテリジェントボディとモデル 認知アーキテクチャ：インテリジェントボディの仕組み ツール ...

検索拡張生成（RAG）は、大規模言語モデル（LLM）とベクターデータベースのための最も人気のあるアプリケーションの1つになりつつある。RAGは、ベクターデータベース（Weaviateなど）から取得したコンテキストでLLMへの入力を拡張するプロセスである。

マルチエージェントシステム（MAS）は、相互作用する複数のインテリジェントエージェントから構成されるコンピューティングシステムである。マルチ・エージェント・システムは、単一のインテリジェント・エージェントや単一のシステムでは解決が難しい、あるいは不可能な問題を解決するために使用される。インテリジェント・エージェントは、ロボット、人間、ソフト・・・のいずれでもある。

I. LLMはすでに高い能力を持っているのに、なぜRAG（Retrieval Augmented Generation）が必要なのか？ 錯覚問題：LLMは統計的な確率論的アプローチを使ってテキストを単語ごとに生成するが、このメカニズムは本質的に...