AI知識 5ページ

I. LLMはすでに高い能力を持っているのに、なぜRAG（Retrieval Augmented Generation）が必要なのか？ 錯覚問題：LLMは統計的な確率論的アプローチを使ってテキストを単語ごとに生成するが、このメカニズムは本質的に...

o3が個人的な洞察をお伝えします。テストタイム・スケーリング法の進展は、私たちが考えていたよりもずっと早かった。しかし、その道筋は実は少し入り組んでいることを提案したい。AGIを追求するOpenAIの国難を救う方法だ。 強化学習と近道思考 ...

ベクトル埋め込みは、現在の検索拡張世代（RAG）アプリケーションの中核をなしている。ベクトル埋め込みは、データオブジェクト（テキスト、画像など）の意味情報をキャプチャし、それらを数値の配列として表現する。現在の生成AIアプリケーションでは、これらのベクトルEmbeddingは通常Embeddingモデルによって生成されます。RAGへの応募方法 ...

まえがき 過去2年間で、検索拡張生成（RAG、Retrieval-Augmented Generation）技術は徐々に拡張知能の中心的な構成要素となってきた。検索と生成の2つの機能を組み合わせることで、RAGは外部の知識を取り込むことができ、複雑なシナリオにおける大規模なモデルの応用を広げることができる。

エージェント これまで私が目にした最も一般的な訳語は「知的身体」だが、直訳すると「エージェント」だ。 Agenticは何と訳すべきだろうか？私は "agentic "の方が適切だと感じている。 そこで、読者を混乱させないために、本稿では英語をそのまま使うことにする。 LLMの発達に伴い、AIの能力...

AIモデルが特定のシナリオで役立つためには、通常、背景知識を利用する必要がある。例えば、カスタマー・サポート・チャットボットは、それがサービスを提供する特定のビジネスを理解する必要があり、法的分析ボットは、過去の多数のケースにアクセスする必要がある。 開発者はしばしば、検索オーグメンテ...

大規模モデルのファインチューニングの全過程 ファインチューニングの際には、上記のプロセスに厳密に従うことが推奨される。例えば、データセットの構築が十分でなく、最終的にファインチューニングしたモデルの効果の低さがデータセットの質の問題であることが判明した場合、事前の努力は無駄になり、問題...

OlaChat AI デジタル・インテリジェンス・アシスタント 1万字の徹底分析でText-to-SQL技術の過去と現在をお届けします。 論文：次世代データベース・インターフェース：LLMベースのText-to-SQLに関する調査 自然言語の問題から正確なSQLを生成すること（Text-to-SQL）は、長い歴史を持つ...

01.背景 RAGアプリケーションの開発において、最初のステップは文書をチャンキングすることであり、効率的な文書のチャンキングは、効果的に後続の想起コンテンツの精度を向上させることができます。効率的なドキュメントチャンキングは、その後のリコールコンテンツの精度を効果的に向上させることができます。 どのように効率的にチャンキングするかは議論のホットトピックであり、固定サイズチャンキング、ランダムサイズチャンキング、スライディングウィンドウ...などがあります。

この1年間、私たちは様々な業界で大規模言語モデル（LLM）エージェントを構築するチームと仕事をしてきました。一貫して、最も成功した実装は、複雑なフレームワークや特殊なライブラリを使用せず、シンプルでコンポーザブルなパターンによって構築されていることがわかりました。 この投稿では、私たちがお客様との共同作業や私たち自身の作業から学んだことを共有します。

AI概要 概要 AIキューエンジニアリングを深く掘り下げたもので、Anthropicの複数の専門家が、研究、消費者、企業など様々な観点からキューエンジニアリングの理解と実践経験を共有する座談会形式となっている。 記事では、キューエンジニアリングの定義、重要性、どのように...

テスト時間計算のスケーリングは、OpenAIがo1モデルをリリースして以来、AI界隈で最もホットな話題の一つとなっている。簡単に言えば、事前学習や事後学習の段階で計算能力を積み上げるのではなく、推論段階（つまり大規模言語モデルが出力を生成するとき）で計算した方が良いということだ...

  2024年を振り返ると、大きなモデルは日々変化し、何百もの知的体が競争している。AI応用の重要な一翼を担うRAGもまた、"群雄割拠 "の様相を呈している。年初にModularRAGが熱を帯び続け、GraphRAGが輝き、中旬にはオープンソースツールが本格化し、ナレッジグラフが新たな機会を創出し、年末にはグラフィカルな推論が...。

近年、生成AI（GAI）や大規模言語モデル（LLM）の急速な発展に伴い、そのセキュリティや信頼性の問題が注目されている。最近の研究で、Best-of-N jailbreak（略してBoN）と呼ばれるシンプルで効率的な攻撃手法が発見された。を入力することで...

ロングテキスト・ベクター・モデルは、10ページ分のテキストを1つのベクターにエンコードできる。 多くの人はこう考える。 必ずしもそうではない。 直接使ってもいいのか？チャンクすべきか？最も効率的な分割方法は？この記事では、長文ベクトルモデルの様々なチャンキング戦略について、長所と短所を分析しながら徹底討論します...

  I. プロンプトをテストする根本原因：LLMはプロンプトに対して非常に敏感であり、微妙な言い回しの変更によって出力が大きく異なる可能性があります。 プロンプトがテストされていない場合、次のようなことが発生する可能性があります。 事実と異なる情報 不適切な回答 不要なAPIコストの浪費 II. プロンプトの体系的な最適化 ...

概要 このガイドでは、純粋なPythonを使ってシンプルなRAG（Retrieval Augmented Generation）システムを作成する手順を説明します。埋め込みモデルと大規模言語モデル(LLM)を使って、関連ドキュメントを検索し、ユーザークエリに基づいて応答を生成します。 https://github.com/adithya-s-k/A...

はじめに 検索機能付き生成（RAG）は、大規模な言語モデルの利点と、知識ベースから関連情報を検索する機能を組み合わせた強力な手法である。このアプローチは、特定の検索された情報に基づくことで、生成される応答の品質と精度を向上させる。