AI知識 3ページ

OpenAIのディープリサーチツールが突如として登場した後、主要なベンダーはこぞって独自のディープリサーチツールを発表した。いわゆるディープリサーチは通常の検索と比較され、単純なRAG検索では一般的に1ラウンドの検索しか生成されない。しかし、ディープリサーチは、人間のように行動することができる。

テクノロジー・コア：検索インターリーブ生成（RIG） RIGとは RIGは、大規模な言語モデルによる統計データの処理における幻覚の問題に対処するために設計された革新的な生成手法である。従来のモデルでは、不正確な数値や事実が空中から生成される可能性がありましたが、RIGでは...

RAGアプリケーションで期待する結果が得られない場合は、チャンキング戦略を見直す時期かもしれません。チャンキングを改善すれば、より正確な検索が可能になり、最終的には質の高い回答が得られます。 しかし、チャンキングは万能の手法ではなく、単一のアプローチが絶対的に最適ということはありません。チャンキングの方法をカスタマイズする必要があります。

Ollamaフレームワークの登場は、人工知能と大規模言語モデル（LLM）の分野で多くの注目を集めている。このオープンソース・フレームワークは、大規模言語モデルのローカルでの展開と運用を簡素化し、より多くの開発者がLLMの魅力を簡単に体験できるようにすることに焦点を当てている。しかし、市場を見ると、Ollamaだけではない...。

AIの分野では、モデルの選択が非常に重要であり、業界のリーダーであるOpenAIは、推論モデルとGPTモデルという2つの主要なモデルファミリーを提供しています。前者はo1やo3-miniなどのoシリーズに代表され、後者は...

興味深い論文「Thoughts Are All Over the Place: On the Underthinking of o1-Like LLMs」を見つけた。トピックは、o1-like推論モデル、思考経路の頻繁な切り替え、「underthinking」と呼ばれる思考焦点の欠如を分析することである。o1様推論モデルの思考経路の頻繁な切り替えと、「アンダーシンキング」と呼ばれる思考焦点の欠如を分析し、同時にそれを緩和するための解決策を与えることをテーマとしている。

はじめに AI技術の広大な星空の中で、ディープラーニングモデルはその優れた性能で多くの分野の革新と発展を牽引している。しかし、モデルサイズの継続的な拡大は諸刃の剣のようなものであり、性能を向上させる一方で、演算需要の劇的な増大とストレージの圧迫をもたらす。特にリソースに制約のあるアプリケーションでは ...

概要 ラージ・ランゲージ・モデル（LLM）は、その優れた性能にもかかわらず、幻覚を見たり、事実と異なる情報を生成したりしがちである。この課題は、LLMに裏付けとなる証拠を含むコンテンツを生成するよう促す、属性テキスト生成の取り組みを動機づけてきた。本稿では、Think&Citeと呼ばれる新しいアプローチを紹介する。

はじめに 本書の目的は、一連のプロンプトの例（一部）を通して、プロンプト・エンジニアリングの中核となる概念と応用を読者が素早く理解し、把握できるようにすることである。これらの例はすべて、プロンプト・エンジニアリング技術の体系的レビューに関する学術論文（"The Prompt Report: A Systematic Survey of Pr...

Titans: Learning to Memorise at Test Time 原文: https://arxiv.org/pdf/2501.00663v1 Titans architecture 非公式実装: https://github.com/lucidrains/titans-pytorch I. 研究の背景と動機: ...のトランスフォーマー。

RAG（Retrieval Augmented Generation）システムを必要とするアプリケーションにとって、膨大なPDF文書を機械可読なテキストブロックにすること（「PDFチャンキング」とも呼ばれる）は大きな頭痛の種だ。 市場にはオープンソースのソリューションと商用製品の両方がありますが、正直なところ、本当にできるソリューションはありません...

DeepSeek R1公式ジェイルブレイクは、基本的にあらゆるタイプの検閲メカニズムをトリガーするための素晴らしい実験環境であり、あなたは多くの防御テクニックを学ぶことができるので、これは長年にわたって大規模なモデルのジェイルブレイクの例を紹介する大規模なモデルの検閲メカニズムに関する学習記事です。 大規模なモデルの検閲メカニズムは、通常、使用されている...

Original: https://cdn.openai.com/o3-mini-system-card.pdf 1 はじめに OpenAI oのモデルファミリーは、大規模な強化学習を使って学習され、思考の連鎖を使って推論する。これらの高度な推論機能は、我々のモデルの安全性と頑健性を向上させる新しい方法を提供する。特に、 ...

Quick Reads 大規模言語モデル（LLM）のスケーリング法則の過去と現在、そしてAI研究の今後の方向性を包括的かつ詳細に考察。著者のキャメロン・R・ウルフは、明確な論理と豊富な例で、読者を基本的な概念から...

概要 OpenAIのGPT-4、GoogleのPaLM、MetaのLLaMAなどの大規模言語モデル（LLM）は、人間のようなテキスト生成と自然言語理解を可能にすることで、人工知能（AI）を劇的に変化させてきた。しかし、静的な学習データに依存しているため、動的でリアルタイムのクエリへの対応には限界がある。

人工知能（AI）は急速に成長している分野である。言語モデルは、AIエージェントが複雑なタスクを実行し、複雑な意思決定を行えるように進化してきた。しかし、これらのエージェントのスキルが成長し続けるにつれて、それをサポートするインフラは追いつくのに苦労しています。 LangGraphは、AIエージェントに革命を起こすために設計された画期的なライブラリです...

はじめに 先週リリースされた中国製の大規模言語モデルDeepSeek-R1について、他の多くの人と同様、ここ数日、私のニュースツイートはニュース、賞賛、苦情、憶測で埋め尽くされている。DeepSeek-R1は、OpenAI、Meta、その他の優れた推論モデルと比較されている。