AI知識 10ページ

  Transformerは、2017年にVaswaniらによって提案された、自然言語処理（NLP）のためのディープラーニングモデルアーキテクチャである。 主に機械翻訳やテキスト生成など、シーケンス間のタスク処理に用いられる。 簡単に説明すると、テキスト生成のためのオリジナルのTransformerモデル...

免責事項：基本的なヒンティング技術（例：ゼロ/少数のサンプル例や命令形ヒント）は非常に効率的ですが、複雑なパズル（例：数学/プログラミングや多段階の論理的推論を必要とする問題）に直面した場合、より洗練されたヒントがより効果的な場合があります。大規模言語モデル(LLM)はこのような問題を扱うので...

タイトル：エージェントAI 全体論的知性を目指して 著者：黄秋元、和気直樹、Bidipta Sarkar、Zane Durante、Ran Gong、Rohan Taori、野田祐介、DemetriTerzopoulos、久野登、Ade Famoti、Ashle...

論文アドレス：https://arxiv.org/abs/2404.17723 知識グラフは、的を絞った方法でしか実体関係を抽出できない。そのような安定的に抽出可能な実体関係は、構造化データに近いものとして理解できる。 図1は、知識グラフ（KG）と検索拡張生成（RAG）の組み合わせを示す...

以下は、ヒント・エンジニアリングの基本的な考え方と、それがラージ・ランゲージ・モデル（LLM）のパフォーマンスをどのように向上させるかについての紹介である。 LLMのインターフェース：ラージ・ランゲージ・モデルがこれほど注目されている主な理由のひとつは、そのテキスト・トゥ・テキスト・インターフェースが最小限の操作体験を可能にすることだ。これまで、ディープラーニングを使ったタスクの解決には、一般的に...

オープンソースアドレス：https://github.com/cpacker/MemGPT 論文アドレス：https://arxiv.org/abs/2310.08560 公式ウェブサイト：https://memgpt.ai/ MemGPTがサポートするもの： 1. 長期記憶や状態の管理 2.外部データソース 3.

研究者は、大規模言語モデル（LLM）の開発者が設定したセキュリティ・フェンスを回避するために使用できる手法である「脱獄攻撃」テクニックを調査した。マルチサンプル脱獄攻撃」として知られるこのテクニックは、Anthropic社独自のモデルだけでなく、他のAI企業が製造したモデルでも機能する。研究者らは、事前に...

元記事：https://arxiv.org/pdf/2210.03629.pdf ReActがどのように機能し、適用されるのか、読んでも理解できない？ReAct実装ロジックの実際」で実例を交えた解説をご覧ください。 概要 大規模言語モデル（LLM）は、言語理解や対話的な意思決定のタスクに有用であるが、言語理解や対話的な意思決定のタスクに...

RAG（Retrieve Augmented Generation）は、権威ある知識ベース情報に基づいて大規模言語モデル（LLM）の出力を最適化する技術である。このテクニックは、LLMの機能を拡張し、特定のドメインや組織の内部知識ベースを参照することで、...

原文："Dense X Retrieval: What Retrieval Granularity Should We Use?" 注：この方法は、OPENAIシリーズ、Claudeシリーズ、Mixtral、Yi、qwenなど、少数のモデルに適している。 概要 オープンドメインの自然言語処理（NLP）タスクでは、...

今日、"Large Language Models as Analogical Reasoners "という興味深い論文を読んだ。 プロンプト工学に詳しい人なら、「思考の連鎖」（CoT）という言葉を聞いたことがあるだろう。

要旨 広範囲の問題に対する大規模言語モデル(LLM)の推論性能は、連鎖思考プロンプトに大きく依存しており、プロンプトの例として多くの連鎖思考デモを提供する必要がある。思考ツリーなどの最近の研究では、複雑な問題解決における推論の探索と自己評価が指摘されている...

TL;DR この8200字を超える記事は、全部読むのに15分ほどかかる。この記事では、知覚機械からディープラーニングの最新のビッグモデル応用であるChatGPTの歴史を簡単にレビューする。 元記事: https://hutusi.com/articles/the-history-of-neural-networks 人生に恐れるものは何もない。