Conhecimento de IA Página 10

  O Transformer é uma arquitetura de modelo de aprendizagem profunda para processamento de linguagem natural (NLP), proposta por Vaswani et al. em 2017. Ele é usado principalmente para processar tarefas de sequência a sequência, como tradução automática, geração de texto e assim por diante. Em resumo, o modelo Transformer original para geração de texto...

Isenção de responsabilidade: embora as técnicas básicas de dicas (por exemplo, zero/poucos exemplos de amostra ou dicas imperativas) sejam muito eficientes, dicas mais sofisticadas podem ser mais eficazes quando se trata de alguns quebra-cabeças complexos (por exemplo, matemática/programação ou problemas que exigem raciocínio lógico em várias etapas). Como os modelos de linguagem grande (LLMs) lidam com esses problemas...

Título: IA de agente em direção a uma inteligência holística Autor: Qiuyuan Huang, Naoki Wake, Bidipta Sarkar, Zane Durante, Ran Gong, Rohan Taori, Yusuke Noda, Demetri Terzopoulos, Noboru Kuno, Ade Famoti, Ashle...

Endereço do artigo: https://arxiv.org/abs/2404.17723 Os gráficos de conhecimento só podem extrair relações de entidades de forma direcionada, e essas relações de entidades extraíveis de forma estável podem ser entendidas como próximas a dados estruturados. A Figura 1 ilustra uma combinação de Knowledge Graph (KG) e Retrieval Augmented Generation (RAG)...

A seguir, o foco é a ideia básica da engenharia de dicas e como ela pode melhorar o desempenho do Modelo de Linguagem Grande (LLM)... Interfaces para LLM: um dos principais motivos pelos quais os modelos de linguagem grande são tão populares é que suas interfaces de texto para texto permitem uma experiência operacional minimalista. No passado, a solução de tarefas usando aprendizagem profunda normalmente exigia...

Endereço de código aberto: https://github.com/cpacker/MemGPT Endereço do documento: https://arxiv.org/abs/2310.08560 Site oficial: https://memgpt.ai/ MemGPT suporta: 1. gerenciamento de memória ou estado de longo prazo 2. links para tecnologias baseadas em RAG Fontes de dados externas 3.

Pesquisadores investigaram uma técnica de "ataque de fuga da prisão" - um método que pode ser usado para contornar as barreiras de segurança estabelecidas por desenvolvedores de modelos de linguagem grandes (LLMs). A técnica, conhecida como "ataque de jailbreak de várias amostras", funciona nos próprios modelos da Anthropic, bem como naqueles produzidos por outras empresas de IA. Os pesquisadores pre...

Artigo original: https://arxiv.org/pdf/2210.03629.pdf Não consegue entender como o ReAct funciona e se aplica mesmo depois de lê-lo? Confira a "Lógica de implementação do ReAct na prática" para obter uma explicação com exemplos do mundo real. Resumo Embora os modelos de linguagem em larga escala (LLMs) sejam úteis nas tarefas de compreensão de linguagem e decisão interativa...

O RAG (Retrieve Augmented Generation) é uma técnica para otimizar a saída de modelos de linguagem grandes (LLMs) com base em informações autorizadas da base de conhecimento. Essa técnica amplia a funcionalidade dos LLMs para fazer referência à base de conhecimento interna de um determinado domínio ou organização ao gerar respostas para...

Artigo original: "Dense X Retrieval: What Retrieval Granularity Should We Use?" Observação: esse método é adequado para um pequeno número de modelos, como a série OPENAI, a série Claude, Mixtral, Yi e qwen. Resumo Em tarefas de processamento de linguagem natural (NLP) de domínio aberto, ...

Hoje li um artigo interessante, "Large Language Models as Analogical Reasoners", que menciona uma nova abordagem para Prompt - "Analogical Prompting". Se você está familiarizado com a engenharia de prompts, deve ter ouvido falar de "Chain of Thought" (CoT)...

Resumo O desempenho do raciocínio de modelos de linguagem grande (LLMs) em uma ampla gama de problemas depende muito de prompts de pensamento encadeado, o que envolve o fornecimento de várias demonstrações de pensamento encadeado como exemplos nos prompts. Pesquisas recentes, por exemplo, árvores de pensamento, apontaram para a exploração e a autoavaliação do raciocínio na resolução de problemas complexos ...

TL;DR Este artigo de mais de 8200 palavras leva cerca de 15 minutos para ser lido na íntegra. Este artigo analisa brevemente a história do ChatGPT, o mais recente aplicativo de grande modelo de aprendizagem profunda de máquinas perceptuais para... Artigo original: https://hutusi.com/articles/the-history-of-neural-networks Não há nada a temer na vida, apenas...