Utilisation de l'API de recherche de DuckDuckGo pour donner aux grands modèles un accès gratuit à la fonctionnalité de mise en réseau, afin d'obtenir un effet similaire à celui de New Bing.

Aperçu du projet

En intégrant DuckDuckGo Les API de recherche qui donnent au modèle de langage large commun un aspect similaire. New Bing de l'accès au web en temps réel et des capacités de questions-réponses intelligentes. Le multiplexage de grands modèles de Appel de fonctionpour un traitement efficace et flexible des requêtes et des processus de génération de réponses.

Réalisation du cœur de métier

Le système utilise le Function calling pour une intégration transparente du traitement des requêtes et de la génération de réponses :

1. Analyse et recherche de requêtes : utiliser claude-3-haiku peut-être gpt-3.5-turbo Le modèle le plus simple génère des termes de recherche optimisés et fait appel à l'API de recherche par le biais d'appels de fonctions.
2. Recherche sur le web : Appeler l'API de DuckDuckGo pour effectuer une recherche d'informations en temps réel.
3. Génération intelligente de réponses : utilisation de claude-3-5-sonnnet peut-être gpt-4o Des modèles plus complexes comme ceux-ci combinent les résultats de la recherche et les questions originales pour générer des réponses précises et complètes.

mise en œuvre du code

1. réglages de l'environnement et définitions des fonctions

import os
import json
from openai import OpenAI
from duckduckgo_search import DDGS
API_KEY = os.getenv("OPENAI_API_KEY")
BASE_URL = os.getenv("OPENAI_BASE_URL")
client = OpenAI(api_key=API_KEY, base_url=BASE_URL)
FUNCTIONS = [
{
"name": "search_duckduckgo",
"description": "使用DuckDuckGo搜索引擎查询信息。可以搜索最新新闻、文章、博客等内容。",
"parameters": {
"type": "object",
"properties": {
"keywords": {
"type": "array",
"items": {"type": "string"},
"description": "搜索的关键词列表。例如：['Python', '机器学习', '最新进展']。"
}
},
"required": ["keywords"]
}
}
]

2. les fonctions auxiliaires associées

def search_duckduckgo(keywords):
search_term = " ".join(keywords)
with DDGS() as ddgs:
return list(ddgs.text(keywords=search_term, region="cn-zh", safesearch="on", max_results=5))
def print_search_results(results):
for result in results:
print(
f"标题: {result['title']}\n链接: {result['href']}\n摘要: {result['body']}\n---")
def get_openai_response(messages, model="gpt-3.5-turbo", functions=None, function_call=None):
try:
response = client.chat.completions.create(
model=model,
messages=messages,
functions=functions,
function_call=function_call
)
return response.choices[0].message
except Exception as e:
print(f"调用OpenAI API时出错: {str(e)}")
return None
def process_function_call(response_message):
function_name = response_message.function_call.name
function_args = json.loads(response_message.function_call.arguments)
print(f"\n模型选择调用函数: {function_name}")
if function_name == "search_duckduckgo":
keywords = function_args.get('keywords', [])
if not keywords:
print("错误：模型没有提供搜索关键词")
return None
print(f"关键词: {', '.join(keywords)}")
function_response = search_duckduckgo(keywords)
print("\nDuckDuckGo搜索返回结果:")
print_search_results(function_response)
return function_response
else:
print(f"未知的函数名称: {function_name}")
return None

3. les principales fonctions de traitement

def main(question):
print(f"问题：{question}")
messages = [{"role": "user", "content": question}]
response_message = get_openai_response(
messages, functions=FUNCTIONS, function_call="auto")
if not response_message:
return
if response_message.function_call:
function_response = process_function_call(response_message)
if function_response:
messages.extend([
response_message.model_dump(),
{
"role": "function",
"name": response_message.function_call.name,
"content": json.dumps(function_response, ensure_ascii=False)
}
])
final_response = get_openai_response(messages, model="gpt-4o")
if final_response:
print("\n最终回答:")
print(final_response.content)
else:
print("\n模型直接回答:")
print(response_message.content)

réalisation

De cette manière, les grands modèles peuvent être capables de répondre à une variété de questions, par exemple :

1. Information géographique : "Le PRD inclut-il Foshan ?".
2. Questions sur les capacités de l'IA : "Que pouvez-vous faire ?"
3. Question spécifique au domaine : "Qui est l'auteur de Zombies Hybrid ?".
4. Réflexion philosophique : "La vie tient en deux mots, quels sont ces deux mots ?"
5. Actualités liées à "Qu'est-ce que l'inégalité sautante ?"
6. Question relative à l'heure : "Quelle est l'heure actuelle à Pékin ?

Code complet

import os
import json
from openai import OpenAI
from duckduckgo_search import DDGS

API_KEY = os.getenv("OPENAI_API_KEY")
BASE_URL = os.getenv("OPENAI_BASE_URL")
client = OpenAI(api_key=API_KEY, base_url=BASE_URL)

FUNCTIONS = [
{
"name": "search_duckduckgo",
"description": "使用DuckDuckGo搜索引擎查询信息。可以搜索最新新闻、文章、博客等内容。",
"parameters": {
"type": "object",
"properties": {
"keywords": {
"type": "array",
"items": {"type": "string"},
"description": "搜索的关键词列表。例如：['Python', '机器学习', '最新进展']。"
}
},
"required": ["keywords"]
}
}
]


def search_duckduckgo(keywords):
search_term = " ".join(keywords)
with DDGS() as ddgs:
return list(ddgs.text(keywords=search_term, region="cn-zh", safesearch="on", max_results=5))


def print_search_results(results):
for result in results:
print(
f"标题: {result['title']}\n链接: {result['href']}\n摘要: {result['body']}\n---")


def get_openai_response(messages, model="gpt-3.5-turbo", functions=None, function_call=None):
try:
response = client.chat.completions.create(
model=model,
messages=messages,
functions=functions,
function_call=function_call
)
return response.choices[0].message
except Exception as e:
print(f"调用OpenAI API时出错: {str(e)}")
return None


def process_function_call(response_message):
function_name = response_message.function_call.name
function_args = json.loads(response_message.function_call.arguments)

print(f"\n模型选择调用函数: {function_name}")

if function_name == "search_duckduckgo":
keywords = function_args.get('keywords', [])

if not keywords:
print("错误：模型没有提供搜索关键词")
return None

print(f"关键词: {', '.join(keywords)}")

function_response = search_duckduckgo(keywords)
print("\nDuckDuckGo搜索返回结果:")
print_search_results(function_response)

return function_response
else:
print(f"未知的函数名称: {function_name}")
return None


def main(question):
print(f"问题：{question}")

messages = [{"role": "user", "content": question}]
response_message = get_openai_response(
messages, functions=FUNCTIONS, function_call="auto")

if not response_message:
return

if response_message.function_call:
if not response_message.content:
response_message.content = ""
function_response = process_function_call(response_message)
if function_response:
messages.extend([
response_message.model_dump(),
{
"role": "function",
"name": response_message.function_call.name,
"content": json.dumps(function_response, ensure_ascii=False)
}
])

final_response = get_openai_response(messages, model="gpt-4o")
if final_response:
print("\n最终回答:")
print(final_response.content)
else:
print("\n模型直接回答:")
print(response_message.content)


if __name__ == "__main__":
main("植物大战僵尸杂交版的作者是谁？他是怎么想到做出来这个游戏的？")