Replies: 2 comments 1 reply
|
还有一个问题就是: 如果Insight Agent、Forum Host、SQL keyword Optimizer使用具有思考链的thinking模型,Media Agent使用具有思考链的thinking的多模态模型,是否会对输出造成干扰? |
1 reply
Tavily、Bocha 和 Anspire 是联网搜索服务,不是 LLM,因此不能只把它们的地址换成本地 LLM。LLM 本身不会自动取得实时网页和搜索结果;如果要完全本地化,需要自行接入本地搜索引擎,并实现与 BettaFish 搜索工具相匹配的适配器。 当前 Tavily 是独立搜索配置; 思考模型只要接口兼容就可尝试,但不保证稳定遵循 JSON 和提示词,通常还会增加延迟、Token 和上下文占用;Media Agent 如涉及图像,所选模型还必须真正支持多模态。建议逐个 Agent 做小规模对照测试。 |
0 replies
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
Uh oh!
There was an error while loading. Please reload this page.
LLM配置中的几个LLM都可以改为本地LLM运行。那么
Tavily API和Bocha API是否能改为本地部署的LLM?(是否合适?还是说需要用到Tavily API和Bocha API的独有功能?)
另外,初始化话题提取器(MindSpider\BroadTopicExtraction\topic_extractor.py)中的LLM默认使用DeepSeek API。能否将其配置放入config.py中呢?
All reactions