信息服务-AI Agent(智能体):从技术概念到场景落地消耗,当多个智能体讨论且进入 错误循环中,无效成本将会显著提升。所以在效能方面,对智能体进行成本讨论以及优 化策略十分重要。 在商用智能体中,更先进的大语言模型代表更好的用户体验,但随之而来的是极速 上升的成本。目前 GPT4 的价格是 GPT3.5 turbo 的十倍,而且由于智能体之间交互的 特性,在输出过程中往往伴随着更高的 token 消耗。若最终输出的长度超出模型 token 限制,则不得不调用更高版本的模型例如10 积分 | 33 页 | 4.71 MB | 1 天前3
共 1 条
- 1
