函数调用,由LLM决定使用哪些工具 - 要为LLM提供tools - LLM本身要支持工具调用 重点 大模型对用户问题的 理解 以及 行动规划 结构化输出:可以精准的描述需要调用哪个函数以及函数对应的参数 上下文学习In-Context Learning: 能够将函数调用的结果与之前的对话信息结合在一起,综合理解后输出结果 func call 让LLM可以与外部系统交互,提升/扩展了自己的能力,可以完成更复杂的任务 deepseek 蒸馏版不支持func call,但可以自定义prompt实现 - 1.5B的模型,其能力在以上三个方面能力不足,不足以支撑起函数调用 应用场景 1.查询检索,通过补充具体的知识来扩充大模型的知识面,比如,RAG,搜索 2.协助用户输入,将用户自然语言等非结构化信息转化为结构化信息,再使用func calling就可以写入数据库 3.直接调用外部API,完成各种功能,比如下单,执行命令... |
|
|
|
|
|
|