func call

 
函数调用,由LLM决定使用哪些工具
- 要为LLM提供tools
- LLM本身要支持工具调用 



重点

 
大模型对用户问题的 理解 以及 行动规划

结构化输出:可以精准的描述需要调用哪个函数以及函数对应的参数 

上下文学习In-Context Learning: 能够将函数调用的结果与之前的对话信息结合在一起,综合理解后输出结果

func call 让LLM可以与外部系统交互,提升/扩展了自己的能力,可以完成更复杂的任务
    

 
deepseek 蒸馏版不支持func call,但可以自定义prompt实现 
- 1.5B的模型,其能力在以上三个方面能力不足,不足以支撑起函数调用 

应用场景

 
1.查询检索,通过补充具体的知识来扩充大模型的知识面,比如,RAG,搜索 

2.协助用户输入,将用户自然语言等非结构化信息转化为结构化信息,再使用func calling就可以写入数据库

3.直接调用外部API,完成各种功能,比如下单,执行命令...

 


 


 


 


 


 


 


 


 


参考