大型语言模型（LLM）智能体循环与工具使用的超乎寻常的有效性

项目描述

本项目旨在探索大型语言模型（LLM）结合工具使用，尤其是通过一个名为Sketch的AI编程助手，如何展现出“智能体循环”的有效性。其核心思想是一个仅有九行Python代码的循环：它持续将用户输入喂给LLM，处理LLM输出中的工具调用（在此项目中主要指bash命令），然后将执行结果反馈回LLM。

def loop(llm):
    msg = user_input()
    while True:
        output, tool_calls = llm(msg)
        print("Agent: ", output)
        if tool_calls:
            msg = [ handle_tool_call(tc) for tc in tool_calls ]
        else:
            msg = user_input()

使用说明

主要的使用方式是与一个利用此智能体循环的AI编程助手进行交互。用户提供提示或问题，而系统（由LLM驱动，如Claude 3.7 Sonnet，并能访问bash和其他专业工具）会尝试解决任务。这 D任务范围广泛，从复杂的Git操作到代码重构，再到处理类型检查器错误。该系统具有持久性，能够适应环境，甚至可以安装必要的工具或调整以适应不同的命令行差异。

主要特点

• 简洁的智能体循环： 核心逻辑仅九行代码，实现LLM与工具的交互。
• 工具使用集成： LLM返回符合特定schema的输出，从而支持工具调用。
• Bash工具： 主要且强大的工具，允许LLM执行shell命令。
• 专用工具： 除了bash，Sketch还集成了其他工具，以提高质量、加速迭代并促进开发者工作流程（例如，用于文本编辑）。
• 持久性和适应性： 智能体可以学习并适应其所处环境，例如安装缺失的工具或适应不同的命令行选项。
• 问题解决能力： 能够处理各种编程任务，从Git操作到代码修改和错误处理。

目标用户

• 软件开发者： 希望AI助手简化日常编程任务、自动化重复操作并协助解决复杂编码挑战的个人。
• DevOps专业人员： 寻求自动化系统管理任务和脚本编写的人员。

项目链接

• 博客文章：sketch.dev/blog/agent-loop
• 另一篇博客文章：philz.dev/blog/agent-loop/

应用场景

• Git操作： 自动化晦涩的Git命令或协助合并。
• 代码重构： 进行大规模代码修改，例如在整个代码库中更改类型并解决由此产生的类型检查器错误。
• 开发环境设置： 自动安装缺失的工具或适应不同的命令行实用程序。
• 调试和日志分析： 将堆栈跟踪与Git提交关联起来，对复杂的调试信息进行初步分析。
• 通用自动化： 自动化日常繁琐任务，这些任务对于通用工具来说过于具体，或者对于传统自动化而言过于不稳定。