Interactive Composition Explorer (ICE)

一句话定位

一个用于组合式语言模型程序的Python调试器和跟踪可视化工具。

核心价值

• 提供语言模型程序的执行跟踪可视化，便于调试和分析
• 支持多种运行模式：人类、人类+语言模型、纯语言模型
• 允许定义和使用新的语言模型代理，如思维链代理
• 通过并行化语言模型调用快速运行配方

功能亮点

• 执行跟踪可视化：在浏览器中检查语言模型程序的执行轨迹
• 多模式运行：支持人类、混合和纯语言模型模式
• 代理系统：可定义新的语言模型代理和配方组件
• 并行化处理：通过并行调用提高语言模型程序运行速度
• 组件复用：可重用问答、排名、验证等配方组件

适用人群

• 语言模型研究人员和开发者
• AI工程师和机器学习从业者
• 需要调试和分析语言模型程序的人员
• 对组合式AI系统感兴趣的开发者

使用场景

• 调试复杂的语言模型程序执行流程
• 分析和可视化语言模型推理过程
• 开发和测试新的语言模型代理
• 构建和优化组合式AI系统
• 研究语言模型的行为和性能

综合说明

ICE是由Ought开发的开源工具，专门用于调试和分析组合式语言模型程序。它通过可视化执行跟踪、支持多种运行模式以及灵活的代理系统，为语言模型开发者提供了强大的调试能力。该工具特别适合需要深入理解语言模型程序执行流程的研究人员和开发者。