HeadlinesBriefing favicon HeadlinesBriefing.com

Imp:Elixir自我改进语言模型编程框架

Hacker News •
×

Imp是Elixir的一个声明式、自我改进的语言模型编程框架,是DSPy在BEAM上的完整移植。它让开发者描述语言模型步骤和返回结果,选择推理策略,并通过OTP的可靠性和并发性优化带标签示例的程序。

开发者可以定义类型签名,如'issue -> kind: enum[bug,feature,question], summary',并使用Imp.predict/2调用。框架从签名构建提示词,验证回复,返回类型化字段。通过Imp.chain_of_thought/2和Imp.react/3支持链条推理和工具使用,无需更改签名。

优化使用带标签数据集(trainset、valset、testset)进行指标衡量。GEPA作为强大语言模型,读取失败并重写指令。其他优化器包括Labeled Few Shot、Bootstrap Few Shot、MIPROv2、SIMBA以及使用GRPO的微调。

代理以受监督的OTP进程形式运行,使用Imp.start_run/3,实现监控和授权控制。工具是使用Imp.tool/3包装的纯Elixir函数。该框架依赖Req进行HTTP调用。

Imp实现从单个类型化调用到长时间运行的代理的构建,每个组件通过测量和优化提升,同时维持Elixir的容错和并发保证。