GitHub-ax-llm/ax:基于斯坦福DSP论文构建llm驱动的代理和“代理工作流”。

Ax是一个创新性的框架，旨在简化智能代理和“主体工作流程”的创建，灵感来源于斯坦福DSP论文。它支持各种大型语言模型（LLMs）和向量数据库，提供了诸如流式验证和多模态DSP等高级功能。值得注意的是，Ax利用提示签名与LLMs进行高效且类型安全的交互。该框架功能强大，兼容多个LLM提供商，并包括快速LLM路由器和OpenTelemetry支持，以提升性能监控。 Ax最引人注目的特点之一是其能够通过AxBootstrapFewShot优化提示，这对于希望微调代理交互的开发人员来说可能是一个改变游戏规则的功能。此外，Ax支持使用Apache Tika处理RAG文档，并提供各种用例示例，使其成为AI领域开发人员的综合工具。 对于有兴趣利用尖端技术构建智能代理的开发人员，Ax提供了一个强大而灵活的解决方案。其专注于简化与LLMs的工作并提供全面框架的重点，可能使其成为那些希望推动AI驱动代理边界的人的宝贵资源。- "ax"图书馆专注于为代理工作流提供动力，灵感来自于斯坦福DSP论文。 - 它支持各种LLM和Vector DB。 - 提示签名是从简单签名自动生成的，可以具有多个输入和输出字段。 - 支持的LLM包括OpenAI、Azure OpenAI、Cohere、Anthropic、Mistral、Groq、DeepSeek、Ollama、Google Gemini和Hugging Face。 - 支持的Vector DB包括In Memory、Weaviate、Cloudflare和Pinecone。 - 该库提供了RAG管道、智能分块、嵌入、查询、流式输出验证、多模态DSP和使用优化器的自动提示调整等功能。 - 它还支持OpenTelemetry跟踪/可观察性，并提供可投入生产的TypeScript代码。 - 使用该库的示例包括文本摘要、构建代理、使用向量DB、使用RAG文档、多模态DSP、流式处理和快速LLM路由。 - 该库支持使用优化器调整提示，并提供内置函数，如代码解释器和嵌入适配器。 - 该库的目标是简化使用LLM的复杂性，并提供易于使用的框架。 - 使用该库涉及选择一个AI、创建一个提示签名和执行提示程序。 - 可以通过定义函数并将其传递给提示来启用函数调用。 - 可以通过设置调试选项来启用调试日志。 - 应遵循monorepo结构来管理依赖关系。