Langflow 是 DataStax 的旗舰产品,用于 构建生成式 AI 流程和代理。今天,我们通过 Langflow.new 的技术预览版本,推动了生成式 AI 的普及:一条完全开放的路径,用于快速原型设计和概念验证的生成式 AI 流程和代理。
你可以用 Langflow.new 做些什么?通过 Langflow.new,开发人员可以立即开始使用 Langflow 并发现它在构建 RAG 管道、代理流程和其他更多功能中的价值。当你进入页面时,你会立即看到一个基本的 AI 代理流。让我们更详细地看看这一点:在 Langflow 中,我们看到一系列被称为组件的模块。
如下图所示,Langflow.new 的默认开始界面。
具体来说,我们有以下内容:
- 一个 URL 组件,访问一个 URL 并返回其内容的组件
- 一个 计算器 组件,可以执行数学运算的组件
- 一个 聊天输入 组件,接受用户输入的提示
- 一个 代理 组件,可以接受其他组件作为输入
- 一个 聊天输出 组件,显示代理的输出
这里的关键在于,它们是工具。在AI代理的背景下,这些工具的工作方式与编程中的函数非常相似,输入参数(也称为参数或输入值)由语言模型生成并提供给工具,而输出结果(通常被称为返回值)则返回给语言模型。
如果我们把计算器组件看作是一个简单的 calculate(num1, num2, operation)
函数并暴露给代理,那么代理就会根据用户在聊天输入中的提示生成 num1, num2,
和 operation
的值。所以如果用户输入:
给我 3 和 7 加起来
然后LLM提示应用程序(在这里是Langflow)调用calculate
函数,并传递参数3
,7
和sum
,相当于执行了calculate(3, 7, "sum")
。这种结构化的输出可能如下所示:
{
"functionName": "计算函数",
"args": [3, 7, "求和运算"]
}
点击这里全屏,点击这里退出全屏
该应用程序(Langflow)然后处理来自LLM的结构化输出,然后调用工具;它随后将返回值发送回语言模型,继续处理。
当用户输入一个类似这样的提示时,这些工具就开始一起工作了。
把3425 USD换成卢比
然后语言模型会为每个工具生成调用,如下所示:
[
{ "functionName": "getFromUrl", "args": ["https://exchangerates.com/today?from=USD&to=INR"] }, // 从指定URL获取数据
{ "functionName": "calculator", "args": ["usdValue", "inrValue", "multiply"] } // 计算USD和INR值的乘积
]
全屏模式,点这里进入/退出。
从这里,应用程序使用这些输入执行这些功能,并将输出传递给语言模型。当不再有工具调用且语言模型仅返回文本时,应用程序通过Chat Output组件将此文本反馈给用户。Langflow是语言模型、工具和用户提示及输出之间的粘合剂(或运行环境)。
使用 Langflow.new,你可以尝试任何你喜欢的代理和流程,或者彻底摒弃它们,创建执行RAG(检索和生成)、情感分析或其他你喜欢的工作流。
一旦你的流程准备好了,你可以下载并用于任何已部署的Langflow实例:无论是作为DataStax提供的云服务的DataStax Langflow,还是自行安装。
灵感参考 Vercel 创始人兼 CEO Guillermo Rauch 的说法,我们决定尽量减少用户与 Langflow 核心资源(即有意义且有用的生成式 AI 流程)之间的互动障碍。
随着一个门槛的减少和对 Langflow 这类工具的更便捷访问,我们期待你们能带来什么新创意,以及 Langflow 如何最好地满足你们组织的需求。请在 𝕏 或 Discord 分享您的经历、想法和故事。
*[面向对象的]: OO
共同學習,寫下你的評論
評論加載中...
作者其他優質文章