超实用AI套件,AI模型一秒切换,吴恩达开源新作!统一 LLM 调用的 Python 包:Aisuite

近年来,大型语言模型(LLM)如雨后春笋般涌现,OpenAI、Anthropic、Google、AWS 等各大厂商纷纷推出强大的模型。

然而,开发者在调用这些模型时往往需要适配各自的接口,繁琐且效率低下。

为了解决这一痛点,吴恩达团队 推出了开源 Python 包:Aisuite,看名称就知道是一个AI套件。

一个统一 LLM 调用的标准化工具,让开发者更高效地对接和比较多种 LLM。

图片[1]| 超实用AI套件,AI模型一秒切换,吴恩达开源新作!统一 LLM 调用的 Python 包:Aisuite| 小妖客栈

工具介绍

Aisuite 是一个专为开发者设计的开源工具包,旨在统一和简化 LLM 的调用接口。

通过一个标准化的接口,轻松切换模型提供商,无需为不同接口单独开发代码,从而极大地提升开发效率。

图片[2]| 超实用AI套件,AI模型一秒切换,吴恩达开源新作!统一 LLM 调用的 Python 包:Aisuite| 小妖客栈

主要特点

  • • 一键切换模型:使用 provider:model 的形式选择模型,例如:openai:gpt-4oanthropic:claude-3-5-sonnet-20241022。无需改动代码逻辑,只需更改字符串即可。
  • • 支持多种 LLM:GPT-4、GPT-3.5、Claude 系列、Azure、Google、AWS、HuggingFace、Ollama、Mistral等
  • • 灵活扩展:同一套代码调用不同模型,便于快速测试、对比性能与效果。
  • • 简单易用:一条命令即可安装,快速上手。

快速使用

① 安装 Aisuite

pip install aisuite

② 调用不同模型

Aisuite 提供了统一的接口,以下是基本的调用流程:

import aisuite as ai

# 实例化AI套件
client = ai.Client()

# 模型列表,迭代查看不同模型效果
models = ["openai:gpt-4o", "anthropic:claude-3-5-sonnet-20240620"]

# 设定不同角色提交的问题
messages = [
    {"role": "system", "content": "Respond in Pirate English."},
    {"role": "user", "content": "Tell me a joke."},
]

for model in models:
    response = client.chat.completions.create(
        model=model,
        messages=messages,
        temperature=0.75
    )
    print(response.choices[0].message.content)
图片[3]| 超实用AI套件,AI模型一秒切换,吴恩达开源新作!统一 LLM 调用的 Python 包:Aisuite| 小妖客栈

应用场景

  • • 模型对比与评估:快速对比多个 LLM 的性能、输出质量,选择最佳模型。
  • • 多模型策略集成:在同一应用中结合多个模型,充分发挥其特长,例如:
    • Claude 用于生成长文内容
    • • GPT-4 用于代码生成和推理
  • • 统一代码管理:使用统一接口管理多个模型,避免多套代码维护的繁琐。

写在最后

Aisuite 的诞生无疑是 LLM 开发领域的一场“接口革命”。它不仅解决了开发者对接不同模型时繁琐的学习成本,还通过统一接口让多模型的协作与比较变得简单高效。

无论是快速集成多个模型,还是高效测试模型效果,它都能成为开发者的得力助手。

GitHub项目地址:https://github.com/andrewyng/aisuite

© 版权声明
THE END
喜欢就支持一下吧
点赞11赞赏 分享
评论 抢沙发
头像
欢迎您留下宝贵的见解!
提交
头像

昵称

取消
昵称表情代码图片

    暂无评论内容