跳转到主要内容

开发

设置您的 PipeLLM 网关开发环境。

🚀 快速设置

1

安装 SDK

安装您首选的 LLM SDK:
# OpenAI
pip install openai

# Anthropic
pip install anthropic

# Google
pip install google-generativeai
2

配置环境

设置您的环境变量:
export PIPELLM_API_KEY="your-pipellm-key"
export PIPELLM_BASE_URL="https://api.pipellm.com/v1"
3

测试集成

测试您的设置:
import os
from anthropic import Anthropic

client = Anthropic(
    api_key=os.getenv("PIPELLM_API_KEY"),
    base_url=os.getenv("PIPELLM_BASE_URL")
)

response = client.messages.create(
    model="claude-3-sonnet",
    messages=[{"role": "user", "content": "Hello"}]
)
print(response.content[0].text)

📊 监控设置

🔧 环境变量

变量描述示例
PIPELLM_API_KEY您的 API 密钥sk-...
PIPELLM_BASE_URL网关 URLhttps://api.pipellm.com/v1
PIPELLM_PROVIDER首选提供商openaianthropicgoogle

🧪 测试

使用我们的测试端点验证您的设置:
# 测试连接
curl -H "Authorization: Bearer $PIPELLM_API_KEY" \
     -H "Content-Type: application/json" \
     -d '{"model": "auto", "messages": [{"role": "user", "content": "test"}]}' \
     https://api.pipellm.com/v1/chat/completions

📚 下一步

💡 实用技巧

  • 使用环境变量进行配置
  • 实现带指数退避的重试逻辑
  • 通过管理仪表板监控使用情况
  • 为高错误率设置告警