메인 콘텐츠로 건너뛰기

​
OpenAI SDK

OpenAI Python SDK는 ARouter와 바로 연동됩니다.

​
설치

pip install openai

​
기본 사용법

from openai import OpenAI

client = OpenAI(
    base_url="https://api.arouter.ai/v1",
    api_key="lr_live_xxxx",
)

response = client.chat.completions.create(
    model="openai/gpt-5.4",
    messages=[{"role": "user", "content": "양자 컴퓨팅을 한 문장으로 설명해주세요."}],
)
print(response.choices[0].message.content)

​
멀티 Provider 라우팅

모델 문자열을 변경하여 provider를 전환합니다: 
# OpenAI SDK를 통한 Anthropic 사용
response = client.chat.completions.create(
    model="anthropic/claude-sonnet-4.6",
    messages=[{"role": "user", "content": "Hello!"}],
)

# OpenAI SDK를 통한 DeepSeek 사용
response = client.chat.completions.create(
    model="deepseek/deepseek-v3.2",
    messages=[{"role": "user", "content": "Hello!"}],
)

# OpenAI SDK를 통한 Gemini 사용
response = client.chat.completions.create(
    model="google/gemini-2.5-flash",
    messages=[{"role": "user", "content": "Hello!"}],
)

​
스트리밍

stream = client.chat.completions.create(
    model="openai/gpt-5.4",
    messages=[{"role": "user", "content": "코드에 대한 하이쿠를 써주세요."}],
    stream=True,
)

for chunk in stream:
    if chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="")

​
비동기

import asyncio
from openai import AsyncOpenAI

client = AsyncOpenAI(
    base_url="https://api.arouter.ai/v1",
    api_key="lr_live_xxxx",
)

async def main():
    response = await client.chat.completions.create(
        model="openai/gpt-5.4",
        messages=[{"role": "user", "content": "Hello!"}],
    )
    print(response.choices[0].message.content)

asyncio.run(main())

​
임베딩

response = client.embeddings.create(
    model="openai/text-embedding-3-small",
    input="The quick brown fox jumps over the lazy dog",
)
print(response.data[0].embedding[:5])

​
Anthropic SDK

Anthropic Python SDK는 네이티브로 사용 가능합니다.

​
설치

pip install anthropic

​
기본 사용법

import anthropic

client = anthropic.Anthropic(
    base_url="https://api.arouter.ai",
    api_key="lr_live_xxxx",
)

message = client.messages.create(
    model="claude-sonnet-4.6",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Hello!"}],
)
print(message.content[0].text)
Anthropic SDK의 경우 base_url을 https://api.arouter.ai（/v1 없이）로 설정하세요. SDK가 자동으로 /v1/messages를 추가합니다.

​
스트리밍

with client.messages.stream(
    model="claude-sonnet-4.6",
    max_tokens=1024,
    messages=[{"role": "user", "content": "이야기를 써주세요."}],
) as stream:
    for text in stream.text_stream:
        print(text, end="")

​
Gemini SDK

Google Generative AI Python SDK는 API 엔드포인트를 설정하여 사용합니다.

​
설치

pip install google-generativeai

​
기본 사용법

import google.generativeai as genai

genai.configure(
    api_key="lr_live_xxxx",
    transport="rest",
    client_options={"api_endpoint": "https://api.arouter.ai"},
)

model = genai.GenerativeModel("gemini-2.5-flash")
response = model.generate_content("Hello!")
print(response.text)
transport="rest" 파라미터는 필수입니다. Gemini SDK는 기본적으로 gRPC를 사용하는데, ARouter는 gRPC를 지원하지 않습니다.