모델

Agents SDK는 OpenAI 모델을 두 가지 방식으로 즉시 사용할 수 있도록 지원합니다:

• 권장: 새 Responses API를 사용해 OpenAI API를 호출하는 OpenAIResponsesModel
• Chat Completions API를 사용해 OpenAI API를 호출하는 OpenAIChatCompletionsModel

모델 설정 선택

현재 설정에 맞는 가장 단순한 경로부터 시작하세요:

다음을 하려는 경우	권장 경로	자세히 보기
OpenAI 모델만 사용	기본 OpenAI provider와 Responses 모델 경로 사용	OpenAI 모델
websocket 전송으로 OpenAI Responses API 사용	Responses 모델 경로를 유지하고 websocket 전송 활성화	Responses WebSocket 전송
OpenAI가 아닌 provider 하나 사용	내장 provider 통합 지점부터 시작	OpenAI가 아닌 모델
에이전트 전반에서 모델 또는 provider 혼합	실행(run)별 또는 에이전트별로 provider 선택 후 기능 차이 검토	하나의 워크플로에서 모델 혼합 및 provider 간 모델 혼합
고급 OpenAI Responses 요청 설정 조정	OpenAI Responses 경로에서 ModelSettings 사용	고급 OpenAI Responses 설정
OpenAI가 아닌 또는 혼합 provider 라우팅에 서드파티 어댑터 사용	지원되는 베타 어댑터를 비교하고 출시할 provider 경로 검증	서드파티 어댑터

OpenAI 모델

대부분의 OpenAI 전용 앱에서는 기본 OpenAI provider와 문자열 모델 이름을 사용하고, Responses 모델 경로를 유지하는 것이 권장됩니다

Agent 초기화 시 모델을 지정하지 않으면 기본 모델이 사용됩니다. 현재 기본값은 호환성과 낮은 지연 시간을 위해 gpt-4.1입니다. 접근 권한이 있다면, 명시적인 model_settings를 유지하면서 더 높은 품질을 위해 에이전트를 gpt-5.4로 설정하는 것을 권장합니다

gpt-5.4 같은 다른 모델로 전환하려면 에이전트를 구성하는 방법이 두 가지 있습니다

기본 모델

첫째, 사용자 지정 모델을 설정하지 않은 모든 에이전트에서 특정 모델을 일관되게 사용하려면, 에이전트를 실행하기 전에 OPENAI_DEFAULT_MODEL 환경 변수를 설정하세요

export OPENAI_DEFAULT_MODEL=gpt-5.4
python3 my_awesome_agent.py

둘째, RunConfig를 통해 실행(run) 단위 기본 모델을 설정할 수 있습니다. 에이전트에 모델을 설정하지 않으면 이 실행의 모델이 사용됩니다

from agents import Agent, RunConfig, Runner

agent = Agent(
    name="Assistant",
    instructions="You're a helpful agent.",
)

result = await Runner.run(
    agent,
    "Hello",
    run_config=RunConfig(model="gpt-5.4"),
)

GPT-5 모델

이 방식으로 gpt-5.4 같은 GPT-5 모델을 사용할 때 SDK는 기본 ModelSettings를 적용합니다. 대부분의 사용 사례에서 가장 잘 동작하는 설정이 적용됩니다. 기본 모델의 reasoning effort를 조정하려면 사용자 지정 ModelSettings를 전달하세요:

from openai.types.shared import Reasoning
from agents import Agent, ModelSettings

my_agent = Agent(
    name="My Agent",
    instructions="You're a helpful agent.",
    # If OPENAI_DEFAULT_MODEL=gpt-5.4 is set, passing only model_settings works.
    # It's also fine to pass a GPT-5 model name explicitly:
    model="gpt-5.4",
    model_settings=ModelSettings(reasoning=Reasoning(effort="high"), verbosity="low")
)

더 낮은 지연 시간을 위해 gpt-5.4에서 reasoning.effort="none" 사용을 권장합니다. gpt-4.1 계열( mini 및 nano 변형 포함)도 인터랙티브 에이전트 앱 구축에 여전히 좋은 선택입니다

ComputerTool 모델 선택

에이전트에 ComputerTool이 포함된 경우, 실제 Responses 요청의 유효 모델이 SDK가 전송할 컴퓨터 도구 페이로드를 결정합니다. 명시적인 gpt-5.4 요청은 GA 내장 computer 도구를 사용하고, 명시적인 computer-use-preview 요청은 기존 computer_use_preview 페이로드를 유지합니다

주요 예외는 프롬프트 관리 호출입니다. 프롬프트 템플릿이 모델을 소유하고 SDK가 요청에서 model을 생략하면, SDK는 프롬프트가 어떤 모델을 고정했는지 추측하지 않기 위해 preview 호환 컴퓨터 페이로드를 기본으로 사용합니다. 이 흐름에서 GA 경로를 유지하려면 요청에 model="gpt-5.4"를 명시하거나 ModelSettings(tool_choice="computer") 또는 ModelSettings(tool_choice="computer_use")로 GA 선택기를 강제하세요

ComputerTool이 등록된 상태에서는 tool_choice="computer", "computer_use", "computer_use_preview"가 유효 요청 모델에 맞는 내장 선택기로 정규화됩니다. ComputerTool이 등록되지 않은 경우에는 이러한 문자열이 일반 함수 이름처럼 계속 동작합니다

preview 호환 요청은 environment와 디스플레이 크기를 사전에 직렬화해야 하므로, ComputerProvider 팩토리를 사용하는 프롬프트 관리 흐름은 구체적인 Computer 또는 AsyncComputer 인스턴스를 전달하거나 요청 전 GA 선택기를 강제해야 합니다. 전체 마이그레이션 세부 사항은 Tools를 참고하세요

GPT-5가 아닌 모델

사용자 지정 model_settings 없이 GPT-5가 아닌 모델 이름을 전달하면 SDK는 모든 모델과 호환되는 일반 ModelSettings로 되돌아갑니다

Responses 전용 도구 검색 기능

다음 도구 기능은 OpenAI Responses 모델에서만 지원됩니다:

• ToolSearchTool
• tool_namespace()
• @function_tool(defer_loading=True) 및 기타 지연 로딩 Responses 도구 표면

이 기능들은 Chat Completions 모델과 non-Responses 백엔드에서는 거부됩니다. 지연 로딩 도구를 사용할 때는 에이전트에 ToolSearchTool()을 추가하고, 네임스페이스 이름이나 지연 전용 함수 이름을 강제하는 대신 모델이 auto 또는 required tool choice를 통해 도구를 로드하도록 하세요. 설정 세부 사항과 현재 제약은 Tools를 참고하세요

Responses WebSocket 전송

기본적으로 OpenAI Responses API 요청은 HTTP 전송을 사용합니다. OpenAI 기반 모델 사용 시 websocket 전송을 선택할 수 있습니다

기본 설정

from agents import set_default_openai_responses_transport

set_default_openai_responses_transport("websocket")

이 설정은 기본 OpenAI provider가 해석하는 OpenAI Responses 모델("gpt-5.4" 같은 문자열 모델 이름 포함)에 영향을 줍니다

전송 방식 선택은 SDK가 모델 이름을 모델 인스턴스로 해석할 때 발생합니다. 구체적인 Model 객체를 전달하면 전송 방식은 이미 고정됩니다: OpenAIResponsesWSModel은 websocket, OpenAIResponsesModel은 HTTP, OpenAIChatCompletionsModel은 Chat Completions를 유지합니다. RunConfig(model_provider=...)를 전달하면 전역 기본값 대신 해당 provider가 전송 선택을 제어합니다

provider 또는 실행(run) 수준 설정

websocket 전송은 provider별 또는 실행(run)별로도 설정할 수 있습니다:

from agents import Agent, OpenAIProvider, RunConfig, Runner

provider = OpenAIProvider(
    use_responses_websocket=True,
    # Optional; if omitted, OPENAI_WEBSOCKET_BASE_URL is used when set.
    websocket_base_url="wss://your-proxy.example/v1",
)

agent = Agent(name="Assistant")
result = await Runner.run(
    agent,
    "Hello",
    run_config=RunConfig(model_provider=provider),
)

OpenAI 기반 provider는 선택적 에이전트 등록 설정도 허용합니다. 이는 OpenAI 설정이 harness ID 같은 provider 수준 등록 메타데이터를 기대하는 경우를 위한 고급 옵션입니다

from agents import (
    Agent,
    OpenAIAgentRegistrationConfig,
    OpenAIProvider,
    RunConfig,
    Runner,
)

provider = OpenAIProvider(
    use_responses_websocket=True,
    agent_registration=OpenAIAgentRegistrationConfig(harness_id="your-harness-id"),
)

agent = Agent(name="Assistant")
result = await Runner.run(
    agent,
    "Hello",
    run_config=RunConfig(model_provider=provider),
)

MultiProvider를 사용한 고급 라우팅

접두사 기반 모델 라우팅(예: 한 실행에서 openai/...와 any-llm/... 모델 이름 혼합)이 필요하면 MultiProvider를 사용하고 거기서 openai_use_responses_websocket=True를 설정하세요

MultiProvider는 두 가지 기존 기본값을 유지합니다:

• openai/...는 OpenAI provider의 별칭으로 처리되어, openai/gpt-4.1은 모델 gpt-4.1로 라우팅됩니다
• 알 수 없는 접두사는 통과되지 않고 UserError를 발생시킵니다

OpenAI provider를 문자 그대로의 네임스페이스 모델 ID를 기대하는 OpenAI 호환 엔드포인트에 연결하는 경우, 명시적으로 pass-through 동작을 활성화하세요. websocket 활성 설정에서도 MultiProvider에 openai_use_responses_websocket=True를 유지하세요:

from agents import Agent, MultiProvider, RunConfig, Runner

provider = MultiProvider(
    openai_base_url="https://openrouter.ai/api/v1",
    openai_api_key="...",
    openai_use_responses_websocket=True,
    openai_prefix_mode="model_id",
    unknown_prefix_mode="model_id",
)

agent = Agent(
    name="Assistant",
    instructions="Be concise.",
    model="openai/gpt-4.1",
)

result = await Runner.run(
    agent,
    "Hello",
    run_config=RunConfig(model_provider=provider),
)

백엔드가 문자 그대로 openai/... 문자열을 기대하면 openai_prefix_mode="model_id"를 사용하세요. 백엔드가 openrouter/openai/gpt-4.1-mini 같은 다른 네임스페이스 모델 ID를 기대하면 unknown_prefix_mode="model_id"를 사용하세요. 이 옵션들은 websocket 전송 외부의 MultiProvider에서도 동작합니다; 이 예제는 이 섹션에서 설명한 전송 설정의 일부이므로 websocket을 활성화한 상태를 유지합니다. 동일한 옵션은 responses_websocket_session()에서도 사용할 수 있습니다

MultiProvider를 통해 라우팅하면서 동일한 provider 수준 등록 메타데이터가 필요하면 openai_agent_registration=OpenAIAgentRegistrationConfig(...)를 전달하면 하위 OpenAI provider로 전달됩니다

사용자 지정 OpenAI 호환 엔드포인트 또는 프록시를 사용하는 경우 websocket 전송에도 호환되는 websocket /responses 엔드포인트가 필요합니다. 이러한 설정에서는 websocket_base_url을 명시적으로 설정해야 할 수 있습니다

참고

• 이는 websocket 전송 기반 Responses API이며 Realtime API가 아닙니다. Chat Completions나 Responses websocket /responses 엔드포인트를 지원하지 않는 OpenAI가 아닌 provider에는 적용되지 않습니다
• 환경에 websockets 패키지가 없다면 설치하세요
• websocket 전송 활성화 후 Runner.run_streamed()를 바로 사용할 수 있습니다. 여러 턴 워크플로에서 턴 간(및 중첩된 agent-as-tool 호출 간) 동일 websocket 연결을 재사용하려면 responses_websocket_session() 헬퍼를 권장합니다. Running agents 가이드와 examples/basic/stream_ws.py를 참고하세요

OpenAI가 아닌 모델

OpenAI가 아닌 provider가 필요하면 SDK의 내장 provider 통합 지점부터 시작하세요. 많은 설정에서는 서드파티 어댑터를 추가하지 않아도 충분합니다. 각 패턴의 예제는 examples/model_providers에 있습니다

OpenAI가 아닌 provider 통합 방식

접근 방식	사용 시점	범위
set_default_openai_client	OpenAI 호환 엔드포인트 하나를 대부분 또는 전체 에이전트의 기본값으로 사용해야 할 때	전역 기본값
ModelProvider	사용자 지정 provider 하나를 단일 실행(run)에 적용해야 할 때	실행(run)별
Agent.model	서로 다른 에이전트에 서로 다른 provider 또는 구체적인 모델 객체가 필요할 때	에이전트별
서드파티 어댑터	내장 경로가 제공하지 않는 어댑터 관리 provider 범위 또는 라우팅이 필요할 때	서드파티 어댑터 참고

다음 내장 경로로 다른 LLM provider를 통합할 수 있습니다:

1. set_default_openai_client는 AsyncOpenAI 인스턴스를 LLM 클라이언트로 전역 사용하려는 경우에 유용합니다. LLM provider가 OpenAI 호환 API 엔드포인트를 제공하고 base_url 및 api_key를 설정할 수 있는 경우를 위한 방식입니다. 설정 가능한 예제는 examples/model_providers/custom_example_global.py를 참고하세요
2. ModelProvider는 Runner.run 수준에서 동작합니다. 이를 통해 "이 실행의 모든 에이전트에 사용자 지정 모델 provider를 사용"이라고 지정할 수 있습니다. 설정 가능한 예제는 examples/model_providers/custom_example_provider.py를 참고하세요
3. Agent.model은 특정 Agent 인스턴스에 모델을 지정할 수 있게 해줍니다. 이를 통해 서로 다른 에이전트에 서로 다른 provider를 혼합해 사용할 수 있습니다. 설정 가능한 예제는 examples/model_providers/custom_example_agent.py를 참고하세요

platform.openai.com의 API 키가 없는 경우 [set_tracing_disabled()]로 트레이싱을 비활성화하거나 다른 트레이싱 프로세서를 설정하는 것을 권장합니다

from agents import Agent, AsyncOpenAI, OpenAIChatCompletionsModel, set_tracing_disabled

set_tracing_disabled(disabled=True)

client = AsyncOpenAI(api_key="Api_Key", base_url="Base URL of Provider")
model = OpenAIChatCompletionsModel(model="Model_Name", openai_client=client)

agent= Agent(name="Helping Agent", instructions="You are a Helping Agent", model=model)

Note

이 예제들에서는 많은 LLM provider가 아직 Responses API를 지원하지 않기 때문에 Chat Completions API/모델을 사용합니다. LLM provider가 이를 지원한다면 Responses 사용을 권장합니다

하나의 워크플로에서 모델 혼합

단일 워크플로 내에서 에이전트마다 서로 다른 모델을 사용하고 싶을 수 있습니다. 예를 들어 분류(triage)에는 더 작고 빠른 모델을, 복잡한 작업에는 더 크고 성능이 높은 모델을 사용할 수 있습니다. Agent를 구성할 때 다음 중 하나로 특정 모델을 선택할 수 있습니다:

1. 모델 이름 전달
2. 모델 이름 + 해당 이름을 Model 인스턴스로 매핑할 수 있는 ModelProvider 전달
3. Model 구현을 직접 제공

Note

SDK는 OpenAIResponsesModel과 OpenAIChatCompletionsModel 형태를 모두 지원하지만, 두 형태는 지원 기능과 도구 집합이 다르므로 워크플로마다 단일 모델 형태를 사용하는 것을 권장합니다. 워크플로에서 모델 형태를 혼합해야 한다면 사용하는 모든 기능이 양쪽에서 모두 가능한지 확인하세요

from agents import Agent, Runner, AsyncOpenAI, OpenAIChatCompletionsModel
import asyncio

spanish_agent = Agent(
    name="Spanish agent",
    instructions="You only speak Spanish.",
    model="gpt-5-mini", # (1)!
)

english_agent = Agent(
    name="English agent",
    instructions="You only speak English",
    model=OpenAIChatCompletionsModel( # (2)!
        model="gpt-5-nano",
        openai_client=AsyncOpenAI()
    ),
)

triage_agent = Agent(
    name="Triage agent",
    instructions="Handoff to the appropriate agent based on the language of the request.",
    handoffs=[spanish_agent, english_agent],
    model="gpt-5.4",
)

async def main():
    result = await Runner.run(triage_agent, input="Hola, ¿cómo estás?")
    print(result.final_output)

1. OpenAI 모델 이름을 직접 설정합니다
2. Model 구현을 제공합니다

에이전트가 사용할 모델을 추가로 구성하려면 temperature 같은 선택적 모델 구성 매개변수를 제공하는 [ModelSettings][agents.models.interface.ModelSettings]를 전달할 수 있습니다

from agents import Agent, ModelSettings

english_agent = Agent(
    name="English agent",
    instructions="You only speak English",
    model="gpt-4.1",
    model_settings=ModelSettings(temperature=0.1),
)

고급 OpenAI Responses 설정

OpenAI Responses 경로에서 더 많은 제어가 필요하면 ModelSettings부터 시작하세요

일반적인 고급 ModelSettings 옵션

OpenAI Responses API를 사용할 때는 여러 요청 필드에 이미 직접 대응되는 ModelSettings 필드가 있으므로 extra_args가 필요하지 않습니다

• parallel_tool_calls: 같은 턴에서 여러 도구 호출 허용 또는 금지
• truncation: 컨텍스트가 넘칠 때 실패 대신 가장 오래된 대화 항목을 Responses API가 삭제하도록 "auto" 설정
• store: 생성된 응답을 나중에 조회할 수 있도록 서버 측에 저장할지 제어. 응답 ID에 의존하는 후속 워크플로와 store=False일 때 로컬 입력으로 폴백이 필요할 수 있는 세션 압축 흐름에 중요합니다
• prompt_cache_retention: 예를 들어 "24h"처럼 캐시된 프롬프트 접두사를 더 오래 유지
• response_include: web_search_call.action.sources, file_search_call.results, reasoning.encrypted_content 같은 더 풍부한 응답 페이로드 요청
• top_logprobs: 출력 텍스트에 대한 상위 토큰 로그확률 요청. SDK는 message.output_text.logprobs도 자동 추가합니다
• retry: 모델 호출에 대해 runner 관리 재시도 설정 사용. Runner 관리 재시도 참고

from agents import Agent, ModelSettings

research_agent = Agent(
    name="Research agent",
    model="gpt-5.4",
    model_settings=ModelSettings(
        parallel_tool_calls=False,
        truncation="auto",
        store=True,
        prompt_cache_retention="24h",
        response_include=["web_search_call.action.sources"],
        top_logprobs=5,
    ),
)

store=False로 설정하면 Responses API는 해당 응답을 이후 서버 측 조회용으로 유지하지 않습니다. 이는 무상태 또는 zero-data-retention 스타일 흐름에 유용하지만, 응답 ID를 재사용하던 기능은 대신 로컬 관리 상태에 의존해야 함을 의미합니다. 예를 들어 OpenAIResponsesCompactionSession은 마지막 응답이 저장되지 않았을 때 기본 "auto" 압축 경로를 입력 기반 압축으로 전환합니다. Sessions 가이드를 참고하세요

extra_args 전달

SDK가 아직 최상위에서 직접 노출하지 않는 provider별 또는 최신 요청 필드가 필요할 때 extra_args를 사용하세요

또한 OpenAI Responses API 사용 시 몇 가지 추가 선택적 매개변수(예: user, service_tier 등)가 있습니다. 최상위에 없으면 extra_args로 전달할 수 있습니다

from agents import Agent, ModelSettings

english_agent = Agent(
    name="English agent",
    instructions="You only speak English",
    model="gpt-4.1",
    model_settings=ModelSettings(
        temperature=0.1,
        extra_args={"service_tier": "flex", "user": "user_12345"},
    ),
)

Runner 관리 재시도

재시도는 런타임 전용이며 옵트인입니다. SDK는 ModelSettings(retry=...)를 설정하고 재시도 정책이 재시도를 선택한 경우를 제외하면 일반 모델 요청을 재시도하지 않습니다

from agents import Agent, ModelRetrySettings, ModelSettings, retry_policies

agent = Agent(
    name="Assistant",
    model="gpt-5.4",
    model_settings=ModelSettings(
        retry=ModelRetrySettings(
            max_retries=4,
            backoff={
                "initial_delay": 0.5,
                "max_delay": 5.0,
                "multiplier": 2.0,
                "jitter": True,
            },
            policy=retry_policies.any(
                retry_policies.provider_suggested(),
                retry_policies.retry_after(),
                retry_policies.network_error(),
                retry_policies.http_status([408, 409, 429, 500, 502, 503, 504]),
            ),
        )
    ),
)

ModelRetrySettings에는 세 필드가 있습니다:

필드	타입	참고
max_retries	int | None	초기 요청 이후 허용되는 재시도 횟수
backoff	ModelRetryBackoffSettings | dict | None	정책이 명시적 지연을 반환하지 않고 재시도할 때의 기본 지연 전략
policy	RetryPolicy | None	재시도 여부를 결정하는 콜백. 이 필드는 런타임 전용이며 직렬화되지 않습니다

재시도 정책은 RetryPolicyContext를 전달받으며 다음을 포함합니다:

• attempt, max_retries: 시도 횟수 인지 기반 의사결정 가능
• stream: 스트리밍/비스트리밍 동작 분기 가능
• error: 원시 검사
• normalized: status_code, retry_after, error_code, is_network_error, is_timeout, is_abort 같은 정보
• provider_advice: 하위 모델 어댑터가 재시도 가이드를 제공할 수 있을 때의 정보

정책은 다음 중 하나를 반환할 수 있습니다:

• 단순 재시도 결정을 위한 True / False
• 지연 재정의 또는 진단 사유 첨부가 필요한 경우 RetryDecision

SDK는 retry_policies에 즉시 사용 가능한 헬퍼를 제공합니다:

헬퍼	동작
retry_policies.never()	항상 재시도하지 않음
retry_policies.provider_suggested()	가능할 때 provider 재시도 권고를 따름
retry_policies.network_error()	일시적 전송/타임아웃 실패에 일치
retry_policies.http_status([...])	선택한 HTTP 상태 코드에 일치
retry_policies.retry_after()	retry-after 힌트가 있을 때만 해당 지연으로 재시도
retry_policies.any(...)	중첩 정책 중 하나라도 선택하면 재시도
retry_policies.all(...)	중첩 정책 모두 선택할 때만 재시도

정책을 조합할 때 provider_suggested()는 provider가 이를 구분할 수 있을 때 provider veto와 replay 안전 승인(replay-safety approvals)을 보존하므로 가장 안전한 첫 구성 요소입니다

안전 경계

일부 실패는 자동으로 재시도되지 않습니다:

• Abort 오류
• provider 권고가 replay를 안전하지 않다고 표시한 요청
• 출력이 이미 시작되어 replay가 안전하지 않게 되는 스트리밍 실행

previous_response_id 또는 conversation_id를 사용하는 상태 기반 후속 요청도 더 보수적으로 처리됩니다. 이런 요청에서는 network_error()나 http_status([500]) 같은 non-provider 조건만으로는 충분하지 않습니다. 재시도 정책에 보통 retry_policies.provider_suggested()를 통한 provider의 replay-safe 승인이 포함되어야 합니다

Runner와 에이전트 병합 동작

retry는 runner 수준과 에이전트 수준 ModelSettings 사이에서 깊은 병합(deep-merge)됩니다:

• 에이전트는 retry.max_retries만 재정의하고 runner의 policy는 상속할 수 있습니다
• 에이전트는 retry.backoff의 일부만 재정의하고 runner의 형제 backoff 필드는 유지할 수 있습니다
• policy는 런타임 전용이므로 직렬화된 ModelSettings에는 max_retries와 backoff는 남고 콜백 자체는 제외됩니다

더 자세한 예제는 examples/basic/retry.py 및 어댑터 기반 재시도 예제를 참고하세요

OpenAI가 아닌 provider 문제 해결

트레이싱 클라이언트 오류 401

트레이싱 관련 오류가 발생하면, trace가 OpenAI 서버로 업로드되는데 OpenAI API 키가 없기 때문입니다. 해결 방법은 세 가지입니다:

1. 트레이싱 완전 비활성화: set_tracing_disabled(True)
2. 트레이싱용 OpenAI 키 설정: set_tracing_export_api_key(...). 이 API 키는 trace 업로드에만 사용되며 platform.openai.com 발급 키여야 합니다
3. OpenAI가 아닌 트레이스 프로세서 사용. 트레이싱 문서 참고

Responses API 지원

SDK는 기본적으로 Responses API를 사용하지만, 다른 많은 LLM provider는 아직 이를 지원하지 않습니다. 그 결과 404 또는 유사한 문제가 발생할 수 있습니다. 해결하려면 두 가지 옵션이 있습니다:

1. set_default_openai_api("chat_completions") 호출. 환경 변수로 OPENAI_API_KEY와 OPENAI_BASE_URL을 설정하는 경우 동작합니다
2. OpenAIChatCompletionsModel 사용. 예제는 여기에 있습니다

structured outputs 지원

일부 모델 provider는 structured outputs를 지원하지 않습니다. 이 경우 아래와 같은 오류가 발생할 수 있습니다:

BadRequestError: Error code: 400 - {'error': {'message': "'response_format.type' : value is not one of the allowed values ['text','json_object']", 'type': 'invalid_request_error'}}

이는 일부 모델 provider의 한계입니다 - JSON 출력은 지원하지만 출력에 사용할 json_schema 지정은 허용하지 않습니다. 현재 수정 작업 중이지만, 그렇지 않으면 잘못된 JSON으로 앱이 자주 깨질 수 있으므로 JSON schema 출력을 지원하는 provider 사용을 권장합니다

provider 간 모델 혼합

모델 provider 간 기능 차이를 인지해야 하며, 그렇지 않으면 오류가 발생할 수 있습니다. 예를 들어 OpenAI는 structured outputs, 멀티모달 입력, 호스티드 파일 검색 및 웹 검색을 지원하지만 다른 많은 provider는 이를 지원하지 않습니다. 다음 제한을 유의하세요:

• 지원하지 않는 provider에 지원되지 않는 tools를 보내지 마세요
• 텍스트 전용 모델 호출 전 멀티모달 입력을 필터링하세요
• structured JSON 출력을 지원하지 않는 provider는 가끔 유효하지 않은 JSON을 생성할 수 있음을 유의하세요

서드파티 어댑터

SDK의 내장 provider 통합 지점만으로 부족할 때만 서드파티 어댑터를 사용하세요. 이 SDK로 OpenAI 모델만 사용하는 경우 Any-LLM이나 LiteLLM 대신 내장 OpenAIResponsesModel 경로를 우선하세요. 서드파티 어댑터는 OpenAI 모델과 OpenAI가 아닌 provider를 결합해야 하거나, 내장 경로가 제공하지 않는 어댑터 관리 provider 범위/라우팅이 필요할 때를 위한 것입니다. 어댑터는 SDK와 상위 모델 provider 사이에 또 하나의 호환 계층을 추가하므로 기능 지원과 요청 의미론은 provider마다 다를 수 있습니다. SDK는 현재 Any-LLM과 LiteLLM을 best-effort 베타 어댑터 통합으로 포함합니다

Any-LLM

Any-LLM 지원은 Any-LLM 관리 provider 범위 또는 라우팅이 필요한 경우를 위해 best-effort 베타로 포함됩니다

상위 provider 경로에 따라 Any-LLM은 Responses API, Chat Completions 호환 API 또는 provider별 호환 계층을 사용할 수 있습니다

Any-LLM이 필요하면 openai-agents[any-llm]을 설치한 뒤 examples/model_providers/any_llm_auto.py 또는 examples/model_providers/any_llm_provider.py부터 시작하세요. MultiProvider와 함께 any-llm/... 모델 이름을 사용하거나, AnyLLMModel을 직접 인스턴스화하거나, 실행 범위에서 AnyLLMProvider를 사용할 수 있습니다. 모델 표면을 명시적으로 고정해야 하면 AnyLLMModel 생성 시 api="responses" 또는 api="chat_completions"를 전달하세요

Any-LLM은 서드파티 어댑터 계층이므로 provider 의존성과 기능 격차는 SDK가 아니라 Any-LLM 상위 계층에서 정의됩니다. 사용량 메트릭은 상위 provider가 반환하면 자동 전파되지만, 스트리밍 Chat Completions 백엔드는 사용량 청크를 내보내기 전에 ModelSettings(include_usage=True)가 필요할 수 있습니다. structured outputs, 도구 호출, 사용량 보고, Responses 전용 동작에 의존한다면 배포 예정 provider 백엔드를 정확히 검증하세요

LiteLLM

LiteLLM 지원은 LiteLLM 전용 provider 범위 또는 라우팅이 필요한 경우를 위해 best-effort 베타로 포함됩니다

LiteLLM이 필요하면 openai-agents[litellm]을 설치한 뒤 examples/model_providers/litellm_auto.py 또는 examples/model_providers/litellm_provider.py부터 시작하세요. litellm/... 모델 이름을 사용하거나 LitellmModel을 직접 인스턴스화할 수 있습니다

일부 LiteLLM 기반 provider는 기본적으로 SDK 사용량 메트릭을 채우지 않습니다. 사용량 보고가 필요하면 ModelSettings(include_usage=True)를 전달하고, structured outputs, 도구 호출, 사용량 보고, 어댑터별 라우팅 동작에 의존한다면 배포 예정 provider 백엔드를 정확히 검증하세요