우선순위 추론

설명: Interactions API의 우선순위 추론 등급으로 지연 시간을 최적화하는 방법을 알아봅니다.

Gemini Priority API는 지연 시간이 짧고 안정성이 가장 높은 비즈니스에 중요한 워크로드를 위해 설계된 프리미엄 추론 등급입니다. 우선순위 등급 트래픽은 표준 API 및 Flex 등급 트래픽보다 우선순위가 높습니다.

우선순위 추론은 Interactions API 엔드포인트 전반에서 사용할 수 있습니다.

우선순위를 사용하는 방법

우선순위 등급을 사용하려면 요청에서 service_tier 필드를 priority로 설정합니다. 필드가 생략되면 기본 등급은 표준입니다.

Python

from google import genai

client = genai.Client()

interaction = client.interactions.create(
    model="gemini-3.6-flash",
    input="Triage this critical customer support ticket immediately.",
    service_tier='priority'