llmfeed

OpenAI, API 요청 단위 처리 지역 선택 지원

OpenAI
  • OpenAI가 API 고객이 요청 하나하나에 대해 처리 지역을 고를 수 있게 했다.
  • Global geography 프로젝트의 API 키와 접두사가 붙은 도메인을 함께 쓰는 방식이다.
  • 기존 요건은 그대로 적용된다.

무엇이 바뀌었나

  • OpenAI가 API 고객이 개별 요청마다 처리 지역(regional processing)을 선택할 수 있게 했다고 밝혔다.
  • 지금까지처럼 프로젝트 단위로만 지역이 정해지는 것이 아니라, 요청 하나하나에 대해 어느 지역에서 처리할지 고를 수 있다는 것이다.

쓰는 방법

접두사가 붙은 도메인(prefixed domain)을 쓰면 되고, 이때 쓰는 API 키는 Global geography로 설정된 프로젝트의 것이어야 한다.

그대로 적용되는 조건

  • 회사는 기존의 이용 자격(eligibility), 데이터 보관 제어(data retention control), 엔드포인트, 모델 지원 요건이 계속 그대로 적용된다고 밝혔다.
  • 즉 이 기능을 쓴다고 해서 원래 지원되지 않던 엔드포인트나 모델까지 지역 처리가 가능해지는 것은 아니다.

원문