openai GPT API에 GPT-4 Turbo 적용 방법
케이 (3)2024년 2월 07일
Tags #gpt#openai#chatgpt#gpt-4#gpt-4-turbo

openai GPT모델 중 현재 제일 최신 모델은 GPT-4 Turbo이다.

API를 이용하여 GPT-4-Turbo모델을 적용하기 위해서는 현재 openai에서 제공하는 정확한 모델명을 우선 찾아야 한다.

https://platform.openai.com/docs/models/gpt-4-and-gpt-4-turbo 를 참조해보면 다음과 같다.

image

여기에 있는 MODEL명을 정확하게 입력해주어야 한다.

gpt-4 turbo발표 시 최초로 제공되었던 모델은 gpt-4-1106-preview이고 현재 제일 최신 모델은gpt-4-0125-preview이다.

API 비용은
https://openai.com/pricing 를 참조하자.

image

비용은 호출/출력 시 사용되는 토큰으로 계산되는데 1K Tokens 단위 기준으로 가격이 나와있으니 적절히 토큰을 계산해서 API를 구현하는게 좋다.

여담
수용할 수 있는 토큰수가 예전에 비해 엄청나게 늘어났기 때문에 GPT 초기에 첨부자료를 자르고 임베딩하고 하는 일을 하지 않아도 특정 문서를 참고해서 GPT가 답변하게 하는것이 훨씬 쉽게 가능해졌다.
프로덕션 레벨에서는 결국 토큰 절약 차원에서 기존에 사용했던 임베딩 등 기술들을 최대한 사용해서 전체 사용 토큰 수를 줄이는 작업을 해야한다. 매번 모든 문서를 질문할때마다 넣는건 꽤 비용이 들 것이니 말이다.
비용 상관없이 정확도를 요하거나 개발 편의성을 요할경우에는 사용해볼만 하다. 아이디어 검증용으로 프로토타이핑할때도 훨씬 쉽게 접근이 가능한 상태다.
아니면 문서 전체를 참고해야만 정확한 답변이 나와야 하는 경우에도 이전보다 정교한 답변을 낼 수 있을 것이다.


0개의 댓글