오픈AI가 편의성과 사용료를 개선한 새로운 챗GPT 업데이트를 발표했다. 이전의 업데이트가 챗GPT의 성능과 능력을 높이는 것에 초점을 두었다면, 이번 업데이트는 기능과 비용 효율성에 중점을 뒀다. 함수 호출로 편리하게 챗CPT를 활용하면서, 더 저렴하게 사용할 수 있도록 한 것이다.
이번 업데이트에서 가장 주목할 부분은 API(Chat Completions API)의 새로운 함수 호출 기능으로, 이를 지원하는 ‘gpt-4-0613’ 및 ‘gpt-3.5-turbo-0613’ 버전을 출시했다. 챗GPT를 활용하려는 개발자는 API를 활용해 필요한 함수를 호출하는 인수를 포함한 JSON(JavaScript Object Notation) 객체를 출력하도록 선택할 수 있다.
오픈AI가 출시한 함수 호출 기능을 활용하면 ‘지금 보스턴의 날씨가 어떤가?’라는 질문을 오픈AI와 타사 API 호출에 함수를 활용해 간편하고 빠르게 원하는 답변을 얻을 수 있다. (자료 : OpenAI)
오픈AI는 “함수 호출은 챗GPT의 기능을 외부 도구 및 API와 보다 안정적으로 연결할 수 있는 새로운 방법이다. 이러한 모델은 사용자의 입력에 따라 함수를 호출해야 하는 시점을 감지하고, 함수 서명을 준수하는 JSON으로 응답하도록 미세 조정되었다. 함수 호출을 통해 개발자는 모델에서 구조화된 데이터를 보다 안정적으로 다시 가져올 수 있다”라고 밝혔다.
함수 호출은 챗GPT 플러그인 같은 외부 도구를 호출하여 질문에 답변하는 챗봇 생성, 자연어를 API 호출 또는 데이터베이스 쿼리로 변환, 텍스트에서 구조화된 데이터 추출 등에 활용할 수 있다. 문자열이나 단위 같은 쿼리를 함수 호출이나 SQL 쿼리로 변환하거나, 텍스트에서 원하는 데이터를 간편하게 추출하는 것이 가능하다.
예를 들어 “다음 주 금요일에 커피를 마실 수 있는지 이메일을 보내세요.”와 같은 쿼리를, ‘send_email(to: string, body: string)’과 같은 함수 호출로 변환하거나, “보스턴의 날씨가 어떤가요?”와 같은 쿼리를 ‘get_current_weather(location: string, unit: ‘celsius’ | ‘fahrenheit’)’로 변환할 수 있다.
“이번 달 상위 10명의 고객은 누구인가요?”를 ‘get_customers_by_revenue(start_date: string, end_date: string, limit: int)’와 같은 내부 API 호출로 변환하거나, “톰은 지난달에 몇 건의 주문을 했나요?”를 sql_query(query: string)처럼 SQL 쿼리로 변환하는 것도 가능하다. 위키피디아에 ‘extract_people_data(people: [{name: string, birthday: string, location: string}])’ 함수를 적용해 언급된 사람의 데이터를 추출할 수도 있다.
시스템 운영을 효율적으로 개선해 임베딩 모델에서 사용자가 부담해야 하는 비용을 낮춘 것도 눈 여겨 볼만하다. 오픈AI는 “가장 인기 있는 임베딩 모델인 ‘text-embedding-ada-002’의 비용을 1,000(1K) 개의 토큰당 0.0001달러로 75% 인하했다. 가장 인기 있는 채팅 모델인 ‘gpt-3.5-turbo’의 입력 토큰 비용도 25% 인하한다”라고 밝혔다.
‘gpt-4-0613’의 개선 사항에 더 긴 텍스트를 더 잘 이행할 수 있도록 확장한(extended context length) ‘gpt-4-32k-0613’도 선보였으며, GPT-4와 동일한 함수 호출과 시스템 메시지를 통한 보다 안정적인 제어 기능을 제공하는 ‘gpt-3.5-turbo-0613’ 버전도 출시했다. 아울러 1,000개의 토큰 입출력 비용이 각각 0.003 달러와 0.0004 달러인 ‘gpt-3.5-turbo-16k’도 사용할 수 있다.
이번 가격 인하로 개발자는 1K 입력의 경우 토큰당 0.0015달러, 1K 출력은 토큰당 0.002달러로 gpt-3.5-turbo 모델을 사용할 수 있다. 페이지로 환산하면 1달러당 약 700페이지에 해당하는 금액이다. ‘gpt-3.5-turbo-16k’의 가격은 1K 입력에 토큰당 0.003달러, 1K 출력에 토큰당 0.004달러로 책정될 예정이다. dl-ciokorea@foundryco.com
