'GPT-4o 미니' 출시, 오픈AI 싸고 성능좋은 모델: 애플 시리에도 탑재

(사진=오픈AI) 출처 : AI타임스(https://www.aitimes.com)

 

 

오픈AI가 대형언어모델(LLM) 중 가장 작은 모델인 'GPT-4o 미니'를 출시했습니다. 이 소형 모델은 개발자들의 비용 부담을 줄이는 동시에, 성능은 동급 최강을 자랑합니다.

GPT-4o 미니의 주요 특징

오픈AI는 18일(현지 시간) 공식 블로그를 통해 GPT-4o 미니를 개발자용 API와 소비자를 위한 챗GPT 웹 및 앱 등 모든 플랫폼에서 사용할 수 있다고 발표했습니다. 챗GPT 엔터프라이즈 사용자는 다음 주부터 이용할 수 있습니다.

GPT-4o 미니는 오픈AI의 가장 작은 모델인 'GPT-3.5 터보'를 대체합니다. 현재는 텍스트와 비전 기능만 지원하지만, 앞으로 비디오와 오디오 기능도 추가될 예정입니다. 또한 미세 조정 기능도 곧 제공되어 사용성을 확장할 예정입니다.

이 모델은 12만8000개의 토큰으로 구성된 컨텍스트 창을 갖추고 있어, 책 한 권 정도의 내용을 입력할 수 있습니다. 학습 데이터는 2023년 10월까지 반영되어 있습니다. 개선된 토크나이저 덕분에 영어가 아닌 텍스트 처리도 더 비용 효율적으로 할 수 있습니다.

 

 

GPT-4o mini 바로가기

 

위 버튼을 누르면 GPT-4o mini를 경험할 수 있는 페이지로 안전하게 이동합니다.

성능과 속도

GPT-4o 미니는 속도도 빠릅니다. 평균 출력 속도는 초당 202토큰으로, 'GPT-4o' 및 GPT-3.5 터보보다 두 배 이상 빠릅니다. 이는 소비자 애플리케이션뿐만 아니라 AI 에이전트 개발자들에게도 매력적인 요소입니다.

이 모델의 매개변수는 공개되지 않았으나, '라마 3 8B', '제미나이 1.5 플래시', '클로드 3 하이쿠' 등과 비슷한 크기로, 약 10B~20B 정도로 추정됩니다.

성능 비교와 벤치마크

성능 비교에서도 GPT-4o 미니는 우수한 결과를 보여주었습니다. 아티피셜 애널리시스 데이터에 따르면, 이 모델은 추론 능력 측정 벤치마크인 MMLU에서 82%의 점수를 받아, 제미나이 1.5 플래시의 79%, 클로드 3 하이쿠의 75%를 능가했습니다. 수학적 추론을 측정하는 MGSM에서는 87%로, 플래시의 78%, 하이쿠의 72%를 넘었습니다. 코딩 성능을 측정하는 휴먼이밸에서도 87.2%로 플래시의 71.5%, 하이쿠의 75.9%를 제치고 1위를 차지했습니다.

또한, 인간 선호도로 순위를 정하는 LMSYS 리더보드에서는 채팅 선호도에서 'GPT-4'보다 우수한 성과를 거두었습니다.

저렴한 비용

오픈AI는 GPT-4o 미니의 가장 큰 장점 중 하나로 저렴한 비용을 강조했습니다. 이전 프론티어 모델보다 실행 비용이 상당히 저렴하며, GPT-3.5 터보보다도 60% 이상 가격이 내려갔다고 밝혔습니다. API를 기반으로 개발하는 개발자의 경우, GPT-4o 미니는 100만 개의 입력 토큰당 15센트, 100만 개의 출력 토큰당 60센트로 가격이 책정되었습니다.

 

벤치마크 결과 (사진=오픈AI) 출처

• GPT-3.5 69.8점
• GPT-4o mini 82점
• GPT-4o 88.7점
•  

안전성과 혁신

오픈AI는 GPT-4o 미니의 안전성에도 신경을 썼습니다. 사회 심리학 및 허위 정보 등 분야의 70명 이상의 외부 전문가가 GPT-4o를 테스트하여 잠재적 위험을 파악하고, 이를 통해 GPT-4o와 GPT-4o 미니의 안전을 개선했습니다. 또한, '지시 계층(The Instruction Hierarch)'을 적용하여 모델의 탈옥, 프롬프트 공격, 시스템 공격 등에 대한 저항 능력을 향상했습니다.

오픈AI는 "지난 몇 년 동안 우리는 AI 인텔리전스의 놀라운 발전과 상당한 비용 절감을 목격했다. 예를 들어, GPT-4o 미니의 토큰당 비용은 2022년에 도입된 텍스트-다빈치-003에 비해 99% 감소했다"라며 "모델 역량을 향상하면서 비용을 낮추는 궤적을 계속 이어갈 것을 약속한다"라고 밝혔습니다.

 

엔터프라이즈 컴플라이언스 API

한편, 오픈AI는 기업을 위한 새로운 도구인 '엔터프라이즈 컴플라이언스 API'도 발표했습니다. 이 도구는 금융, 의료, 법률 서비스 및 엄격하게 규제되는 산업 분야에서 감사 요구 사항을 준수하도록 돕습니다. 이를 통해 관리자가 챗GPT 엔터프라이즈 데이터를 감사하고 조치를 취할 수 있습니다.

GPT-4o 미니의 출시와 함께 오픈AI는 AI 인텔리전스와 비용 절감의 새로운 시대를 열고 있습니다. 이번 출시가 AI 및 챗봇 개발자들에게 큰 혜택을 제공할 것으로 기대됩니다.

 

https://youtu.be/V6pYxfcDRks