[AI] ChatGPT 사용법 (29) - GPT-4o mini란?

이번 포스팅에선 GPT-4o mini에 대해서 알아보려고 한다.

 

GPT-4o mini란?

 

GPT-4o mini는 2024년 7월 18일에 발표한 가장 비용 효율적인 모델이다.

 

아쉽게도 2023년 10월까지까지의 데이터를 가지고 있다고 한다. ㅠㅠ..

 

얼마나 비용 효율적일까?

 

API 비용은 입력 토큰 백만 개당 15센트, 출력 토큰 백만 개당 60센트로 GPT-4o보다 90%, GPT-3.5 Turbo보다 60% 이상 저렴하다.

(출력 토큰 백만 개면 일반적인 책 2,500 페이지에 해당하는 양이다.)

 

싸니까 성능이 좋진 않겠네?

 

아니다. 얼마 전까지 ChatGPT에서 제공해준 무료 모델인 GPT-3.5 Turbo보다 훨씬 성능이 좋다. 와..

 

 

• 추론 작업: GPT-4o mini는 텍스트와 비전을 모두 포함한 추론 작업에서 다른 소형 모델보다 우수하며, 텍스트 지능 및 추론 벤치마크인 MMLU에서 82.0%를 기록했다. 이는 Gemini Flash의 77.9%, Claude Haiku의 73.8%보다 높은 점수다.
• 수학 및 코딩 능력: GPT-4o mini는 수학적 추론 및 코딩 작업에서 뛰어난 성능을 발휘하며, 시장의 기존 소형 모델들을 능가한다. 수학적 추론을 측정하는 MGSM에서 GPT-4o mini는 87.0%를 기록했으며, 이는 Gemini Flash의 75.5%와 Claude Haiku의 71.7%보다 높은 점수다. 코딩 성능을 측정하는 HumanEval에서 GPT-4o mini는 87.2%를 기록했으며, 이는 Gemini Flash의 71.5%와 Claude Haiku의 75.9%보다 우수하다.
• 멀티모달 추론: GPT-4o mini는 멀티모달 추론 평가인 MMMU에서도 뛰어난 성능을 보여, 59.4%를 기록했다. 이는 Gemini Flash의 56.1%와 Claude Haiku의 50.2%를 능가하는 결과다.

 

위 성능표를 보면 당연 GPT-4o 성능보다 좋진 않지만, 다른 모델보다 월등하게 좋은걸 볼 수 있다.

 

OpenAI 만세!!

 

API로만 사용 가능한 건가?

 

아니다. ChatGPT에서 GPT-3.5 Turbo 대신 무료로 제공 중이다.

 

Free Tier

 

3시간마다 GPT-4o에 16번 질문을 할 수 있는데, 질문 횟수를 소진하면 그때부터는 GPT-4o mini 모델을 사용해서 답변한다.

 

 

Plus, Team, Enterprise

 

GPT 모델 선택 창에서 GPT-4o mini를 선택해서 쓸 수 있다.

 

Plus, Team은 GPT-4o에 3시간마다 80개 질문할 수 있는데, 이를 다 소진하면 GPT-4o mini를 사용해야 한다.