GPT-4o miniは、2024年7月18日にOpenAIが発表した新しい生成AIモデルです。その特徴は、GPT-3.5 Turboよりも高い回答精度を持ち、さらに安価で高速なモデルであること。128kトークンのコンテキストウィンドウを持ち、最大16kのトークンを出力できます。
| 分類 | 内容 |
|---|---|
| 精度 | ・GPT-3.5 Turboよりも高い回答精度 ・GPT-4oよりは回答精度は低いものの、その他のモデルに遜色のないレベル（下図） |
| 価格 | ・GPT-3.5 Turboよりも入力時は約3分の1、出力時は約40%のコスト |
-
他のモデルとの精度比較 (公式サイトより)
なぜGPT-4oではなくGPT-4o miniが必要なのか
生成AIの利用はさまざまな領域に広がりを見せています。カスタマーサポートやマーケティング資料作成、データ分析、社内ドキュメント検索などはその一例です。では、そこでなぜGPT-4oではなくGPT-4o miniが必要なのでしょうか？
近年、ChatGPTでは単にチャットするだけではなく、APIを活用して大量の呼び出しを行うケースが増えています。APIは呼び出し回数に応じてコストがかかるため、コストパフォーマンスの重要性がこれまで以上に高まっているのです。
また、1つの回答を生成するために何度も呼び出しを行うと、処理にかかる時間も増えます。さらに、リアルタイム処理や大量のデータを処理するためには、高速な処理が求められます。
こうしたことから、コストパフォーマンスが高く、高速な処理が可能なGPT-4o miniが必要となるケースが増えているわけです。
