OpenAIのAPIを活用したらGPT-4の料金が思ったより高かった件

OpenAIのAPIを利用することで、文章の生成や質問への回答など、様々な機能を自動化して活用することができます。今回は、GPT-4のモデルを使ったら想像以上にコストがかかることが分かった話を紹介します。

ChatGPTのAPIを使ってみた
OpenAIのAPIの使い方
GPT-4 APIの使用料金が思ったより高い
GPT3.5-turboの価格は更に低下
まとめ

ChatGPTのAPIを使ってみた

私はブレストやブログの下書き作成、コーディングなどにChatGPTを使っています。毎月20ドルかかるものの、その価値は十分にあります。

APIを使って、操作を自動化する方法も考えていましたが、なかなか難しくて試していませんでした。先日、「Python / JavaScriptによるOpen AIプログラミング」という本を見つけて、自分でもやってみようと思い購入。経験を積むためにもとりあえず10ドルほど課金して、試してみることにしました。

ChatGPTの使い方をマスターすると、作業を自動化することができて、とても便利です。例えば、ブログを書く時にミスをチェックしたり、定型的な作業を自動化することができます。毎回同じ作業をする手間を省くことができます。

OpenAIのAPIの使い方

APIというのは、プログラムを使って情報を取得したり、処理したりするための仕組みです。OpenAIのAPIは、AIのモデルにアクセスして、文章を生成したり、質問に答えたりすることができます。

Amazon

APIの使い方を学ぶには、書籍「Python / JavaScriptによるOpen AIプログラミング」がおすすめです。この本では、プログラミングの基礎から始めて、実際のコードの例も提供してくれます。初めての人でもわかりやすく書かれているので、使い方を理解できます。

また、この本ではChatGPTだけでなく、OpenAIのサービス全般についても解説されています。たとえば、文字起こしのwhisper-1やDALL-Eといったツールについても説明されています。

OpenAIのドキュメンテーション（公式の解説書）やサンプルコードもありますが、私は日本語でわかりやすく解説してくれる本の方が好きです。

GPT-4 APIの使用料金が思ったより高い

	Input	Output
GPT-4	$0.03 / 1K tokens	$0.06 / 1K tokens
GPT-3.5 Turbo	$0.0015 / 1K tokens	$0.002 / 1K tokens
gpt-3.5-turbo-0125	$0.0005/1K tokens	$0.0015/1K tokens

使っていると、GPT-4の使用料金が高いことがわかりました。以前のバージョンであるGPT-3.5 Turboの使用料金は非常に安く、入力の1000トークンあたり0.0015ドル、出力の1000トークンあたり0.002ドルでした。一方、GPT-4では入力の1000トークンあたり0.03ドル、出力の1000トークンあたり0.06ドルとなっています。

	単価 [ドル／1000token]	1500token料金 [ドル]	1500token料金 [円]
GPT-4	0.06	0.09ドル	13.5円
GTP-3.5 Turbo	0.002	0.003ドル	0.45円

たとえば、700文字の入力と700文字の出力を行う操作をすると、GPT-4では一回に13.5円かかります。GPT-3.5 Turboの30倍にもなる高額です。

GPT-3.5 Turboを使用している間は、1日使用しても1ドルを超えることはありませんでしたが、GPT-4を使った日は、一度に4ドル以上も使用してしまうことになりました。

コストを抑えるために、以前のバージョンであるGPT-3.5 Turboを使用することにしました。日本語で入力する場合と英語で入力する場合ではトークン数が異なります。英語に翻訳することでトークン数を減らせるため、英語でプロンプトを投げるのもおすすめです。

response = openai.ChatCompletion.create(
    model="gpt-3.5-turbo",
    messages=messages,
  )
  message = response.choices[0].message
  messages.append(message)

モデルの選択は、コード中のgpt-3.5-turboをgpt-4に変更するなどで対応できます。

  tokens_used = response['usage']['total_tokens']
  print(tokens_used)

APIの利用したトークン数は、上記コードで取得することができます。

GPT3.5の性能ってどうなの？
GPT3.5は、トークン数上限が約4000に制限されており、長文のプロンプトに対して長文の答えを求めることが難しい側面があります。回答精度もGPT4と比べると不十分ですが、GPT3.5にうまくプロンプトを与える or 何度か同じプロンプトを与えて実行し意図した回答を選ぶ、などの工夫で対応しています。