OpenAIのAPIを活用したらGPT-4の料金が思ったより高かった件

機械学習

OpenAIのAPIを利用することで、文章の生成や質問への回答など、様々な機能を自動化して活用することができます。今回は、GPT-4のモデルを使ったら想像以上にコストがかかることが分かった話を紹介します。

ChatGPTのAPIを使ってみた

私はブレストやブログの下書き作成、コーディングなどにChatGPTを使っています。毎月20ドルかかるものの、その価値は十分にあります

APIを使って、操作を自動化する方法も考えていましたが、なかなか難しくて試していませんでした。先日、「Python / JavaScriptによるOpen AIプログラミング」という本を見つけて、自分でもやってみようと思い購入。経験を積むためにもとりあえず10ドルほど課金して、試してみることにしました。

ChatGPTの使い方をマスターすると、作業を自動化することができて、とても便利です。例えば、ブログを書く時にミスをチェックしたり、定型的な作業を自動化することができます。毎回同じ作業をする手間を省くことができます。

OpenAIのAPIの使い方

APIというのは、プログラムを使って情報を取得したり、処理したりするための仕組みです。OpenAIのAPIは、AIのモデルにアクセスして、文章を生成したり、質問に答えたりすることができます。

APIの使い方を学ぶには、書籍「Python / JavaScriptによるOpen AIプログラミング」がおすすめです。この本では、プログラミングの基礎から始めて、実際のコードの例も提供してくれます。初めての人でもわかりやすく書かれているので、使い方を理解できます。

また、この本ではChatGPTだけでなく、OpenAIのサービス全般についても解説されています。たとえば、文字起こしのwhisper-1やDALL-Eといったツールについても説明されています。

OpenAIのドキュメンテーション(公式の解説書)やサンプルコードもありますが、私は日本語でわかりやすく解説してくれる本の方が好きです。

GPT-4 APIの使用料金が思ったより高い

InputOutput
GPT-4$0.03 / 1K tokens$0.06 / 1K tokens
GPT-3.5 Turbo$0.0015 / 1K tokens$0.002 / 1K tokens
gpt-3.5-turbo-0125$0.0005/1K tokens$0.0015/1K tokens

使っていると、GPT-4の使用料金が高いことがわかりました。以前のバージョンであるGPT-3.5 Turboの使用料金は非常に安く、入力の1000トークンあたり0.0015ドル出力の1000トークンあたり0.002ドルでした。一方、GPT-4では入力の1000トークンあたり0.03ドル、出力の1000トークンあたり0.06ドルとなっています。

単価
[ドル/1000token]
1500token料金 [ドル]1500token料金 [円]
GPT-40.060.09ドル13.5円
GTP-3.5 Turbo0.0020.003ドル0.45円

たとえば、700文字の入力と700文字の出力を行う操作をすると、GPT-4では一回に13.5円かかります。GPT-3.5 Turboの30倍にもなる高額です。

GPT-3.5 Turboを使用している間は、1日使用しても1ドルを超えることはありませんでしたが、GPT-4を使った日は、一度に4ドル以上も使用してしまうことになりました。

GPT4のコストは、GPT3.5の30倍に相当する

コストを抑えるために、以前のバージョンであるGPT-3.5 Turboを使用することにしました。日本語で入力する場合と英語で入力する場合ではトークン数が異なります。英語に翻訳することでトークン数を減らせるため、英語でプロンプトを投げるのもおすすめです。

response = openai.ChatCompletion.create(
    model="gpt-3.5-turbo",
    messages=messages,
  )
  message = response.choices[0].message
  messages.append(message)

モデルの選択は、コード中のgpt-3.5-turboをgpt-4に変更するなどで対応できます。

  tokens_used = response['usage']['total_tokens']
  print(tokens_used)

APIの利用したトークン数は、上記コードで取得することができます。

GPT3.5の性能ってどうなの?
GPT3.5は、トークン数上限が約4000に制限されており、長文のプロンプトに対して長文の答えを求めることが難しい側面があります。回答精度もGPT4と比べると不十分ですが、GPT3.5にうまくプロンプトを与える or 何度か同じプロンプトを与えて実行し意図した回答を選ぶ、などの工夫で対応しています。

GPT3.5-turboの価格は更に低下

2024年2月、GPT-3.5ターボ・モデル(’gpt-3.5-turbo-0125’)がリリースされました。同時に価格が引き下げられ、入力価格は0.0005ドル/1Kトークンとなり、出力価格は0.0015ドル/1Kトークンとなりました。

デフォルトの’gpt-3.5-turbo’は、gpt-3.5-turbo-0125モデルが利用されるようになります。

公開されたgpt-3.5-turbo-0125は、応答時間が非常に早くなっていることが印象的です。

まとめ

GPT-4の使用料金が高いことは事実ですが、GPT-3.5 TurboやChatGPTを活用することで、作業を効率化することができます。GPT-3.5 Turboの使用料金は安く、十分に満足できるパフォーマンスを発揮してくれます。

APIを利用した自動化はメリットが多く、業務効率も上がります。こんなことができるんだな、という知識を入れる意味でも、一度試してみることをお勧めします。

関連記事

コメント

タイトルとURLをコピーしました