こんにちは。野中やすおです。
2024年8月1日より、Azure OpenAI において GPT-4o miniがリリースされたので色々と情報をまとめてみました。自分への備忘録も兼ねて
目次
リリース情報
TECHCOMMUNITY.MICROSOFT.COM
Azure OpenAI Service is excited to launch GPT-4o mini API wi…
これまでのも含むAzure OpenAI Service models
Azure OpenAI で使用できるさまざまなモデル機能について説明します。…
GPT-4o miniのtokenは、最大入力トークンは128,000、最大出力トークン 16,384となっている。これはgpt-4oよりも最大出力トークンが拡張されている。
GPT-35-turboはGPT-4o miniへ置き換えへ
Azure OpenAI でのモデルの非推奨と提供終了について説明します。…
gpt-35-turbo (1106)は、2024年11月17日以降、gpt-35-turbo(0301)は、2025年1月27日以降提供終了する。より結果が正確かつ、料金も安価なgpt-4o-miniへの置き換えが推奨されている。
コストの話
コストもこれまでよりも安価になっている。
Azure OpenAI Service pricing information. Try popular servic…
エンコーディング
GPT-4o miniのエンコーディングは、o200k_baseというエンコーディング形式が使用されていて、以下の記事によると日本語においても結構なトークン効率の上昇が見られたとのこと。
GitHub
tiktoken is a fast BPE tokeniser for use with OpenAI's model…
