ChatGPT の大きなアップデート！ OpenAI はプログラマー向けの素晴らしいギフト パッケージを提供しています。API にキラー機能が追加され、値下げ、新しいモデル、4 つのコンテキストがすべて揃っています。

ChatGPTは一夜にしてまた進化し、OpenAIは一気に大量のアップデートをリリースしました！

コア機能は、API に新しく追加された関数呼び出し機能です。プラグインの Web バージョンと同様に、API でも外部ツールを使用できます。

この機能は開発者に引き継がれ、ChatGPT API が本来備えていなかった機能が、さまざまなサードパーティのサービスによって解決できるようになりました。

これはキラー機能であり、ChatGPT API のリリース以来最も重要なアップデートであると考える人もいます。

さらに、 ChatGPT API の各アップデートは非常に重要で、機能が向上するだけでなく、価格も下がります。

• 新バージョン gpt-4-0613 および gpt-3.5-turbo-0613 モデルがリリースされました
• gpt-3.5-turboコンテキストの長さが4kから16kに400%増加しました。
• GPT-3.5-Turbo入力トークンの価格が25%引き下げられました
• 最も先進的な埋め込みモデルは75%安価
• GPT-4 APIはキューがクリアされるまで公開されます

このニュースが中国に届くと、一部のネットユーザーも、これは国内の大手モデルが直面する大きな課題だと信じた。

ツールを使用するタイミングはAPIが決定します

OpenAI の公式紹介によると、関数呼び出しは GPT-4 と GPT-3.5 の新しいバージョンの両方をサポートします。

開発者は、モデルを使用して、使用する必要がある機能を記述するだけで済みます。モデルは、プロンプトの単語に基づいてどの機能をいつ呼び出すかを決定します。これは、ChatGPT 呼び出しプラグインのメカニズムと同じです。

具体的な使用方法については、次の3つの例を挙げた。

まず、チャットボットは外部 API を呼び出して、「誰かにメールを送信する」や「今日の天気はどうですか」などのアクションを実行したり、質問に答えたりします。

次に、「先月は何件の注文がありましたか？」などの自然言語を API 呼び出しまたはデータベース クエリに変換すると、SQL クエリ ステートメントが自動的に生成されます。

3 番目に、テキストから構造化データを自動的に抽出します。たとえば、必要な「名前、誕生日、場所」を定義し、Web リンクを提供するだけで、Wikipedia の記事に記載されている人物に関するすべての情報が自動的に抽出されます。

この新機能は多くのネットユーザー、特に開発者から歓迎されており、これにより作業効率が大幅に向上すると言われています。

以前は、GPT で関数を呼び出すには、LangChain のツールを使用する必要がありました。
…
LangChain は理論的には動作効率が高くなりますが、特別に調整された新しい GPT に比べると信頼性は劣ります。

新しいバージョン、より安い価格

現在、新しいバージョンのモデルが徐々に反復され始めています。

拡張コンテキスト長を備えた gpt-4-0613、gpt-3.5-turbo-0613、gpt-4-32k-0613 の最新バージョンはすべて関数呼び出しをサポートしています。

gpt-3.5-turbo-16k は関数呼び出しをサポートしておらず、コンテキストの長さの 4 倍を提供します。つまり、1 つのリクエストで約 20 ページのテキストをサポートできます。

古いモデルも段階的に廃止されていきます。

gpt-3.5-turboおよびgpt-4の初期バージョンを使用しているアプリケーションは、6月27日に新しいバージョンに自動的にアップグレードされます。

移行にさらに時間が必要な開発者は、古いバージョンを引き続き使用するよう手動で指定することもできますが、9 月 13 日以降は古いバージョンのリクエストはすべて完全に放棄されます。

このタイムラインについて話した後、価格を見てみましょう。

アップグレード後、OpenAI は製品の価格を上げるどころか、むしろ値下げしました。

1 つ目は、最も広く使用されている gpt-3.5-turbo (4k トークン バージョン) です。

入力トークンの価格は 25% 引き下げられ、現在は 1,000 トークンあたり 0.0015 ドルです。つまり、666,000 トークンあたり 1 ドルになります。

出力トークンの価格は 1,000 トークンあたり 0.002 ドルで、つまり 500,000 トークンあたり 1 ドルになります。

英語のテキストに換算すると、700 ページあたり約 1 ドルになります。

埋め込みモデルの価格は急落し、75% も下がりました。

1,000 トークンあたり 0.0001 米ドルしかかかりません。つまり、1,000 万トークンあたり 1 米ドルです。

さらに、新しく発売された GPT3.5-Turbo の 16K トークン バージョンは、4K バージョンの 4 倍の処理能力を提供しますが、価格は 2 倍のみです。

入力トークンと出力トークンの価格は、それぞれ 1,000 トークンあたり 0.003 米ドルと 0.004 米ドルです。

さらに、一部のネットユーザーは、月額料金が100セントから数セントに直接下がったと報告しているが、具体的な状況はまだ不明である。

最後に、必要に応じて GPT-4 API テスト資格の取得を申請することを忘れないでください。

OpenAIが「Chain」を捕捉、Microsoftが追随

多くのネットユーザーは、OpenAIの新しい「関数呼び出し」は基本的にLangchainの「ツール」のレプリカであると指摘した。

おそらく次に、OpenAI はチェーンやインデックスなど、Langchain のより多くの機能をコピーするでしょう。

Langchain は、ビッグモデルの分野で最も人気のあるオープンソース開発フレームワークであり、さまざまなビッグモデル機能を統合してアプリケーションを迅速に構築できます。

同チームは最近、シードラウンドの資金調達で1,000万ドルを調達した。

OpenAI によるこのアップデートによって、Langchain スタートアップ プロジェクトが直接「終了」するわけではありません。

しかし、開発者は当初、いくつかの機能を実装するために LangChain を必要としていましたが、現在は必要ありません。

Langchain の反応を見ると、彼らの生き残りたいという願望は実に強いことがわかります。

OpenAI がアップデートを公式に発表してから 10 分以内に、Langchain は「すでに互換性に取り組んでいる」とすぐに発表しました。

新バージョンは1時間もかからずにリリースされました。新しい公式機能のサポートに加えて、開発者がすでに作成したツールをOpenAI関数に変換することもできます。

途方もなく速い開発スピードを嘆くために列をなすだけでなく、多くのネットユーザーは避けられない疑問についても考えていた。

OpenAI があなたのスタートアップ プロジェクトを引き継いだらどうなりますか?

この点に関して、OpenAIのCEOであるサム・アルトマン氏は最近声明を発表しました。

5月下旬のHumanloopカンファレンスで、アルトマン氏は次のように述べた。

ChatGPT のような消費者向けアプリを除き、顧客との競合は避けるようにしてください。

今では開発ツールは競争回避の範囲には含まれていないようです。

スタートアップに加えて、OpenAIとの競争で無視できない企業がもう1社あります。

OpenAI の最大の資金提供者である Microsoft は、Azure クラウドを通じて外部に OpenAI API サービスも提供しています。

つい最近、一部の開発者から、OpenAI 公式 API から Microsoft Azure バージョンに切り替えた後、パフォーマンスが大幅に向上したという報告がありました。

具体的には：

• 平均待ち時間が15秒から3秒に短縮
• 95パーセンタイルの遅延が60秒から15秒に短縮されました
• 1 秒あたりに処理されるトークンの平均数は 8 から 24 に 3 倍増加しました。

Azure からの割引を考慮すると、以前よりもさらに安くなります。

しかし、Microsoft Azure のアップデートは一般に OpenAI よりも数週間遅くなります。

開発フェーズでの迅速な反復には OpenAI を使用し、大規模な展開には Microsoft Azure に切り替えます。何か学びましたか?

アップデートのお知らせ https://openai.com/blog/function-calling-and-other-api-updates.

GPT-4 API キュー https://openai.com/waitlist/gpt-4-api。

参考リンク:
[1]https://news.ycombinator.com/item?id=36313348.

[2] https://twitter.com/svpino/status/1668695130570903552.

[3] https://weibo.com/1727858283/N5cjr0jBq.

[4] https://twitter.com/LangChainAI/status/1668671302624747520.

[5] https://twitter.com/hwchase17/status/1668682373767020545.

[6]https://twitter.com/ItakGol/status/1668336193270865921.