ChatGPTの記憶力アップなど、OpenAIの最新の取り組み　エンタープライズ機能の拡張とメモリ機能のリリース

OpenAIがエンタープライズ機能を拡張、その詳細

企業における生成AIの活用をさらに進めるには、AIモデルの精度向上に加え、セキュリティ、プライバシー、コスト管理などの要素も必須だ。当初から法人をターゲットとしてきたAnthropicやCohereが存在感を示す中、OpenAIも企業向けの取り組みを加速し、シェア拡大を狙う。

OpenAIは2024年4月、GPT-4 Turboなどの大規模言語モデル（LLM）を活用したエンタープライズ向け機能の拡張を発表した。具体的には、セキュリティや管理機能の強化、コスト管理の効率化などを実現する新しい機能となる。API経由で同社のLLMを利用する企業をさらに増やす計画だ。

セキュリティ面では、マイクロソフトのAzureクラウドサービスとOpenAI間の直接通信を可能にする「Private Link」を導入。これにより、APIを介して送信される顧客データやクエリのインターネットへの露出を最小限に抑えることができるとしている。さらに、多要素認証（MFA）をネイティブサポートし、アクセス制御を強化した。同社はすでに、SOC 2 Type II認証、シングルサインオン（SSO）、AES-256を使用した保存データの暗号化などの対策を導入しており、セキュリティ／プライバシー面の懸念払拭に注力していることがうかがえる。

管理面においては、「Projects」と呼ばれる新機能により、プロジェクトレベルでの役割やAPIキーの管理が可能になった。企業は、権限の範囲設定やモデルの選択、使用量ベースの制限設定などを行えるようになったという。これにより、企業内の個別プロジェクトごとに、リソースやメンバーを分離し、使用状況のレポーティングやアクセス、セキュリティ、コストに関するコントロールを行うことができるようになる。

OpenAIの主要なエンタープライズ向けサービスの1つである「Assistants API」も大幅に強化された。まずファイル検索機能が拡張され、1アシスタントあたり最大1万ファイルまで処理可能になった。これは従来の20ファイル制限から500倍の増加だ。マルチスレッド検索により、検索スピードも大幅に高速化したという。またAPIに新しいベクトルストア機能が導入されRAG（Retrieval Augmented Generation）の仕組みを簡単に構築できるようになった。この機能を利用することで、ファイルをベクトルストアに追加し、自動的に解析、分割、埋め込みを行い、ファイル検索の準備を整えることができる。

コスト管理においては、一定のトークン使用量を維持している顧客向けの割引や50％のコストで利用できるバッチAPIを利用した非同期ワークロードの新機能を追加した。バッチAPIは、即座の応答が必要のなく、大量のデータを要するタスクに最適化されており、例えば、月次の売上レポートの生成や日時の顧客データのサマリ生成などのユースケースで活用が想定されている。GPT-4やGPT-4 Turboで毎分のトークン（TPM）使用量を一定レベルで維持している顧客は、使用量に応じて10〜50％の割引を受けられるという。

OpenAIエンタープライズ、Klarnaの事例

OpenAIのエンタープライズ向けサービスを活用し、顧客サービスの効率化を実現している企業の一例として、スウェーデンのフィンテック企業であるKlarnaが挙げられる。Klarna（2024年2月27日）によると、同社は、OpenAIのAIアシスタントを導入し、1カ月でKlarnaの顧客サービスチャットの3分の2（230万件）を処理するまでになったという。

具体的な成果としては、AIアシスタントが700人分のフルタイムエージェントに相当する作業を行い、顧客満足度スコアにおいて人間のエージェントと同等の水準を達成。また、タスク解決の精度が向上し、問い合わせの繰り返しが25％減少、顧客が問題を解決するまでの時間が11分から2分未満に短縮されたとのことだ。2024年には4,000万ドルの利益改善効果をもたらすと予測されている。同社のサービスを利用する1億5,000万人の消費者に対し、24時間365日、35以上の言語でチャットサポートを提供できるようになった点も特筆すべき点だ。

チャットサービスにおいて、消費者は、払い戻し、商品の返却、支払いに関する問題、キャンセル、ディスピュート、インボイスなど多岐にわたるトピックにおいて質問することが可能という。

Klarnaのほか、モルガン・スタンレー、セールスフォース、WixなどもOpenAIのAIソリューションを本格的に活用しているとのこと。

ChatGPTの最新機能、メモリ機能を解説

OpenAIは、ChatGPTにおいても新機能のリリースを進めている。同社は4月末、ChatGPTのメモリ機能を、欧州と韓国を除く全ての有料プラン「ChatGPT Plus」のユーザーに拡大した。

このメモリ機能により、ユーザーは任意の情報をChatGPTに記憶させ、いつでも関連情報にアクセスできるようになる。使い方はシンプルで、「〜に関して記録してください」や「これを覚えておいて：（内容）」などの指示とともに、情報を入力するだけ。ChatGPTが情報を記憶したことは、ユーザーネームの下に表示される「Memory updated」のメッセージで確認できる。

このメモリ機能を使い論文などの内容を記憶させておくと、別のチャットセッションでも関連する質問を行うことができる。ここでは、グーグルが最近発表した新しいLLM「ReccurentGemma」に関する論文を読み込ませてみた。

チャットセッションを新たに立ち上げ、関連する質問を投げかけると、しっかりと回答を生成してくれる。

記憶させていないと、以下のように、「知りません」という内容の回答が返ってくる。

記憶した情報を削除する場合は、ChatGPTのユーザーネームの下にある「Memory updated」のメッセージにカーソルを合わせ、表示されるドロップダウンメニューから「Manage memories」を選択する。表示される「Memory」ボックス内の個別情報の右側にあるゴミ箱アイコンをクリックすることで、情報を個別に削除できる。また下部の「Clear ChatGPT’s memory」をクリックすると、保存されている全ての情報を削除できる。

メモリ機能のオン・オフは、「Settings」ページの「Personalization」画面で切り替えることができる。

現時点ではテキストベースの情報のみ保存可能で、画像や音声は対応していない。

テンポラリーチャット機能も追加された。この機能は文字通り、一時的なチャットを行うもので、特に情報を記録したくない場合に活用することが想定されている。オプトインしていても、情報がトレーニングに使用されることもなく、またメモリ機能を利用せず、チャット履歴にも表示されないという。ただし、安全上の理由から最大30日間OpenAIがチャットのコピーを保持する可能性があるとされる。

通常の利用において、左側のサイドバーには、これまでのチャット履歴が表示されるが、ユーザーが情報のトレーニング利用を拒否するオプトアウトを選択していた場合、この履歴は表示されなかった。今回のアップデートでは、オプトアウトした場合でも、履歴が表示されるようになったことが発表された。

当初から企業をメインターゲットとしてきたCohereやAnthropicに対し、OpenAIは新機能の追加で法人シェアをどこまで伸ばせるのか、加熱する生成AI法人市場の行方に注目が集まる。

文：細谷元（Livit）