【金融 × 生成AI】金融業界特化型の大規模言語モデル：NeoGPT
- ファイナンス
- 生成AI
- LLM
金融業界特化型LLMであるNeoGPTを徹底解説！
金融・銀行業界で扱うデータは、お客様の個人情報や金融資産を扱うことから、セキュリティの万全さや数値の正確さなど、厳しい要件が求められます。
一方でChatGPTの裏側で動いている、GPT-4のようなLLM（大規模言語モデル）を使用した場合、ハルシネーションと呼ばれる間違った回答をすることがしばしば見受けられます。そのため金融・銀行業界で大規模言語モデルを利用することは、ハードルが高いように思われます。
しかし、セキュリティやデータの正確さを担保することができれば、金融業界においても生成AIが活用できるタスクは存在するはずです。
今回は、データガバナンスやエンタープライズセキュリティといった要件をクリアした、金融・銀行向けの特化型LLMである「NeoGPT」を紹介します。
NeoGPTが提供するSaaS機能
NeoGPTは、インドのバンガロールに拠点を置く生成AIスタートアップである「onFinance」によって開発された、金融業界特化型の大規模言語モデルです。
NeoGPT上で提供されるサービスは、金融・銀行業界特有の専門用語を理解することができ、個人情報の扱いなどのセキュリティを担保した形でリサーチ・営業・カスタマーサクセスなどの業務を効率化してくれます。
リサーチアナリスト向けアシスタント
リサーチアナリスト向けアシスタントでは、レポートの作成・グラフから将来の財務数値の推論・コンプライアンスチェックなどの機能があります。
レポートの作成機能についてはデモ動画が用意されていました。
デモ動画では、チャット形式で「過去15年分のインドのGDPマクロデータを出力して」という質問や、「インドのビジネス環境は、海外の機関投資家にどのように分析されていますか」という質問が投げられています。回答はそれぞれ、文章による回答と表形式のエクセルファイルがセットで回答されています。このファイルは、質問から該当のデータを取得し、エクセルファイルを生成しているように見えます。
ユーザーインターフェースとして他のサービスにはないユニークな点は、レポートの作成に使用したい回答が生成された際に、質問部分を画面右側にドラッグ&ドロップすると、ワークフローのような形でセクションを追加することができます。
（引用：https://youtu.be/319sVDEmJcw?si=cqgbPEmER8_Hf58p ）
ワークフローに追加できるのは質問と回答のセットだけではなく、回答から得られたデータを、グラフとしてどのように表示させるかを定義したコードも追加することができます。そういった意味では、エンジニアに向けて設計されている部分もあると言えます。
ワークフローが完成し完了ボタンを押すと、ワークフローに追加した順番のまま、資料およびレポートが一気に作成されます。
（引用：https://youtu.be/319sVDEmJcw?si=cqgbPEmER8_Hf58p ）
チャットによるAIとの会話からレポートを作成することができるとなれば、従来は数日要していた調査やレポートの作成を、1時間弱で完了させることも可能になるかもしれません。
生成されたレポートは共同作業が容易にできるようになっており、バージョン管理機能も搭載されています。レポートの作成前には、AIを活用したコンプライアンスチェックが自動で行われるようになっており、コンプライアンスに準拠していない場合はスライドに非準拠のマークが付与されます。
その他にも、チャート分析のグラフが何を表しているかや、特筆して注目すべき点はどこかを説明する機能も搭載されているため、アナリストにとって難解なグラフも、NeoGPTを通じて正しく解釈することが可能です。
セールス向けアシスタント
セールス向けアシスタントは、CRMソフト（Customer Relationship Management：顧客関係管理）と統合して顧客データを読み込み、メールやチャットなどのリアルタイムの会話情報を取り込むことができます。
これにより、顧客に対してより深い洞察・理解を得ながら会話を行うことができます。
NeoGPTは長期記憶にも優れているため、特定の顧客の応答状況を瞬時に把握することも可能です。
（引用：https://sales.onfinance.ai/ ）
顧客との会話に使用できる機能であることはわかりましたが、サービスページから具体的にどういった場面で有効活用できるかについては、記載がありませんでした。
カスタマーサクセス向けアシスタント
カスタマーサクセス向けのアシスタントでは、顧客との会話履歴や最新の製品情報に基づいて、顧客に応じたメッセージのやり取りが可能です。
また、新しい顧客のオンボーディングを自動化することも可能とのことです。おそらく、金融商品に対するオンボーディングや、銀行であれば口座開設時の手続き案内等が該当すると推察しています。
（引用：https://cs.onfinance.ai/ ）
上の画像でも記載がありますが、カスタマーサクセスの回答に対する顧客の反応から、顧客満足度の分析を行うことができます。満足度向上のために、カスタマーサクセスとしてどういった表現で回答すれば良いかを、自律的に学習することが可能です。
NeoGPTの特徴
NeoGPTは金融業界特化型の大規模言語モデルですが、その特徴として、サービスページでは5つの点が強調されています。
エンタープライズセキュリティ
規制遵守を保証しながら、エンドユーザーの機密情報である財務データを保護
データガバナンス
一貫性のあるアクセス制御やソースデータの品質（正確性）も担保し、データ管理を効率化
根拠のある回答
正確なデータ基盤を確保することにより、AIの回答への信頼性を向上
インライン（既存ツールに組み込んで利用できる）
ユーザーがすでに使用しているツール内でNeoGPTを活用するための、リアルタイムのガイダンスを提供
スピード
業務にかかる所要時間の短縮
API（他のサービスから呼び出す形で機能を利用すること）を利用するプランの場合は、1つの質問につき 0.2ドルがかかる従量課金制になっていますが、アクセス制御や自社のデータセット接続が可能であることから、法人が使用する場合は基本的に「データプラン」というプラン（下記画像参照）が適している場合が多いです。
（引用：https://onfinance.ai/ ）
金融業界では、顧客情報や機密情報をクラウド上に配置できない、というケースもあり得るため、「データプラン」というプラン（上記画像参照）ではオンプレミス上での利用も対応しています。
まとめ
onFinanceは、NeoGPTという金融・銀行業界特化のLLMを開発することで、レポート作成やそのための調査・セールス・カスタマーサクセスなどの業務を自動化していることがわかりました。
弊社でも、データの正確性を担保するための前処理や、オンプレミス環境でのLLMアプリケーションの開発は、日々研究開発を進めております。
また、私たちは大規模言語モデルに専門知識を埋め込む「RAG」という技術や、非構造・半構造のデータを構造化・正規化することに強みを持つ会社です。
それらの技術を活かしたプロジェクト組成やMVP開発のご支援も行っておりますし、「そもそもどのような業務に生成AIを活用できそうか」という上流工程から伴走することも可能です。「情報収集も兼ねて相談したい」というお客様も、お気軽にお問い合わせください。
「生成AIを活用したいが、どういう業務に向いているのかがわからない」
「生成AIに興味はあるが、キャッチアップをしている時間がない」
という方々に向けて、最新記事のアップ時にメールでお知らせさせていただいております。
今回の記事のような内容をタイムリーに知りたい場合は、 ぜひ下のフォームからAI Powered Business Lettersに登録いただければ幸いです。