AIで差をつける
~金融業界における目的特化型生成AIソリューションの重要性~
![](https://thefinance.jp/wp-content/uploads/CTC_中村氏-300x300.jpeg)
-
【講演者】
- 伊藤忠テクノソリューションズ株式会社
- 金融NEXT企画部
中村 薫平 氏
<伊藤忠テクノソリューションズ株式会社(CTC)とは>
弊社は、通称CTCと呼ばれる従業員規模1万名程度のSIerである。CTC金融事業グループは、金融機関様のDX推進を支えるため、データ活用・開発効率化・プラットフォーム関連でソリューション化を推進する部門だ。
その中でも、金融NEXT企画部は、金融機関様がまだ利用されていない次世代AIといったトピックのソリューションを攪拌していく部隊である。デジタルマーケティング、非財務/ESGデータ活用、AIサービス化、API関連、クラウドネイティブ、セキュリティという6つのソリューションで活動している。本日は、AIサービス化についてご紹介する。
<ソリューション紹介>
2023年12月にプレスリリースで公表した通り、Aitomatic社と提携をして、投資ポートフォリオの提案を行うAI投資アドバイザリーソリューション、企業様向けのチャットボット、チャットUIの構築・導入支援といったサービスを開始した。Aitomatic社は、米サンフランシスコで2021年に創業したベンチャー企業である。
Aitomatic社のaiVAでも、社内FAQ、チャットボット、チャットUIの構築・導入が可能である。専門業務知識、社内情報、データ分析結果をaiVAにインプットし、エンドユーザーにチャットで知識を引き出して使っていただく。
<AIネイティブ社会に備える生成AI活用戦略>
生成AIを用いた新しいチャットボット開発に求められるのは、「専門業務にも対応したナレッジの蓄積・回答」「チューニングの容易性」「部署ごとのセキュアな環境構築」「オンプレ・クラウド・ハイブリット全種に対応できる柔軟性」「モデル所有権の取得」の5つだと考える。これらの5つのポイントを満たし、回答精度とセキュリティ・ガバナンスの両立を目指せるソリューションがAitomatic社のaiVAである。
<Aitomatic社による小規模特化モデル(SSM)の可能性>
Aitomatic社のaiVAは、裏側に小さな言語モデルが複数あり、それぞれに専門分野を持たせるモデルを採用している。目的特化型のSSM(Small Specialist Model)と呼ばれるもので、ChatGPTのような単一のLLMとは異なり、特定分野の情報だけを集中的にチューニング及びインプットしていく。
ソリューションに搭載された「汎用管理モデル(GMM)」が対話者からの質問を分析して、どの専門家に質問するとベストな回答が得られるのかを判断した上で、最適なSSMに質問する仕組みである。SSMは小さいために、チューニング頻度を増やして内部の情報量に厚みを出すことが可能だ。
LLMは時間・コストがかかる上に精度が不足しがちだが、SSMは短時間・低コストで精度を高められるために、専門的な質問にも応対できる。SSMなら、専門分野ごとにオンプレあるいはクラウドのいずれかを自由に選んで配置できる。つまり部署別に切り分けることで、部署間のセキュリティとガバナンスも担保できるわけだ。
ChatGPTを利用するケースでは、ライセンスはMicrosoftに帰属する。そのため、お客様は開発後のモデル所有権を保持できない。一方、Aitomatic社のaiVAは、お客様のニーズに合わせて完全にカスタムメイドさせていただくことから、開発後の所有権はお客様に帰属する。
社内規約上、他社にライセンスが帰属している状態で自社の情報をインプットできない企業様にとっては、生成AI導入へのハードルが下がる点がaiVAのメリットだ。開発後のモデルに手を加えて、事業グループ間で展開するといったビジネスチャンスが広がる点もaiVAの特徴と言える。
<Aitomaticが提供する独自価値>
LLMとSSMは、それぞれの利点が異なることから、ユースケースに応じて使い分け、あるいは組み合わせることが大事だ。LLMを使ったChatGPTは、自然な日本語で回答したり、既存のドキュメントからFAQを作成したりといった汎用タスクに強みがある。一方のaiVAは、専門性の高いタスクに強みがある。
LLMは、数字・計算など定量的な情報に弱い。aiVAは、数字・計算や特定の質問に関しては、外部計算サービスや他社AIに接続することで高い精度の回答を返すことが可能だ。
Aitomatic社のaiVAが、専門的な業務に対する回答を生成できる理由の1つには、裏側でOODAフレームワークという思考プロセスを採用している点も挙げられる。
<サードパーティAIとの連携>
弊社では、aiVAによる言語モデル協調により、ユーザに対話式で株式の投資アドバイスを行うサービスを構築中だ。サービスの呼び出し元は、HEROZの株式トレンド予測AI及び株式ポートフォリオ最適化提案AIである。これらとAPI連携をして、個人投資家の方に使っていただくチャットUIを開発した。
HEROZのAIが提供する情報がわかりにくい場合には、補助的な金融ナレッジや企業の財務情報等を、会話のコンテキストに応じて対話形式で提示する。裏側で複数のSSMがインタラクティブに協調して、会話を行っていくのがaiVAの特徴である。
<OODAとは>
OODAとは、Observe(観察)、Orient(方針)、Decide(決定)、Act(行動)のループからなる思考フレームワークである。与えられた質問を自問自答して、専門家に聞きながら解決できるのか、もしくは解決できない場合に足りない情報は何かを判断する思考プロセスだ。
Aitomatic社は、精度の比較検証を行っている。検証では、OODAとRAG(LLM)に、某企業の決算書から流動比率を算出するように質問した。すると、OODAはドキュメントに記載がないテキストで質問しても柔軟にタスク整理した上で回答を算出したが、RAG(LLM)は「記載がない」と回答したのである。
様々なユースケースでも実証したところ、質問の難易度が上がるにつれ、OODAとRAGの回答精度の差が顕著になった。
<金融業界でのAI活用のユースケース>
保険業界であれば、コールセンター業務において約款別にSSMを作成して問合せに対応したり、オペレータが手計算していたものを外部サービスで計算結果を導き出したりといった局面での活用が考えられる。
銀行業務であれば、行内の定量業務が発生する部署に特化したSSMを構築すれば、市況分析や融資業務をサポートできる。特定業界の市況を外部サービスから要約して日報の作成に活かす、クライアントのポートフォリオ情報を共有する、過去のDonedealの成功案件データをインプットして過去の案件紹介に使う、行内のトランザクションデータを連携してデジタルマーケティングに活用するなど、用途は無限大だ。
アセットマネジメントであれば、ファンドの決算分析、約款の要約等を実施すれば、運用担当者や販売担当者の業務をサポートできる。API連携の例としては、LLMとの連携はもちろん、金融業務特化の計算プラットフォーム、ESG投資などの無形資産可視化データベースや弊社が手がける投資先セキュリティリスクを評価するBITSIGHTが挙げられる。
<PoC導入ステップ>
お客様にご準備いただくのは、SSMに読み込ませるデータセットである。またSSMを配置する場所を、オンプレあるいはクラウドなのかを決めていただく。小さい構成で進められるほか、定量的な質問や専門的な質問に対応できる点がaiVAの利点である。専門知識の補完・継承に使えるので、お気軽にご相談いただきたい。
◆講演企業情報
伊藤忠テクノソリューションズ株式会社:https://www.ctc-g.co.jp/