人の「違和感」をAIが学べる知識へ――データとAIで構築する次世代与信【東京大学DSS】

後払い事業の収益基盤を支える与信と不正対策

GMOペイメントサービス株式会社のビジネスインサイト部は、与信審査、不正対策、債権管理、督促・回収など、審査領域の業務運用を担っています。加えて、データ分析やAIを活用し、未回収の抑止や業務効率化につながる仕組みづくりも進めています。

弊社のビジネスインサイト部が掲げるミッションは、データ部門として、事業成長に不可欠な収益基盤の実現を支援することです。

後払い事業では、商品やサービスの提供後に代金を回収するため、支払いが行われない「未回収」が事業上のリスクになります。事業規模が拡大するなかで、このリスクを適切にコントロールすることは、収益基盤を維持するうえで重要です。

未回収につながる要因の一つが不正取引です。不正の手口は巧妙化、多様化しており、一度対策を講じれば終わるものではありません。継続的に新しい手口を把握し、対策を更新する必要があります。

また、取引規模が拡大すると、個別の確認や手作業だけでは対応が追いつかなくなります。そこで弊社では、不正取引を検出する機械学習モデルと、そのモデルを継続的に開発・運用するプロセスを整備してきました。

MLOpsによって機械学習モデルを継続的に運用する

機械学習モデルは、一度構築すれば同じ精度で使い続けられるとは限りません。データの傾向や不正の手口が変わるため、モデルの学習、評価、更新、運用を継続的に行う必要があります。

こうした一連の工程を効率的かつ安定的に進めるための考え方が、MLOpsです。MLOpsは、機械学習を意味する「Machine Learning」と、システムの開発・運用を意味する「Operations」を組み合わせた言葉です。

弊社では、データ基盤のDatabricks上に、データの準備からモデルの学習、本番運用までをつなぐMLOpsの仕組みを構築しています。これにより、機械学習モデルが取引を審査し、取引規模の拡大に対応できる体制を整えています。

さらに、Claude CodeなどのAIエージェントを用い、MLOpsの開発サイクル自体を効率化する取り組みも進めています。

事業規模の拡大に伴い、モデルの開発・運用に必要な作業量も増加します。すべての作業を人手で担うには、工数面・組織面ともに限界があります。そこで、AIを活用して各作業のリードタイムを短縮することで、事業拡大に追従できる持続可能な運用体制を構築しています。

人間主体の業務からAI駆動の与信へ

従来の業務では、人が主体となって判断や運用を行い、その業務の一部にデータ分析や機械学習を取り入れてきました。

一方、弊社が目指しているのは、AIの活用を前提として業務プロセスそのものを組み立てる「AI駆動」の与信です。

構想する与信基盤では、Databricksをデータ基盤として、AI向けのデータ整備、稼働状況のモニタリング、判断結果に対するフィードバックを行います。これらを一方向の処理で終わらせず、AIが継続的に学ぶループとして構築します。

AIは、すでに把握されているパターンに対して、定型的な与信判断を担います。一方で人は、例外的な案件や高度な判断が必要な案件を扱うほか、AIを前提とした業務プロセスの設計を担います。

目指しているのは、単純に人の業務をAIへ置き換えることではありません。AIが担当する領域と、人が担うべき領域を整理し、それぞれの役割を組み合わせた与信の仕組みです。

審査業務で重要になるAIの説明可能性

AIを審査業務で継続的に利用するためには、特に重要な要素が二つあります。一つが説明可能性、もう一つが学習ループです。

説明可能性とは、AIがなぜその判断をしたのかを、人が理解できる状態にすることです。

審査業務では、AIが出した結論だけを受け取っても、業務担当者がその根拠を理解できなければ、判断結果を適切に活用することが難しくなります。まず担当者が判断の理由を理解し、納得できる形で使えることが求められます。

もう一つの学習ループは、変化し続ける不正の手口に対応するための仕組みです。新たな不正や例外的な案件から得た情報をAI向けのデータとして蓄積し、次の学習や推論に反映します。

審査の精度を維持し、判断根拠を明確にするには、AIを一度導入するだけでは不十分です。判断結果を確認し、知識を追加し、再びAIへ反映する継続的な仕組みが必要になります。

人が不正取引に感じる「違和感」は言語化できるのか

不正検知の業務にAIエージェントを取り入れるなかで、弊社があらためて認識したのは、業務担当者が膨大な知見をもとに判断しているという事実でした。

担当者は、過去の不正事例や取引の傾向、日々の業務で得た気づきなどを組み合わせて、不正の可能性を判断しています。しかし、その知見のすべてがデータや文書として整理されているわけではありません。

特に難しいのが、担当者が不正取引に対して抱く「違和感」です。

取引内容を見た際に、担当者が直感的に「通常とは異なる」と感じることがあります。一方で、なぜ違和感を抱いたのかを細部まで言葉にし、データとして表現することは容易ではありません。

AIに十分な知識を与えたとき、人が感じる違和感まで検知できるようになるのか。弊社では不可能ではないと捉えながらも、実現のハードルは高いと認識しています。

現時点では、AIエージェントとAI向けの知識データは構築途上にあり、精度の面で人の判断が優位な領域も多くあります。一方、すでに把握されている不正パターンでは、AIが人の業務を代替できる場面も増えています。

そのため、すべての知見を完全に形式知へ変えることが理想ではありますが、まずは現実的な目線として業務のなかで得た知識を少しずつデータ化し、AIが扱える範囲を広げることが課題になります。

日々の知見をAI向けのデータとして蓄積する

AI向けのデータ整備の一例が、不正取引の特徴をプロファイル化する取り組みです。

従来、不正取引のまとまりにどのような特徴があるかは、担当者が手作業で整理する必要があり、データ化されずに担当者個人の知見に留まる場合も多くありました。

そこで、不正取引の特徴をAIに整理させ、プロファイルとして表現します。さらに、その情報をベクトルデータベースなどに蓄積し、類似する取引の探索やラベリングに活用します。

ベクトルデータベースとは、文章や特徴を数値の組み合わせとして表現し、意味や特徴が近い情報を検索しやすくする仕組みです。これにより、人の知識だけに依存していた不正パターンを、AIが参照できるデータへ変えていきます。

発表資料では、AIが検知できる不正の範囲を「網」に見立てています。担当者の知見をAI向けのデータとして追加することで網を広げ、従来は検知範囲から漏れていた不正を捉えられる状態を目指しています。

人とAIがともに学ぶループをつくる

弊社が目指す与信の仕組みで、中心となる考え方が「ループ構造」です。

まず、日常業務のなかで担当者が得た知見や新たな気づきを、自然にデータベースへ蓄積できる仕組みをつくります。この仕組みにより、AIは常に最新のデータを学習した状態で推論ができます。

AIの判断結果に対して、人がフィードバックを行います。通常とは異なる案件や、AIが適切に判断できなかった案件を確認し、その結果を新たなデータや知識として蓄積します。

このサイクルを繰り返すことで、AIは新しい知識を取り込み、人はAIが示した結果から新たな気づきを得られるようになります。

発表では、この仕組みを「人とAIの共進化のループ」と表現しました。

AIがすべての判断を担うのでも、人が従来の方法だけで業務を続けるのでもありません。人の経験をAIが扱える知識へ少しずつ変換し、AIの判断結果を再び人が評価する。この循環を通じて、変化する不正取引に対応しながら、与信の仕組みを継続的に更新していくことを目指しています。

FAQ