Behavioral AI Lab、国連「Global Dialogue on AI Governance」採択の国際共同プロジェクトを始動

【米国・サンフランシスコ】Behavioral AI Lab（米国・サンフランシスコ）は本日、「Global Partnership for Detecting and Preventing AI-Enabled Manipulation and Scams（AIによる心理的操作・詐欺の検知・予防に関するグローバルパートナーシップ）」を開始したことを発表しました。

本プロジェクトは、国連「Global Dialogue on AI Governance」の「AI Dialogue Partnerships Hub」に採択された国際共同プロジェクトであり、Behavioral AI Labが実施主体としてプロジェクト全体を統括します。

行動科学、AIガバナンス、Trust & Safety、多言語AI開発などの専門家が連携し、人間中心のAI安全性評価の確立と、AIによる心理的操作やオンライン詐欺の検知・予防に向けた研究・社会実装を推進します。

生成AIは、人々のコミュニケーションや意思決定、オンライン上での行動や信頼形成に、大きな変化をもたらしています。

一方で、AIは心理的操作や詐欺、なりすましなどをより巧妙かつ大規模なものとし、従来の安全対策だけでは十分に対応できない新たな課題を生み出しています。

現在、多くのAIの安全性評価は、有害コンテンツやポリシー違反の検知を中心としています。しかし、人間の認知バイアスや感情、信頼関係を悪用した心理的操作を十分に評価できる手法は、まだ確立されていません。

Behavioral AI Labは、この課題に対し、AI評価やSafety by Designに行動科学を取り入れ、人間の認知や行動を踏まえたAIの実現を目指しています。

本パートナーシップの最初の研究テーマは、AIを悪用した心理的操作やオンライン詐欺です。

暗号資産投資詐欺、ロマンス詐欺、なりすまし詐欺などを対象に、AIを利用した心理的操作が人間の認知や感情、信頼関係にどのように働きかけ、意思決定に影響を及ぼすのかを分析し、その検知・評価・予防手法を開発します。

米国連邦捜査局（FBI）によると、2025年の米国における暗号資産関連詐欺の被害額は110億ドル（約1兆7,000億円）を超え、そのうち72億ドル（約1兆1,000億円）が暗号資産投資詐欺によるものでした。

日本でも被害は深刻化しています。警察庁によると、2025年のSNS型投資詐欺およびSNS型ロマンス詐欺の被害額は、合計約1,800億円に達しました。

AIの進化に伴い、このようなAIを悪用した心理的操作や詐欺は、今後さらに巧妙化・高度化することが懸念されています。

Behavioral AI Labは、これまでに収集・分析した150件を超える暗号資産ロマンス詐欺事例と、15,000件を超える詐欺メッセージを基盤に、AIによる心理的操作を評価する新たなフレームワークの構築を進めます。

本パートナーシップには、行動科学、AIガバナンス、Trust & Safety、多言語AI開発などの専門家が参加しています。

Behavioral AI Labが実施主体としてプロジェクト全体を統括します。参加組織の一つであるShisa株式会社（Shisa.AI、本社：東京都港区）は、多言語Small Language Model（SLM）の開発を行うAI企業です。本プロジェクトでは、多言語SLMの開発、安全性を重視したポストトレーニング、データセット構築、自動評価技術を担当します。

2026年7月から2027年6月にかけて、研究者、AI開発者、Trust & Safety専門家、金融機関、消費者保護機関、政策立案者などと連携し、AIによる心理的操作やオンライン詐欺の検知・予防に必要な評価手法やデータ基盤の構築を進めます。

Behavioral AI Lab 創設者　田中 知美

田中知美はBehavioral AI Lab創設者。AIの安全性、行動科学、Trust & Safetyを専門とする行動科学者・AIストラテジストです。

これまで世界銀行、Uber、Match Group、Amazon、Oracleにおいて、AI、安全性（Trust & Safety）、デジタルプロダクトの企画・開発に携わってきました。現在はBEworksシニア行動科学アドバイザー、近畿大学客員教授を務めています。

研究成果はAmerican Economic Reviewをはじめとする国際学術誌に掲載されるとともに、Harvard Business Reviewへの寄稿も行っています。また、国連をはじめ国内外で、AIガバナンス、AI評価、Safety by Designに関する講演・研究活動を行っています。

Behavioral AI Labは、米国サンフランシスコを拠点とする研究・アドバイザリー組織です。

行動科学とAIを融合し、安全で信頼できる人間中心のAIシステムの実現を目指しています。

AI評価、Safety by Design、Trust & Safetyを基盤に、人間とAIの相互作用を研究し、AIによる心理的操作やオンライン詐欺の検知・予防、責任あるAIガバナンスの実現に取り組んでいます。

田中 知美

Founder, Behavioral AI Lab

Email: tomomit@behavioralailab.com