AIの活用における課題と施策に関する研究会 (第2期)

AIを組み込んだ製品やサービス（以下「AIシステム」）は、リサーチや資料作成といった組織内での利用から、金融サービスのような規制領域、さらに人の生死に直接的に影響しうる自動運転や医療機器まで、社会のあらゆる場面に急速に浸透しています。これらのAIシステムは、我々の生産性や生活の質を大きく向上させるものであり、もはや社会に不可逆的な変化をもたらしています。

一方で、AIシステムの実装場面の拡大に伴って、AIがもたらすリスクの領域や質・量も拡大しています。リスクには、大量に収集された個人情報に基づくプロファイリング、悪意をもった行動誘導、自動運転車や医療機器の誤作動、バイアスの増幅による差別や機会の不平等拡大、CBRN(化学・生物・放射線・核)情報へのアクセスが容易になることによる安全保障上のリスク、ディープフェイクのように個人の尊厳や民主主義への脅威など様々なものがあります。そういったリスクをマネージする手段の一つとして、AIシステムに対する認証（Certification）制度があります。

昨年度発足した第1期研究会の成果として、既に各国で成立しているAIの認証・評価に関する法的枠組みを一通り整理したところ、まだまだAIに対する認証制度が世界的に見ても発展途上にあるということを発見し、課題を浮き彫りにしました（「AIシステムの認証制度に関する比較法的検討」参照。【AI研究会】研究会調査委託報告書「AIシステムの認証制度に関する比較法的検討」を掲載しました | 一般財団法人 国際経済連携推進センター）

本年度第２期AI研究会では、AIシステムが活用されている分野での最先端のユースケース及び国内外の制度整備状況を分析し、AIシステムの認証（第三者認証、自己認証、Verification and Validationを含む）に関して、分野横断的に参照し得る認証メカニズムのモデルを示し、もってAI社会の我が国の産業競争力強化に資することを目的とします。

研究会構成員（敬称略。あいうえお順。役職等は2025年7月研究会発足時のもの）

主査：
羽深 宏樹
（特任教授／国立大学法人京都大学大学院法学研究科・弁護士）
委員：
伊藤 公一
（パートナー・公認会計士／PwC Japan有限責任監査法人）
稲谷 龍彦
（教授／京都大学大学院法学研究科）
落合 孝文
（弁護士・プロトタイプ政策研究所長／渥美坂井法律事務所・外国法共同事業）
杉村 領一
（チーフ連携オフィサー／国立研究開発法人産業技術総合研究所情報・人間工学領域）
陳 冠瑋
（特定助教／京都大学大学院法学研究科）
鄭 育昌
（シニアリサーチマネージャー／富士通株式会社 データ＆セキュリティ研究所 AIセキュリティコアプロジェクト）
高橋 久実子
（主任研究員／株式会社三菱総研社会インフラ事業本部）
富安 啓輔
（CTO・研究開発部門長／株式会社AIメディカルサービス）
広瀬孝之
（特定講師／京都大学大学院法学研究科）
オブザーバー：
David Socol de la Osa David Uriel
(准教授／一橋大学社会科学高等研究院）
髙村 博紀
（主任／独立行政法人情報処理推進機構（IPA）認証制度開発普及室）

第1回会合
2025年7月23日　15:00-17:00
羽深主査よりプレゼンテーションがあり、多様化・深刻化するAIリスクをマネージする手法として組織と管理策を一体的に評価する「ジョイント認証」の仕組みが有効であること、EU、米国、日本における「ジョイント認証」的アプローチの採用例をご説明いただいた。
研究会の方向性として、①適合性評価手法である第三者認証や自己認証のみならず他の手法（Verification and Validation、インスペクション、テスティング）も検討すること、②認証対象を考えるうえで、AIシステムを構成する基盤モデルやそれを活用したAIサービスの分界点についても検討すること、③自動運転や医療機器などの個別分野でのAIシステムのユースケースを分析し、横断的に参照し得る認証メカニズムのモデルを研究すること、等が合意された。