AIの活用における課題と施策に関する研究会
近年、AI技術が画期的な進歩を遂げ、大きな社会変革の機会をもたらすことが予想される一方、倫理、著作権、偽情報、セキュリティなどの課題も多くみられます。より良いデジタル社会実現のために、AIを活用し、新しいイノベーションや効率化を促進するために必要な政策や取り組むべき課題について幅広く議論し、情報発信や提言を行うため、CFIECの2024年度デジタル社会研究所プロジェクトの１つとして「AI研究会」を新たにスタートしました。
AI活用に伴い、AIに対する規制の議論が世界各地で本格化しています。日本でも、少なくとも既存の規制分野（例：医療・金融・交通・インフラ・消費者保護等）でAIを用いる際には、何らかの法的規律が及ぶことに異論はないため、規制分野においてAIを利用可能にする積極的な法改正が行われています（薬機法、金融商品取引法、道路交通法、デジタル手続法、高圧ガス保安法、割賦販売法など）。しかし、具体的にどのような条件を満たすAIであれば法定の基準を満たすのかについての議論は道半ばです。また、社会的インパクトが大きい一方でリスクの全容が解明されていない生成AIについても、日本を含む各国で規制の議論が行われています。
研究会の1つのテーマとして、医療・金融・交通・インフラ・消費者保護・生成AIといった分野ごとに、
①どのようなAIシステムについて認証やライセンスが必要とされるか
②認証やライセンスは何を対象にどのようなプロセスで誰が付与すべきか
という観点から、各国の制度や議論の動向を分析し(研究のフェーズ1)、上記の調査・分析を踏まえ、我が国としてあるべきAI活用の姿（何をどこまで分野横断的に適用できるか、何については分野ごとに特化させる必要があるか）や異なる国家間協力の可否についての全体像を描き出すこと（研究のフェーズ2）を検討しています。
主査及び参加委員 （敬称略。役職等は2024年4月研究会発足時のもの）
主査：
羽深 宏樹
（特任教授／国立大学法人京都大学大学院法学研究科・弁護士）
委員：
稲谷 龍彦
（教授／国立大学法人京都大学大学院法学研究科）
落合 孝文
（弁護士・プロトタイプ政策研究所長／渥美坂井法律事務所・外国法共同事業）
杉村 領一
（チーフ連携オフィサー／国立研究開発法人産業技術総合研究所情報・人間工学領域）
高橋 久実子
（研究員／株式会社三菱総研社会インフラ事業本部リスクマネジメントグループ）
富安 啓輔
（副所長／株式会社FRONTEO行動情報科学研究所）
西山 圭太
（客員教授／国立大学法人東京大学未来ビジョン研究センター）
【研究会関連情報】
AIの認証制度をどう設計するか？ [日本語]
京都大学大学院法学研究科 特任教授 羽深宏樹
【研究会調査委託報告書】
AIシステムの認証制度に関する比較法的検討 [英語
第1回会合
2024年４月1日 13:00-14:30
加藤幹之CFIECデジタル社会研究所長より、「4月1日付CFIECデジタル社会研究所の発足」についての説明を行い、その後、羽深宏樹主査からのAI認証とライセンス諸外国動向調査実施についての提案、に対する質疑応答を行った。参加委員からは、調査実施への期待が示される一方、調査対象国及び対象分野選定の方向性について、さらに調査結果分析の結果をもとに、その背景や隠れた戦略まで掘り下げて追究すべきことについて、ご意見をいただいた。
第2回会合
2024年6月12日 15:30-17:00
第1回会合(4月1日)の後に起きたグローバルなAIを巡る法制化・制度検討動向全般について事務局より説明を行い、併せて、第１回研究会で調査実施について参加委員から賛同を受けた、AI認証・ライセンスに関する諸外国及び産業分野毎の動向に関する委託調査に基づいて、「日本におけるAIを促進するための近時の法改正等の概要」についての説明を、事務局より行った。その後、国立研究開発法人産業技術総合研究所情報・人間工学領域チーフイノベーションオフィサ杉村領一委員より、「AI国際標準化と世界の主要な動き」について発表を行った。参加委員から、動向調査継続への期待とともに、AIに関する国際標準化戦略の推進について、ご意見をいただいた。
第3回会合
2024年8月6日 13:00-15:00
「AI認証とライセンス諸外国動向調査」につき、羽深主査および、実際に調査を担当したDavid Socol de la Osa David Uriel 一橋大学助教授ならびに高橋圭弁護士より、中間発表がなされた。対象国・地域として、日、EU、米、英、シンガポール、中国（カナダは後日補充）を、対象分野として、医療、モビリティ（自動運転車）、金融、法務、生成 AI、労務を選定。EUと中国のAI法の目的、登録制度の違いが議論された。また、日本におけるAIライセンス制度導入を検討する場合、ISOで議論されているいわゆる共同認証、すなわち組織・プロセス認証と製品認証の組み合わせが参考になるのでないかとの意見が出された。次回は第3回会合での指摘事項を踏まえた動向調査の深堀を行う。
第4回会合
2024年10月2日 12:30-14:30
前回会合に引き続き、AIシステムおよびAIモデルへの対応が比較的進んでいる、日本、英国、米国の自動運転車と医療機器についてのライセンス認証制度調査の中間報告がDavid Socol de la Osa David Uriel 一橋大学助教授ならびに高橋圭弁護士よりなされた。これを踏まえて、(1)英国自動運転法における、自動運転車による低レベルの交通違反を許容する考え方と法人処罰の考え方、(2)AI製品とその製品を開発・製造する組織を統合的に認証する場合の、組織認証の在り方、(3)EU AI法におけるハイリスクAIが遵守すべき標準とISOとの関係、などが議論された。
第5回会合
2024年12月5日（木）10:30-12:30
AIシステムの認証制度について自動運転車と医療機器を対象に各国法比較分析のほぼ最終報告がなされた。主な発見事項として、⑴各国ともに制度設計はまだ発展途上であること、⑵ジョイント認証の構成要素である製品、マネジメントシステム、オペレーターの組み合わせについてはまだ検討の余地がある旨の報告がなされた。また、今後の検討課題として、1)AIに対する認証の制度的枠組み、2)認証の方法、3)認証機関のあり方、4)認証と責任制度の関係、5)認証制度設計の前提となるリスクの特定の仕方、などの論点整理がなされた。
第6回会合
2025年3月21日（金）9:30-11:30
米国企業で認証関係を担当する専門家から、AIシステム対する適合性評価の課題とその解決策としてのジョイント認証について説明を聞いた。研究会は、2024年度の成果を踏まえ、新年度はジョイント認証の在り方について継続して検討すべきとの意見が出された。