Data and Digital Insights Vol.3：人事労務におけるAI活用と個人情報の取扱いの留意点①（EU・AI法及びAI法から見る、人事労務におけるAI活用への評価及び留意点）

本稿では、全3回にわたり、人事労務とデータプラクティスをテーマに、第1回目ではThe EU Artificial Intelligence Act（以下「EU･AI法」といいます。）及び本年9月1日に施行した人工知能関連技術の研究開発及び活用の推進に関する法律（以下「AI法」といいます。）における人事労務におけるAI活用の留意点を紹介し、その上で、第2回目では①AI活用が先行している雇用仲介サービス提供事業者の事業区分、求職者等の個人情報の取扱い及びAI活用における留意点を、第3回目では②各企業におけるAIサービスを活用した採用活動及び雇用期間中の個人情報の取扱いに関する留意点を解説します。

1. EU･AI法における人事労務上のAI活用に関するリスク評価

（1）ハイリスクAIに対する規律概要

EU･AI法は、①許容できないリスク、②ハイリスク、③透明性のリスク、④最小リスクといった観点からAIシステムを分類し、①については原則禁止、④については原則規制対象外とした上で、②については厳格な規制、③については透明性義務を中心とする②と比較すると緩やかな規制を置くというリスクベースアプローチを採用しています。

ハイリスクAIに該当するものについては、所要の要求水準を満たす必要があり、例えば①リスク評価を行い、リスクマネジメントを行うこと、②データセットはハイリスクAIの目的と関連性があり、かつ、完全性のあるデータであること、③ハイリスクAIの活動内容を自動記録する必要があること、④ハイリスクAIの使用説明書（プロバイダーの連絡先、想定利用目的、精度等）を用意する必要があること、⑤ハイリスクAIの出力の適切性を確保するために人間の監督を行うこと、等が求められています。

（2）人事労務において活用されるAIとハイリスクAIの該当性

そして、そのハイリスクAIについては、次のとおり定義されています。

この附属書Ⅲ.4にあるように、人事労務において活用されるAIはハイリスクAIに該当する例として想定されており、第2回目以降で取り上げる日本において利用されているAIは、EU･AI法の下ではハイリスクAIに当たる可能性が高いものです。EUでは、データを用いた人間の処理（取扱い）に対する危惧が存在するところ、GDPR22条はその一例であり、「データ主体は、当該データ主体に関する法的効果を発生させる、又は、当該データ主体に対して同様の重大な影響を及ぼすプロファイリング（*2）を含むもっぱら自動化された取扱いに基づいた決定の対象とされない権利を有する。」（*3）と規定しています。かかるプロファイリング自体が差別的効果を生み出す可能性があることが指摘されており、例えば大手IT企業が進めていたAIを活用した人材採用システムにおいて、過去データのバイアス等から女性を差別する重大な欠陥が発覚した事例もあるように、不公正な差別を生み出す可能性もあります。

人事労務におけるAIの活用は、そのプロファイリングの具体的な手法として活用されることが想定されることから、上記弊害がまさに危惧されるところであり、EU･AI法においてかかるAIシステムがハイリスクAIに分類された趣旨を踏まえ、不公正な差別を助長することがないように取扱いに留意することが必要です。

2. AI法に係る人事労務のAI活用に関する国会の審議状況及び調査状況

（1）AI法に係る人事労務のAI活用に関する国会の審議状況

日本におけるAI法が本年5月28日に成立し9月1日に施行されたところ、成立に至るまでの期間を通じて国会では種々の議論がなされていました。人事労務におけるAI活用について、上記1.のとおり、EU･AI法においては、その評価、規制内容について規定されているところですが、AI法では、特段、明確な規定はありません。本項では、AI法の審議にあたって、国会において議論された人事労務におけるAI活用についての政府のリスク等への捉え方や対応方針について、以下の審議経過をもって、ご紹介します。

（2） AI法成立後の人事労務におけるAI活用に関する調査状況

このような国会審議を踏まえて、人事労務におけるAI活用については先行調査が望ましいという結論になり、AI法施行直後である本年9月19日付けで以下のとおり調査結果が報告されました。

かなり簡潔な調査結果であり、結論としては、「大きな問題は確認できていない」との報告結果です。EU･AI法において、出力の適切性を確保するために人間の監督を行うことがハイリスクAIに求められているところ、本資料においても、現状の活用件数は限定的としながらも「評価の公平性に留意して最終的な判断は人が実施している」との記載があり、各事業者において、自律的に、人間が出力の監督を行い、不公正な差別を助長しない取扱いを企図している点を評価していると見ることができます。今後、活用件数の増加に伴い引続き実態調査に努め、対策が検討されると本資料でも謳われていることから、人工知能戦略専門調査会の対応状況は注視するべきでしょう。

Authors

弁護士 清水 裕大（三浦法律事務所 アソシエイト）
PROFILE：2014年明治大学法学部卒業、2016年早稲田大学法科大学院修了、2017年弁護士登録（第一東京弁護士会所属）、2020年社会保険労務士登録（東京都社会保険労務士会所属）。高井・岡芹法律事務所（～2021年4月）を経て、2021年5月から現職。2022年3月から2024年6月までデジタル庁に出向し、2023年にはデジタル規制改革推進の一括法、2024年にはベース・レジストリの整備や利用促進を実施するデジタル手続法等の改正に関し、制度設計から施行準備まで従事。現在は、弁護士として、データの取扱いや人事労務に係るプラクティスに広く関与している。

弁護士 中山 貴博（三浦法律事務所 パートナー）
PROFILE：2012年弁護士登録以降、2025年3月まで大江橋法律事務所所属。カリフォルニア留学、ドイツ法律事務所勤務、大江橋法律事務所パートナーを経て2025年4月より現職。
個人データ、AI、ITといった分野に加えデジタルマーケティングやサイバーセキュリティ、データセンターの運営等に関して専門性を有しつつ、M&A・紛争案件を幅広く取り扱う。近時の主な対応案件として、2025大阪・関西万博における大阪ヘルスケアパビリオンやドイツパビリオン等の複数パビリオンの顧問弁護士、NTT西日本株式会社に設置された顧客情報不正持出しに関する調査委員会の主任補助者等がある。

弁護士 滝本 真希（三浦法律事務所 アソシエイト）
PROFILE：2022年弁護士登録。大江橋法律事務所、東証プライム市場上場企業の企業内弁護士を経て、2025年10月から現職。
M&A、人事労務、IT・個人情報に関する案件を中心に幅広く企業法務全般を取り扱う。直近では労働分野における個人情報の取扱いや有料職業紹介事業に関する案件にも注力している。

当事務所では、本note記事をニュースレターとして配信しております。配信のお申込みはこちらからお手続きください。また、既にご会員の方で、登録情報の変更・配信停止をご希望の方はこちらからお手続きください。