AIと人権に関する国内外の指針・ルールの発展

TOKYO人権　第101号（2024年3月11日発行）

特集

はじめに

　AI（人工知能）の発展により、患者の病状に応じた最適な医療が提供されたり、子どもの特性に応じた最適な教育が提供されるようになったりと、人々の福利が向上することが期待されています。一方、個人に関するさまざまなデータにもとづいてAIの出力した評価により、就職、入居審査、ローン審査、保険加入審査、量刑判断などの場面で特定の個人や集団に対し差別的な判断が行われるなど、私たちの人権が脅かされるおそれも懸念されています。こうした問題を踏まえ、最近では、国内外でAIに関する指針やルール作りが急速に進んでいます。そこで本稿では、人権に関わる側面に焦点を当てながら、AIに関する国内外の指針・ルールの発展の動向を概観していきます。

広島AIプロセスとAIに関する国際的な指針

　2023年5月に広島で開催されたG7では、生成AIに関する議論の場として「広島AIプロセス」を創設することが合意されました。「広島AIプロセス」での議論の結果、同年10月には 「高度なAIシステムを開発する組織向けの広島プロセス国際指針」 及び 「高度なAIシステムを開発する組織向けの広島プロセス国際行動規範」が取りまとめられました。これらの指針と行動規範は、AIの設計・開発・導入・利用のプロセスを通じて人権などへのリスクを特定、評価、軽減するために、生成AIなどの高度なAIシステムを開発・利用する組織に、リスクのテストや緩和策など適切な措置を講じることなどを求めています※1。

EU―AI規則案

　国際的にAIと人権に関するルール作りの試みとして注目を集めているのが、欧州連合（EU）の「AI規則案」です。この規則案は、AIに関するイノベーションを促進し、ＥＵ域内市場を活性化しつつ、AIの悪影響から基本権、民主主義、法の支配などを高い水準で保護することを目的に掲げています。
　このような目的を達成するため、AI規則案では、リスクベースの規制が採用されました。すなわち、個人や集団の不当な差別につながるような公的機関による個人の格付けのためのAIシステムの利用など、許容できないリスクを有するAIシステムの提供・利用は、原則禁止されています。一方、雇用や教育、刑事司法などの場面で用いられる高リスクのAIシステムについては、開発や販売などのプロセスを通じてリスクを評価し管理するよう求められています。また、そこまで高いリスクを有さないAIシステムについては、透明性の確保が要求されています。
　2023年12月には欧州議会と欧州理事会の間で政治的合意が行われ、生成AI等の規制のあり方を含め、AI規則の制定に向けて最終的な調整が続けられています※2。

アメリカ―AI権利章典と大統領令

　アメリカでも、連邦政府を中心にAIと人権に関する指針やルール作りが進められています。ホワイトハウスは、2022年に「AI権利章典のための枠組み」を公表しました。この権利章典では、AIの開発・実装において個人の権利を保護するための指針として、システムの安全性・実効性の確保、アルゴリズムによる差別の防止、プライバシーの保護、通知と説明、人間の関与を求める原則が掲げられています※3 。
　また、2023年10月にバイデン大統領が発した「AIの安全、堅牢で信頼に値する開発及び利用に関する大統領令」では、刑事司法、給付行政、雇用などの場面においてAIの利用に伴う公民権及び市民的自由の侵害や差別のリスクに対処するための取組を関係する連邦政府機関に求めています※4 。

日本―AI事業者ガイドライン案

　国際的な議論を受けて、日本でもAIと人権に関する指針作りが進められています。2024年1月、総務省及び経済産業省は、検討会での有識者の議論を踏まえ、「AI事業者ガイドライン案」を取りまとめ、パブリックコメントを募集しています。
　ガイドライン案では、「共通の指針」として、事業活動においてAIを開発・提供・利用する主体は、「法の支配、人権、民主主義、多様性、公平公正な社会を尊重するようAIシステム・サービスを開発・提供・利用すべきである」と述べられています。また、「公平性」の理念に関係して、各主体は、「回避できないバイアスがあることを認識しつつ、この回避できないバイアスが人権や多様な文化を尊重する観点から許容可能か評価した上で、AIシステム・サービスの開発・提供・利用を行うことが重要である」と述べています※5 。

おわりに

　本稿でみてきた国内外のAIに関する指針やルールの発展を踏まえ、行政、自治体、企業、市民などAIに関係する主体は、AIによる人権侵害が起きることのないよう、またAIにより人権の保護が促進されるよう、人権に配慮したAIの開発・利用を進めたり、AIを悪用して他者の人権を侵害しないようにするなど、それぞれの立場で取組を進めていくことが期待されます。

成原 慧 （なりはら・さとし）

九州大学大学院法学研究院准教授、専門は情報法。総務省情報通信政策研究所主任研究官等を経て、2018年より現職。インターネット上の表現の自由、プライバシー、個人情報保護、人工知能（AI）などに関する法的問題について研究している。

※1 外務省「広島AIプロセスに関するG7首脳声明」（令和5年10月30日）。
※2 European Parliament, EU AI Act: first regulation on artificial intelligence (2023年12月19日更新)。
※3 The White House, Blueprint for an AI Bill of Rights (2022年10月)。
※4 Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence (2023年10月30日) 。
※5 総務省・経済産業省『「AI事業者ガイドライン案」に関する意見募集』（令和6年1月19日）。