背景には、2023年に欧米で発生した大規模な偽情報キャンペーンがある。例えば、特定の候補者を中傷するフェイクニュースがSNSで拡散され、選挙結果に影響を与えたとされる。また、日本国内でも、AIを利用した詐欺的な広告が増加しており、消費者保護の観点からも早急な対応が求められている。これらの具体例は、政府の法案策定の動機づけとなった。

背景には、AI技術の急速な進展により、偽情報が爆発的に拡散し、社会不安を助長する事例が国内外で増加している現状がある。例えば、昨年欧米で発生した偽情報による選挙妨害や、サイバー攻撃による企業情報の流出は記憶に新しい。政府は、これらの事例を踏まえ、早急な対応が必要だと判断した。

AI新法を巡っては、政府の有識者会議が昨年12月に提言を行っており、偽情報によって国民の権利が損なわれた場合、政府が事業者に対して調査や指導を行い、その結果得られた情報を公表する必要性が指摘されていた。例えば、昨年欧米で大きな問題となった偽情報として、AIが生成したフェイクニュースがSNSで拡散し、特定の人物や団体への誹謗中傷が深刻化したケースがある。

これにより、被害者が精神的な苦痛を受けただけでなく、企業や団体の信用が大きく失墜し、経済的損失を招いた事例も報告されている。政府はこれを受け、AIを開発・提供する事業者名の公表を具体的な対策として検討している。

事業者名公表の効果と懸念

法案には、国が情報収集を行う際、事業者が協力する責務を課す文言も盛り込まれる見通しだ。政府は「イノベーションの促進とリスク対応の両立」を掲げており、法令違反に対する刑事罰や課徴金などの重い制裁措置は取らない方針だ。

一方で、この方針に対しては、規制が緩すぎるとの批判も少なくない。SNSでは「公表だけでは抑止力にならない」との意見が目立つ。例えば、EUでは2024年8月に「EU AI Act（AI規則）」が施行される予定で、リスクレベルに応じた罰則が設けられる。

違反した場合、年間売上高の7％、もしくは最大3,500万ユーロ（約57億円）の罰金が科される。この規則は、日本のAI事業者にも適用されるため、国際的な競争環境を考慮すると日本の規制の緩さが際立つ。

京都大学特任教授でスマートガバナンス代表取締役CEOの羽深宏樹氏はYahoo!ニュースのコメントで、AIを悪用した権利侵害は、必ずしもAIモデル自体の問題ではなく、モデルを悪用するユーザーによるものが多いと指摘する。そのため、「悪質な事業者」の定義をどのように線引きするのかが課題となる。また、事業者名の公表は株価や信用に影響を与える可能性があり、特に信用の高い企業にとっては大きなダメージとなる一方、無名の企業や外国企業には効果が限定的であると述べた。

羽深氏は、基準が曖昧なまま事業者名を公表すると、AI利活用に慎重になる企業が増える可能性を懸念し、「基準の明確化と真に悪質な事業者への実効的な制裁手段の確保が必要だ」と提言する。同氏は、具体的な基準として「継続的かつ意図的な違反行為を行う事業者」を例に挙げ、特に詐欺的な活動や大規模な個人情報漏洩に関与した場合は厳格な対応が求められると強調した。

市民の声と政府の課題

一部のSNSユーザーからは、「やらないよりは良いが、会社は簡単に作れるため、いたちごっこになる可能性が高い」との指摘もある。また、経営者や業務に携わった社員名を「排除者リスト」に掲載し、AI事業を行う企業がリストに掲載された人物を採用しないよう義務付けるべきだという極端な意見も出ている。このような意見は一見過激に思えるが、悪質事業者への抑止策として一部の支持を集めている。

政府は、技術革新を促しつつ、国民の安全と権利を守るため、どのようにバランスを取るのかが問われている。AIの急速な進化に伴い、規制のあり方が社会の大きな議論を呼ぶことは避けられないだろう。

専門家の間でも、長期的な視点での法整備の必要性が指摘されている。今後、政府は国民や事業者との対話を深めつつ、透明性のある基準作りを進めていく必要がある。特に、国際的な規制の動向を踏まえた柔軟な対応が求められるだろう。