ChatGPTの登場を機に、ジェネレーティブAIブームが巻き起こっている。トレーニングコストの低下やオープンソースモデルへのアクセスが増えたことで、新規参入するプレイヤーが増加、またジェネレーティブAI市場での投資機会を狙うベンチャーキャピタルによる投資も急増しており、短期間でジェネレーティブAIの多様化が進んでいる状況だ。

これに伴い、AI規制に関する議論も活発化しつつある。AI規制に関して、今最も注目されているのは、欧州連合（EU）における動向だろう。かつてデータプライバシー問題で、EUにおける規制が世界各国の規制に影響を及ぼすなど、いわゆる「ブリュッセル・エフェクト」と呼ばれる現象が起こったが、この現象がAI規制でも起こる可能性があるからだ。

EUはジェネレーティブAIに対してどのような規制を設けようとしているのか、その議論の最新動向を探ってみたい。

サービス一時停止から再開、イタリアでの展開

ジェネレーティブAI関連で、注目された出来事の1つとしてイタリアにおけるChatGPTの一時停止が挙げられる。

2023年3月末、イタリア当局「データ保護監視機関（Garante）」は、AI開発における個人データの収集・処理において欧州のプライバシー規制に違反した疑いがあるほか、ChatGPTが不正確な情報を提示することや年齢制限が設けられていないことを理由に、OpenAIに対し、イタリア国内におけるChatGPTのサービス停止を命じた。またイタリア当局は同時に、ChatGPTがEUの一般データ保護規則（GDPR）に適合するかどうかの調査も実施することを明らかにした。

数日後にはOpenAIはイタリアのIPアドレスを持つユーザーに対しジオブロックを導入、イタリア当局の命令に準拠する姿勢を示した。また、同時にイタリア当局とビデオ会議を実施するなど、直接的に意見交換したと報じられている。

イタリア当局はOpenAIに対し、一時停止解除のための条件を提示し、4月末までの履行を求めたともいわれている。その後OpenAIはイタリア当局が提示した一時停止解除のための条件を履行、当局が確認し4月28日付けで、イタリア国内におけるChatGPTサービスの再開をプレスリリースで発表した。

イタリア当局が一時停止解除のために提示した条件には、年齢確認の追加、ユーザーのデータ処理に関する法的根拠の変更などが含まれていた。またOpenAIは、プライバシーポリシーを拡充したほか、ChatGPTのトレーニングに使用される個人データについて、ユーザーが選択的に拒否できるような措置なども実施している。

EUにおけるAI規制議論

イタリアにおけるChatGPTの一時停止は解除されたが、この出来事をきっかけにEUにおけるAI規制議論は活発化の様相だ。

イタリアの件で主な論点となったのは、個人データ保護に関する問題だったが、現在はAIがもたらすリスクや著作権問題などに議論の範囲は拡大している

CNBC4月13日の報道によると、AIの専門家らによって構成されるグループは、EUのAI法の規制対象として現在含まれていない、汎用人工知能（general purpose AI＝GPAI）を含めるべきとする声明を発表。

現在EUにおけるAI法は、高リスクな用途が想定されるAIのみを規制するのみで、汎用人工知能は規制の対象外となっている。しかし、同グループは、ChatGPTを含むジェネレーティブAIツールが短期間で広範囲に普及したことに言及し、セッティング次第で高リスクな用途に利用されるリスクがあり、規制の対象にすべきと主張している。

高リスクな用途は、欧州刑事警察機構（Europol）が発表した報告書の中でも言及されているところ。

この報告者によると、ChatGPTは一般用途では、危険な情報を提示しない設定となっているが、その設定を解除する「ジェイルブレイク」の手法がインターネット上で広くシェアされており、誰でもジェイルブレイクを使い、高リスクな情報を得ることができるという。

Europolは、すでにジェイルブレイクにより、パイプ爆弾やクラックコカインの作り方をChatGPTに教えるように依頼したユーザーがいるほか、違法侵入の方法やテロリズム、サイバー犯罪などの犯罪行為に関して、ステップ・バイ・ステップのガイダンスを得ることも可能であると警鐘を鳴らしている。

専門家グループの主張から数日後には、EU議会の一部議員らからも規制強化に向けた声明が発表された。

4月17日、CNBCやロイター通信などの主要メディアによると、EU議会の一部議員らが既存のAI法を強化し、限定的な高リスクAIだけでなく、GPAIをAI法で規制すべきとする声明を発表。

その中で議員らは、AIの開発からデプロイメントに至るまで一連の規制が必要であり、AI開発を人間中心かつ安全で信頼できるものにするための法的枠組みの導入を主張している。また、EUのフォンデアライエン委員長と米バイデン大統領によるAIグローバルサミットを開催し、AIの開発・管理・デプロイメントに関わる規制原則について合意を交わすべきとも述べている。

議論は「ジェネレーティブAI」の著作権問題にも波及

最新報道によると、EUにおけるAI規制議論は現在、著作権問題にまで及んでいる。

2023年5月2日、ロイター通信は独自に入手した情報として、EUにおけるAI規制強化議論で、一部の議員らが、ジェネレーティブAIの開発プロセスにおいて著作権を有するコンテンツデータが無許可で利用されている問題を指摘、著作権保護もAI法改正案に含むべきと主張していると報じているのだ。

同議員らは、ジェネレーティブAI企業に対し、書籍、写真、動画などの著作権物をモデルの学習に利用した場合、それらの情報を開示することを要求できる条項をAI法改正案に盛り込むことを提案したという。より保守的な議員からは、モデル学習で著作権物を利用する際、著作権保持者からの許可を強制すべきとする提案もあったようだが、新興業界の発展を妨げるとして却下された。

上記草案は、今後、EU委員会、議会、加盟国における三者会議で協議される見込み。ただし草案が採択され、法として施行されるまで数年要する可能性があるという。

文：細谷元（Livit）