自動運転車やドローンなどでAI活用によるブレークスルーの現実味が帯びており、AIに対する期待は高まるばかりだ。
PwCの推計では、AIによる労働生産性の向上などによって2030年には、世界GDPは14％も押し上げられる可能性があるという。これは15兆7,000億ドル（約1,620兆円）に相当する規模だ。
AIへのポジティブな見方が広がる一方、付随するリスクとそれらに対応するための対策についての議論はこれまで十分になされていない印象がある。
いまこうした状況がカナダを中心に大きく変わりつつある。AI研究の第一人者による警鐘や大学、企業、国、さらには国際間でのAI倫理を強化する動きが活発化しているのだ。AI倫理をめぐっていまカナダで何が起こっているのか。その最新動向をお伝えしたい。
ディープラーニング生みの親が鳴らす警鐘
AI研究を大きく前進させた「ディープラーニング」。その生みの親の1人といわれるジョシュア・ベンジオ氏。
カナダ・モントリオール大学のAI研究者で、ディープラーニング研究の功績が認められ2018年には「コンピュータ分野のノーベル賞」と呼ばれる「チューリング賞」を受賞したAI研究の第一人者だ。
多くのAI研究者らがテクノロジー企業に高額で引き抜かれるなか、ベンジオ氏は学術界に身を置き、AIが経済・社会に及ぼす影響やそれに付随するリスクに関して中立的な立場から情報を発信している。
Nature Research誌2019年4月のインタビューでは、AIの非倫理的利用について懸念を語っている。
ベンジオ氏によると、AIの非倫理的利用はすでに広がっており、特に軍事研究施設や政府・警察向けにサービスを提供している民間企業の間で顕著になっているという。たとえば、AIを活用したキラードローンや監視システムなどだ。
AI監視については防犯など肯定的な理由が挙げられるものの、乱用の危険は常につきまとう。特に独裁政権がAI監視を利用すれば、その独裁的立場を維持するだけでなく、その立場を一層強めることが可能となる。
またAIが差別や偏見を助長するリスクがあるとも指摘している。 AIの品質を大きく左右するのはデータ。そのデータにはすでに差別・偏見的な情報が含まれている。
この状況でAIを活用し、意思決定を行ったり、サービスを提供したりする場合、差別・偏見の状況を一層強くしてしまうというのだ。
AIの責任ある開発へ、「AI・モントリオール宣言」
危機感を強めるのはジョシュア氏だけでなく、カナダの多くの研究者がAIの非倫理的な利用に懸念を募らせている。
モントリオール大学とケベック研究基金が2018年末に発表した「AIの責任ある開発・モントリオール宣言」はそのような研究者らの懸念を反映したものといえるだろう。
モントリオール宣言ではAI開発にかかる10原則が打ち立てられており、倫理的なガイドラインとしての役割が期待されている。10原則には、プライバシー保護原則、人間自律原則、公平・公正原則、多様性原則、環境持続可能性原則などが含まれている。
ベンジオ氏はモントリオール宣言について、AI研究者だけでなく社会科学や人文科学分野の研究者ら、さらには一般市民までも包含するもので、この点において世界初の宣言になるだろうと説明している。
またベンジオ氏は、さらに多くのプレイヤーを巻き込み、AIの倫理的利用・開発を促す取り組みを行っている。
それが「AIとデジタルテクノロジーの社会的影響・国際観測組織」の設立だ。モントリオールを拠点とし、各国の政府や市民社会がAI倫理について議論を行うため場と機会を創出するのが狙いという。
多くの研究者らが懸念しているのは企業間競争の激化にともない、AI乱用がはびこってしまうこと。ジョシュア氏は、競争原理のなかで企業による自己規制は期待できないとし、なんらかの国内・国際規制が必要になるとの見方を示している。
そうした規制・ルールを作り上げる上で、モントリオール宣言や観測組織などの取り組みが役立つ可能性があるという。
「レスポンシブルAI」を世界基準へ、カナダの奮闘
ジョシュア氏の見込み通り、カナダはAI利用に関する国際規制の制定でリーダー的な役割を果たすかもしれない。
2019年8月24〜26日フランス・ビアリッツで開催されたG7サミット。ここでカナダとフランスの政府関係者らが、サミット中に「AI国際パネル（IPAI）」を創設するために動いていたといわれている。
「気候変動に関する政府間パネル（IPCC）」のAI版政府間機構。プライバシーや人権などAIに関わる諸問題に対し、専門家組織が各国政府にアドバイスを行うなどの役割を担うという。
このIPAI、カナダ政府ウェブサイトにて2019年5月頃に公開された「AI国際パネル宣言」がもとになっていると思われる。
AI国際パネル宣言では、共通の価値観に基づくAI開発・利用の促進を規定。
たとえば、AI開発・利用に関して、人権に基づく、人間中心の倫理的なアプローチの促進、また企業や研究機関だけでなく市民社会や国際機関、各国政府などさまざまなステークホルダーの関与、さらには2030年持続可能な開発目標（SDGs）実現を意識したAI利用・開発などが盛り込まれている。
IPAIはG7で議論され、その後「Global Partnership on Artificial Intelligence（GPAI）」に名称が変更された模様。
カナダではGPAI促進の一環でこのほど、カナダ連邦政府とケベック州政府がモントリオールでAI国際センターの創設を発表。プライバシー、人権、倫理的な観点を加味したAI開発・利用を進める計画という。
カナダのAI取り組みが説明されるとき「Responsible AI（責任あるAI）」という言葉がよく登場する。このResponsible AIという考えをどこまで世界に浸透させることができるのか。AI研究第一人者であるベンジオ氏含め、AI倫理をめぐるカナダの取り組みから目が離せない。
文：細谷元（Livit）