今回の研究チームは、多分野からの研究者15名という大規模なグループですが、どのようにご研究を進めていらっしゃるのでしょうか。

本研究チームは、AI法制定に先立ち国会で参考人として聴取された先生や、政府のサイバーセキュリティ検討メンバーでいらっしゃる先生をはじめ、各分野の第一人者ともいえる専門家が集結している、いわばドリームチームです。2カ月に１度、オンラインではなく必ず対面で研究会を実施し、議論を重ねるうちに専門分野を超えた「AIの悪」に関する研究グループとして、分野を超えた連携体制が整いました。また、毎年、小樽商科大学の木村先生とともに、ほぼ主要メンバーが全員参加をする合宿を実施し、集中的に議論していることもあり、問題意識は常に共有されています。

本研究は、分野横断的に様々な研究を進めてきましたが、チームのひとつの特徴として「AIの悪」に関する複数の社会調査を積極的に進めていることが挙げられます。

何が「善」で何が「悪」なのか。同じ国の人間であっても、何をどこまで許容できるかという受容性は、人によって差異があるものです。しかも、社会や政治の状態、時代背景で「悪」の線引きの仕方は変わります。ならば、そもそも善悪で規制をすべきではないという考え方もあります。本研究では継続的な社会調査によって、人々の「悪」に対する意識の変遷を見ているのです。

具体的には、どのような社会調査をされているのですか。

現在取り組んでいる調査のひとつには、ChatGPTの活用実態を分析する調査があります。なるべく地理的な偏りを防ぐため、北は北海道から南は九州までの複数の大学で、ChatGPTのユーザーである学生（若い世代）にターゲットを絞って調査しています。

我々研究メンバーの所属大学を中心に、問題意識があり真摯に向き合ってくれそうな学生に協力してもらい、実践的な使い方を細かく調べていきます。コードを出してもらい、好ましくない使い方なども含め調査しています。

今回のChatGPTの調査に限らず、質問事項を考える際は、社会調査の先生に丸投げするのではなく、各分野の見地から徹底的に議論をして、詳細に意見調整をしながら作成しています。政治倫理、哲学、情報倫理学、政治学、法学、社会心理学、サイバーセキュリティ分野、情報機械学など、多岐に渡る分野の先生方が垣根を超えて、連携しながら質問の作成や意識、行動の傾向分析をしています。これは、本研究チームでしか実現し得ない独自の調査であると自負しております。

生成AIの「悪」について、これまでの社会調査を通じて見えてきた課題と対策について教えてください。

例えば、社会調査の興味深い結果のひとつとして、多くの日本人がAIを過信しつつあることが明らかになっています。過信傾向があるために、偽情報の拡散が速く、民主主義社会に大きなインパクトを与えているのです。生成AIによる偽情報が氾濫する中、そのデジタルコンテンツが本物なのか、本当に特定の著名人の発言なのか、多くの人は真贋を判定する手段を持ちません。そのうえ、偽情報を排除する技術開発やシステムの構築は現時点では難しく、また、政権が不安定な状態にある国から発信される偽情報は止めることができない等、課題は尽きないのです。

現段階では、新しい規制の導入やドラスティックな法改正を急ぐのではなく、社会全体としてユーザーのAIリテラシーを上げていくべきではないかと考えています。

欧州（EU）では、生成AIによってつくられたコンテンツである場合、生成AIによるものであるという表示を義務づける規制を設けましたが、その規制に従わずに表示する「悪」の偽情報が出てきた時、一般市民が「表示がないからこれは生成AIのコンテンツではない」と、逆に信じてしまう可能性があります。加えて、規制があまりにも厳しくなりすぎると、今度は活用を渋る人が増加し、せっかくの技術の発展を妨げてしまうことになりかねません。

ネット上の偽情報を見破ることができる検証ツールを開発し、一般市民が使いこなせるようになっていくことが、理想形のひとつだろうと考えています。

ユーザーは、信頼する人が発信する情報を特に過信する傾向にある。その発信元自体が精巧な模造であることも多く、AIの「悪」に対する意識を高めなければならない

生成AI以外の、サイバーフィジカル空間に顕在する「悪」について、他に懸念されていることはありますか。

とりわけサイバーセキュリティの意識の低さに、危機感を覚えました。これまでの調査結果から、サイバー攻撃のリスクが社会的にあまり認識されていないことがわかっています。

サイバー攻撃のリスクに対する認識不足については、我が国の特殊性が起因しているようです。日本には憲法9条があり、完全に軍隊を放棄し、自衛のみを行うという立場です。そのため戦争に加わったり、推進したりすることはあり得ませんが、かといって「（一方的に攻撃される結果）サイバー戦争になる可能性を全く検討しない」というのは、大きなリスクだと思っています。

すでに日本でも、複数の大企業のシステムがサイバー攻撃を受け、甚大な損害を被っているのは周知のとおりです。例えば物理的なミサイル攻撃であれば、着弾前に迎撃するなどの防御が可能ですが、サイバー攻撃は受けたことが分かってからでは後の祭り、スマート社会の基盤ともなるシステムを破壊されるまで気づけないという状況です。「有事」について、これまでは物理的攻撃のみを想定していた法体系となっていたといっても過言ではありませんでした。この点については、ようやく昨年度、サイバー対処能力強化法及び同整備法が成立したところです。もっとも、刻一刻と変化し、リスクが増え続ける世界情勢のなかで、どのように対応すべきなのか、迅速に対応できるのかといった課題が山積しており、サイバーフィジカル空間に顕在する「悪」への対応は、日本の法制度の大きな課題のひとつだと考えています。