1. 会議録本文
本文のテキストを表示します。発言の目次から移動することもできます。
-
000・会議録情報
令和七年五月十六日（金曜日）
午前十時一分開議
━━━━━━━━━━━━━
○議事日程 第二十号
令和七年五月十六日
午前十時開議
第一 行政手続における特定の個人を識別するための番号の利用等に関する法律及び住民基本台帳法の一部を改正する法律案（内閣提出、衆議院送付）
第二 特別会計に関する法律の一部を改正する法律案（内閣提出、衆議院送付）
第三 下請代金支払遅延等防止法及び下請中小企業振興法の一部を改正する法律案（内閣提出、衆議院送付）
第四 情報通信技術の進展等に対応するための刑事訴訟法等の一部を改正する法律案（内閣提出、衆議院送付）
第五 重要電子計算機に対する不正な行為による被害の防止に関する法律案（内閣提出、衆議院送付）
第六 重要電子計算機に対する不正な行為による被害の防止に関する法律の施行に伴う関係法律の整備等に関する法律案（内閣提出、衆議院送付）
━━━━━━━━━━━━━
○本日の会議に付した案件
一、人工知能関連技術の研究開発及び活用の推進に関する法律案（趣旨説明）
以下 議事日程のとおり
─────・─────発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/0
-
001・関口昌一
○議長（関口昌一君） これより会議を開きます。
この際、日程に追加して、
人工知能関連技術の研究開発及び活用の推進に関する法律案について、提出者の趣旨説明を求めたいと存じますが、御異議ございませんか。
〔「異議なし」と呼ぶ者あり〕発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/1
-
002・関口昌一
○議長（関口昌一君） 御異議ないと認めます。城内実国務大臣。
〔国務大臣城内実君登壇、拍手〕発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/2
-
003・城内実
○国務大臣（城内実君） 人工知能関連技術の研究開発及び活用の推進に関する法律案の趣旨について御説明申し上げます。
人工知能関連技術は、その適正かつ効果的な活用によって行政事務及び民間の事業活動の著しい効率化及び高度化、並びに新産業の創出をもたらすものとして経済社会の発展の基盤となる技術であるとともに、安全保障の観点からも重要な技術であります。近年、人工知能関連技術を巡る国際的な競争が激化する中、我が国において、人工知能関連技術の研究開発を行う能力を保持するとともに、関連産業の国際競争力を向上させるための取組が不可欠となっております。
この法律案は、このような背景を踏まえ、人工知能戦略本部を内閣に設置するとともに、政府が人工知能基本計画を定め、これを推進するなどの所要の措置を講ずることにより、人工知能関連技術の研究開発及び活用の推進に関する施策の総合的かつ計画的な推進を図り、もって国民生活の向上及び国民経済の健全な発展に寄与することを目的とするものであります。
以下、この法律案の内容につきまして、その概要を御説明いたします。
第一に、人工知能関連技術の研究開発及び活用の推進について、基本理念及び国の責務等を定めております。
第二に、基本的施策として、研究開発の推進、施設及び設備等の整備及び共用の促進、人工知能関連技術の研究開発及び活用の適正性の確保、人材の確保、教育の振興、情報収集及び調査研究等の実施、国際協力の推進等を規定しております。
第三に、政府は、基本理念にのっとり、基本的施策を踏まえ、人工知能基本計画を定めるものとしております。
第四に、人工知能基本計画の推進体制として、内閣に人工知能戦略本部を設置することとし、内閣総理大臣を本部長とするなど組織、所掌事務等を規定しております。
以上のほか、所要の規定の整備を行うこととしております。
以上が、人工知能関連技術の研究開発及び活用の推進に関する法律案の趣旨であります。（拍手）
─────────────発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/3
-
004・関口昌一
○議長（関口昌一君） ただいまの趣旨説明に対し、質疑の通告がございます。順次発言を許します。杉尾秀哉君。
〔杉尾秀哉君登壇、拍手〕発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/4
-
005・杉尾秀哉
○杉尾秀哉君 立憲民主・社民・無所属の杉尾秀哉です。
ただいま議題となりました人工知能関連技術の研究開発及び活用の推進に関する法律案、いわゆるＡＩ新法について、会派を代表して質問します。
人類の知能をしのぐ機械が発明までこなす。一九六五年、イギリスの数学者アービング・ジョン・グッド氏は、高度なＡＩの登場をこう予言しました。それからちょうど六十年、同氏が指摘した世界は着実に実現に近づきつつあります。
このところ、ＡＩに関するニュースを目にしない日はないと言っても過言ではありません。そもそもＡＩが私たちの仕事や生活を大きく変えようとしているきっかけとなったのは、まるで人間のように答えてくれる対話型ＡＩ、チャットＧＰＴの登場でした。二〇二二年十一月のことです。さらに、今年に入り、低コストで高性能な中国発のＡＩ、ディープシークが発表され、世界中に衝撃が走りました。
ＡＩは、上手に使えばあらゆる人間の営みを効率化できる一方、使い方を間違えると人類の脅威ともなり得る。まさに、天使か悪魔か。その急速な進化の前に、我々はＡＩにどう向き合えばいいのか、今、根源的な問いを突き付けられていると言ってもいいでしょう。
ＡＩが人間の知能を超える瞬間をシンギュラリティー、技術的特異点といいますけれども、アメリカの発明家にして思想家でもあるレイ・カーツワイル氏は、二十年前に出版した著書でこの言葉を世に知らしめた上で、二〇四五年にシンギュラリティーが起きると提唱しました。人類の歴史における転換点、いわゆる二〇四五年問題です。ところが、ここに来て、シンギュラリティーはもっと早いと指摘する専門家が増えています。
このシンギュラリティーについて、政府は、いつ頃到来し、また社会や経済にどんな影響を与えると予測しているのか、城内大臣、お答えください。
日本のＡＩ研究の第一人者、東京大学大学院の松尾豊教授によれば、ＡＩは既に日本最難関と言われる東京大学理科三類の入学試験を突破できるレベルにあり、早ければ、二〇三〇年頃にもシンギュラリティーが到来する可能性があるのだそうです。
これほどまでに急激なＡＩの進化の一方で、我が国の取組は一体どうだったんでしょうか。
政府は、二〇一六年の第五期科学技術基本計画や二〇一九年のＡＩ戦略二〇一九などで、ＡＩを特に速やかな強化を図る基盤技術と位置付け、研究開発体制の強化方針を繰り返し示してきました。にもかかわらず、二〇二三年の国内でのＡＩに関する民間投資額は世界十二位で、しかも、二〇二四年情報通信白書によると、生成ＡＩの個人利用率で中国五六％、アメリカ四六％、イギリス三九％などに対し、日本は僅か九％と極めて低い水準にとどまっています。
では、なぜ我が国がこれほどまでにＡＩの分野で世界に後れを取ってしまったのか。また、石破総理が言うように、世界で最も開発、活用しやすい国を目指すと言うのなら、これまでの政策がなぜ功を奏しなかったのか、十分に検証した上で実効性が高い方策を講じるべきではないか。さらに、ＡＩの民間投資や利用率、ＡＩ関連予算など、日本が遅れているこれらの指標で、今後、具体的な数値目標や達成時期などを設定し、公表すべきではないでしょうか。いずれも城内大臣の答弁を求めます。
なお、デジタル敗戦に続き、ここで日本がＡＩの分野でも今までの遅れを挽回できなければ、もう後がないというぐらいの覚悟で政策を強力に推進すべきである、このように申し添えます。
ここからは、本法案について伺います。
過去、各省庁などで取りまとめられたガイドラインには、人間の尊厳が尊重される社会とか、多様な背景を持つ人々が多様な幸せを追求できる社会など、いずれも普遍的な価値が明示されていますが、本法案には一切そうした記述がありません。しかし、何といっても日本初のＡＩ関連法制ですから、我々が目指すべき社会とその実現のためにＡＩをどう利用するのかということこそ法案の基本理念に書き込まれるべきではないでしょうか。
さらに、二〇二三年Ｇ７広島サミットの成果として策定された世界初のＡＩに関する包括的ルール、広島ＡＩプロセスの国際規範に盛り込まれた人間中心の原則こそ核心中の核心です。欧米諸国のルール作りに共通するのは、いかにＡＩ社会で人間の自己決定権を確保するのかという人間中心主義の理念ですし、国内でも、例えば鳥取県が策定したＡＩ（えぇ愛）ガイドラインでも人間主導の原則が高らかにうたい上げられています。
こうして考えてみますと、個人の尊厳や民主主義を支える理念としての人間中心主義を本法にも明記すべきと考えますけれども、城内大臣にこれまでよりも踏み込んだ答弁をお願いしたいと思います。
本法案が目指す方向性は、イノベーションの推進とリスク管理のバランスを取ることでしょう。例えば、悪質なＡＩに対し国が調査できる権限や国の施策への事業者の協力など、一定の法的規制は掛けられていますが、一方で罰則規定の導入が見送られており、規制と推進のバランスに最大限配慮したことがうかがえます。
ところが、他国の状況を見ると、例えば去年春成立したＥＵのＡＩ新法では、ＡＩ法では、許容できるリスクを四段階に分け、リスクの程度に応じて規制などを行う罰則付きのリスクベースアプローチが採用されていたり、また、去年暮れ成立した韓国のＡＩ基本法でも透明性や安全性確保の義務規定を設けるなど、より規制に踏み込んだ内容となっています。他方、アメリカではトランプ政権がＡＩ規制の緩和を進めるなど、各国のアプローチは大きく異なっています。
こうした複雑な情勢の下で、果たして我が国のＡＩ法案が他国のモデルとなり得るのか私には甚だ疑問ですし、そもそも石破総理が世界のモデルとなるＡＩ制度と胸を張る根拠は示されておりません。城内大臣、お答えください。
また、ＥＵ流のリスクベースアプローチは一定の合理性を持つと考えますけれども、なぜ本法案はそうした考え方を取らなかったのか、これも城内大臣、併せてお答えください。
続いて、ＡＩの利用により生じる様々なリスクへの対応を中心に質問してまいります。
まず、ＡＩと著作権をめぐる問題ですが、インターネット上の情報を含む著作物を学習データとして利用することについて日本新聞協会は、情報源として報道コンテンツを無断で使用しており、著作権侵害に該当する可能性が高いとして、生成ＡＩ時代に即した新たな法整備を求めています。さらに、生成ＡＩの登場で、文章や音楽はもとより、極めてリアルな画像や動画などの作成さえも容易に可能になっていることから、日本音楽著作権協会や日本民間放送連盟など言論表現に関わる様々な団体から法改正も含めた検討の必要性が指摘されています。
そこで、こうしたＡＩによる著作権侵害に対する認識と今後の対応について、あべ文科大臣に基本的な考え方と対策の検討状況を伺います。
とりわけ生成ＡＩの進歩で世界的に大きな問題となりつつあるのが、いわゆるディープフェイクポルノによる被害です。個人の同意なく作成、拡散されるディープフェイクポルノは深刻な人権侵害を招いており、とりわけ学校の同級生など身近な人をターゲットにした被害は広がる一方です。例えば、アメリカでは、十八歳未満の八人に一人が自分かあるいは身近な人が被害に遭ったことがあるという、こういう調査結果もあります。
こうした状況を受け、海外では法制化に向けた動きが進んでおりますけれども、日本でも被害者の迅速な保護や救済はもちろんのこと、実効性ある法規制の検討が早急に必要なのではないでしょうか。鈴木法務大臣に今後の対応方針を伺います。
また、この問題で、最近私は、現行の児童ポルノ禁止法では規制の対象とならない、架空の人物を描いたわいせつなＡＩ生成物についても速やかな対策を講じてほしいという切実な訴えを受けました。鈴木大臣にこの問題も併せて検討するよう求めます。お答えください。
もちろん、ＡＩは万能ではありません。例えば、ＡＩを搭載したシステムの誤作動や意図しない挙動により、物理的な損害や身体への危害が生じる可能性も否定できません。最も深刻なのは、軍事活用でＡＩの自律的判断による誤爆が起きるケースですが、これから身近な生活においても、ＡＩ技術を使った自動運転車やロボットなどが様々な場面で誤作動を起こし、結果として深刻な被害を生む可能性が高まる事態も予想されます。
そこで、城内大臣に、ＡＩシステムの安全性確保について、今後どのような基準を設け、どのように監督を行っていくつもりか、現時点での考え方をお聞かせください。
では、実際にＡＩシステムの誤作動等により損害が引き起こされた場合、その責任は一体誰が負うことになるのでしょうか。
ＡＩでは、開発者、システムの提供者、利用者など複数の主体が関与するため、責任の所在を明確にすることが困難なケースも十分に考えられます。そうしたＡＩによる損害発生時の責任の所在はどのような考え方に基づき対応がなされるのか、政府としての認識を城内大臣にお尋ねします。
ある世論調査を見ますと、生成ＡＩの利用や普及拡大で国民が不安に思うことは、一、社会の分断、二、人間の制御が及ばなくなる、三、雇用が失われるというのが上位の三つでした。
ちなみに、ＡＩによる労働代替によって生じる影響について大和総研が調査し、去年十一月に公表した分析によると、生成ＡＩの普及により、我が国のＧＤＰは一六・二％押し上げられると試算され、また、労働者全体の失業者数の減少と賃金水準の上昇というプラスの影響がもたらされるとしています。
そうした一方で、労働者を職業グループで分けた場合、プログラマーや一般事務など、仕事の主要部分が生成ＡＩにより自動化や代替されやすい職業グループについては、失業者数が七・〇％上昇し、賃金水準が七・三％低下すると、このように推計されています。
こうして、今後、生成ＡＩの普及が進めば、生産性向上によるＧＤＰの押し上げが期待される反面、労働者の二極化を生み、国内の経済格差の拡大や社会の分断を招くことが懸念されますけれども、これに対する政府の認識と対応について、城内大臣の答弁を求めます。
最後に、本法案において、国の責務、地方公共団体の責務、研究開発機関の責務、活用事業者の責務と並んで、国民の責務が規定されたことについて伺います。
我々は、国民の責務の具体的な内容や範囲などが不明確である上、主に世代間のデジタルデバイドの深刻な現状に鑑み、国民の責務を国民の努力とするよう、衆院段階で修正案を提出しました。ところが、残念ながら、党利党略もあったのでしょうか、賛成少数で否決されてしまっています。
ＡＩ新法にも近いサイバーセキュリティ基本法など、ほかの法律では国民の努力と規定しているのに、なぜ本法案は責務という強い表現にしたのか。
これについて、衆議院での審議で政府側は、ＡＩに対する正しい理解と関心を深めていただくことが不可欠で、国や地方公共団体が実施する施策への国民の理解、協力が必要不可欠であるという観点から責務という言葉を用いているなどと答弁がありました。しかし、この説明は余りに不十分かつ極めて曖昧なもので、いまだ強い違和感が拭えません。
さきに述べたように、ＡＩの利用に不安を抱く国民が多くいる中、責務という強い言葉で規定すること自体、無用な懸念を生じさせるだけではないでしょうか。にもかかわらず、ほかの法律とは異なり、あえて国民の責務と規定した理由について、改めて城内大臣の明快な答弁を求めます。
ＡＩというテクノロジーの進化は果たして人々を幸せにするのか。まさにＡＩの真価が問われる中で、本法案は、その究極の目的、目標に近づくための小さな一歩にすぎません。
また、本法案には、実効性に乏しく中途半端だという批判が根強くあり、今後、ＡＩの悪用による深刻な事案が相次げば、強制力を伴う規制法の導入を検討せざるを得ない場面が来ることも十分に予想されます。その際、我々に求められるのは、情報に対するリテラシーや倫理観であり、社会全体で協力をして持続可能で公平公正な未来を築くためのビジョンではないでしょうか。
そのためにも、私たち立憲民主党は、人間中心のＡＩの旗を高く掲げつつ、時代や状況の変化に応じて果断に法制度の見直しを行う必要性を指摘して、私の代表質問を終わります。
御清聴、大変ありがとうございました。（拍手）
〔国務大臣城内実君登壇、拍手〕発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/5
-
006・城内実
○国務大臣（城内実君） 杉尾秀哉議員からは、まず、シンギュラリティーの到来時期や、社会や経済への影響についてお尋ねがございました。
ＡＩの大幅な発展によって社会や経済に大きな影響を与える可能性がありますが、シンギュラリティーについては、例えば、電力の大量消費や性能向上に必要な学習データの不足などの技術的な課題があり、その到来の有無や時期などについては専門家によって意見が異なっているものと承知しております。このため、現時点でシンギュラリティーの到来時期や具体的な影響についてお答えすることは難しいと考えております。
なお、もしシンギュラリティーが到来した場合には、ＡＩが倫理的に誤った判断をするリスクや利用者が過度にＡＩに依存するリスクなどがあると承知しており、ＡＩ制度研究会などにおいてもそうした議論があったところであります。
本法案が成立した暁には、法に基づく情報収集や調査などによって、技術発展の動向や課題を把握し、有識者とも議論を行いながら、必要な対応を図ってまいります。
次に、ＡＩの分野で世界に後れを取った理由についてお尋ねがございました。
様々な理由があるかと思いますが、ＡＩ開発の遅れの主な理由としては、ＡＩの研究開発に資本や人材が迅速に集まってこなかったこと、日本語はデータ量が少なく同音異義語が多いためＡＩ学習が難しいなど、日本語特有の事情があることなどが考えられます。また、ＡＩ活用の遅れの主な理由としては、ＡＩの持つメリットが不透明であったため、経営者が十分に投資をしてきていないこと、ＡＩがもたらし得るリスクに対する国民の不安が十分に払拭できていないことなどが考えられます。
ＡＩに関する国際的な競争が激しさを増していることから、関係省庁と連携して、このような状況を克服し、我が国におけるＡＩの研究開発と利活用を強力に推進していきたいと考えております。
次に、これまでの政策の実効性についてお尋ねがございました。
ＡＩ政策については、政府が本格的に取組を始めてからまだ多くの時間がたっておらず、現時点において全ての政策効果を評価することは難しいと考えております。
しかしながら、ＡＩの研究開発、活用が遅れた理由としては、先ほど述べたとおり、ＡＩの活用に対する国民の不安の払拭などを十分に行えなかったことや、資本や人材が迅速に集まってこなかったことなどが挙げられます。
これまでもＡＩ戦略を作成するなど、政府の取組を進めてきましたが、このような課題の克服に向けて、今後は、本法案により新たに設置するＡＩ戦略本部が司令塔となり、本部の下で策定するＡＩ基本計画に基づき、関係府省庁がより一丸となって、関連する取組を総合的かつ計画的に進めてまいります。
次に、ＡＩの民間投資などの数値目標等の設置についてお尋ねがありました。
ＡＩの民間投資などの指標については、これまでＡＩ戦略等を検討する際に調査、分析を行ってきましたが、ＡＩの開発動向は刻々と変化しており、具体的な目標や指標の設定については適時適切に議論する必要があると考えております。
今後、本法案に基づき設置されるＡＩ戦略本部において、国が講じる施策の基本的な方針等を定めるＡＩ基本計画を策定する際に、有識者の意見も聞きつつ、具体的な目標や指標を設定することも含めて、関係府省庁で連携して検討してまいります。
次に、我々が目指すべき社会の法案の基本理念への明記についてお尋ねがありました。
本法案では、第一条の目的において、国民生活の向上及び国民経済の健全な発展に寄与することを掲げております。
また、第三条の基本理念においては、行政事務及び民間の事業活動の著しい効率化及び高度化並びに新産業の創出、経済社会の発展、安全保障、我が国及び国際社会の平和と発展に寄与といった観点を明記しております。
このように、我々が目指すべき基本的な方向性については、法律の目的及び基本理念に既に盛り込んでいるところであり、更に具体的な重要事項につきましては、法案に基づき策定するＡＩ基本計画に記載してまいります。
次に、人間中心主義のＡＩ法への明記についてお尋ねがありました。
広島ＡＩプロセスの国際指針においても掲げられているとおり、人間中心の考え方を尊重することは、当然にして、非常に重要なことであると考えております。我が国においても、広島ＡＩプロセスに先駆けて、二〇一九年、平成三十一年に人間中心のＡＩ社会原則を策定し、ＡＩ政策を進めてきたところであります。
今後、ＡＩ戦略本部の下で策定するＡＩ基本計画にも、その冒頭で、人間中心のＡＩ原則の考え方を記載する予定としております。基本計画の冒頭に記載されることで、法案に直接書き込まずとも、人間中心のＡＩ原則に基づき、各施策が行われることを担保できると考えております。
また、法案第十三条に基づき国が整備する指針においても、広島ＡＩプロセスの国際指針の趣旨を反映させ、人間中心のＡＩ原則の考え方をしっかりと示していくことを予定しております。
次に、ＡＩ法案が世界のモデルとなる根拠についてお尋ねがありました。
議員御指摘のとおり、近年、世界各国においてＡＩ法制度に関する対応が進んでおり、その際、各国それぞれの法体系や社会的、歴史的背景に応じて制度整備が進められていると承知しております。
そうした中、本法案は、国際整合性を保ちながら、イノベーション促進とリスク対応の両立を図るため、体制整備や基本計画及び指針の策定、調査、情報収集等から成る、いわゆる規制法ではない形の法律としており、事業者の自主的取組を尊重するとともに、新しい技術にも柔軟に対応できる制度となっております。
ＡＩの研究開発や活用を加速することのできるバランスの取れた法制度として、これまでのところ、有識者の方々や、諸外国からも評価されていると考えており、本法案は、今後、世界のモデルになり得るものと考えております。
次に、本法案がリスクベースアプローチを取らなかった理由についてお尋ねがありました。
御指摘のあったＥＵのＡＩ法では、ＡＩをリスクに基づき四つのランクに分け、そのうち最上位の許容できないリスクを持つＡＩシステムは禁止され、また、二段階目のハイリスクなＡＩシステムを扱う事業者には基準遵守義務が課されていると承知しております。
ＥＵで禁止される許容できないリスクを持つＡＩシステムについては、我が国においても個人情報保護法等により規制されております。また、ＥＵが適合性評価を義務付けている重要なインフラ等に関するハイリスクなＡＩシステムについては、我が国においても、個別の業法等により、基準を遵守していないＡＩを用いた医療機器や自動運転車の販売は違法となります。
現在、各国において、様々な考え方でＡＩ法制度に関する対応が進められておりますが、我が国では、既存法令とガイドライン等の組合せによってリスクへの対応を行いつつ、イノベーションを促進するという考え方を取っております。
悪質な事例等については、既存法の罰則の適用やＡＩ法案に基づく調査等を行うとともに、潜在的なリスクについては、技術進展の動向を見ながら、必要に応じて、ＡＩ戦略本部の下、全ての関係省庁と連携して適切に対応していくこととしております。
リスクに適切に対応することで、イノベーションも促進させるため、両者をしっかりと両立させ、ＡＩ政策を推進してまいります。
次に、ＡＩシステムの安全性確保についてお尋ねがありました。
まず、汎用の生成ＡＩ等に関しましては、利用場面が千差万別であります。このため、一律の安全基準を設けることは困難でありますが、広島ＡＩプロセスに即した指針を国が整備し、その中において、ＡＩの安全性を向上させるためのＡＩ事業者の取組等を規定する方針であります。
また、ＡＩ技術を使った自動運転車やロボット等の個別の製品の安全性に関しては、各製品の安全性に関する既存の法令等の下で、基準やガイドラインの整備等、安全対策が講じられているものと認識しております。
さらに、本法案に基づく、国による調査や情報提起の枠組みも通じて、ＡＩの安全性の実態を把握し、安全性の向上を図ってまいりたいと考えております。
次に、ＡＩによる損害発生時の責任の所在に関する考え方についてお尋ねがありました。
ＡＩの利活用によって生ずる損害に対する責任の考え方を明確化させていくことは、ＡＩの開発や利活用を促進していく上で、非常に重要な観点であると考えております。
こうした観点から、例えば、自動運転車が事故等を起こした場合の責任制度や社会的ルールの在り方等については、産学官の関係者によって検討を行い、今後検討を深めるべき事項等が整理されているものと認識しております。
今後、司令塔たるＡＩ戦略本部の下、自動運転車以外の分野においても、ＡＩの利活用によって生じる損害に対する責任の考え方を明確化させるべく、関係省庁と緊密に連携しながら検討を深めてまいります。
次に、生成ＡＩの普及に伴う国内の経済格差の拡大等についてお尋ねがありました。
生成ＡＩによって業務の自動化や効率化が可能となり、その結果、生産性が向上して経済成長に大きく寄与することが期待できる一方で、多くの職種が奪われるのではないかとの不安や懸念があることは承知しております。
生成ＡＩが現在の仕事の一部を代替できることは事実であると認識しております。一方で、生成ＡＩの普及により、従来にはない新しい職種や産業が生まれたり、ＡＩエンジニア等のＡＩ関連の産業に対するニーズも増加することが考えられます。
このように、経済社会における人材需要や働き方が大きくシフトしていくと考えられるため、リカレント教育やリスキリング等の取組を通じて、新たに生まれる職種への労働力の移行をスムーズに行いつつ、労働者がこれまで以上に安全かつ安心に、そして幸せに働くことのできる社会の実現を目指してまいります。
最後に、国民の責務と規定した理由についてお尋ねがありました。
本法案第八条の内容は、国民の皆様がＡＩを適切に活用し、便益を享受するためには、ＡＩに対する正しい理解と関心を深めていただくことが不可欠との認識の下、規定したものであります。また、国や地方公共団体が推進するＡＩ活用を推進するための施策が十分な効果を得るためにも、国民の皆様の御協力が必要であります。
さらに、今後、様々なＡＩが多くの国民に利用されていくことを踏まえると、例えば不適切な動作を行うＡＩを発見した場合に関係機関に情報提供していただくなど、適正なＡＩ利用環境の維持に向けた取組に可能な範囲で御協力いただくことも想定されます。
こうした観点に基づき、第八条の見出しに果たさなければならない努めを意味する責務という文言を用いたものであります。（拍手）
〔国務大臣あべ俊子君登壇、拍手〕発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/6
-
007・あべ俊子
○国務大臣（あべ俊子君） 杉尾議員にお答えいたします。
ＡＩと著作権についてお尋ねがありました。
ＡＩと著作権との関係については、文化審議会の小委員会で議論を行いまして、クリエーター等の関係者からの著作権侵害等に関する懸念の声を踏まえ、令和六年三月にＡＩと著作権に関する考え方を取りまとめたところです。
文部科学省においては、この考え方の周知啓発や相談窓口を通じた著作権侵害に関する事例の集積に努めつつ、ＡＩやこれに関する技術の発展、諸外国における検討状況の進展等を踏まえながら、必要に応じた検討を続けてまいります。（拍手）
〔国務大臣鈴木馨祐君登壇、拍手〕発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/7
-
008・鈴木馨祐
○国務大臣（鈴木馨祐君） 杉尾秀哉議員にお答えを申し上げます。
いわゆるディープフェイクポルノに対する法規制の検討及びいわゆる児童ポルノ禁止法では規制の対象とならないわいせつなＡＩ生成物に対する対策についてお尋ねがありました。
御指摘のようなディープフェイクポルノ及びわいせつなＡＩ生成物について、例えば刑事事件という観点から一般論として申し上げれば、捜査機関においては、個別の事案ごとに、刑法や児童ポルノ禁止法といった関係法令の趣旨及び内容を踏まえ、刑事事件として取り上げるべきものがあれば、法と証拠に基づき適切に対応するものと承知をしております。
また、現在、こども家庭庁において有識者及び法務省を含む関係省庁によるワーキンググループを開催し、インターネットの利用をめぐる青少年の保護に関し課題と論点の整理を行っており、その中では、生成ＡＩを用いたディープフェイクポルノに関する御意見や、児童ポルノ禁止法の規制対象に関する御意見もあると承知をしております。
法務省といたしましては、御指摘のようなディープフェイクポルノ及び架空の人物を描いたわいせつなＡＩ生成物についても、引き続き、関係省庁とも連携しながら適切に対応してまいりたいと考えております。（拍手）
─────────────発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/8
-
009・関口昌一
○議長（関口昌一君） 片山大介君。
〔片山大介君登壇、拍手〕発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/9
-
010・片山大介
○片山大介君 日本維新の会の片山大介です。
会派を代表して、城内大臣に質問します。
世界でＡＩの開発や活用が進む中、日本は後れを取っていて、二〇二三年のＡＩ開発の民間投資額は、アメリカの六百七十二億ドルに比べて日本は七億ドルにすぎず、グローバルに勝負できる企業もほとんどない状況です。
振り返れば、一九八〇年代、マイクロソフトやアップルが登場したとき、日本では世界でメジャーとなるＯＳは開発できず、ＣＰＵもインテルなどに席巻されました。また、二〇〇〇年代にアメリカのスタートアップから成長したプラットフォーマーがクラウドビジネスで大規模な成長を遂げたときも、日本ではグローバルなクラウドカンパニーは登場しませんでした。
今回のＡＩ革命でデジタル敗戦を繰り返してはならないと思いますが、過去の敗因とともに、現在の日本のＡＩ開発力や活用の遅れについてどのように分析し、今回、勝機を得ようと考えていますか。
ＡＩをめぐる我が国の対応は、去年四月のＡＩ事業者ガイドラインなど、法的な根拠を求めないソフトロー中心となっています。
そうした中、去年の八月以降、法制度の要否を含むＡＩ制度の在り方を検討するため、内閣府のＡＩ戦略会議の下、ＡＩ制度研究会が開かれ、今年二月に中間とりまとめを公表。今回の法案はそれを踏まえてのものですが、中身は、イノベーションの促進とリスクへの対応の両立や、国際協調といった基本的な考えの下、政府の司令塔機能の強化や戦略、それに安全性の向上に向けた施策など、これまで取り組んできた内容を法的に規定したにすぎません。
法的な根拠を与えれば良くなるというだけでは立法事実にはならないと思いますが、法案によって、これまでの取組から何がどう変わるのか、どのような効果があるのか、教えていただけますか。また、ＡＩ事業者ガイドラインを始め、これまで作ってきたガイドラインなどとの関係性はどうなるのでしょうか。
法案の柱の一つは、第十六条の調査研究です。
条文には、ＡＩの開発、活用の動向に関する情報収集のほか、不正な目的などによって国民の権利利益の侵害が起きた場合の対策、それにＡＩの推進に資する調査研究を行い、それらの結果に基づき、事業者に指導や助言など必要な措置を講じるといった内容が一続きの文章で書かれています。これだと、調査研究が、ＡＩ推進のために行うのか、それとも不正への対策のために行うのか、どちらなのかよく分かりません。今回の法案はあくまで推進法なので、不正への対策を独立させると規制法と捉えられかねないとの判断からだと思いますが、これでは悪質な事業者への抑止効果は薄いと思います。
悪質な事業者名の公表についても、政府はケース・バイ・ケースと遠慮ぎみですが、本来なら、原則公表する、ないしは罰則を設けるべきではないでしょうか。これで実効性を担保できるのでしょうか。
政府が規制を緩くしているのは、ＥＵなどに比べて緩くすることで、日本に多くのＡＩの研究開発を呼び込みたい思惑があるからだと思います。でも、規制を緩めた場合に想定されることは、規制が厳しいＥＵに準拠したＡＩは引き続き海外で研究開発が行われる一方、日本にはそうではない危険なＡＩの研究開発が集まるおそれがあることです。
規制を緩めることが誘致につながるという考えは甘く、逆に日本発のＡＩの信頼性、安全性が損なわれ、ＡＩのリスクが高まってしまうのではないかと危惧しますが、どのようにお考えですか。
ＡＩに限らず、リスクを抱える技術は社会において受け入れられません。なので、技術における規制はリスクを低減させるための手段と考えるべきです。
実際のところ、規制がイノベーションを誘発することも多く、一例を挙げれば、一九七〇年代、アメリカが厳しい自動車排気ガス規制を掛けたことがありました。それに対し、イノベーションを重ねて世界に先駆けて準拠したのが日本の自動車メーカーで、それが今の地位につながりました。
ＡＩに対する規制を通じてＡＩリスクを減らすことで不安を和らげ、その結果、ＡＩの普及を促進するという考え方もあると思いますが、いかがお考えですか。
リスクを過小評価すると技術に対して緩い規制となり、国民の権利利益が侵害される可能性が生じます。また逆に、過大評価すると技術に対して厳しい規制となり、技術の発展が阻害されます。なので、リスクの判断は重要で、それが分からないと規制の必要性も認識できません。
ＡＩ制度研究会の中間とりまとめでは、ＡＩのもたらし得るリスクの例が関係法令とともに整理されていますが、それぞれのリスクについて、現在の規制が適切か否かにまで踏み込んだ考え方は示されませんでした。
今回のこの法案は、ＡＩの利活用がもたらすリスクとそれに対する適切な規制の在り方について十分に議論していないまま、法律の枠だけを作ったように感じますが、どのようにお考えですか。
今回の法案は、日本国内でサービスを提供する海外の事業者にも適用され、アメリカのいわゆるビッグテックにも対象になります。
ビッグテックは海外の法律に対して敏感で、例えば、ＥＵで去年五月に成立した罰則付きの規制があるＡＩ法を受けて、アップルは一部のＡＩ機能のＥＵ域内での提供を取りやめ、また、メタもマルチモーダルモデルのＡＩ投入を見送ることを決めました。今回の日本の法案に対し、アメリカのビッグテックからはどのような反応が出てきていますか。
また、アメリカ政府は、バイデン前政権のときはＡＩ開発に関して法規制をする方向で動いていましたが、トランプ政権になって、ＡＩのリスク管理などを企業に求めた前政権の大統領令を廃止して、ＡＩ開発の推進を打ち出す新たな大統領令を発効しました。こうしたＡＩのガバナンスをめぐる国際的な潮流が我が国のＡＩ施策に及ぼす影響について、どのように考えますか。
そして、日本でサービスを提供する事業者の中には、日本に法人を置いていない事業者も多くいます。こうした事業者に対して、政府は、国が実施する施策に協力をする責務を定め、アメリカやヨーロッパなど諸外国の政策当局及び事業者と連携を図り、情報収集に取り組んでいくとしています。この責務は第七条に規定され、条文には協力しなければいけないと、この手の条文にしては珍しく強い表現になっているのも、そうした考えがあるからだと思います。
でも、この第七条や先ほどの第十六条だけで、日本法人を置かない海外の事業者に対して十分な調査や指導を行えるのか疑問です。友好国との間であればある程度対応できるとも思いますが、そうでない国の事業者の場合、当局との連携や情報収集を行うことができるのでしょうか。海外の事業者に対する実効性のある対応について、政府の具体的な取組を教えてください。
与えられた指示に基づいてテキストや画像、音声などのコンテンツを作成する生成ＡＩは、今、日常生活やビジネスシーンで広く活用されています。また、今後は、自律的にタスクを実行し、問題を解決するエージェントＡＩが普及すると見られています。
ＡＩが高性能化すればするほど、そしてＡＩへの依存度が高まれば高まるほど、社会への影響は大きくなり、人間の能力を超えるＡＳＩ、人工超知能が実現する時代もやがて訪れます。
今回の法案では、基本計画を定め、指針を作ることになっていますが、こうした変化の激しい技術に対応するには迅速にＰＤＣＡサイクルを回していかなければいけないと思いますが、どのようにお考えですか。
変化の激しいＡＩ技術のガバナンスに日本が初めて取り組む今回のＡＩ推進法案。適切な法整備を実施すべきことを改めて訴え、私の質問とさせていただきます。
御清聴ありがとうございました。（拍手）
〔国務大臣城内実君登壇、拍手〕発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/10
-
011・城内実
○国務大臣（城内実君） 片山大介議員からは、まず、過去のデジタル敗戦の理由とＡＩ革命における勝機についてお尋ねがありました。
二〇〇〇年代のいわゆるＩＴ革命以降、我が国においては、諸外国と比較して専門知識を有する人材の確保等で後れを取っており、その結果、国際的な競争において苦戦をしたものと認識しております。
ＡＩについても、現時点では、資本や人材が迅速に集まっておらず、加えて、国民や企業はＡＩに不安を感じていることが、ＡＩの研究開発及び活用において諸外国に後れを取っている要因と考えております。
これらの状況に鑑み、ＡＩのリスクに対応しつつイノベーションを促進させるための法案を提出いたしました。本法案に基づき、適正なＡＩの研究開発及び活用を推進し、国民の不安解消や我が国の国際競争力の強化を図ってまいります。
また、今後の我が国の勝ち筋として、汎用モデルについては小規模であっても高性能なモデルを開発できる可能性があります。特に、日本の文化、習慣、歴史等を正しく学習したモデルの開発を進めることで、今後競争力を確保していくことが可能であると考えております。
加えて、ロボット、医療、防災等の分野においては、我が国は良質なデータを保有するなどの強みを持っており、こうした分野のＡＩの研究開発と活用において、我が国企業が今後世界をリードしていくことができると考えております。
次に、本法案の意義とガイドラインとの関係についてお尋ねがございました。
国民のＡＩに対する不安を払拭し、ＡＩの利活用が低迷している状況を克服するためには、ＡＩの研究開発と活用を適正に推進するための法律を制定し、国としての意思を明確に示すことが重要であります。
本法案により、我が国のＡＩ政策の司令塔機能が強化されるとともに、ＡＩの研究開発及び活用の推進に関する施策を関係府省庁が一丸となって総合的かつ計画的に推進することが可能となります。
加えて、本法案を通じて、我が国のＡＩ制度に対する基本的考え方、すなわちイノベーション促進とリスク対応の両立、国際整合性の確保、政府による情報統制や過剰な規制の回避といった我が国の立ち位置を国際社会に明確に示していくことができると考えております。
なお、本法案は、既存の法令やガイドラインと相まって効果を発揮することとなります。これまで関係省庁において特定の主体や分野を対象としたガイドラインを策定していますが、本法案に基づき整備する指針では、全ての関係者に向けて適正性確保のための基本的考え方を示すことを想定しております。ＡＩ事業者等の各主体においては、最も基本となる指針と各主体にとって最も適切なガイドラインの双方を参照しながら、ＡＩの研究開発と活用の適正性を確保していただくことを考えております。
次に、悪質な事業者等の公表や罰則の必要性についてお尋ねがありました。
本法案に基づく調査結果の公表については、公表した場合としない場合のメリット、デメリット等を比較検討し、かつ企業秘密等に留意して判断することとなります。
例えば、悪質なＡＩサービスを提供する事業者名を公表した場合に、当該サービスの社会的な認知度が上がってしまい、興味本位で利用する者が増えてしまうおそれもあると考えております。また、特定の事業者名の公表よりも、悪質なＡＩサービスに類似するＡＩサービス全般について国民に情報提供する方が、注意喚起としての効果があるといった判断もあり得ると考えております。
こうしたことから、事業者名については原則公表とはしておらず、個別の案件ごとに事業者名の公表の是非について適切に検討してまいります。また、罰則を設けなくとも、悪質な事案は現行法令に基づく措置によって対処可能であると考えております。
その上で、ＡＩは技術変化が速いことから、現行法令では対応が困難な事案が発生した場合、臨機応変に指針の整備や調査を通じた情報収集、調査結果に応じた事業者や国民に対する指導、助言、情報提供を行うこととしており、これらを通じて実効性を担保してまいります。
次に、規制を緩めた場合のリスクへの懸念についてお尋ねがありました。
我が国におけるＡＩのリスクへの対応については、関係省庁と連携し、まずは既存の法令及びガイドラインの遵守徹底を図るとともに、ＡＩ研究開発者及び活用事業者等による自主的な取組の促進、新たな技術の開発、導入など、総合的に取組を進めていくことが重要であると考えております。
そのため、本法案においては、ＡＩの研究開発及び活用の適正性を確保するための指針の整備、国内外のＡＩの研究開発、活用の動向に関する情報の収集や、国民の権利利益の侵害が生じた場合、事案の分析、対策の検討、その他の調査、調査結果を踏まえた活用事業者等への指導、助言、情報の提供等を国が行うこととしているほか、我が国でＡＩを開発する事業者等に対し、国が実施する施策に協力する責務を定めております。こうした取組や仕組みを通じて、ＡＩのリスクにしっかりと対応していく考えであります。
また、リスクへの対応については、我が国による取組だけでなく、国際連携の下で対応していくことが重要であり、広島ＡＩプロセス・フレンズグループを始めとする国際的な場やネットワークにおいて各国とコミュニケーションを図ることなどを通じて、実効性の確保に努めてまいります。
次に、規制によりイノベーションを促進するという考え方についてお尋ねがございました。
我が国においては、既存法とガイドライン等を適切に組み合わせ、ＡＩのリスクに対応してまいりました。
議員御指摘のように、一定条件の下での規制の導入がイノベーションを促進するということも考えられるところではありますが、ＡＩは技術の進展が速く、また我が国の企業等は一般的に法令遵守意識が高いことなどを勘案するとともに、ＡＩ戦略会議及びＡＩ制度研究会の中間とりまとめの内容も踏まえ、本法案においては、国が国際的な規範に即した指針をしっかりと整備した上で、事業者等に対してこれに基づく自主的な取組を求めることとしております。
これにより、柔軟かつ適切にＡＩのリスクに対応するとともに、安全、安心で信頼できるＡＩの研究開発、活用につなげることができると考えております。
次に、リスクと規制の在り方の議論についてお尋ねがありました。
本法案の検討に当たっては、ＡＩ制度研究会において適切に議論が行われ、技術の進展が速いＡＩについては、国際情勢や最新技術の動向に合わせた迅速かつ柔軟な対応が可能なガイドライン等と既存の法令の組合せによってリスクへの対応を行う必要があるとされたところであります。
他方で、現時点で想定できないリスクが今後発生する可能性がある中、議員御指摘のとおり、法律の枠をつくるだけでは不十分であります。本法案により設置されるＡＩ戦略本部の下で、関係府省庁が一丸となって着実な制度の運用を図るとともに、潜在的なリスクに関する情報収集やリスクへの対応に関する検討に、係る検討について、有識者の意見も聴取しながら行っていく考えであります。
次に、ビッグテックの反応についてお尋ねがありました。
まず一般論として、法令やガイドラインの内容を厳格で遵守困難である、あるいは運用が不明確であるといった状況下においては、企業は投資やサービス提供に消極的になってしまう傾向にあります。
これまで内閣府は、ビッグテックと対話を行ってきた中では、本法案については、国による情報統制や罰則付きの厳格な規制を定めるものではなく、国際整合性や事業者の自主性を尊重している点について好意的に評価されているものと受け止めております。
今後、国が整備する指針や国による情報収集についても国際規範に整合的なものとする予定であり、ビッグテックからの協力は得られるものと考えております。
次に、我が国の施策に対して国際的な潮流がもたらす影響についてお尋ねがございました。
御指摘のとおり、昨今の米国などはイノベーションや経済成長を重視する傾向が見られますが、いずれにせよ、各国の法体系や社会的、歴史的背景を踏まえて取り組んでいくことが重要であると考えております。
引き続き、諸外国の政策や制度も参考としながら、我が国の背景等を十分に踏まえたＡＩ政策を推進してまいります。
次に、国外の事業者に対する対応についてお尋ねがありました。
悪質な事案や事象が発生した場合には、日本に法人や事業所のない事業者に対しても本法案に基づく国の調査等を行う方針としております。仮に友好国でない国に所在する事業者であったとしても、当局との連携を模索するなど、あらゆるチャンネルを用いて、可能な限りの手段を尽くし、本法案に定める調査等を実施していきたいと考えております。
最後に、迅速なＰＤＣＡサイクルの必要性に関するお尋ねがございました。
先ほども述べたとおり、ＡＩは技術の進展が速く、現在顕在化していない問題が今後生じる可能性もあることなどから、基本計画や指針の見直しを柔軟に行うなど、ＰＤＣＡサイクルを適切に回していくことが必要と考えております。
具体的には、本法案に基づいて国が計画や指針を策定、整備し、これがプランに当たります。関係者はその遵守に努める、これがドゥーに当たります。そして、国はその実態を把握した上で必要な措置を講じる、これがチェックに当たります。さらに、必要があれば計画等を見直していく、これがアクションとなります。こうしたサイクルを着実に進めることが重要と考えております。
議員の御指摘も踏まえ、対応が事後的にならないように、実態把握や計画の見直し等に当たっては、変化を予測しつつ臨機応変に対応していきたいと考えております。（拍手）
─────────────発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/11
-
012・関口昌一
○議長（関口昌一君） 竹詰仁君。
〔竹詰仁君登壇、拍手〕発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/12
-
013・竹詰仁
○竹詰仁君 国民民主党・新緑風会の竹詰仁です。
会派を代表して、ただいま議題となりました人工知能関連技術の研究開発及び活用の推進に関する法律案について質問をいたします。
ＡＩ技術は急速な進化を遂げており、社会構造や我々の日常生活に既に変化をもたらし、今後更に大きな変化を生み出すことになります。ＡＩの活用は、産業の生産性を飛躍的に高め、経済成長の強力な起爆剤となるだけでなく、少子高齢化による労働力不足といった我が国が抱える構造的な課題の解決にも有効です。
我が国が国際社会で競争力を維持拡大していくためには、ＡＩの研究開発と活用を最重要課題として位置付け、推進していくことが極めて重要となります。このような認識の下、以下質問いたします。
まず、国産のＡＩ開発について伺います。
二〇二二年に米国のオープンＡＩがチャットＧＰＴを発表して以降、生成ＡＩの開発はグーグルやメタなどの海外の巨大ＩＴ企業、ビッグテックがリードしてきました。
こうした中、国内のＡＩ開発は苦戦を強いられている状況にありますが、独自のＡＩ開発が進められてもいます。例えば、ＮＴＴのｔｓｕｚｕｍｉやＮＥＣのｃｏｔｏｍｉといった日本語大規模言語モデル、国産ＬＬＭが実用化されており、これらのモデルは高い日本語処理能力と軽量性を両立している点で注目を集めています。
国産のＡＩを開発し、技術基盤を持つことは、経済安全保障の観点から重要であるとともに、ＡＩモデルが開発国の文化や価値観を反映することを踏まえると、日本の文化や社会に通じたＡＩを開発する意義は大きいと言えます。
一方で、国内のニーズだけに焦点を当て過ぎて海外市場への展開がおろそかになれば、国際標準やトレンドから乖離し、いわゆるガラパゴス化に陥る可能性があり、結果的に国際競争から取り残されることにつながりかねません。
二〇二四年二月より、経済産業省とＮＥＤＯによりＧＥＮＩＡＣという支援プロジェクトが立ち上げられ、生成ＡＩの開発力の強化が図られていることは評価いたします。一方で、今後は国産ＡＩの技術力を国際競争で取り残されないよう一層高めるとともに、積極的な海外展開に向けた支援が求められると考えます。国産ＡＩ開発及び海外展開についての政府の方針について、城内大臣、そして武藤経産大臣に伺います。
次に、ＡＩの研究開発、活用を促進する上で欠かせないリスク対応について伺います。
本法案第十六条では、不正な目的又は不適切な方法によるＡＩ関連技術の研究開発、活用に伴って国民の権利利益の侵害が生じた事案などについて、国が調査を行うこととされています。
条文では、国民の権利利益の侵害をもたらすおそれのあるＡＩについては、調査を実施することは明記されておりません。ＡＩに対する不安の声も多く聞かれる中、ＡＩの活用を推進するのであれば、権利利益の侵害が生じた事案だけではなく、国が責任を持って被害を未然に防止する観点から適切な調査を実施する必要があると考えます。
本法案に基づき、国民の権利利益の被害の未然防止のための調査について、城内大臣の答弁を求めます。
また、本法案第十六条では、調査の結果に基づき、国が情報提供等の必要な措置をとることが規定されています。
ＡＩは、人間の理解が及ばないほど内部動作が複雑となっており、予期しない有害な出力が発生する可能性があるとされています。発生したインシデントに関する情報をＡＩの開発者や利用者等の間で適切に報告、共有することにより、類似の事案の再発防止や、より信頼性の高いシステムの開発等につなげていくことも重要です。
Ｇ７広島ＡＩプロセスの国際行動規範でも、産業界、政府、市民社会、学界を含む、高度なＡＩシステムを開発する組織間での責任ある情報共有とインシデントの報告に向けて取り組むことが示されていますが、国が情報提供等の必要な措置及び産業界、学界、開発者等との間でどのように情報共有等を図っていくか、城内大臣に伺います。
次に、ＡＩの安全性に関する認証制度について伺います。
ＡＩの安全な利用を確保するために有効な方法となり得るのが、認証制度の創設です。認証の有無によって、信頼性の高いＡＩシステムを選択し、利用することが可能になれば、ＡＩ利用率が低い我が国での利用率向上につながることが期待されます。ＡＩについては、システムの仕組みや用途が千差万別である上に、出力の予測が困難であるなど、特有の課題があると認識していますが、ＡＩの安全性に関する認証制度の現状と新たな認証制度の創設に対する政府の見解について、城内大臣に伺います。
次に、ＡＩ時代を見据えた教育の在り方について伺います。
スマートフォンへのＡＩの標準搭載が進み、無料で利用可能なＡＩサービスも多く登場するなど、ＡＩは国民生活に身近なものとなりつつあります。本格的なＡＩ時代の到来に向けて、子供たちのＡＩリテラシー向上が不可欠となっています。
読解力などの基礎的な学力や、創造性、倫理的な判断能力など、ＡＩの特性を理解した上で利活用することができるリテラシーを養うため、子供たちにＡＩに関する教育を充実させていく必要があると考えますが、子供たちへのＡＩ時代を見据えた教育の在り方について、あべ文部科学大臣に伺います。
二〇二三年にユネスコが公表した教育・研究分野での生成ＡＩの利用に関する指針では、生成ＡＩの大部分は大人向けに設計されており、子供が使用すれば不適切な内容に触れるリスクがあるとし、利用の最低年齢を十三歳とすべきとしています。
主要な生成ＡＩサービスでは利用規約に年齢制限が設けられており、チャットＧＰＴでは十三歳未満の利用を認めず、十八歳未満が使う場合は保護者の同意が必要とされています。しかし、昨年開催されたある自治体のイベントで、イベント担当者が年齢制限の存在を把握しておらず、小学生にチャットＧＰＴを操作させてしまった事例があったと報道されております。
ＡＩのリスクや利用のルールについては、十分に把握されていないのが実情です。ＡＩの適正な利用について社会全体への周知を図るなど、子供たちをＡＩのリスクから守るための取組が必要だと考えますが、城内大臣の認識を伺います。
ＡＩが悪用されるディープフェイクが大きな問題となっています。ＡＩが合成された音声や動画を用いて、有名人を装った詐欺に悪用したり、偽画像や偽動画を使った情報操作や世論工作に悪用するといった事案が発生しています。ディープフェイクは名誉毀損や著作権侵害等の犯罪ともなり得ます。
一方で、ディープフェイクの作成や配布を取り締まる場合、憲法上の表現の自由との兼ね合いが問題となるとの指摘もあります。
ＡＩが進むにつれて、ディープフェイクに対して量、質共に対応していく必要があります。ディープフェイクへの対応について、城内大臣の考えを伺います。
次に、ＡＩの普及に伴う電力需要に関する課題について質問いたします。
ＡＩをめぐっては、今後も大規模な基盤モデルの開発や自動運転やロボットなど、幅広い分野での活用が広がっていくことが予想されます。これらを背景に、ＡＩの利用に必要となるデータセンターの電力消費量は今後十年間で十倍以上増加するとも見込まれています。
発電、変電、送配電の増強など、ＡＩの普及を踏まえた電力の安定供給に向けた取組の方針について伺うとともに、電力と通信の効果的な連携を図るための取組であるワット・ビット連携の実現に向けた検討状況について、武藤経産大臣に伺います。
最後に、採用活動など人事分野のＡＩ活用について伺います。
人事分野におけるＡＩ活用については、学習データに偏りがあるために生じる差別、学習データやそのアルゴリズムが見えないことによる公平性への疑問、また、それにより、それによる不利益などを受ける可能性、人事分野の議論が成熟しておりません。
採用活動など人事分野のＡＩ活用について、城内大臣及び福岡厚生労働大臣に考えを伺います。
以上、質問を終わります。御清聴ありがとうございました。（拍手）
〔国務大臣城内実君登壇、拍手〕発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/13
-
014・城内実
○国務大臣（城内実君） 竹詰仁議員からは、まず、国産ＡＩの開発及び海外展開に関する政府の方針についてお尋ねがありました。
ＡＩは国民生活や経済社会に密接に関係することから、日本の文化や商習慣等を正確に回答できるＡＩを開発することは重要であると認識しており、産業競争力や経済安全保障の観点からも、国産ＡＩの開発がなされることが望ましいと考えております。
そうした中で、近年、小規模なモデルで高性能なＡＩが実現されるなど、我が国でも多くの企業にチャンスが訪れていると考えております。さらに、我が国が良質なデータを保有するなどの強みを持つロボット、医療、災害、ロボット、医療、失礼しました、ロボット、医療、防災等の分野においては、既にグローバルに活躍している日本企業も存在していると承知しております。
本法案が成立した暁には、新たに設置されるＡＩ戦略本部の下、関係府省庁での一層の連携を図りつつ、国産ＡＩの開発や海外展開への取組を積極的に後押ししてまいります。
次に、国民の権利利益の侵害の未然防止のための調査についてお尋ねがありました。
議員御指摘のとおり、ＡＩの研究開発及び活用を推進する上では、ＡＩによる国民の権利利益の侵害を未然に防止するという観点は重要であると考えております。
こうした考えの下、本法案においては、実際に権利利益の侵害が発生した事案に関する調査のみならず、ＡＩに関する技術動向等に関する情報収集を不断に実施し、その結果として、権利利益の侵害が発生するおそれがあると考えられるような場合には予防的な調査を実施することもあり得るものと考えております。
こうした取組を通じて、ＡＩに関する不安の払拭を図り、我が国におけるＡＩの研究開発と活用を後押ししてまいります。
次に、各主体間の情報提供及び情報共有に関する取組についてお尋ねがありました。
ＡＩは近年急速な発展を遂げており、今後も様々なリスクが顕在化する可能性があります。そうしたリスクに適切に対応するためには、ＡＩの技術や活用動向等の情報収集、把握を行うとともに、ＡＩに関わる各主体間での適切な情報共有が図られることが重要です。
そのため、本法案により設置するＡＩ戦略本部や、同本部の下に設置予定の有識者会議の情報共有や、法案第十六条に基づく研究開発機関、活用事業者等への情報提供のほか、説明会やシンポジウム等の各種機会を捉えた周知広報活動などの取組を通じ、国が旗振り役となって関係者間での適切な情報共有を図ってまいりたいと考えております。
次に、ＡＩの安全性に関する認証制度についてお尋ねがありました。
認証の有無によって安全性の高いＡＩ事業者やＡＩシステムを認識し、選択することが可能となることから、認証制度は、ＡＩの安全、安心な活用を促進するための一つの手段となり得ることは認識しております。
現状では、例えば国際標準化機構、ＩＳＯ及び国際電気標準会議、ＩＥＣにおいてＡＩマネジメントシステムに関する国際規格が策定されるなどの動きが見られており、こうした国際規格がより安全、安心なＡＩシステムの普及拡大に貢献することが期待されております。
仮に今後、国内における認証制度の検討を行うような場合には、こうした国際的な動向も踏まえつつ、制度の実効性も考慮して詳細な検討を行う必要があると考えております。
いずれにしましても、我が国におけるＡＩの安全性向上に向けては、本法案により新たに設置されるＡＩ戦略本部の下で、関係府省庁が一層の連携を図りつつ取り組んでまいります。
次に、子供たちをＡＩのリスクから守るための取組についてお尋ねがありました。
御指摘のとおり、デジタルネーティブの世代である子供たちがＡＩを適正に活用できるようにしていくことは、今後ＡＩとともに発展していく社会にとって非常に重要であります。
このため、学校における教育施策として、初等中等教育段階における生成ＡＩの利活用に関するガイドラインの策定や、情報モラルに関する指導の一層の充実を図るため、教師が指導する際に役立つ児童生徒向けの動画教材等のコンテンツの作成といった取組をこれまで進めてきました。
また、これらの学校における施策のほか、広く一般向けには、ＡＩの活用場面や活用時の注意点等を一般消費者向けに分かりやすく周知するコンテンツの作成等の取組を実施しているところであります。
引き続き、子供を含めた国民の皆様がＡＩがもたらすリスクに適切に対応できるよう、ＡＩの教育やリテラシー向上のための取組について関係府省庁が連携し、しっかりと進めてまいります。
次に、ディープフェイクへの対応についてお尋ねがありました。
御指摘のあった詐欺や情報操作等に悪用するディープフェイクについては、これまで刑法等の既存の法令等で対応しつつ、昨年五月に内閣府が策定したＡＩ時代の知的財産権検討会中間とりまとめにおいても、既存法等の適用の可能性などについて整理するなどの対応を行ってきております。
本法案においては、内閣総理大臣を本部長とし、全閣僚が構成員となるＡＩ戦略本部を新たに設置するなど、ＡＩ政策の司令塔機能を強化することとしております。また、ＡＩ戦略本部の事務局である内閣府が、関係省庁と連携してＡＩに関する情報収集や権利利益を侵害する事案の分析や調査を実施することとしております。
ディープフェイクが悪用される事例は今後ますます多岐にわたっていくと想定されることから、ＡＩ戦略本部が司令塔機能を発揮し、全ての関係省庁との間で緊密な情報共有、調整等を行いながら、政府全体として一層迅速にディープフェイクへの対応を図ってまいります。
最後に、人事分野のＡＩ活用についてお尋ねがございました。
雇用や人事採用選考の在り方については、ＡＩに特化したものではないものの、厚生労働省のガイドライン等において一定の考え方が示されているところであります。
これに加えて、本法案に基づき国が整備する指針の中で、ＡＩ開発者が偏見や差別の含まれる情報出力を防ぐための対策を講じることについて盛り込んでいく予定としております。
具体的には、ＡＩ開発者が、学習データから偏見情報を除外することや、ＡＩが差別を助長する出力をしないかどうか、市場に出す前及び出した後にも確認し、必要な修正を行うことなどを明記する方向で検討しております。（拍手）
〔国務大臣武藤容治君登壇、拍手〕発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/14
-
015・武藤容治
○国務大臣（武藤容治君） 竹詰仁議員の御質問にお答えをさせていただきます。
国産ＡＩ開発及び海外展開についてお尋ねがございました。
産業競争力の強化や経済安全保障の確保等の観点から、国内の事業者が競争力のあるＡＩを開発することは重要であります。特に、今後、ＡＩの開発と利用を一体的に進め、日本に強みのある分野で専門性が高いＡＩを開発することが求められます。
このため、ＡＩ開発に必要となる高度なコンピューターの整備支援、スタートアップ等による開発支援、ＡＩを利活用できる人材の育成など、開発と利用の両面の取組を進めてまいります。
海外展開も重要であり、これまで、東南アジアにおいて、国内事業者が開発したＡＩサービスの利用に関する実証のほか、ＡＩの人材育成プログラムを実施しています。
今後は、ＡＩ・半導体産業基盤強化フレーム等も活用し、関係省庁とも連携しながら、ＡＩに関する施策を更に強化してまいります。
次に、ＡＩ普及に伴う電力需要の増加に対する課題についてお尋ねがありました。
今後の電力需要は、ＤＸやＧＸの進展により、省エネの進展を見込んでもなお増加が見込まれており、電力の安定供給と脱炭素化の両立を図っていく必要があります。
このため、再エネや原子力といった脱炭素電源を最大限活用していくために必要な事業環境の整備や、送配電設備を計画的に設備する枠組み等の安定供給に向けた取組の方針について、関係する審議会において検討を開始しており、本年中を目途に結論を得られるように検討を進めてまいります。
また、電力と通信の効果的な連携、すなわちワット・ビット連携については、通信、電力、データセンターに関する産業界と政府の関係者が一同に参加する官民懇談会を本年三月に立ち上げ、具体的な方策の検討を進めております。本年六月頃の方向性の取りまとめに向け、議論を詰めております。
以上です。（拍手）
〔国務大臣あべ俊子君登壇、拍手〕発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/15
-
016・あべ俊子
○国務大臣（あべ俊子君） 竹詰議員にお答えをいたします。
ＡＩ時代を見据えた教育の在り方についてお尋ねがありました。
文部科学省では、情報活用能力を学習の基盤となる資質、能力と位置付けており、各学校段階を通じて、その育成に取り組んでいます。
また、急速に発展する生成ＡＩへの対応として、ガイドラインを策定し、学校現場における生成ＡＩの適切な利活用を促進しています。
さらに、現在、中央教育審議会において、生成ＡＩを始め、デジタル技術が飛躍的に発展する中での情報活用能力の抜本的向上を図る方策について具体的な議論を行っているところであり、引き続きしっかりと検討を進めてまいります。（拍手）
〔国務大臣福岡資麿君登壇、拍手〕発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/16
-
017・福岡資麿
○国務大臣（福岡資麿君） 竹詰仁議員の御質問にお答えいたします。
採用活動など、人事分野でのＡＩ活用についてお尋ねがありました。
公正な採用基準の在り方については、ガイドラインにおいて一定の考え方を示し、企業等に対して普及啓発を行っています。また、採用後の労働条件等についても、労働基準法等に基づく差別の禁止等の規定があり、違反があれば指導を行うこととしています。
厚生労働省としては、ＡＩを活用する場合においても労働関係法令が適切に遵守されることが重要であると考えており、ＡＩ等の最新技術による労務管理の実態を把握するために、ヒアリング調査を行い、事例を把握するなどの取組を行っています。
今後とも、ＡＩ等の新たなテクノロジーが人事分野に与える影響について注視してまいります。（拍手）
─────────────発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/17
-
018・関口昌一
○議長（関口昌一君） 井上哲士君。
〔井上哲士君登壇、拍手〕発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/18
-
019・井上哲士
○井上哲士君 日本共産党を代表して、ＡＩ推進法案に対して質問します。
国境を越えて急速に発展、普及するＡＩは、社会に大きな変化をもたらすと同時に、様々な分野で深刻な問題を生じさせています。
昨年三月の国連総会では、日本も共同提案したＡＩの開発や利用などに関する決議が採択されました。ＥＵでは、ＡＩのリスクに応じ、四段階に分類して法規制するＡＩ規則の施行が始まっています。
内閣府が公表したＡＩリスクや安全性に関する意識調査では、現在の規則や法律でＡＩを安全に利用できると答えているのは日本では僅か一三％、ＡＩには規則が、規制が必要だと答えたのは七七％、ＡＩの悪用や犯罪に対する法的対策の強化を求める回答は六六％にも上っています。
しかし、政府は、ＡＩのリスクに対しては既存法とガイドラインで対応することを基本とし、法案はＡＩ推進一辺倒です。政府は、ＡＩが国民の権利利益を侵害するリスクをどのように認識しているのですか。
なぜ国民の求める規則や法的対策の強化がないのですか。今必要なのは、ＡＩの発展と普及のスピードに遅れることなく、包括的なＡＩ対策法を作り、国民の権利利益の保護を強化し、予防的観点も含め、ＡＩのリスクに応じた規制を行うことではありませんか。
一方で、法案は第八条で、国民はＡＩに関する理解と関心を深めるよう努めなければならないと国民の責務を定めています。ＡＩによる不利益や被害を受けても、それはＡＩのリスクを理解する努力が足りなかったからだと自己責任を押し付けるものではありませんか。
法案第十二条は、国がＡＩ開発のための機械学習用データ、いわゆるデータセットを整備して、ＡＩ事業者への提供を促進すると規定しています。政府が保有の情報に加え、国立研究開発法人、大学が持つ情報も対象です。第五条では、地方公共団体に対し、ＡＩ開発、活用に関し、自主的な施策を策定して実施する責務を規定しています。地方自治体が持つ情報もデータセット化するよう迫るものです。
このデータセットには、それぞれの機関が保有する個人情報が含まれるのですか。個人情報を含む情報提供を促進させる法案は、プライバシー権を侵害する危険性を高めるものではないですか。
以上、城内科学技術担当大臣の答弁を求めます。
ＡＩの普及に対応するためには、個人の権利利益を保護する法制度の強化が不可欠です。
まず、個人情報保護法の見直し強化について質問します。
ホームページやＳＮＳへの投稿など、本人の書き込みや入力した個人情報及び思想信条、収入、病歴などの機微な要配慮個人情報も含まれる情報データが様々な事業者によって大量に収集され、ＡＩ開発に利用されている実態があります。
政府は、既存法とガイドラインで対応すると言いますが、現に、明らかな個人情報保護法違反である本人同意のない要配慮個人情報の取得が行われていることを城内大臣と平個人情報保護法担当大臣はどのように認識をしていますか。
ＥＵでは、個人情報の自己コントロール権を市民の基本的権利として保障しており、ＥＵ一般データ保護規則は、利用状況の開示、提供の同意撤回、利用停止、削除請求を規定しています。日本の個人情報保護法にも利用停止、削除請求の仕組みがありますが、条件を付けており、権利侵害のおそれがあるときと狭くしています。
日本では、利用停止、削除を請求しても、権利侵害のおそれはないとして拒否され、対応されない事例が後を絶ちません。これで個人情報が保護されていると言えるのですか。日本法人がない海外企業に拒否された場合は、個人はどのように対応すればよいのでしょうか。
ＡＩの発展、普及に対応するために、自己に関する情報の自己決定権を保障し、個人情報保護法の目的に明記すること、また、個人情報保護委員会の監視体制の強化、違法な情報収集への罰則強化を求めます。
以上、平大臣の答弁を求めます。
ＡＩには、判断の根拠や過程がブラックボックスになる問題、学習したデータに偏りがあったり、人間社会の偏見や不平等を反映したり、時には増幅してしまうバイアス問題があり、既存法や事業者任せのガイドラインでは対応できません。
さらに、生成ＡＩによる偽情報、誤情報の問題です。衆議院の参考人質疑で、偽情報、誤情報対策、ＳＮＳでの流通、拡散を防止する仕組み、法制度の構築などが具体的に提起されました。生成ＡＩの作成を示す電子透かし、発信者を特定できる埋め込み情報などをＳＮＳ等を提供するプロバイダー、デジタルプラットフォーマーに義務付けることです。直ちに法制化すべきではありませんか。城内大臣、村上総務大臣、それぞれお答えください。
著作権の侵害について伺います。
現行の著作権法は、ＡＩの学習目的であれば権利者の許諾なく著作物の利用を認めています。そのため、新聞報道、イラスト、音声などが許諾なく収集されています。日本新聞協会は、報道コンテンツを生成ＡＩに利用する場合は許諾を得るよう繰り返し求めているが改善が見られないとして、ガイドラインではなく法整備が急務としています。俳優や声優などが参加する日本俳優連合など三団体は、声を利用する場合の本人許諾、ＡＩで作成したものであることを明記するなどの法整備を求めています。報道機関が萎縮すれば国民の知る権利を狭めることになり、ＡＩが報道機関に代わって取材、報道を担うことはありません。
知的財産の保護を強化せず、ＡＩの推進だけでは、コンテンツの再生産の縮小や、創作意欲の減退など、受益者である市民や社会全体に悪影響を及ぼすものであり、著作権法の見直し強化を行うべきです。城内大臣とあべ文科大臣の認識と見解を伺います。
日本各地で巨大データセンター建設が問題になっています。生成ＡＩの学習と運用には膨大な計算能力と電力が必要です。無計画な建設は、地域住民との対立を生じさせ、地球温暖化問題も悪化させます。ＡＩ推進に名を借りた原発推進は許されません。データセンターの使用電力は再生可能エネルギーで賄うことを事業者に義務付け、電力消費量、ＣＯ２排出量、空調の排熱量や排水など、情報公開を義務付けるべきではないですか。城内大臣の答弁を求めます。
法案が、ＡＩ技術を安全保障の観点からも重要な技術と位置付けていることは重大です。
ウクライナではＡＩ搭載のドローンが使用され、ガザではイスラエル軍のＡＩ標的設定システムにより民間人の被害が極端に多くなっているとの報道もあります。生成ＡＩは核戦争並みの脅威になり得ると警告する科学者も多数です。
ＡＩの軍事利用で先制攻撃や予防攻撃の蓋然性が高まり、紛争がエスカレーションする危険について、どう認識していますか。
二〇二三年十二月、日米は、次期戦闘機と連動する無人機のＡＩ技術の共同研究に合意しています。防衛省は、人間の関与が及ばない完全自律型の致死性兵器の開発を行う意図は有していないとの立場を明確にしてきたと言いますが、完全自律型か半自律型かを問わず、我が国ではＡＩの軍事利用は禁止すべきです。中谷防衛大臣の答弁を求めます。
以上、ＡＩの発展と普及に伴うリスクに応じた法規制や国民の権利利益の保護の強化を重ねて求めて、質問を終わります。（拍手）
〔国務大臣城内実君登壇、拍手〕発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/19
-
020・城内実
○国務大臣（城内実君） 井上哲士議員からは、まず、ＡＩが国民の権利利益を侵害するリスクの認識についてお尋ねがございました。
ＡＩがもたらし得るリスクとして、様々なものが考えられますが、例えば、偽情報及び誤情報の拡散や、犯罪の巧妙化といったものがあると認識しております。
本法案におきましては、そのようなＡＩによる国民の権利利益を侵害するリスクに対応するため、ＡＩの研究開発、活用の適正性確保のための国際規範に即した指針の整備や、国民の権利利益の侵害が生じた事案の分析、対策の検討、その他の調査等を国が行うこととしております。
これらの調査等の取組については、関係府省庁で緊密に連携して迅速に対応してまいります。
次に、規制強化や法的対策強化の必要性についてお尋ねがありました。
ＡＩの発展や普及のスピードが今後高まることも予想される中、その動きに遅れることなく、我が国のＡＩの研究開発及び活用を推進していくためには、イノベーション促進とリスク対応の両立を図ることが重要であり、過剰な規制は避けつつ、適切にリスク対策を講じていくことが必要であります。このような考え方は、有識者から成るＡＩ戦略会議及びＡＩ制度研究会の中間とりまとめにおいても指摘されております。
我が国においては、これまでＡＩのリスクについて、既存の法令とガイドライン等を適切に組み合わせて対応してまいりました。その上で、本法案においては、ＡＩ開発者及び活用事業者等が遵守すべき事項を含む指針の整備や、悪質な事案に対する調査とその結果に基づく指導、助言等を国が行うことなどを規定しております。
また、本法案では、ＡＩ戦略本部の設置を始めＡＩ政策の司令塔機能を強化することとしており、全ての関係府省庁の緊密な連携の下、今後顕在化するリスクに対して更に適切かつ迅速に対応することができると考えております。
次に、第八条で国民の責務を定めることの懸念についてお尋ねがございました。
今後、誰もがＡＩの利用者となり得る中で、国民の皆様がＡＩによる不利益や被害を受けないようにするためには、ＡＩに対する正しい理解と関心を深めていただき、ＡＩを適切に活用していただくことが極めて重要であることから、法案第八条の内容を規定しております。
国といたしましては、法案第十五条に規定する教育及び学習の振興、広報の充実等に必要な施策を講じる予定としており、第八条の規定により国民の皆様に過度な負担を掛けたり、自己責任を押し付けたりすることは決してなく、誰もが安全、安心にＡＩを活用できる環境を構築していきたいと考えております。
次に、データセットにおける個人情報の扱いについてお尋ねがありました。
データセットには個人情報が含まれる機会があり、このようなデータセットの使用に当たっては、個人情報を保護するための適切な処理を行うなど十分に配慮がなされるべきと考えております。また、本法案はＡＩの研究開発及び活用の推進のためのものであり、個人情報の保護を含む既存の法律の考え方を変えるものではありません。
個人情報やプライバシー権の保護については、既存の法令に従って引き続き対応をいただくものであり、既存の権利利益の保護を後退させるものでは一切ありません。
次に、要配慮個人情報の扱いについてお尋ねがありました。
個人情報保護法上、個人情報取扱事業者は、原則として、あらかじめ本人の同意を得ないで、要配慮個人情報を取得してはならないとされていると承知しております。
個人情報保護法の遵守を促すため、総務省及び経済産業省が策定するＡＩ事業者ガイドラインにおいては、プライバシー保護の観点から、事業者には適切なデータの学習が重要となること、また利用者には個人情報の不適切な入力への対策が重要となることを示した上で、必要な注意喚起を行っているものと認識しております。
次に、生成ＡＩによる偽情報、誤情報対策についてお尋ねがございました。
本法案第十三条では、国際的な規範の趣旨に即した指針を整備する旨を規定しております。この国際的な規範に含まれる広島ＡＩプロセスの国際指針では、偽情報、誤情報に係る対策として、ＡＩが生成したコンテンツであることを認識できるよう、ＡＩ開発事業者等に対し、可能な場合には電子透かし等の技術を開発、導入すべき旨が規定されております。このため、今後国が整備する指針においても電子透かし等の技術の導入を奨励するなどを明記することを検討しており、このような取組を通じて生成ＡＩによる偽情報、誤情報対策を強化してまいります。
次に、知的財産の保護の強化や著作権法の見直しについてお尋ねがございました。
生成ＡＩによる著作権を含む知的財産権の侵害の懸念が指摘されていることは認識しております。昨年五月に内閣府が策定したＡＩ時代の知的財産権検討会中間とりまとめにおいて、ＡＩと知的財産権との関係について法的ルールの考え方の整理を行うとともに、ＡＩ技術の進歩と知的財産権の適切な保護の両立が重要であることをお示ししております。
また、著作権法については、私の所掌ではございませんが、この中間とりまとめは、文化庁が文化審議会での議論を経て昨年三月に取りまとめたＡＩと著作権に関する考え方についても踏まえて策定されており、著作権法を含めた知的財産権の関係法令にのっとって適切な対応が行われるよう、引き続き関係省庁とも連携を図りつつ取り組んでまいります。
最後に、データセンターにおける使用電力等の問題についてお尋ねがございました。
データセンターにおける使用電力等については、私の所掌ではございませんが、ＡＩの研究開発と活用を進めていく上では、インフラをしっかりと整備していくことが重要であると認識しております。データセンターのエネルギー消費効率の改善に向けては、第七次エネルギー基本計画において、技術開発の促進に加えて、事業者が満たすべき効率を設定した上でその取組を可視化するなど、諸外国の取組も踏まえつつ、支援策と一体で制度面での対応を行うこととされており、経済産業省において現在その検討がなされていると承知しております。（拍手）
〔国務大臣平将明君登壇、拍手〕発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/20
-
021・平将明
○国務大臣（平将明君） 井上哲士議員にお答えいたします。
まずは、本人同意のない要配慮個人情報の取得についてお尋ねがありました。
個人情報保護法上、個人情報取扱事業者は、原則として、あらかじめ本人の同意を得ないで、要配慮個人情報を取得してはならないこととされています。
個人情報保護委員会においては、令和五年六月には、生成ＡＩサービスを開発、提供する特定の事業者に対して、同委員会がその時点で明確に認識した懸念事項を踏まえ、機械学習のために収集する情報に要配慮個人情報が含まれないよう必要な取組を行うこと等について注意喚起を行ったものと承知をしています。
今後とも、個人情報保護法との関係で問題が見受けられた場合には、同委員会において同法の規定に基づき必要に応じて権限行使を行うなど、適切に対応されるものと考えております。
次に、利用停止等請求についてお尋ねがありました。
本人が、自らの権利又は正当な利益が害されるおそれがあるとして、事業者に対して保有個人データの利用停止等の請求を行った場合、当該事業者が、そのおそれがないと判断をし、当該請求を拒むことも想定をされます。これに対して、本人は、個人情報保護法上、当該請求について裁判所への訴えの提起をすることが可能とされています。
また、個人情報保護委員会は、本人からの苦情等により、事業者が利用停止等の請求を拒否していることを認識し、当該拒否に正当な理由がないと判断した場合等には、当該事業者に対して必要な指導、助言等を行うことができるものと認識をしており、個人の権利利益の保護のための仕組みが設けられていると認識をしています。
次に、海外事業者が応じない場合についてお尋ねがありました。
個人情報保護法は、個人情報取扱事業者が、国内にある者に対する物品又は役務の提供に関連をして、国内にある者を本人とする個人情報等を外国において取り扱う場合についても適用されると認識をしています。
そのため、個人情報保護委員会は、日本法人を有さない海外事業者であっても、本人からの苦情等により事態を認識した場合には、国内事業者の場合と同様に必要な指導、助言等を行うことができると認識をしています。
最後に、ＡＩの発展、普及に対応するための法改正の必要についてお尋ねがありました。
いわゆる自己情報コントロール権については、その内容、範囲及び法的性格に関し様々な見解があり、明確な概念として確立しているものではないと認識をしております。
個人情報保護法では、個人の権利利益を保護することが目的として規定され、また、個人情報の取扱いに対する本人の関与の重要性に鑑み、開示、訂正、利用停止等の請求を可能とする規定が設けられており、個人情報保護委員会においては同法の規定を適切に運用し、個人の権利利益を実効的に確保していくことが重要と認識をしております。
また、個人情報保護委員会では、ＡＩの急速な普及を始めとした技術革新や技術の社会実装の動向等も踏まえ、いわゆる三年ごと見直しに向けた検討を行っております。
監視体制の強化や罰則の強化については、見直しに向けた検討において、個人情報取扱事業者等による規律遵守の実効性を確保するための規律の在り方などを制度的な論点として示していると認識をしており、引き続き関係者との対話も重ねながら検討を進めていくものと認識をしております。（拍手）
〔国務大臣村上誠一郎君登壇、拍手〕発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/21
-
022・村上誠一郎
○国務大臣（村上誠一郎君） 井上議員からの御質問にお答えいたします。
生成ＡＩによる偽・誤情報対策について御質問がございました。
先ほど城内大臣から電子透かしの導入の奨励につき御答弁がございましたが、それ以外の技術も含め、生成ＡＩの技術革新のスピードに対応するためには、技術開発で迅速に対応していくことも必要と考えております。
総務省におきましては、インターネット上の画像等の対象とするＡＩ生成物の判別技術や発信者の真正性を確保する技術の開発、実証を行っており、社会実装や国際標準化を進めていく予定であります。
引き続き、インターネット上の偽・誤情報につきまして、表現の自由に十分配慮をしながら、技術開発を含む対応を積極的に進めてまいりたいと考えております。
以上であります。（拍手）
〔国務大臣あべ俊子君登壇、拍手〕発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/22
-
023・あべ俊子
○国務大臣（あべ俊子君） 井上議員にお答えいたします。
ＡＩと著作権についてお尋ねがありました。
ＡＩと著作権との関係については、文化審議会の小委員会で議論を行い、クリエーター等、関係者からの懸念の声を踏まえ、令和六年三月にＡＩと著作権に関する考え方を取りまとめたところです。この考え方において、ＡＩ学習のための著作物の利用であっても、権利者から許諾を得ることが必要な場合があり得ることなどを示しています。
文部科学省においては、この考え方の周知啓発や相談窓口を通じた著作権侵害に関する事例の集積に努めつつ、ＡＩやこれに関する技術の発展、諸外国における検討状況の進展等を踏まえながら必要に応じた検討を続けてまいります。（拍手）
〔国務大臣中谷元君登壇、拍手〕発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/23
-
024・中谷元
○国務大臣（中谷元君） 井上哲士議員にお答えいたします。
最後に、ＡＩの軍事利用についてのお尋ねがありました。
ＡＩは、その有用性から、諸外国においては民生分野に加え安全保障分野における活用が進んでおり、防衛省におきましても、各種分野におけるＡＩの活用を進めております。
他方、ＡＩ活用には、一定の誤りが含まれることがあるという信頼性の懸念などのリスクも指摘をされております。
防衛省としましては、こうしたリスクに係る政府内や国際社会における議論を注視をしつつ、リスクを低減する取組を進めながら、ＡＩの有用性を最大限、ＡＩの有用性を最大化し、活用を進めていく考えであります。（拍手）発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/24
-
025・関口昌一
○議長（関口昌一君） これにて質疑は終了いたしました。
─────・─────発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/25
-
026・関口昌一
○議長（関口昌一君） 日程第一 行政手続における特定の個人を識別するための番号の利用等に関する法律及び住民基本台帳法の一部を改正する法律案（内閣提出、衆議院送付）を議題といたします。
まず、委員長の報告を求めます。地方創生及びデジタル社会の形成等に関する特別委員長山田太郎君。
─────────────
〔審査報告書及び議案は本号末尾に掲載〕
─────────────
〔山田太郎君登壇、拍手〕発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/26
-
027・山田太郎
○山田太郎君 ただいま議題となりました法律案につきまして、地方創生及びデジタル社会の形成等に関する特別委員会における審査の経過と結果を御報告申し上げます。
本法律案は、国民の利便性の向上及び行政運営の効率化を図るため、マイナンバーを利用できる事務として酒類の製造免許に関する事務、司法書士等の国家資格に関する事務等を追加するとともに、地方公共団体情報システム機構から本人確認情報の提供等ができる事務の規定を整備しようとするものであります。
委員会におきましては、国家資格等のオンライン・デジタル化による効果、マイナンバー制度に対する懸念への対応、マイナンバー活用に向けた今後の取組等について質疑が行われましたが、その詳細は会議録によって御承知願います。
質疑を終局し、討論に入りましたところ、日本共産党の伊藤委員より反対の旨の意見が述べられました。
次いで、採決の結果、本法律案は多数をもって原案どおり可決すべきものと決定いたしました。
以上、御報告申し上げます。（拍手）
─────────────発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/27
-
028・関口昌一
○議長（関口昌一君） これより採決をいたします。
本案の賛否について、投票ボタンをお押し願います。
〔投票開始〕発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/28
-
029・関口昌一
○議長（関口昌一君） 間もなく投票を終了いたします。──これにて投票を終了いたします。
〔投票終了〕発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/29
-
030・関口昌一
○議長（関口昌一君） 投票の結果を報告いたします。
投票総数 二百三十
賛成 二百九
反対 二十一
よって、本案は可決されました。（拍手）
─────────────
〔投票者氏名は本号末尾に掲載〕
─────・─────発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/30
-
031・関口昌一
○議長（関口昌一君） 日程第二 特別会計に関する法律の一部を改正する法律案（内閣提出、衆議院送付）を議題といたします。
まず、委員長の報告を求めます。財政金融委員長三宅伸吾君。
─────────────
〔審査報告書及び議案は本号末尾に掲載〕
─────────────
〔三宅伸吾君登壇、拍手〕発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/31
-
032・三宅伸吾
○三宅伸吾君 ただいま議題となりました法律案につきまして、財政金融委員会における審査の経過及び結果を御報告申し上げます。
本法律案は、財政投融資特別会計投資勘定の財務に関する自立性を高め、投資の財源を円滑に調達し、機動的に資金供給を行うための規定等の整備を行おうとするものであります。
委員会におきましては、今般の改正の意義と特別会計改革の理念との整合性、投資財源資金への留保額及び借入金額に対する考え方等について質疑が行われましたが、その詳細は会議録によって御承知願います。
質疑を終局し、討論に入りましたところ、立憲民主・社民・無所属を代表して熊谷裕人委員、日本維新の会を代表して浅田均委員、日本共産党を代表して小池晃委員よりそれぞれ反対、国民民主党・新緑風会を代表して上田清司委員より賛成する旨の意見が述べられました。
討論を終局し、採決の結果、本法律案は多数をもって原案どおり可決すべきものと決定いたしました。
なお、本法律案に対し附帯決議が付されております。
以上、御報告申し上げます。（拍手）
─────────────発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/32
-
033・関口昌一
○議長（関口昌一君） これより採決をいたします。
本案の賛否について、投票ボタンをお押し願います。
〔投票開始〕発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/33
-
034・関口昌一
○議長（関口昌一君） 間もなく投票を終了いたします。──これにて投票を終了いたします。
〔投票終了〕発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/34
-
035・関口昌一
○議長（関口昌一君） 投票の結果を報告いたします。
投票総数 二百三十一
賛成 百四十九
反対 八十二
よって、本案は可決されました。（拍手）
─────────────
〔投票者氏名は本号末尾に掲載〕
─────・─────発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/35
-
036・関口昌一
○議長（関口昌一君） 日程第三 下請代金支払遅延等防止法及び下請中小企業振興法の一部を改正する法律案（内閣提出、衆議院送付）を議題といたします。
まず、委員長の報告を求めます。経済産業委員長牧山ひろえ君。
─────────────
〔審査報告書及び議案は本号末尾に掲載〕
─────────────
〔牧山ひろえ君登壇、拍手〕発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/36
-
037・牧山ひろえ
○牧山ひろえ君 ただいま議題となりました下請代金支払遅延等防止法及び下請中小企業振興法の一部を改正する法律案につきまして、経済産業委員会における審査の経過と結果を御報告申し上げます。
本法律案は、中小企業の取引の適正化を図るため、下請事業者その他の用語を中小受託事業者等に改めるとともに、従業員数の大小による規制対象となる事業者の範囲の拡大、製造等の目的物の運送委託の規制対象取引への追加、協議を適切に行わない代金額の決定の禁止、手形による代金支払の禁止等を行うほか、振興事業計画における支援対象への運送委託に係る事業者の追加等を行おうとするものであります。
なお、衆議院において、施行期日を公布の日から起算して一年を超えない範囲内において政令で定める日から、令和八年一月一日に改めることを内容とする修正が行われております。
委員会におきましては、サプライチェーン全体での適切な価格転嫁に向けた方策、取引の多重構造に伴う課題を解決する必要性、米国の関税措置の影響等について質疑が行われましたが、その詳細は会議録によって御承知願います。
質疑を終局し、採決の結果、本法律案は全会一致をもって原案どおり可決すべきものと決定いたしました。
なお、本法律案に対して附帯決議を行いました。
以上、御報告申し上げます。（拍手）
─────────────発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/37
-
038・関口昌一
○議長（関口昌一君） これより採決をいたします。
本案の賛否について、投票ボタンをお押し願います。
〔投票開始〕発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/38
-
039・関口昌一
○議長（関口昌一君） 間もなく投票を終了いたします。──これにて投票を終了いたします。
〔投票終了〕発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/39
-
040・関口昌一
○議長（関口昌一君） 投票の結果を報告いたします。
投票総数 二百三十
賛成 二百二十七
反対 三
よって、本案は可決されました。（拍手）
─────────────
〔投票者氏名は本号末尾に掲載〕
─────・─────発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/40
-
041・関口昌一
○議長（関口昌一君） 日程第四 情報通信技術の進展等に対応するための刑事訴訟法等の一部を改正する法律案（内閣提出、衆議院送付）を議題といたします。
まず、委員長の報告を求めます。法務委員長若松謙維君。
─────────────
〔審査報告書及び議案は本号末尾に掲載〕
─────────────
〔若松謙維君登壇、拍手〕発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/41
-
042・若松謙維
○若松謙維君 ただいま議題となりました法律案につきまして、法務委員会における審査の経過と結果を御報告申し上げます。
本法律案は、近年における情報通信技術の進展及び普及の状況等に鑑み、刑事手続等に関与する国民の負担軽減並びに手続の円滑化及び迅速化に資するため、手続において取り扱う書類について電磁的記録としての作成等及び電子情報処理組織を使用する方法等による発受並びに対面で行われる手続についてビデオリンク方式により行うことに関する規定を整備するとともに、電磁的記録をもって作成される文書に対する信頼を害する行為等についての処罰規定の整備、犯罪収益の新たな没収の裁判の執行等の手続の整備、犯罪捜査のための通信傍受の対象事件の範囲の拡大等の措置を講じようとするものであります。
なお、衆議院において、電磁的記録提供命令を受けたこと等を漏らしてはならない旨の命令における期間の定め、電磁的記録提供命令等における留意事項、被告人等と弁護人等との間における映像等の送受信による通話に係る取組の推進等の規定を追加する修正が行われております。
委員会におきましては、参考人から意見を聴取するとともに、電磁的記録提供命令に係る秘密保持命令と情報主体の不服申立ての在り方、電磁的記録提供命令によって犯罪事実と関連性のない個人情報が収集される懸念並びに収集された情報の適切な管理及び保管の必要性、電磁的記録提供命令によって自己負罪拒否特権が侵害されるおそれ、オンライン接見導入の必要性等について質疑が行われましたが、その詳細は会議録によって御承知願います。
質疑を終局し、討論に入りましたところ、日本共産党を代表して仁比委員より本法律案に反対する旨の意見が述べられました。
討論を終局し、採決の結果、本法律案は多数をもって原案どおり可決すべきものと決定いたしました。
なお、本法律案に対し附帯決議が付されております。
以上、御報告申し上げます。（拍手）
─────────────発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/42
-
043・関口昌一
○議長（関口昌一君） これより採決をいたします。
本案の賛否について、投票ボタンをお押し願います。
〔投票開始〕発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/43
-
044・関口昌一
○議長（関口昌一君） 間もなく投票を終了いたします。──これにて投票を終了いたします。
〔投票終了〕発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/44
-
045・関口昌一
○議長（関口昌一君） 投票の結果を報告いたします。
投票総数 二百二十九
賛成 二百十一
反対 十八
よって、本案は可決されました。（拍手）
─────────────
〔投票者氏名は本号末尾に掲載〕
─────・─────発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/45
-
046・関口昌一
○議長（関口昌一君） 日程第五 重要電子計算機に対する不正な行為による被害の防止に関する法律案
日程第六 重要電子計算機に対する不正な行為による被害の防止に関する法律の施行に伴う関係法律の整備等に関する法律案
（いずれも内閣提出、衆議院送付）
以上両案を一括して議題といたします。
まず、委員長の報告を求めます。内閣委員長和田政宗君。
─────────────
〔審査報告書及び議案は本号末尾に掲載〕
─────────────
〔和田政宗君登壇、拍手〕発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/46
-
047・和田政宗
○和田政宗君 ただいま議題となりました両法律案につきまして、内閣委員会における審査の経過と結果を御報告申し上げます。
まず、重要電子計算機に対する不正な行為による被害の防止に関する法律案は、特別社会基盤事業者による特定侵害事象等の報告の制度、重要電子計算機に対する国外通信特定不正行為による被害の防止のための通信情報の取得、当該通信情報の取扱いに関するサイバー通信情報監理委員会による審査及び検査、当該通信情報等を分析した結果の提供等について定めようとするものであります。
なお、衆議院におきまして、通信の秘密の尊重及び国会に対する報告事項の具体化等について修正が行われております。
次に、重要電子計算機に対する不正な行為による被害の防止に関する法律の施行に伴う関係法律の整備等に関する法律案は、重大な危害を防止するための一定の警察官又は自衛官による電子計算機の動作に係る措置に関する規定を整備するとともに、関係法律について所要の規定の整備等を行おうとするものであります。
委員会におきましては、両法律案を一括して議題とし、総務委員会及び外交防衛委員会との連合審査会を行い、参考人から意見を聴取したほか、内閣総理大臣の出席を求めるとともに、平国務大臣及び修正案提出者等に対して質疑を行いました。
委員会における主な質疑の内容は、能動的サイバー防御を導入する意義、通信の秘密を始めとする憲法との整合性、官民双方にとって実効性が高い協議会とする必要性、内内通信情報の取扱い及び選別後通信情報の利用の在り方、アクセス・無害化措置と国際法との関係及び適正な実施の確保策、中小企業のサイバーセキュリティの強化及び更なる支援の必要性、サイバーセキュリティ人材の育成・確保策等でありますが、その詳細は会議録によって御承知願います。
質疑を終局し、討論に入りましたところ、日本共産党の井上委員より両法律案に反対、立憲民主・社民・無所属の鬼木委員より両法律案に賛成、れいわ新選組の大島委員より両法律案に反対、日本維新の会の柴田委員より両法律案に賛成、国民民主党・新緑風会の竹詰委員より両法律案に賛成の旨の意見がそれぞれ述べられました。
次いで、順次採決の結果、両法律案はいずれも多数をもって原案どおり可決すべきものと決定いたしました。
なお、両法律案に対し附帯決議を行いました。
以上、御報告申し上げます。（拍手）
─────────────発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/47
-
048・関口昌一
○議長（関口昌一君） 両案に対し、討論の通告がございます。順次発言を許します。井上哲士君。
〔井上哲士君登壇、拍手〕発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/48
-
049・井上哲士
○井上哲士君 日本共産党の井上哲士です。
会派を代表し、いわゆる能動的サイバー防御二法案に反対の討論を行います。
法案は、サイバー攻撃の実態把握を理由に、インターネットを介する国民のあらゆる通信情報を政府が通信の当事者である国民に無断で取得することを可能とします。憲法が保障する通信の秘密を侵害し、本来、本人の同意がなければ目的外利用や第三者提供が認められない個人情報を政府の都合で収集、利用することを可能とするものであり、断じて認められません。
政府は、国、基幹インフラ事業者等の重要な機能をサイバー攻撃から守るという高い公共性があること、他の方法によっては実態の把握、分析が著しく困難である場合に限って通信情報の利用を行うこと、一定の機械的な情報のみを自動的な方法により選別して分析すること、独立性の高いサイバー通信情報監理委員会が審査や検査を行うことなどから、通信の秘密に対する制約が公共の福祉の観点から必要やむを得ない限度にとどまると説明しています。しかし、審議を通じて、こうした政府の説明が破綻していることは明らかになりました。
通信情報の取得とその利用について、電話傍受と通信の秘密に関する最高裁決定は、犯罪の捜査上やむを得ないと認められるときに電話傍受が許容されるとしています。外外通信など、同意によらない通信情報の取得には、こうした通信情報を取得、分析しなければ実態把握が困難といったやむを得ない事情が要件とされています。
ところが、当事者協定による通信情報の提供にはこのような要件がありません。政府は同意による任意の提供だからと言いますが、提供される情報には、協定当事者のウェブサイト等にアクセスしている多くの国民の通信情報も含まれています。しかし、協定を結ぶのは政府と事業者で、当事者協定を締結したことを公表する規定もありません。国民は、同意を求められることもなく、自らの通信情報が一方的に政府に取得されるのです。
分析される情報は自動選別されたＩＰアドレス等の機械的情報であって、コミュニケーションの本質に関わる情報は消去されるといいます。しかし、自動選別され、政府に利用される情報には、送受信者のメールアドレス、送受信日時や携帯電話の番号、ＬＩＮＥのアカウントなど、通信当事者に直接結び付く情報が含まれます。しかも、どのような基準で自動選別されるかについて、具体的には明らかにされませんでした。
市民の個人情報を無断で収集し、第三者へ提供した岐阜県大垣警察による市民監視事件では、名古屋高裁が警察の行為を違法と断じました。このような違法行為を通常の警察業務として日常的に行っている警察庁、都道府県警察に対して、本法案によって自動選別された通信情報が提供されることになります。
そもそも裁判所の令状を取らなければできなかった通信情報の取得が、令状もなしに警察に提供されるのです。これは、憲法第三十五条の令状主義に縛られない新たな制度の創設であり、極めて問題です。しかも、政府は、刑事訴訟法の手続を経れば、この通信情報を犯罪捜査に利用することも可能と認めています。国民監視に利用されるとの懸念も全く払拭されていません。
また、当事者協定に基づく通信情報を自動選別した選別後通信情報は、協定当事者の同意があれば、重要電子計算機に対するサイバー攻撃の被害を防止するという目的以外にも利用を可能とする規定まで盛り込まれています。
この目的外利用について、政府は、協定当事者の同意の範囲内、重要電子計算機に対する不正な行為による被害を防止するという法目的の範囲内にとどまると言います。しかし、協定当事者の同意は、政府が意図する具体的な利用目的等について協定当事者に同意を迫るものにほかならず、事実上の強制と言わざるを得ません。法目的の範囲内と言えば、政府のさじ加減で政府が自由に利用できることになります。
取得の対象外とされている内内通信についても、今後取得する可能性を政府は否定していません。国民の通信情報を政府が取得できる仕組みが一旦でき上がれば、通信情報の範囲や利用がどんどん緩和されていくことは目に見えています。そのことは、総理大臣による会員の任命は形式的とした日本学術会議法の解釈を政府が勝手に変更し、意に沿わない会員候補者の任命を拒否したことを見れば明らかではありませんか。
これらのことを踏まえれば、本法案が通信の秘密の侵害を最小限にとどめるものだとは到底言えません。
法案が、警視庁の警察官をサイバー危害防止措置執行官に指名し、裁判所の令状も必要とされない即時強制として、国内、海外のサーバーを問わずアクセス・無害化措置を実施させることも問題です。
戦前戦中の警察が政府の意向によって国民の人権や自由を侵害してきた中央集権的な国家警察への反省から、現行の警察法は、警察の民主的管理と政治的中立性の確保を大義として、捜査などの警察の責務は都道府県警察が担い、警察庁は都道府県警察を指揮監督することとしてきました。
ところが、本法案によって、警察の責務を負わないとされてきた警察庁の警察官にアクセス・無害化措置を実施させることになります。警察法の定める警察組織の原則を逸脱するものです。
さらに、自衛隊と警察が共同してアクセス・無害化措置を行う通信防護措置は、総理が議長の国家安全保障会議が対処方針を立案し、国家安全保障局次長を兼務する内閣官房の内閣サイバー官が司令塔機能を発揮し、その下で実施されることになります。これは、警察法の体系とは異なる、総理大臣の命令一下で動く新しい警察組織の誕生にほかならず、まさに国家警察の復活に道を開くと言わざるを得ません。
法案が、警察と自衛隊が憲法と国際法が禁じる先制攻撃に踏み込むことを可能としていることも重大です。
国際社会は、サイバー行動に国連憲章を含む既存の国際法が適用されるという点では一致しています。しかし、適用される国際法上の具体的な権利義務の内容については、その適用を広く考えるべきだという国々と、国際法がサイバー行動に適用される範囲を限定しようという国々が併存している状況にあります。こうした下で警察や自衛隊が海外サーバーにアクセス・無害化措置を行えば、相手国から主権侵害と受け止められる可能性は否定できません。
しかも、法案では、平時、有事にかかわらず、自衛隊が在日米軍へのサイバー攻撃に対してアクセス・無害化措置を実施するとしています。日本が直接攻撃を受けていないにもかかわらず、アメリカと交戦状態にある相手国に対してアクセス・無害化措置を実施すれば、相手国から日本の先制攻撃と受け止められる可能性は極めて高まります。日本を戦争に巻き込むような本法案は、到底容認できません。
「サイバー行動に適用される国際法に関する日本政府の基本的な立場」では、サイバー行動が関わるいかなる国際紛争も平和的手段によって解決されなければならないと表明しています。本法案でアクセス・無害化措置を可能とすることは、こうした日本政府の立場に反して、意図しない武力行使やエスカレーションといった重大な結果をもたらす可能性を拡大することにつながりかねません。
以上述べまして、反対討論とします。（拍手）発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/49
-
050・関口昌一
○議長（関口昌一君） 鬼木誠君。
〔鬼木誠君登壇、拍手〕発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/50
-
051・鬼木誠
○鬼木誠君 立憲民主党の鬼木誠です。
立憲民主・社民・無所属会派を代表して、能動的サイバー防御二法案につきまして、いずれも賛成の立場から討論をいたします。
ただし、この間の法案審議によって懸念する事項が全て払拭できたとは言えません。したがって、本討論においてそれらの課題を指摘するとともに、法案成立以降も、懸念、不信の払拭に向けた政府としての継続した努力を求めたいと思います。
立憲民主党としても、質、量共に厳しさを増すサイバー攻撃に対する防御力を強化し、基幹インフラを守ることが国民生活の安寧を担保すると認識をしていますが、他方で、この法案は、極めて高い公共性を理由に、憲法で保障された通信の秘密を部分的ではあれ抵触、侵害するおそれのあるものです。したがって、とにかく防御力を高めればよいというものではなく、法制度については極めて抑制的に設計されていなければならず、運用に当たっては慎重にも慎重を期すことが求められると考えます。
その観点から、委員会において、能動的サイバー防御と通信の秘密との整合、あるいはバランスをいかに図るか、取得した通信情報の目的外利用の在り方、国外にある攻撃サーバー等に対するアクセス・無害化措置が武力行使や主権侵害に当たらないか等、様々な観点から質疑を行い、政府の基本的な姿勢や考えを確認してきました。
まず、通信の秘密についてです。
衆議院における修正によって、本法律の適用に当たっては、必要最小限度において、法律の規定に従って厳格に権限を行使するものとし、いやしくも通信の秘密、その他日本国憲法の保障する国民の権利と自由を不当に制限することがあってはならない旨が明記をされました。
しかし、本来なら、修正を受けるのではなく、当初案の段階からそうした原則を明確に示した上で法案を提出すべきであったことは言うまでもなく、政府のそうした姿勢に私たちの不信と不安の根源があることを改めて指摘しておきたいと思います。
明文化された修正内容を重く受け止め、謙虚に能動的サイバー防御に関する制度運用を図られることを強く要請いたします。加えて、国民に対しては、単に法の内容を周知するのみならず、一人一人から法に対する同意を得るほどの丁寧さを持って理解の醸成に向けた取組を真摯に行い、国民の不信と不安の払拭に努めていただきたいと思います。
通信情報の利用及び提供については、目的外利用を行うべきではないことを求めた上で、仮に行うとしても、サイバーセキュリティ対策から逸脱をすることなく、ごくごく限定的なものとすべきことを主張してきました。この点について、目的外利用の必要性や法の目的の範囲内での利用にとどめる等の政府答弁はありましたが、懸念や不安が全て払拭されたわけではありません。
繰り返しになりますが、通信の秘密に抵触するおそれがあるからこそ、情報の取得だけではなく利用についても必要最小限でなければならないことは言うまでもありません。附帯決議においてその問題意識は一定程度反映されていますが、万が一にも逸脱をすることない運用を求めます。
また、情報取得の前提である政府と基幹インフラ事業者等の当事者協定については、協定を締結をしない場合でも当該事業者に不利益等を与えない旨について政府答弁によって確認できたと考えていますが、今後策定をされる基本方針においても明記する必要があると考えます。
次に、官民連携の強化に関しては、電力や金融を始めとした国民生活に直結をする基幹インフラ等へのサイバー攻撃への対処能力の向上に資する重要な課題と捉えています。
今後、官民連携の肝である新たに設けられる協議会の構成員の在り方、運営の在り方等の検討が進められることと思いますが、基幹インフラ事業者のみならず、中小企業や地方公共団体も含め、関係者の意見を幅広く丁寧に聴取をして、それぞれが協議会に参加をする意義を実感でき、様々な主体のサイバーセキュリティの向上につながる制度設計を進めていただくようお願いをいたします。
あわせて、委員会質疑において多くの方が指摘をされた、サプライチェーンを構築をする中小企業におけるサイバーセキュリティ向上のための支援も重要です。
内閣サイバーセキュリティセンターが発出をしたサイバーセキュリティ二〇二四においても、日本産業界のセキュリティ防御の要は中小企業にあるとされ、政府主導による中小企業支援を積極的に推進すべきという方針が示されていますが、既存の支援制度等については周知が進んでいるとは言い難く、十分に活用されていません。まずは、既存制度の周知を徹底するとともに、制度の拡充や新たな財政的支援と人材の確保、育成に対する支援についての検討が必要と考えます。
また、人材の確保、育成や財政支援は、地方公共団体にとっても重要な課題です。中小企業への支援と同様に、実効性のある継続した支援を要請いたします。
次に、アクセス・無害化措置についてです。
この措置は、外国に所在する攻撃サーバー等に、警察、あるいは警察と自衛隊が共同で措置をとるものですが、委員会においては、国家安全保障会議も含め、情報取得、分析、方針決定を行い、措置の実施に至るまでの機関間の情報の流れや責任の所在が不明瞭との指摘や、行った措置が主権侵害に当たらないのか等の懸念が表明をされました。
措置について政府は、万が一にも間違った措置はとらない、エスカレーションに至ることは想定されないと答弁をしていますが、国際法上、サイバー領域における武力行使についての普遍的に合意された定義がないため、アクセス・無害化措置が相手国から武力行使との批判を受ける可能性があることや、参考人質疑において、警職法改正案第六条の二の、そのまま放置すれば重大な危害が発生するおそれという要件についても、タリン・マニュアル二・〇の緊急避難の要件を満たさない可能性があることについて指摘をされたことを踏まえると、独り善がりな楽観論に陥ってしまってはなりません。そうした意味でも、実施しようとするアクセス・無害化措置について、国際法上問題がないか、政府として慎重で適切な判断を行うことが必要です。
また、本法案を契機として、サイバー行動に係る国際法に関する議論に積極的に関与し、ルール作りに貢献していくことも重要であると考えます。
最後は、国会の関与についてです。
サイバー通信情報監理委員会による国会への報告について、政府原案では、単に国会に報告するとだけしか書かれていませんでしたが、衆議院において、アクセス・無害化措置に係る承認の求め及び通知並びに当該承認の件数などの具体的な報告事項を条文上明記するように修正がなされ、一定の前進があったものと受け止めています。
ただし、件数だけでは、行ったアクセス・無害化措置の妥当性を判断する材料としては極めて不十分であり、濫用防止の歯止めとしての機能を十分に果たせないのではないかとの懸念が残ります。アクセス・無害化措置の具体的内容を国会に報告すると、日本がどのようなサイバー防御措置を行っているのか、攻撃主体に手のうちをさらすことになる、政府は答弁なさっていますが、それは、政府が国会議員を信用していないということにほかならず、納得することができません。情報監視審査会や秘密会など報告の受皿を工夫することは国会の議論により可能であり、国会の民主的統制の重要性という指摘を政府として真摯に受け止め、法律上明記された事項について拡充に努めることとし、国会が説明を求めた場合には政府として誠実に対応し、説明責任を果たすことが必要であることを強調しておきます。
以上述べたように、本法案には懸念される点が残っており、不信や不安が全て解消したとは言えない状況ですが、その一方で、多発化、巧妙化するサイバー攻撃に官民が力を結集し、対処する仕組みを整えることは待ったなしの課題であると捉えています。
したがって、衆議院での修正、そして積み上げてきた質疑に対する政府答弁や衆参の附帯決議などに基づき、政府によって可能な限り透明性を確保し、慎重でありながらも実効性の高い運用が行われることを前提とし、賛成としたいと思います。
立憲民主党として、引き続き運用状況を適宜チェックしていくことを申し述べ、賛成の討論といたします。
御清聴ありがとうございました。（拍手）発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/51
-
052・関口昌一
○議長（関口昌一君） 柴田巧君。
〔柴田巧君登壇、拍手〕発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/52
-
053・柴田巧
○柴田巧君 日本維新の会の柴田巧です。
私は、会派を代表して、サイバー安全保障関連二法案について、賛成の立場から討論をいたします。
サイバー空間における他国等による攻撃の脅威は、我が国においても急速に高まっています。昨年末には、組織的なサイバー攻撃による被害が相次いで確認をされました。金融機関ではインターネットバンキングの送金機能等に障害の発生が確認をされ、航空会社においては五便の欠航、七十一便に遅れが出るなどの被害が出たことは記憶に新しいところです。
このように、国民生活がサイバー攻撃によって脅かされる事態が実際に目の前で起きている今、重要インフラに対するサイバー攻撃をいかに未然に防ぎ、国民の大切な情報をいかに守るかは、国家の存亡に関わる事態と言っても過言ではありません。そういう中、本法律案は、我が党がかねてから強く早期提出を求めてきた能動的サイバー防御を実現する法案と理解をしています。
本法案では、通信当事者の同意によらない場合であっても、重要なインフラ機能がサイバー攻撃によって損なわれることを防ぐ高い公益性があることなどの場合に限って、公共の福祉の観点から、通信の秘密の保障の例外として情報の取得、分析できるものとなっています。
当然ながら、このような措置が憲法の保障する国民の権利と自由を不当に制限することのないよう、政府原案においても、第六十一条において、サイバー通信情報監理委員会は、「毎年、内閣総理大臣を経由して国会に対し所掌事務の処理状況を報告するとともに、その概要を公表しなければならない。」とされていました。
しかし、条文上に具体的な項目が明記、明示されていなかったため、我が党は、この規定は曖昧で不十分であるとみなし、条文に国会への報告が必要な項目を具体的に列挙して明記する修正案を衆議院審議の際、各党に提案をいたしました。最終的に、我が党が提案した当該事項の承認件数やその概要という案に与野党の意見がまとまったことから、与野党六会派の共同で修正に至ったものです。これを受けて、通信の秘密の保障や国会による民主的統制が担保されることになり、賛成するに十分な理由となりました。
それでも、まだ課題は残っています。
まずは、内内通信が分析対象から外れたことです。
本法案では、分析の対象となる情報は、日本を経由して伝送される外国から外国への通信、外外通信のほか、外国から日本への通信である外内通信、そして、日本から外国への通信、内外通信となっており、国内の通信、内内通信は外れています。
政府の説明では、サイバー攻撃のうち九九％以上が海外からの発信によるものという理由からですが、仮に一％未満であっても、サイバー攻撃の可能性を残したことになります。サイバー攻撃が日々進化していることを考えると、法律上全ての芽を取り除けるようにしておく必要があることを強く指摘をしておきます。
第二に、政府全体のインテリジェンス能力をいかに高めるかも課題です。
本法案では、情報共有・対策のための官民協議会の設置について定められており、官民の協議会におけるセキュリティークリアランス制度の活用による官民の情報連携や情報管理が重要になってきます。
また、同盟国、同志国との情報連携も重要であると考えられますが、それらの国とギブ・アンド・テークの関係を構築するには、内閣サイバーセキュリティセンターを発展的に改組して設置するとされる新しい司令塔を始めとした関係部局職員のインテリジェンス能力の向上が欠かせないのではないでしょうか。
やはり政府に高い分析能力がなければ、サイバーセキュリティの向上はありません。具体的にどのようにインテリジェンス能力を高めていくのか、これもまた今後の重要な課題であります。
第三は、人材の確保と育成です。
サイバーセキュリティは、何といってもマンパワーに支えられています。サイバー攻撃の巧妙化、高度化に対応していくには、専門的な知識と高い技能を有する人材の育成、確保が不可欠です。しかし、戦略的かつ計画的な人材育成・確保プログラムが推進されているとは言えません。
自衛隊のサイバー専門部隊は令和九年度までに四千人規模を目指すとの目標が掲げられていますが、三万人とも言われる中国のサイバー攻撃部隊と比較すると、圧倒的に少ないのが現状です。これに関連して、吉田圭秀統合幕僚長は本年二月の記者会見で、日本のサイバー防衛能力の現状について、攻撃側の能力が日々向上し、我々が今のままでは対応できるとは認識していない旨の発言を行っています。
したがって、サイバーセキュリティを万全にするには、アクセス・無害化措置に係る人材を始め、警察や防衛省・自衛隊のサイバー人材を質、量共に充実させるなど、人材面の課題解決を図ることが急務であることを申し上げておきます。
第四は、官民連携をいかに強化するかです。
改めて言うまでもなく、官のみ、民のみでサイバーセキュリティを確保することは極めて困難です。このため、サイバー攻撃による業務継続性への影響を極力減じ、社会全体の強靱性を高め、対処能力を向上させて、国民の生命、財産等を守るためには、政府機関はもとより、民間企業等との連携を強化することが強く求められます。
そのため、法案成立後、下位法令等の策定に向け、民間とのコミュニケーションの緊密化を図り、サイバーセキュリティに関する背景や、経済安全保障推進法や国家安全保障戦略との関連性について、中小企業を含む全ての事業者への丁寧かつ分かりやすい説明を行っていくことが不可欠であります。また、協力する事業者の負担を軽減するために、インシデント報告の一元化、簡素化、通信情報を提供するための費用負担などのインセンティブを設けることも重要なことです。
とにかく、官民連携が能動的サイバー防御の鍵を握るとの認識の下、その強化策の具体化を急ぐべきだと指摘をしておきます。
第五に、海底ケーブルの防護強化です。
我が国の外国との通信の九九％は海底ケーブルです。ゆえに、国をまたいで大量のデータが流通する現代社会、経済において、海底ケーブルは必要不可欠なインフラとなっています。房総半島や志摩半島には海底ケーブルの陸揚げ局が集中し、国際通信の結節点になっているため、政府はこれらの地に通信情報を収集するための大規模な施設を設けることを検討している旨の報道もあります。
ところが、昨今、バルト海や台湾周辺で海底ケーブルの切断が相次いでいます。しかも、単なる事故ではなくて、意図的な切断が行われているのではないかと専門家から指摘されています。もし海底ケーブルが切断されれば、国民生活や経済活動に大きな影響を与えるとともに、能動的サイバー防御に支障を来すことにもなります。
それゆえ、海底ケーブル切断を、我が国にとっても安全保障上の深刻な脅威と見て対応を急ぐ必要があります。本法案成立を機に、政府挙げて監視などのケーブル防護強化を図るとともに、欧米や台湾などとも連携をして法規制を含む国際的な取組を進めることが極めて重要であることを申し上げておきます。
終わりに、本法案は、国家におけるサイバー安全保障に不可欠な最小限の法整備に着手したにすぎません。サイバー攻撃は、今後ますます高度化、巧妙化、頻発化していくことが予想されます。日本維新の会はこれからも、国民の生命と財産を真に守れる政策を積極的に提案し、実現していく決意であることをここに明確に申し上げ、賛成討論といたします。
ありがとうございました。（拍手）発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/53
-
054・関口昌一
○議長（関口昌一君） 竹詰仁君。
〔竹詰仁君登壇、拍手〕発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/54
-
055・竹詰仁
○竹詰仁君 国民民主党・新緑風会の竹詰仁です。
会派を代表して、ただいま議題となりました二法案について、賛成の立場から討論をいたします。
サイバー攻撃は日々巧妙化、高度化しており、国や地方の行政機関、電力や金融など国民生活に直結する基幹インフラ事業者を始めとした民間事業者、そして国民一人一人の生活がサイバー攻撃による脅威にさらされています。こうした現状に鑑みれば、能動的サイバー防御を導入することは国家として不可欠な判断であり、むしろもっと早く対応すべきだったと思います。
国民民主党は、令和四年十二月に策定した安全保障政策二〇二二において、アクティブサイバーディフェンスの早期導入を提唱し、サイバー対処能力の強化を訴えました。次に、令和六年四月、能動的サイバー防御の推進に関する法律案を議員立法で提出いたしました。今回の二法案は、我が党が従前から主張してきたことと合致しており、責任ある国家安全保障体制の構築に向けた大きな一歩であると評価いたします。
以下、賛成に当たり、主に運用面を中心に、法案審議を通じて認識した課題などについて申し述べます。
第一の課題は、官民の協議会をいかに有効に機能させるかです。
石破総理は、本会議における私の質問に対し、民間事業者が協議会に参加することの意義、メリットを感じていただけるよう運用に努めると答弁されましたが、現時点では、協議会の運用を具体的にどのように進めていくかが不明確です。
官民がウィン・ウィンの関係を構築していくことが重要と思いますので、事業者からの意見を丁寧に聞き、また先行する欧米の事例も踏まえ、官民協議会が有効に機能することを求めておきます。
第二の点は、サイバーセキュリティ人材の確保や育成、そして処遇についてです。
これらの点についても、本会議では石破総理は、サイバーセキュリティ人材に求められる役割、知識などを明確化することで、長期的なキャリアパスの明示を図るとともに、サイバーセキュリティの重要性に対する経営層の方々の理解を促進し、サイバーセキュリティ人材の地位向上や処遇の改善につなげてまいりたいと答弁されました。
総理答弁の内容は理解し、同意するものでありますが、現時点では、どのようにしていくのか不明確であります。官民それぞれで、サイバーセキュリティ人材がどういうところにどれぐらい必要で、そうした人材をどのように確保していくべきなのか、国として処遇の在り方も含めビジョンを示し、戦略的に人材を確保すべきと考えます。
第三の点は、セキュリティークリアランス制度と能動的サイバー防御の導入によって、適切な情報管理や活用が進み、これらの取組を我が国の産業競争力の維持強化につなげていけるかどうかについてであります。双方の組合せが産業競争力の強化につながることを期待いたしますが、今後の法施行、運用にこの点を念頭に進めていくことを求めます。
第四の点は、アクセス・無害化措置について、同措置に従事する警察、自衛隊の職員の能力向上の取組に加え、当該措置に係る規定を適切に運用することにより、迅速かつ有効なアクセス・無害化措置、及び間違ったアクセス・無害化措置が行われないように真摯に取り組んでいくことを求めておきたいと思います。
最後の第五点として、我が国の企業全体の九九％を占める中小企業のサイバーセキュリティ対策の強化が重要な課題であり、サプライチェーン全体の防御の観点からも、従前の支援にとどまらない、より効果的な中小企業のサイバーセキュリティ対策の実施を政府に求めたいと思います。
政府は、サイバー安全保障分野での対応能力を欧米主要国と同等以上に向上させる目標を掲げました。参考人からも示されたとおり、今回の法案によって官民連携の強化、通信情報の利用、アクセス・無害化措置といった三本柱が整備されて初めて、欧米主要国と同等以上という目標に向けた制度自体が整うと考えております。つまり、欧米主要国と同等以上となるために肝腎なのは制度の運用であり、その巧拙によって本法律案を立法した評価及び目標に達成するか否かが決まるものと認識しております。
本法案は、一部の規定を除き、公布の日から一年六月以内に施行されることになっています。施行までに官民による丁寧な協議を行い、官民双方がウィン・ウィンの関係を構築することで、効果的な運用を行い、サイバー防御を確実に着実に実現していかなければなりません。
国民民主党は、今後、政府の取組を注視し、効果的な運用が行われるよう、拾い上げた民間の声、現場の声を政府に訴え続けていくことをお誓い申し上げ、私の賛成討論といたします。
御清聴ありがとうございました。（拍手）発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/55
-
056・関口昌一
○議長（関口昌一君） これにて討論は終局いたしました。
─────────────発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/56
-
057・関口昌一
○議長（関口昌一君） これより両案を一括して採決いたします。
両案の賛否について、投票ボタンをお押し願います。
〔投票開始〕発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/57
-
058・関口昌一
○議長（関口昌一君） 間もなく投票を終了いたします。──これにて投票を終了いたします。
〔投票終了〕発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/58
-
059・関口昌一
○議長（関口昌一君） 投票の結果を報告いたします。
投票総数 二百二十八
賛成 二百九
反対 十九
よって、両案は可決されました。（拍手）
─────────────
〔投票者氏名は本号末尾に掲載〕
─────────────発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/59
-
060・関口昌一
○議長（関口昌一君） 本日はこれにて散会いたします。
午後零時四十一分散会発言のURL：https://kokkai.ndl.go.jp/simple/txt/121715254X01920250516/60
4. 会議録のPDFを表示
この会議録のPDFを表示します。このリンクからご利用ください。