日時

2024年4月30日（火）13:00～15:35

場所

消費者委員会会議室・テレビ会議

出席者

（委員）

【会議室】
橋田座長、相澤委員、坂下委員、田中委員、鳥海委員、原田委員、森委員

【テレビ会議】
荒井委員、山口委員

（オブザーバー）

【会議室】
山本委員

【テレビ会議】
柿沼委員、黒木委員、星野委員

（参考人）

【テレビ会議】
加藤玲子氏 独立行政法人国民生活センター

（事務局）

小林事務局長、後藤審議官、友行参事官、江口企画官

議事次第

1. 開会
2. 議事
   ①専門調査会の運営について
   ②専門調査会の設置の趣旨及び今後の進め方について
   ③山本委員プレゼンテーション
   ④星野委員プレゼンテーション
   ⑤消費者トラブルの現状
   ⑥意見交換
3. 閉会

配布資料 （資料は全てPDF形式となります。）

• 議事次第（PDF形式：171KB）
• 【資料1】 消費者をエンパワーするデジタル技術に関する専門調査会の設置の趣旨及び今後の進め方（事務局資料）（PDF形式：326KB）
• 【資料2】 山本委員提出資料（PDF形式：925KB）
• 【資料3】 星野委員提出資料（PDF形式：4304KB）
• 【資料4】 国民生活センター提出資料（PDF形式：2051KB）

• 【参考資料1】 消費者をエンパワーするデジタル技術に関する専門調査会委員名簿（PDF形式：109KB）
• 【参考資料2】 消費者をエンパワーするデジタル技術に関する専門調査会設置・運営規程（PDF形式：128KB）
• 【参考資料3】 下部組織の会議運用の在り方に関する申し合わせ（PDF形式：274KB）

≪1．開会≫

○江口企画官　本日は、皆様、お忙しいところをお集まりいただき、ありがとうございます。

ただいまから、消費者委員会「第1回消費者をエンパワーするデジタル技術に関する専門調査会」を開催いたします。

私は、消費者委員会事務局の江口と申します。どうぞよろしくお願いいたします。

本専門調査会の座長につきましては、去る4月22日に鹿野委員長から指名をされた橋田委員に務めていただくことになりました。どうぞよろしくお願いいたします。

次に、本日会議に御出席いただいております委員の皆様を御紹介いたします。

本日は、橋田座長、相澤委員、坂下委員、田中委員、鳥海委員、原田委員、森委員には会議室で、荒井委員、山口委員はテレビ会議システムにて御出席いただいております。

なお、松前委員は所用により御欠席との連絡をいただいております。

また、消費者委員会から、黒木委員長代理、柿沼委員、星野委員、山本委員にオブザーバーとして御参加いただく予定ですが、本日は山本委員は会議室で、黒木委員長代理、柿沼委員、星野委員はテレビ会議システムにて御出席いただいております。

本調査会には構成員とオブザーバーの皆様がいらっしゃいますが、会議においては呼称を「委員」に統一させていただきます。

また、本日は、独立行政法人国民生活センター相談情報部相談第二課長の加藤様に御発表をお願いしております。加藤様はテレビ会議システムで御出席いただいております。

議事に入る前に、配付資料の確認をさせていただきます。お手元の議事次第に配付資料を記載してございます。もし不足等がございましたら、事務局までお知らせください。

本日は、報道関係者を除き、一般傍聴者はオンラインにて傍聴いただいております。議事録については後日公開いたします。

次に、委員の皆様へ、ウェブ会議の御留意事項を申し上げます。

1つ目に、ハウリング防止のため、御発言いただく際以外はマイクをミュートの状態にしていただきますようお願いいたします。

2つ目に、御発言の際はあらかじめチャットでお知らせください。座長に御確認いただき、発言者を指名していただきます。指名された方は、マイクのミュートを解除して、口頭でお名前をおっしゃっていただき、御発言をお願いいたします。御発言の際、配付資料を参照する場合は、該当ページの番号も併せてお知らせください。

なお、御発言の際には、可能であればカメラのマークをオンにしていただけましたら、どなたがお話しになっているかが分かりやすくなりますので、御協力をお願いいたします。

3つ目に、音声が聞き取りづらい場合には、チャットで聞こえないなどとお知らせいただくようお願いいたします。会場にて御出席の皆様におかれましては、挙手にてお知らせいただき、御発言の際は卓上のマイクをオンにし、発言が終わりましたらオフにしていただきますようお願いいたします。

それでは、ここから橋田座長に議事進行をよろしくお願いいたします。

○橋田座長　このたび、消費者委員会の鹿野委員長から御指名いただきまして、この専門調査会の座長を務めることになりました橋田です。どうぞよろしくお願い申し上げます。

まず、事務局より、専門調査会の運営に関する御説明をお願いいたします。

---

≪2．①専門調査会の運営について≫

○江口企画官　まず、配付資料の参考資料2として、「消費者をエンパワーするデジタル技術に関する専門調査会設置・運営規程」がございます。令和6年3月26日開催の第427回消費者委員会本会議の審議において決定された規程でございます。

また、参考資料3として、平成26年7月8日の消費者委員会本会議で決定されました「下部組織の会議運用の在り方に関する申し合わせ」をお付けしています。

本専門調査会については、これらの規程及び申し合わせに沿って運営をしていきたいと思います。

○橋田座長　ありがとうございます。

御説明のあった内容に関して御質問などはございますでしょうか。よろしいですか。

続きまして、座長代理についてです。本専門調査会の設置・運営規程第二条第4項によりますと、座長があらかじめ座長代理を指名することとしております。

私といたしましては、弁護士の森亮二委員にお願いをいたしたいと思いますので、よろしくお願いいたします。

本日は初回ということもありますので、委員の皆様からお一人ずつ御発言をいただく時間もお取りできればと思いますけれども、星野委員の御都合により議事を入れ替えまして、まず星野委員に御挨拶とともに消費者被害の行動経済学の観点からの分析について御発表をいただくことにいたします。そのほかの皆様には、後ほど御挨拶をお願いできればと思います。

では、星野委員、よろしくお願いいたします。

---

≪2．④星野委員プレゼンテーション≫

○星野委員　御紹介いただきました慶應大学の星野と申します。よろしくお願いいたします。画面を共有させていただきます。

本日は授業等がございまして、大変申し訳ございませんが、先に御発表させていただきます。

私は、親委員会である内閣府消費者委員会委員としましてこの専門調査会の企画にも携わらせていただいておりまして、消費者委員会委員としましては、EBPMに係る提言とか行動経済学会の会長なども務めて参りました関係で、海外において、今回紹介させていただきますような行動経済学は膨大にもう既に使われて、消費者被害防止等に利用されておりますので、そのような知見の提供や提言をさせていただいているところでございます。

私は理化学研究所のAIPセンター等で、いわゆる機械学習とか人工知能に係る研究もさせていただいておりますが、今回はどちらかと申しますと行動経済学等を活用して消費者をエンパワーするデジタル技術に関するお話をさせていただければと思っております。

時間もございませんので早足になりますが、まず、行動経済学とは何かということをお話しさせていただきまして、あと、ナッジとブーストです。それから、行動経済学は既に海外においては消費者保護政策に非常に活用されて、法制度の制定などにも使われているということがございますので、そのような事例を御説明いたしまして、いわゆるダークパターンという話がございますが、これも行動経済学的な研究はかなり膨大にされているということでお話しいたしまして、それから、本専門調査会に期待させていただくことを議論させていただければと思っております。

時間も非常に限られておりますので、付録も多めに付けておりますので、もし御関心がございましたら御覧いただければというところでございます。

行動経済学は、最近、非常にいろいろなところで紹介もされておりますし、御関心を持っていただいている方は多いと思いますが、ごく簡単に御説明いたします。

経済学というのは、基本的に限られた人・物・金・情報をいかに配分するべきかということを考える学問でございますが、人々は合理的で利己的だという仮定を置くとかなり数学的に解けるということがございますので、どのような形にすべきかということが求まるということでは非常に分かりやすい学問ではございます。

ただ、実際には人々は合理的でもありませんし、必ずしも利己的ではない。ほかの人々のことを考えて行動するということもございますので、そのようなリアルな人々を想定したような経済学、これはトバスキー＆カーネマンという基本的には心理学者、社会心理学者等が経済現象に関して、このような知見を利用して行動経済学というのをつくってきたということでございまして、そこから様々な研究が生まれまして、近年では政府や自治体の政策・企業経営などにも、例えばナッジという形で応用されているところでございます。

ナッジに関しましては、特にイギリスの内閣府で2010年にBehavioral Insight Teamという部門が設立されまして、そこがイギリスの政府の施策に対して行動経済学の知見を活用して大変大きな成功を収めまして、それ以降、EUをはじめ諸外国で膨大に実際の政策実務にも活用されるということが行われており、我が国でもそのような施策が取られているということでございます。

非常に抽象的でございますので、例えばこれをウェブとかアプリで考えますと、これは企業側の方のある意味ではナッジというよりはスラッジといえるかもしれませんが、例えば有料会員だったら1,000ポイント付与しますので有料会員になりませんかというお声がけをさせていただく際に、ちょっとした言葉の使い方の違いだけでもかなり効果が違いますよと。今日会員になると1,000ポイントもらえます、これは利得フレームと申しますが、当たり前の利益が得られますよと。

これを反対側に移行して、もし今日会員になっていただかなかったら1,000ポイント失われてしまいますよと、これを損失フレームといいますが、全く同じことを言っているわけですが、ちょっと言い方を変えるだけでも全然効果が違います。

さらに、これはダークパターンなどにも関連しますが、後でも出てきますが、あと何時間で1,000ポイント付与が終わってしまいますよといった形でタイムプレッシャーを与えることで、また効果があるということですね。

こういったものに関する研究にもし御関心がありましたら、後の方の資料で、ナッジのメタ分析と、膨大な研究を分析しているような知見もございますので見ていただければと思いますが、こういったナッジ文言を変えるだけで効果が非常に変わりますよと。何なら年代で、例えば高齢者であると損失フレームが効きますよ、若い方だとタイムプレッシャーが効きますよといった研究なども結構得られております。

これによって、コンバージョンレートというのですか、実際に特定のものをしていただける率が2倍、3倍に変わるということがございます。同じコストでそれができるということでございますと、企業ですとマーケティングでございますし、政府等でしたら、例えば健康維持活動をさせるために健康診断を受けさせるとか、そういったものに容易に使えるということで、様々なことで最近は使われているということでございます。

行動経済学自体に関してはいろいろな現象がございますので、これを説明しておりますと90分授業が14～15回できてしまいますので、今回は割愛させていただきます。

基本的に様々な現象が知られておりますが、こういったものを統一的に二重過程理論という形で、これまでの旧来型の発想では、人々は合理的で、一生懸命物事を考えているのだよと思ってきたところが、これはシステム2とかスローモードといわれますが、そうではなくて、本当に直感的に、あまり意思決定に時間をかけない、労力をかけないということで、複数の意思決定を同時に行うことを実はしているのだということが分かっているというところでございます。

ですから、ほとんどの意思決定は自動的で、連想的で、場合によっては過去の習慣が繰り返されるだけという形の直感型のシステム1、ファストモードで行われる。よっぽど非常に重要なときだけ、また初めて行うものだけに関してはシステム2で、我々が合理的な経済人だと思っているような意思決定はほとんど行われないということでございますので、このようなファストモードの人々のふだん行っているようなことをいかに良い方向に導くかということが重要になっておりまして、それを行うのがナッジということになっております。

少し駆け足で説明して恐縮でございますが、ナッジというのは行動経済学や心理学の知見を生かしまして、肘で横腹をつついて、例えば親象さんが子象さんに方向を鼻で導いてあげるように、こっちの方に行ったらいいよという形で、個人の選択の自由は原則保障しながら、より良い方向に向けてあげるということでございます。もちろん、それを悪用することもできまして、これがスラッジと。倫理的な基準を満たさない、特定のプレーヤーにとって利益になるような行動を促すというのがスラッジということになります。この背後の考え方は、基本的に人々はほとんどの状況でファストモードになっているということでございます。

この辺のナッジの説明に関しましてもいろいろございますので、スライドを提供しております。いろいろな方法がございますよと。一番強いのは臓器提供で、例えばフランスなんかですと提供するのが当たり前だと。提供しないという人に関しては、オプトアウトという形にしますと、非常に高い臓器提供応諾率が得られるということでございますので、最初から提示する選択肢を特定の方向に与えてあげると、そちらを皆さん選ばれるということなので、これが一番強い、デフォルトと申します。ほかにも、他社と比較させたり、同調行動を促すという社会的な文脈を利用するとか、先ほどのフレーミング、同じものですけれども損失を強調させるみたいなものを使うということがございます。この辺に関しましては資料も御提供させていただいております。いろいろなチェックリストとかがございます。

ほかに、ブーストというものがございます。これもお話しさせていただければと思います。

ナッジは基本的にバイアスを利用して介入者が良いと思える方向に意思決定を導くということがございますが、近年、認知科学を中心に、個人のシステム1的な思考の下での促しをするというより、認知的な負担を減らす形で、よりよい意思決定をさせる、そういった方向の理論もございます。こちらをブーストと申しまして、あくまでも人間の持つ簡略化された認知方略をうまく利用してあげるということでございます。これも様々な理論がございますので、少しはしょらせていただきます。

具体的に、マーケティング広告に対する消費者側の対抗策として利用されているブーストみたいなものもございます。例えば、この広告は個人の行動ログを使った広告ですよという提示をしてあげるだけで、その広告効果が弱まるみたいなことが発見されておりますので、そういったものを提示することを原則にするみたいなことをしますと、これはブーストとして効果がありまして、そのような個人のパーソナライズド・マーケティングみたいなものに対して対抗する手段が取れるのではないかといった研究などもございます。

ナッジは、基本的に介入を受ける側の人があまり意図せずナッジを受けるということに対して、ブーストは納得して自覚して受けるという違いがあるということでございまして、近年、こういった方法も着目されているところでございます。

話をどんどん進めさせていただきますが、行動経済学は様々な活用がもう既にされているところでございまして、ちょっと迂遠になりますが、参照価格効果は非常に重要な効果で、いろいろなことが知られておりますので、簡単に説明させていただきます。

例えば、スーパーでビールの6缶パックがふだん980円で売られていたとしましょう。1日100個売れていたということでございますが、販売促進のために、この会社は1か月間、100円引きの880円で販売した。そうしますと非常に売れ行きがよくて、1日150個と。150パーセント売れたので、これはよかったと思って、980円に戻したらどうなりますかということでございます。

マーケターとしては、値引きを元に戻したので当然ながら150個は売れない、ただ、これまでよりも認知されているので売れるのではないかと思いきや、多くの研究が示唆しているところは、原則、このようなことをした場合には元の売れ行きよりも悪くなるということでございます。これを参照価格効果といって非常に頑健な効果で、今お話が行動経済学になっておりますけれども、メタ分析等、様々な知見でそれが示されているところでございます。

これは、例えば値引きをしている期間であれば100円引きでうれしいと思って買う方が、これが1か月間定着すると、880円という値引きされた金額が定価になってしまいますので、そこから100円値上げするという形に消費者は理解する。つまり、頭の中の相場観、価格観が、これを参照価格と申しますが、参照価格が変更した結果、値上げと知覚して、これは高い買い物だと思って、元より売上げが下がるということでございます。

もし合理的な経済人が特定の商品に対して正確な値付けができるのであれば、こういったことは起きないわけですが、人々は特定のこの場で参照価格、値引きされていた価格を基準に元の価格を判断するためにこのようなことが起きる。値付けというのをちゃんと行うことができず、あくまでも過去の金額との比較で見てしまっているからこういったことが起きているということでございます。

これをプロスペクト理論といわれて、カーネマンのノーベル経済学賞の受賞対象になったものでございますが、もし合理的な経済人だったら、例えば100円をいつ受け取っても同じ価値があるわけですが、これが原点からの変更という点で理解されているということは、何を申しているかというと、これをプロスペクト理論といわれますが、何かしら人々は原点、参照点を決めて、そこからの比較をしている。例えば980円から880円になったとすると、100円値引きだと思ってお得に感じるというのは、この効用の増加分ですね。

ところが、990円が880円に1度なって、それが1か月間ずっと定着しますと、この参照点が880円に移りますので、880円から980円に移動すると途端に大きな痛手と感じる。同じ金額を受け取るのと失うので、失う側の方が大きい。これは損失回避といわれる、人々において一般的に存在する現象でございます。

このように、人々は何かしら参照点を決めて、その参照点と、相場観みたいなものもそうかもしれませんが、原則、この商品、この品物、このサービスに関して値決めをちゃんとできているというわけではなくて、あくまでも状況依存で、ほかに比べてよいか、過去に比べてよいかといった形で判断している。

今の話は頭の中のプライス施策ということになりますけれども、外的な参照価格というのもございまして、これを松竹梅効果と申しますが、ほかの品物と比較して高いか、中間かということによって、ほかの品ぞろえと比較して、同じものであっても高いと思うか、安いと思うかが変わってくるということがございます。

このような効果は非常に頑健で、マーケティングサイエンス分野でも非常によく研究されておりまして、原則、今の参照点効果、人々は過去の価格やほかの商品と比較をして物事を考えているのだというのが非常に頑健に存在するということがいわれております。

こういったものを踏まえますと、どのようなものを先に見せるかというのは非常に重要になりますので、ここから消費者被害防止の話に移るわけですが、例えば年間推定請求額の表示を義務化するみたいなことを海外では行われております。

例えば、電力プランとか通信プランは非常に複雑で、いろいろなバージョンがあって、なかなか消費者は理解できないというときに、そして、例えば単価が理解できないというときに、企業側はそれを利用して様々なことができる。あなたにとってパーソナライズされた形でといいながら高めに設定しておいて、そこから値引きみたいものを多めに見せてしまうと、消費者側は標準価格からの値引きに反応して物を買ってしまうということがある。ですから、単価で考えたらもっとよいプランがあるのに、お得感みたいなものを出させることで、そちらの方に引っ張られてしまって、実はコストが高いものを買ってしまうということは容易に起きるということがもう様々な研究で知られています。

例えば、アイルランドは、標準家庭の年間推定請求額みたいものを提示させることをして、それをリファレンスにあえてちゃんとする、そこからどれだけ変わるのかという形で消費者に理解をさせることがよりよい消費者の意思決定を促進することが分かっておりますので、そういったものを提示するということをさせております。

今の参照価格は、結局、人々というのはある意味合理的に判断できない。標準価格からの値引きみたいなもので、標準価格というのは実際には使わないわけですが、それを見せておいて、そこからどれだけ下がったかということで反応してしまうとするならば、それを悪用することは容易にできますので、それをさせないような別の参照価格を提示するといったことをしております。

あと、最近、これはダークパターンの話も出ておりますが、ドリッププライシングと申しまして、最初に安い価格を提示して、購入しようかなと思わせて契約プロセスに進ませる。やっていくうちにだんだん追加の支払いをしないと実際には使えないみたいな形になったり、追加手数料がかかってくるみたいな場合でも、人々はサンクコストバイアスがございまして、一度失った時間、かけた工数といったものを無視できないということがございますので、そういったものを利用して、最初に安く提示して、だんだん値段が上がってくる。これはドリッププライシングといわれる現象でございますが、これに関する研究も海外の省庁ではされまして、こういったものの結果を踏まえて、例えばクレジットカードの手数料を見出し価格へ明示させるとか、最近出ましたけれども、カリフォルニア州では包括的なドリッププライシングを禁じる法律を制定しております。

ダークパターンも最近非常に議論されておりまして、例えば最近ですと4月3日に確かNHKでも「クローズアップ現代」で特集が放映されたと思います。様々なダークパターンがありまして、特にネット系企業ではいろいろな形で消費者の錯誤を促して、自社にとって有利な取引をすることが可能になっているということが知られております。

これは、OECDの「Dark Commercial Patterns」という報告書が2022年に出ておりましてこの報告書でも、基本的にシステム1、システム2という形で行動経済学における議論をしておりまして、システム1を利用しているとか、これに関して認知的なバイアスとして、デフォルト、フレーミング、先ほど申し上げたうちの一つ、損失回避がございます。あと、サンクコストの話とか、タイムプレッシャーもございますが、そういったものを利用して様々な形で消費者の錯誤を促して、自社にとって利益のある形で行動を変容させることができるということでございます。

様々な分類などもございまして、基本的にこれらを行動経済的現象で既に研究されているところでございますので、そこと紐づけて、どういった現象によってそれが生じているのかということが議論されているところでございます。

例えば、インターフェース干渉というのは、本当に行動経済学の用語がいっぱいちりばめられておりまして、情報のフレーミングを通じて企業側に有利な消費者誘導をしているということでございます。アンカリングというのは、先ほどの参照価格という話にも関連しますけれども、最初から特定の選択肢を原則選択させるみたいな形にしているということでございます。

こういったことが既に知られ、海外においては様々な研究も行われて、場合によってはこういったものを禁じるような法的な措置や表示の明示化などがされていることがございます。日本でも、消費者委員会の本体の方で、先ほどのいろいろな法制度の設計に関してやってほしいということをずっと申し上げているところでございますけれども、こちらの専門調査会においては、特にデジタル空間におきまして、先ほどのドリッププライシング、参照価格、タイムプレッシャーとか、ダークパターン要素は非常にございますが、こういったものを自動的に検出する技術がどれだけ今存在しているのか、それから、それをナッジとかブーストで抑止するようなパーソナルAIみたいなことは技術的に可能なのか、あと、法律的な課題がもう既に様々ございます。ナッジなどに関しては、倫理的にも、消費者、介入を受ける側の許諾を得ているわけでは必ずしもないので、場合によってはブーストといった方法が望ましいかもしれませんが、そのようなものに関する法律的な整理をしていただく。

また、データを取れば取るほどこういった現象を理解することが可能になりますが、それをどのような形で個人内で処理可能なのか、また、個人で処理できない場合にはどのような形で中央集権的にデータを取得することが必要なのかということに関してお教えいただきたい。

また、消費者がこういったサービス、特に高齢者に対する見守りサービスみたいものは非常にございまして、様々なところでされているところでございますが、今こそ、様々な特殊被害等もデジタル空間上で行われておりますので、そういったものを防止するようなシステムとかサービスみたいなものは、場合によっては企業側の方がそれを作るということは既にできると思うのですが、それが現状は少なくともあまり商品化されていないというか、商品化されていてもあまり利用されていない場合に、なぜそうなのかという形の消費者ニーズの理解やそれを喚起させるようなマーケティング視点みたいなものも是非御議論いただいたり、教えていただきたいと思っております。

更に申しますと、デジタル空間上ではこういったものは可能かと思いますが、リアルな空間でそれを可能にするようなシステムは、例えばセンサーみたいものが必要なのかもしれませんし、このようなものがどういった形で実現できるのかということに関して、是非専門家である先生方にお教えいただきたいと思っております。

私の方からは以上でございます。

○橋田座長　大変貴重な御報告をいただきましてありがとうございます。

星野委員は時間が限られているということですが、あと10分ぐらいは大丈夫なのでしょうか。

○星野委員　大丈夫です。

○橋田座長　少し質疑の時間が取れそうですけれども、どなたか御質問とかコメントがございましたらお願いします。

では、私から1ついいですか。

最後の38ページで御説明のあった、パーソナルAIでこうしたことを抑止するという話は、デジタルなチャネルにおいてはかなり可能だろうと思うのです。そうすると、あらゆる消費者が完全に合理的になってしまうみたいなことが想定されようかと思いますけども、それはよいことなのでしょうか。

○星野委員　ありがとうございます。

それは合理性が何かということによりますが、少なくとも第三者というか、例えば企業側の利益を最大化させる方向で行動が促進されることは抑止できるかなと思います。

先ほど申し上げたみたいに、人々も合理的な人間であればという話でございますが、何が欲しいと思うかも自分で分かっているとか、例えば何に対して幾らで値付けしたらよいかというのが分かっているというのが本来の姿でございますが、実際には人々はそこまで商品とかサービスに対して時間をかけることはできず、ほかにもいろいろな、例えば仕事や家族のことや人間関係等もございますので、そのようなものに対してなるべく認知的な労力をかけて意思決定をしたい。そういった中での購買行動、利用行動になりますので、必ずしもあまり時間をかけて意思決定をしたくないというようなこともございますので、そのような点では、特定のプレーヤーが利益になるというか、企業側に搾取されない形で、うまく搾取をするようなものを封じることができればと思っておりますが、本来的に合理性は何かということはかなり問題ではございますが、少なくとも、ダークパターンといわれたり、ナッジ、スラッジといわれているような形で膨大な研究があり、かつ、それを企業が活用して自社の利益を最大化しようとしているという現状がある以上、それを抑止することは必要なのではないかと考えております。

○橋田座長　ありがとうございます。

ほかの方、どうぞ。

○鳥海委員　東京大学の鳥海です。

非常に興味深いお話をありがとうございます。

38ページの②のナッジやブーストで抑止するパーソナルAIは可能かという今のところですけれども、こちらを実現するためには、恐らく個人がどの程度ダークパターンに引っかかりやすいかが効いてくるのかなという気がするのですけれども、今、こういった行動経済学でお話しされているのは全体的な傾向ではないかなと思うのですね。そういった中で、個人個人がどの程度影響されやすいかといったことを分析されている研究等はあるのでしょうか。

○星野委員　ありがとうございます。

今回のスライドにはお示ししておりませんが、これは一つの例で書いておりますが、年代とか性別によってかなり特定のナッジが効くかどうかということに関する研究は、我々も実際にとある企業様とやらせていただいておりますけれども、違いがある。

例えば、既にもうかなり知られて、かなり頑健な研究結果としては、高齢者ほど損失フレームが効く、損失回避傾向が強いとか、若いほどタイムプレッシャーなどに影響されやすいということが知られております。

ですから、一般的な研究として、個別動向というわけではなくて属性レベルではございますけれども、どのような方がどのようなナッジに影響されやすいか、スラッジに影響されやすいかということは知られております。

あと、特に社会比較ですね。社会同調と申しますか、ほかの人が皆やっていますよみたいなものもよく使われておりますけれども、そういったものに対して途上国の人たちは非常に反応しやすい。つまり、文化的なというか、人間関係が濃厚なところだとそれを受けやすい。日本とか先進国でも高齢者ほど、社会比較、社会同調、みんながやっていますよというのに対する影響を強く受けるということは知られております。

○鳥海委員　ありがとうございます。

例えば個人の影響のされやすさみたいなものを直接取るような指標みたいなものは存在するのでしょうか。

○星野委員　実際にナッジを、これを普通はランダム化比較試験、RCTをやって、した場合としなかった場合で比較する場合に、しなかった場合に比べて、した場合がどれだけ行動の変化率が多いかというものを例えば年代とか性別で分けてみるという研究ですね。

○鳥海委員　年代、性別ではなくて、パーソナルAIを作成することになりますと、一人一人がどのぐらい影響を受けるのかということがあるかなと思うので、ある特定の個人に対して何か指標的に、この人は比較的引っかかりやすいみたいなものが取れたりするような研究はあるのかなと思ったのですけれども、その辺はいかがでしょうか。

○星野委員　同じ個人で複数回そういったものをやって、属性というものではなくて、その方がこういったナッジに引っかかりやすいのかというのをやる研究はあまりないと思います。

なぜないかというと、それは一般的な研究としては成立しないです。特定の方に、私は引っかかりやすいですよ、例えばタイムプレッシャーに引っかかりやすいですけれどもみたいなことはあまり面白くなくて、このような人々だったらという形で、いろいろな属性変数の関数としてそういったものを定義するみたいな形になると思います。

それがもう少し一般化されていくと、パーソナルAIというか、まずデフォルトとしてこういった方であったら基本的にこのナッジが効きやすいということになって、かつ、その方の行動、実際にそれをやってみた場合にそれがだんだん個人レベルとして蓄積していくみたいな形になると思います。いずれにしろ、ベースとしての様々な個人差研究というのは存在します。

○鳥海委員　ありがとうございました。

○橋田座長　もうそろそろ時間だと思います。どうもありがとうございました。

ほかにも御質問等がありましたら、事務局にて受け付けてもらうようにできればと思いますので、よろしくお願いします。

次の議事に進みたいと思います。

初回でもありますので、専門委員の皆様から自己紹介をいただければと存じます。その際、本専門調査会で検討を予定している内容に関する問題意識や御関心分野、また今後の抱負などについて一言ずつお願いしたいと思います。

委員名簿の記載順、五十音に指名させていただきますので、お一人3分程度で自己紹介をお願いいたします。

では、相澤委員からよろしくお願いします。

○相澤委員　国立情報学研究所の相澤と申します。どうぞよろしくお願いいたします。

私は、専門は情報学ということで、特に情報学の中で情報検索や自然言語処理の分野で研究をしてきました。

自然言語処理の分野は比較的地味な分野であったのですけれども、2023年11月にChatGPTが出てから非常に慌ただしくなりました。生成AIが社会に普及する様子を目の当たりにして、かつ、日々情報が更新されていく中で、どういうところが問題になって、どういう技術が今後必要になってくるのかということを今我々も熱く議論をしています。

私の所属している国立情報学研究所でも、この4月から大規模言語モデル研究開発センターというセンターを立ち上げて、言語あるいは今後は恐らくモダリティーも拡張して、生成AIモデルについて、特に信頼性や透明性などに留意しながら研究を行っていく予定でおります。

生成AIのリスクについては、2023年の時点から様々な角度で議論がされてきました。特に、嘘をついてしまうハルシネーションの問題は早くから認識をされてきて、もちろんまだ課題は多いのですけれども、検索ベースのシステム等でいろいろな人がいろいろな工夫をしているところです。

一方で、フェイク情報の生成などで生成AIそのものが悪用されるケースへの対応、あるいは生成AIを使ったセキュリティー対策などを通して、ここで議論が予定されているような問題にどうやってチャレンジしていくかといった議論はまだまだこれからだと感じていまして、このような機会をいただいて皆さんとこの問題について議論できるのを非常に楽しみにしております。

以上です。

○橋田座長　ありがとうございます。

では、荒井委員、お願いします。

○荒井委員　理化学研究所のAIPで人工知能安全性・信頼性ユニットという研究室を主宰しております荒井と申します。

私は、専門は機械学習をはじめとする人工知能技術のプライバシー保護とか、セキュリティーとか、公平性とか、説明可能性といったところに関心を持って研究を進めております。

特にAIの公平性とかバイアスといったことが今回の委員会に関係するかなと思いまして、AIによる意思決定支援が人間に対して差別的な扱いであったり、ステレオタイプを助長するようなことが問題視されているのですけれども、そういった負の影響に対していかに対策をして、人間にとってよりよい技術を作っていくかというところに興味がございます。

また、ダークパターンなどについても最近研究をしておりまして、そういった情報技術が人間にとってネガティブな影響があるかということを調べて、それをなくしていって、よりよい技術を作ることにいろいろな要素技術を研究しておりまして、そういった点から今回の委員会の議題についてもいろいろ議論できればと思います。どうぞよろしくお願いいたします。

○橋田座長　ありがとうございます。

では、坂下委員、お願いします。

○坂下委員　日本情報経済社会推進協会、略称をJIPDECといいますが、そこの坂下と申します。

専門は、デジタルに関するものと、最近、宇宙もやっておりまして、JAXAの評価委員もやっております。本件は、昨年度、「デジタル化に伴う消費者問題ワーキング・グループ」に参加させていただいたことがきっかけで、今に至っていると認識しています。

今回の問題は、私が思っているのは、ある国で放送局ができたことを想定しましょう。その放送局はテレビで虚偽の情報を流しても訂正しないし、広告を出しても広告主のチェックもしない、かつ、私たちが持っている端末（デバイス）を通じてパーソナルデータをどんどん取っていく、その状態の中で消費者をどう守るのかという話だと思います。

方法としては、少なくとも3つあります。1つは知らせる、教える。2つ目は、ツールを与える。3つ目は、誰かに委ねる。誰かに委ねる中に多分AIというものが入っていて、そこが最適化できるかというのが課題なのだろうと思います。

通常の広告と違って、属性でグルーピングをして、例えば20代の男性、30代の会社員という形で行うものではなく、過剰にデータが取れる中で個別に最適化されています。その個別化している消費者をどう守るのかというのが議論の中心になるのだろうと思っております。どうぞよろしくお願いします。

○橋田座長　ありがとうございます。

では、田中委員、お願いします。

○田中委員　名古屋工業大学の田中です。

専門は、認知科学や心理学です。特に人の認知バイアスを研究テーマとしております。

具体的には、先ほどの星野委員からの御報告にもありました二重過程理論に関心を持っていまして、システム1とシステム2の切り換えが人間の頭の中でどのように起こっているのかということについて、実験的手法を用いて明らかにするという研究アプローチをとっております。近年は、特にデジタル環境と認知バイアスの相互作用について研究をしております。

本調査会においては、先ほどお話が出てきましたダークパターンのように消費者の認知的な脆弱性を利用する事例において、どのような技術的サポートや制度設計が可能なのかについて、認知的な側面との関わり方も含めて議論していくところでお役に立てればと考えております。どうぞよろしくお願いいたします。

○橋田座長　ありがとうございます。

では、鳥海委員、お願いします。

○鳥海委員　東京大学の鳥海です。よろしくお願いいたします。

私の専門は、計算社会科学と、人工知能技術の社会応用ということで、主な学会として計算社会科学会と人工知能学会に所属しております。どちらも理事をやっておりまして、その分野で活動しているというような状況です。

もう少し具体的な専門になりますと、大規模社会データの分析をやっておりまして、特にソーシャルメディア上の人々の行動等の分析を行っております。近年は、ソーシャルメディア上での社会的なリスク、例えば炎上とか誹謗中傷、あるいは特に最近ですと偽・誤情報の拡散といったことに対して、どのような拡散の性質を持っているのか、それに対してどのような対応が必要なのかといったことを主に研究しております。

本日、この後お話しされます山本委員とはともに情報的健康という概念を打ち立てておりまして、我々が食事を摂取する際にいろいろ気を使って摂取するように、情報に関してもどのように摂取すればよいのかということについて長期的な視点で考えていければよいのではないかということで、そういった概念を打ち立てて研究を行っているところでございます。

今回の件に関しましては、特にソーシャルメディア上の偽・誤情報の拡散が消費者に与える影響といった観点から、いろいろ分析等の結果について御共有できればよいかなと考えております。よろしくお願いいたします。

○橋田座長　ありがとうございます。

では、原田委員、お願いします。

○原田委員　ECネットワークの原田と申します。

我々ECネットワークは2006年に設立いたしまして、活動の一環といたしまして、一般の消費者の方からインターネット関連に特化したトラブルの相談をオンラインの形で無料で受け付けさせていただいております。

私も、かれこれ20年以上ネット上の相談ばかりを受け付けております。ダークパターンという言葉も最近よく出てくるようになりましたけれども、通販関連のトラブル、特にダークパターンが多かれ少なかれどこにでも発生しているものでありまして、特にトラブルとして非常に大きく発生するような定期購入のようなトラブルに関しましては、もうダークパターンを超えて詐欺的な、タイムカウントなんかも3分たったらゼロになるだけで何もなかったり、100円で試せるといって実は100円では試せないとか、ダークパターンもそうですし、さらにそこの先に嘘があるというところで、とはいえ、消費者が合理的な判断ができるかというと、先ほどの御発表と同じようになかなか難しくて、特に消費者の方はスマホをいじるときにどうしても寝る前とか一杯引っかけた後にやったりするものですから、さらに合理的な判断ができない状態でお申込みになってトラブルになるといったケースで、広告に起因するトラブルがどうしても多いものですから、そういった広告に関しての消費者啓発みたいなことも我々のところでは活動の一環としてやっております。

ただ、残念ながら、消費者教育ではこの分野は限りがございまして、日々手口が変わっていくということと、消費者教育で全ての国民にいろいろな教育を施すことがなかなか難しいということ。

そして、見せしめのために、悪さをする人たちを捕まえられればよいのですけれども、非常に匿名性の高い社会でもありますし、越境のトラブルも非常に多いものですから、なかなか捕まえることもできない。そうすると、どうしてもデジタル分野は消費者啓発にも限界がありますし、捕まえるところにも限界がある。

そうすると、各パーソナリティーに合わせたAIを使ったような技術で未然に防止するというような新たなアプローチを非常に期待しておりますので、そのお役に立てればと思っております。どうぞよろしくお願いいたします。

○橋田座長　ありがとうございます。

では、森委員、お願いします。

○森座長代理　ありがとうございます。弁護士の森です。よろしくお願いします。

私は、2018年のプラットフォームの専門調査会にも呼んでいただきまして、そのとき以来ということになります。

そのときは、ユーザーがどのようにデータを取られてどのように誘導されているかということについての問題意識はまだあまり十分ではなく、当時は取引プラットフォームというものがメインになっていて、非取引型、投稿型、非マッチング型といわれるようなプラットフォームの話も出ましたけれども、それほど大きくは取り上げられなかったという経緯があります。

そこからしますと、今回の専門調査会はまさにそういったことにフォーカスをしていただいているのではないかと思いますので、ある意味、隔世の感もありますし、また非常に時宜を得た検討をしていただくのだなと思いました。

これは一つの大きな分岐点なのではないかと思っていまして、消費者の行動環境、例えば1日かなりの時間をSNSとかそういうものを見て過ごすわけですけれども、そこでレコメンドとか、広告に使われているデータの集め方、アルゴリズムというものは、消費者の理解を超えていて、難しくなり、デジタルデバイドは開く一方であったわけでございます。

同時に、利用規約も長くなる、難しくなる一方で、読んでも理解できないということで、もう同意疲れでボタンを押すだけということになっていたわけでございますが、ここでフォーカスされているエンパワーをするデジタル技術には、先ほど星野委員の御説明にありましたようなパーソナルAIというものが含まれているわけですから、それに利用規約を読んでもらって、ここにダークパターンといわれているものがあるよ、ユーザーにとって不利な条項にはこんなものがあるよと教えてもらうことができるわけですね。要約もしてもらうことができる。現在のCopilotなんかでもそこそこできるぐらいですから、それ用のものを作ればかなりできるのではないかと思います。

ここに来て、これまで難しくなる一方、消費者の理解から遠ざかる一方、同意疲れに進む一方であった形勢をここでもしかしたら取り返せるかもしれないわけでございます。消費者の下に真の意味での同意を取り戻す、消費者の下に選択を取り戻すことができるかどうかということがかかっている重要な検討ではないかと思っておりますので、少しでも貢献できるように頑張りたいと思います。どうぞよろしくお願いいたします。

○橋田座長　ありがとうございます。

山口委員、お願いします。

○山口委員　名古屋大学大学院経済学研究科の山口景子と申します。

私の研究分野は、マーケティングサイエンスといわれる、星野委員の資料の中でもございましたが、マーケティング分野の中でも、様々な消費者の行動現象や企業の行動を数理的に描写しようと試みる分野で研究を行っております。

近年、興味を持って取り組んでいるテーマの中で、この専門委員会に関連があると考えられるものが2つございます。1つは、買い物プロセスにおける消費者関与の在り方でございます。

今までお話が出てきていたパーソナライゼーションとかレコメンデーションというものは、従来のマーケティングが目指している、消費者の手間をいかに削減して、言い方を選ばずにいえば、まるでベルトコンベアに乗ったかのように購買までたどり着いてもらうかというプロセスの中で考えつかれて研究がされてきたものでございます。私も、過去にパーソナライゼーションの研究とか、その効果の研究をしていました。

こういった消費者のためにというお題目とか、手間を削減するとか、難しいことは我々がやってあげますというスタンスは、もちろん消費者にとっては非常にフレンドリーだし、とてもよいように見えるところはあるのですけれども、先ほどもお話のありましたような例えば利用規約をいかにショートカットできるような仕組みを作るかとか、あえて不必要な情報から目を背けやすいデザインを作るかといったような、あえて大事な情報から目を背けたりすることにも使えるということに危惧を持っております。ですので、仕組みそのものというよりは、そもそもの在り方として、消費者を神様のようなお客様として扱うこと自体がどうなのだろうというところに立ち戻って研究をしているというところがございます。

ただ、そういった消費者の関与というものは、当然負担と捉えられる側面も持っておりますので、その負担を減らすために便宜を提供していく形になると思うのですけれども、その便宜を突き詰めることは本当によいことなのか、パーソナライゼーションを進めることが本当によいことなのかというところで議論に参加できればよいかなと思っております。

そこから派生する形で、消費者とモバイルデバイスとの関わり方にも興味を持って研究を進めております。モバイルデバイスをうまく活用することで、買い物プロセスにおける消費者の関与から得られる便益と負担のバランスをどのように調整できるかというところに興味を持って研究に取り組んでおります。その点からも何かお役に立てることがあればよいなと思って、頑張っていきたいと思います。よろしくお願いいたします。

○橋田座長　ありがとうございました。

続きまして、オブザーバーとして御参加いただいている皆様にも、同様に自己紹介をお願いしたいと思います。

まず、黒木委員長代理からお願いいたします。

○黒木委員　弁護士の黒木と申します。

第7次と第8次の消費者委員会におきまして委員をさせていただいております。

今、星野委員からもお話をいただきましたけれども、行動経済学の知見は今後の日本の法体系に非常に大きな影響を与えるのではないか。一般的・平均的・合理的な消費者というのは、伝統的経済学が前提としていた合理的経済人、ホモ・エコノミクス、エコンと同じような概念であって、そういう概念とは違うものを法学の中で前提としていくことも一つ今後考えなければならないのではないか。その意味で、今回のエンパワーメント専門調査会は大変期待しております。今後とも御指導をよろしくお願いいたします。

以上です。

○橋田座長　ありがとうございます。

では、柿沼委員、お願いいたします。

○柿沼委員　全国消費生活相談員協会の柿沼でございます。

まず、協会の御紹介をさせていただきます。

本協会は、全国の消費生活センター、省庁などにおいて、消費生活相談員として従事している団体でございます。消費者の権利の確立及び消費者の自立支援を推進し、消費者の利益の擁護及び推進に努めるとともに、消費生活に関する相談に係る情報や消費生活に関する情報を収集・提供し、さらに消費者被害の発生及び拡大の防止、また、消費者被害のための活動を行い、もって消費生活の安定・向上に寄与することを目的としています。

事業活動としては、消費者全体の利益を擁護するための適格消費者団体として、事業者の不当な行為に対する差止請求を行ったり、また、活動の一つとして消費者啓発・消費者教育に取り組んでおり、相談員としての知識と経験を生かして全国的に展開しております。

私は、協会内の消費者教育研究所にて消費者問題の調査・分析をするとともに、IT研究会の研究員として情報通信関連について国等に発言をいたしております。

関心事としては、社会人に対しての消費者教育等に契約の知識をいかに行っていくか、これがまず大切と思います。消費者庁の消費者意識調査においても、ネットショッピングでもクーリングオフができると誤った回答をする消費者がほとんどというような状況です。また、人生100年時代において、情報を上手に活用し、トラブルに遭わないように判断する力を今後も養っていく必要があるのではないかと思っております。

相談現場では、法改正をしても定期購入のトラブル相談が増加傾向です。SNS広告から投資に誘導され、高額な投資をしても出金されない相談、フィッシング詐欺の相談が寄せられていますが、契約内容を確認していない、見ていない、大きな文字しか読んでいないということで、打消し表示の部分については見落としがちであるという消費者がまだまだ多いです。

ダークパターンに陥らないためには、誘導されないように、消費者自身も技術に翻弄されず、技術的な視点や意識的に行動することが大切であるとともに、消費者だけでなく、企業においての技術的な視点や倫理的意識改革が必要であると思います。

本専門調査会において、消費者の視点で、消費者現場で起こっていることなどを含めて貢献してまいりたいと思います。どうぞよろしくお願いいたします。

○橋田座長　ありがとうございます。

山本委員、お願いします。

○山本委員　慶應大学の山本と申します。

専門は憲法学ですけれども、プライバシーとかをやってまいりまして、最近はAIを含む技術と人権とか民主主義の関係についていろいろと考えてきているということでございます。

この調査会については、先ほどの星野委員と一緒に企画にも関わってまいりましたけれども、まさにこういうことがやりたいということで消費者委員会委員をお引き受けしたということもございますので、オブザーバーという立場ではありますけれども、できる限り議論が発展していくことに御協力したいなと思っております。

私の問題意識は、後でプレゼンの機会をいただいておりますので、そちらでお話をさせていただきたいと思います。ありがとうございます。

○橋田座長　私は、理化学研究所、AIPの橋田と申します。

15年ぐらい前からパーソナルデータの分散管理と、それに基づくサービスに関して研究してきていまして、実際に自分でもパーソナルデータストアなどを開発して、それの実証実験等をしてきていまして、そうこうするうちにGDPRが施行されたりしたのですが、なかなか分散管理は広がっていかないなと見ておりましたところ、一昨年の11月でしたか、生成AIが世の中に登場してきて、それから半年もしないうちにパーソナルAIと銘打ったサービスが出てきて、去年の終わり頃にはハードウェアの製品まで出ているという状況です。

初期的な形態ではあるもののパーソナルAIが実際にもう既に商品化されつつある状況になっておりますけれども、自然にどんどん参入する事業者が出てきて、パーソナルAIのマーケットはすぐにレッドオーシャンになるのではないかと思います。これは恐らく、各個人にとって自分のパーソナルAIがあらゆる商品・サービスに対するゲートキーパーといいますか、あらゆる商品・サービスを本人に届けるための仲介役をこのAIが務めるということが見えているからだろうと思うのですね。そういう個人向けの商品・サービスの仲介業で手数料を10パーセントちょっと取れると考えますと、グローバルGDPの10パーセント近いマーケットサイズになる。それは、BtoCのサービス・商品ですけれども、BtoBまで合わせるとGDPの3割ぐらいになる可能性があり、すごく大きな商売なので、どんどん参入してくる事業者がいるのだろうと思います。

小売も含めたいろいろなサービスをAIが一括してやり取りするということは、それらのサービスに紐づくパーソナルデータが全て本人に集約されるということに自ずとなるわけですね。それがずっと前からやろうとしていた分散管理になるわけですけれども、そうやって本人に集約されたパーソナルデータをパーソナルAIがフル活用すると、恐らく本人に最大の価値を提供できる、非常に大きな商売になるだろうと思うのですが、レッドオーシャンなので、あらゆるパーソナルAI提供者がそれに向かって競争する。

全てのパーソナルデータをパーソナルAIに使わせるためには、ユーザーからパーソナルAIに対する全幅の信頼、トラストが必要になりますので、これまでサービス提供者がユーザーのアテンションの獲得を競ってきたという仕組みは恐らく壊れて、ユーザーのトラストの獲得を競うという仕組みにできるのではないかという希望を抱いているわけですけれども、それにはパーソナルAIのガバナンスが必須になってくるわけです。

パーソナルAIは、あらゆるパーソナルデータを使うと潜在的にはすごくよい価値をユーザーに提供し得るわけですけれども、逆に取り返しのつかない損害をユーザーに与えることもあり得るわけですよね。だから、飛行機みたいなもので、遠くまで移動するには使わざるを得ないけれども、時々墜落する、そういうふうなテクノロジーなので、厳格なガバナンスが必要だと。

そのガバナンスにはパーソナルAI提供者も協力するであろう、つまり、ユーザーのトラストが必要なので、いかにトラストを取るかというと、ちゃんとガバナンスしていますよというところを見せないといけないだろうというのが楽観的で合理的なシナリオだと思いますが、世の中、しばしば合理的には進まないので、いかに合理的なストーリーに世界を収れんさせるかというのが今問われている大きな課題になってくるのだろうと思います。

ですから、ここでパーソナルAIの議論をするときに、パーソナルAIでいかにして消費者を守るかということと同時に、本当にそうなるようにいかにしてパーソナルAIをガバナンスするかということも同時に考えていく必要がある。ひょっとすると、我々が戦う相手はパーソナルAIなのかもしれないと考えています。今後、いろいろ議論をさせていただきますけれども、よろしくお願いいたします。

次の議題に参りたいと思います。改めまして、2つ目の議題、「専門調査会の設置の趣旨及び今後の進め方について」、事務局から御説明をいただきたいと思います。それに引き続きまして、山本委員及び国民生活センターさんから御発表をいただいた後に、まとめて意見交換をいただければと思いますので、よろしくお願いいたします。

では、事務局、よろしくお願いします。

---

≪2．②専門調査会の設置の趣旨及び今後の進め方について≫

○江口企画官　それでは進めさせていただきます。

資料1でございます。

1枚めくっていただいて、「1　趣旨」というところでございます。デジタル化の進展に伴い、新たなデジタル技術がサービスとして消費者に提供され始めております。これらについては、消費者にとっては利便性が向上する等のメリットも大きい一方、デジタル技術の活用に当たっては、消費者にとって新たなリスクを生じさせることがないよう留意する必要がございます。

消費者法によって消費者の支援・保護を図ることが正当化される根拠として、消費者契約において「消費者・事業者間の情報の質・量、交渉力の格差」に加え、「消費者の脆弱性」も正面から捉えていくべきとの指摘がなされております。

このような状況下で、消費者契約の場面において消費者を支援する方法として、デジタル技術を活用することが考えられるのではないかとの問題意識から、消費者委員会の下部組織として専門調査会を設置し、消費者被害の現状を踏まえ、消費者契約の場面において消費者を支援することに活用できるデジタル技術の現状と見通し、個々の消費者にパーソナライズするAIの検討及び社会実装に向けた課題等を整理し、取りまとめることといたしました。

次のページです。

検討内容といたしまして、本年4月、本日ですが、「趣旨説明」と「消費者被害の現状と把握」ということで、消費者被害の現状、事例と、消費者被害の行動経済学の観点からの分析といったお話を伺います。

5～7月ですが、「消費者契約の場面において、消費者を支援することに活用できるデジタル技術の現状と見通し」といたしまして、既存のデジタル技術の棚卸し、今後のデジタル技術の見通し、活用が望まれるデジタル技術を検討してまいります。

その後、7～9月ですが、「個々の消費者にパーソナライズするAIの検討」といたしまして、AIに与える情報、消費者契約の場面において消費者を支援するためのAIの活用方法といったことを検討いたします。

9～10月ですが、「社会実装に向けた課題等の整理」といたしまして、法的課題等の留意すべき点といったこと、開発・サービス提供に取り組む企業のインセンティブとなる仕組み、AIに必要とされる教師データ及び教師データの収集方法といったことを検討していこうと考えております。

10～12月は、これらを受けて報告書の検討を取りまとめ、12月には消費者委員会への報告書の報告ということを目指しております。

1枚めくっていただきまして、「検討の領域とデジタル技術活用のイメージ」といたしまして、下の図を御覧いただきたいのですが、①デジタル技術の棚卸しといたしまして、非ネット空間、ネット空間に分けまして、それを契約締結前と契約締結段階、契約締結後という時間軸で見ていくことといたします。

非ネット空間の契約締結前といたしましては、インターホンなどで対面前に用件確認、拒否、怪しい電話の注意表示、自動応答、着信拒否といった接点コントロールについて。契約締結段階での非ネット空間では、やり取りの会話の自動録画、録音といった証拠の記録、情報の選択肢の提案といった情報格差の是正、家族や専門機関など第三者への連絡といった外部連携を想定しております。

ネット空間での契約締結前ですが、怪しいサイトや広告、メールを警告、ブロックといった接点コントロール。ネット空間での契約締結段階ですが、詐欺の可能性のある旨の助言といった注意喚起、定期購入や送料が高くなっている際に警告を出すといったような契約内容の理解の補助等といったことを想定しております。

非ネット空間、ネット空間、双方ともに、契約締結後といたしまして、被害実態、経緯の聴取・整理といった情報の整理、クーリングオフ等の対処方法の提案、消費者ホットラインである188等の機関への誘導、情報連携といった情報提供・連携、家族に相談しにくいことの聞き取り、情報連携といった潜在的な被害の検知、行動特性に応じた注意喚起等の再発防止といったことについて整理していきたいと思っております。

次に②といたしまして、属性や行動や思考の傾向、認知機能等々といった、消費者契約の場面において消費者を支援するため必要なデジタル技術を個々の消費者にパーソナライズするAIの検討を行い、それの社会実装に向けた課題等の整理を行うことを予定しております。

事務局からの説明は以上です。

○橋田座長　ありがとうございます。

次に山本委員から御発表をお願いしたいと思います。

本専門調査会の設置の趣旨にもなっております、デジタル技術を消費者の支援に活用する必要についてお話を伺います。

では、山本委員、10分から15分程度で御発表をお願いいたします。

---

≪2．③山本委員プレゼンテーション≫

○山本委員　今御紹介いただきました慶應大学の山本でございます。

私からは、この調査会の検討の企画について少し御協力をさせていただいたこととの関係で、なぜ「消費者をエンパワーするデジタル技術」を議論、検討する必要があるのかということについて、私なりの考え方をお話しさせていただこうと思います。

まず、「現代の消費者問題の多くは」と書きましたが、多くではないかもしれませんけれども、かなり少なくないものは伝統的な法的な思考になじみにくいという側面が出てきているのではないかということについてお話をさせていただきたいと思います。

1つは、例えば民事上の損害賠償というものもあるわけですけれども、これは被害を受けた側、消費者が損害というものを認識していることが必要である。しかも、ここでいう損害というのは、多くの場合、金銭的な被害、実害になるのだろうと思います。「ベタな被害」と書きましたけれども、お金が取られてしまった、商品が来ない、こういう損害、被害の認識が前提になって、それに対して事後的な対応を求めるということだったのではないかと思います。例えば、消費者契約法の取り消しについても、誤認とか困惑といったことを消費者自身が認識していることが必要になってきていたのではないかと思います。すなわち、被害や誤認、困惑等に関する消費者の明確な認識を前提にしていたように思います。この前提にあるものとして、法的な損害というのは、基本的には実害。精神的苦痛については確かになかなか算定しにくいものではあったわけですけれども、実害的なものが前提になって法的な枠組みは構築されてきたように思います。

ところが、AI等の先端技術と認知科学との結合、これは星野委員からもいろいろお話があったところで、私も大変関心を持っているところですけれども、テクノロジーと認知科学との結合によって、我々の認知バイアス（脆弱性）などを利用した意思決定過程へのソフトな介入あるいは操作が広く行われるようになってきて、ここが現代的な消費者問題の一つ本質になるのかなと私は考えております。

そうすると、従来いわれてきた情報の非対称性という問題を飛び越えてというか、ビヨンドしていて、私は技術的・認知的非対称性へと。つまり、丸括弧に書いてあるとおり、事業者は圧倒的な技術的な優位性、つまり、環境設定権力ともいわれていますけれども、我々の選択環境をデザインする、あるいは決定する権力を持っている。そして、人間又は個人の認知過程に対する圧倒的なアクセシビリティー、これは個人データを収集してプロファイリングをすることによって、人間あるいは個々の人間の認知的な傾向とか考え方を分析することができるようになってきた。そういう意味では、認知過程に対するアクセシビリティーというものも、むしろ本人よりも事業者の方がよく知っている、あるいはそこにアプローチできるというのが現状なのではないかと。

消費者は認知過程に介入され、知らないまま誘導・操作される。問題を明確に認識することが難しい、あるいは法的な損害が十分に成熟されていない、そういう状態が問題の本質に前倒し的になってきているようにも思う。

激痛と鈍痛というのは、私はプライバシーの問題を語るときにしばしば持ち出すメタファーなのですけれども、これもここでは何となくいえるのかなと。つまり、古典的なプライバシー問題というのは、例えば裸の写真が不特定多数の人にばらまかれることによって、激痛、羞恥心を瞬間的に感じるわけですけれども、例えば自分のデータが知らないところに集まって分析されるというのは、羞恥心を感じるような激痛ではなくて、このデータを誰にどこでどう使われるのだろうという鈍痛のようなもののように思うわけですけれども、消費者問題の多くも、激痛系の問題はもちろんあって重要なのだけれども、被害があるかどうかもよく分からない、鈍痛のようなものが広がってきているように思います。典型としてのダークパターン、ローチ・モーテルのような、一旦入ったら出られないようなUIというものがあるように思います。

次のスライドです。

伝統的な法的思考を補完するようなアプローチが必要になってきているのではないかということでございまして、実害や被害が生じた後からの事後的な法的介入を補完するものとして、消費者の技術的なエンパワーメントによる事前的な予防が重要になってきているのではないか。技術的・認知的非対称性を是正していくためには、消費者支援的な技術を提供して、消費者の認知的な耐性を強化していく必要があるのではないか。これは星野委員の言葉を使えば、ブーストということなのかもしれません。

要するに、これまでの問題は、実害が生じてしまった後にどう対応するのか。損害賠償を請求する、あるいは消費者契約法上の取り消しを請求していくということなのですけれども、多くの場合、取り戻すには莫大なコストがかかる。そうであれば、事前に予防した方が実効的な権利保障、権利保護が得られるのではないか。

それから、消費者団体のある意味における負担の軽減につながるようにも思います。事前にエンパワーメントの技術が広がることによって、実際の実害、被害がある程度抑えられる可能性がある。ただし、これは最後に申し上げるように、消費者団体等の役割の変化は必要になってくるかもしれないということでございます。

実例を少しお話しさせていただくと、先ほど橋田座長からもアテンションの話が出ましたけれども、私自身関心があるのはアテンション・エコノミーでございます。アテンション・エコノミーというのは、別の調査会でも説明申し上げたのですけれども、インターネットの普及による情報過多の世界においては、マーケットに供給される情報量に対して我々が払えるアテンションとか時間が圧倒的に希少になっていくために、これが交換財として経済的な価値を持って取引されるということでございます。

SNSとか多くのインターネットのサービスは無料で提供されているわけですけれども、我々が何も払っていないかというと、そうではなくて、お金を払っていないけれども、我々の有限な、非常に重要な資源であるアテンションとか時間を払って、それで金銭的には無料でサービスを受けられている。

そういったビジネスモデルから、下の方にありますように、時間やアテンションの奪取、奪い合いのような競争が起きている。そのために、個人データやAIが事業者側によって積極的に使われているという状況があるのではないかと思います。

グレン・ワイルという下の方に挙げたアメリカの経済学者は、アテンション・エコノミーというプラットフォームのビジネスモデルはセイレーン・サーバーだと言っています。ホメーロスの叙事詩の『オデュッセイア』の中で、英雄であるオデュッセウスは船のマストに自らの身を縛りつけているわけです。これは、海を飛んでいるセイレーンという魔女は、非常に美しく魅惑的で刺激的な歌声で海を航海している者を引き付けて、いろいろな物を奪っていく。最終的には命まで奪って食べてしまうという非常に恐ろしい魔女ですけれども、グレン・ワイルは、今のアテンション・エコノミーは、非常に刺激的で魅惑的なコンテンツとか、あるいはそういったUIによってユーザーを引き付け、そのエンゲージメントを取っていろいろなものを奪っていく。これは、個人データとか実際の商品の購入かもしれませんけれども、そういう状況にあるのではないかということであります。

この状態について、例えばアメリカの法学者であるティム・ウーは、次のスライドですが、こういうことを言っている。アテンション・エコノミーの下では、現在では情報の受け手の全ての時間が、かつては非商業的な時間であった友人とかそういった人たちと過ごす時間さえも激しい競争の的になっていて、我々の毎時間、実際には毎秒がそれを支配しようとする商業的アクターの標的になっている。非常に激しいアテンション、時間の奪い合いが起きていると。

それから、メーガン・レイ、これはジャーナリストですけれども、パートナーとつながったり、本を読んだり、終わらせようと思っていたほかのことをしたりするのに使えていたはずの時間を失っている。気をそらすような情報や刺激的な出来事が四六時中あらゆる方向から押し寄せてくるのは、あなたのせいではなくて、それこそがアテンション・エコノミーなのだと言っているわけです。

さらに、マイクロソフト社の古い研究ですと、これはタイム誌が既に報じていますけれども、集中力のないことで知られる金魚の平均的な注意持続時間は9秒のようですけれども、どうも金魚の平均的な注意持続時間を人間のその持続時間が下回ったと。2000年以降、モバイル革命が始まった頃以降は、平均の注意力持続時間が12秒だったのが8秒に低くなっていると言っているわけです。私はこの分野の研究者でありませんので、この数字が何を意味するのかということについては詳しくは説明できないわけですけれども、そういう状況にあるということは注意が必要だろうと思っています。とにかくいろいろな刺激的な情報やコンテンツがあって、我々が集中できない状態があるのではないかということであります。

次のスライドは、先ほどの星野委員がおっしゃったようなカーネマンの二重過程理論について触れていて、例えばショート系の動画プラットフォーム、TikTokですけれども、非常にアディクティブなUXあるいはUIを使っているのではないかという指摘がこれまでなされてきたところであるわけです。

これについて、先ほどのティム・ウーという人物は、同意によらないアテンションの強奪だと言っていて、自律的・主体的には、我々のジキルとハイドでいえば、ジキルの部分では聞きたくないのだけれども、ハイドの部分では聞きたくなってしまっているという、とらわれの聴衆、とらわれのオーディエンスになっているのではないかという指摘もあるところです。

これは、実際にEUのデジタル・サービス・アクトという新しい立法に関しましては、総務省の検討会で出てきた資料を見ますと、デジタル・サービス・アクトの背景の一つとしてはアテンション・エコノミーの問題があるのだと。赤字のところですけれども、特にレコメンドシステムの具体的な手法や根拠については、透明性が欠如していて、ユーザーが無自覚のうちにセンセーショナルで、虚偽で、過激なコンテンツのラビットホール、不思議の国のアリスが穴に落ちてしまった、ここからラビットホールというのは底なし沼のような形で使われるようですけれども、ラビットホールにはまることになりかねないという懸念がDSAの背景にあり、欧州委員会は既に2024年2月19日にTikTokの正式調査を発表しているということでございます。

この赤字にあるように、これはアルゴリズムを含むTikTokのシステム設計に起因する、実際の又は予見され得る悪影響の観点からの、依存症やいわゆる「ラビットホール効果」の誘発につながるシステム的リスクの評価と軽減に関連するDSA義務を遵守しているかどうかという調査を実際には行うことを正式に表明しているということでございます。

ほかにも、デジタル・サービス・アクトに関しましては、オンライン・プラットフォームにおける広告について、特別カテゴリーの個人データを使用して、プロファイリングに基づいて、サービスの受領者に広告を提示してはならないとか、未成年者のオンラインでの保護、サービスを受ける側が未成年者であることを合理的な確実性を持って認識している場合には、プロファイリングに基づく広告をインターフェース上で提示してはならないとか、もろもろの規定があるということにも着目をするべきだと思っております。

ほかにも、欧州のデジタル・マーケット・アクト、DMAについては、第15条で、ゲートキーパーと呼ばれるような、例えばGoogleとかTikTokですけれども、そのコアプラットフォーム、例えばGoogleであればYouTubeとかですけれども、そこで適用している消費者のプロファイル技術について、独自に監査した説明を欧州委員会に提出することも義務付けているということでございます。

最後、ダークパターンについて、これは星野委員からもいろいろと議論があったところですけれども、世界各国、ダークパターンに対しての規制、規律を取り始めてきているということも重要だろうと思います。

法的な定義のところは、一番上のものはアメリカのCalifornia Privacy Rights ActとColorado Privacy Actが採用している定義ですけれども、その下にありますのはデジタル・サービス・アクトの25条に掲げられている定義でございまして、オンライン・プラットフォームの提供者は、そのサービスの受領者、受け手を欺いたり操作をしたりする方法で、又はそのサービスの受け手が自由かつ情報に基づいた決定を行う能力をその他の方法で実質的にゆがめたり損なったりする方法で、オンライン・インターフェースを設計、構成、運営しないものとする、こういうことを言っているわけであります。

この次のスライドは、ダークパターンに関して調査をしていたアメリカの大学の結果になります。これは、この検討会には本当にすばらしいメンバーがお集まりで、田中委員がまさに御専門のところだと思いますけれども、ダークパターンとそこで用いられている認知バイアスとの関係について調査したものもあります。こういったダークパターンは、いかに我々の認知バイアスあるいはその脆弱性というものを用いているかということをもろもろ調査している報告書になります。

ほかにも、この後にEUのAI法についての御紹介をしていますけれども、時間が既にオーバーしていると思いますので省略をいたします。

例えばEUのAI法も、第5条の禁止されるAI実践というものの中心にあるのは、自律的で主体的な意思決定を、AIを使って歪めていく、操作していくということがあるのではないかと思っております。

第5条の最初に挙げられているのは、人の意識を超えたサブリミナル的な技法、又は意図的に操作的若しくは欺瞞的な技法を展開するAIシステムのマーケットへの投入、サービス開始、使用等々を禁止しているわけですけれども、ここで考えられているのは、これは私見ですけれども、プロファイリングとダークパターンを掛け合わせたようなものですね。要は、プロファイリングして個々のユーザーの認知的な傾向とか脆弱性を分析して、それに合わせてユーザーインターフェースを変更していくようなことは、AIアクトの最も注意すべきとされているような事柄にはまってくるのではないかなと考えております。

いろいろと省略をさせていただきますけれども、最後のスライドに行きます。

我々は今や、人間の理性の限界を無視することはできないのではないか。これは星野委員おっしゃるとおりだろうと私も思っています。つまり、脆弱性を内在していることを前提に議論を進めていくべきではないかと思っております。

技術的あるいは認知的な非対称性によって脆弱性につけ込まれていくというケースは増大しているようにも思うわけですけれども、このときに私たちに、強くあれ、だまされるな、注意せよという啓発を繰り返していくことを粘り強くやっていくことはとても重要で、リテラシーが重要ですけれども、これだけでは解決しない問題ということにもなるのではないか。つまり、リテラシーとテクノロジーと認知科学というものを用いたホワイトな技術との組み合わせによって対応していくことが効果的なのではないか。そうすると、今後考えていかなければいけないのは、前提にする人間像は「弱いが、強い個人」ということなのかなと。

これはさっきのオデュッセウスの絵をイメージしていただくと、オデュッセウスは自らの弱さ、つまり、セイレーンの歌声に引かれてしまうということを自覚して、事前に自らの身をマストに縛りつけた。つまり、このマストが我々には必要になってきているのではないか。アーキテクチャーというものを事前に装備して、アーキテクチャーを身にまとった人間が重要になってくるように思います。

そうすると、法制度とテクノロジーとリテラシーの三位一体が今後は重要になっていくということで、このまま伝統的な思考、つまり、近代啓蒙主義的な、リテラシーだけでとにかく冷静に判断しましょうとか、それだけではなくて、逆にいうと、こういった組合せをどう法的に促進していけるのかということが重要になってくるのではないかと思っているということでございます。

最後は再掲として、先ほども書いたところですけれども、消費者委員会の役割としてまさにこの調査会が立ち上がったように、こういった認識を前提として消費者をエンパワーする技術、あるいは認知科学の知見というものに関する情報収集をし、啓発をし、普及していくということも今後は求められるのではないか。あるいは、そういった技術をどういう広げられるのか。これは訴えているだけでは広がらない。さっきのビジネス的な視点に立って、どうインセンティブを作っていって広げていけるか、この知恵を絞ることもこの調査会で検討できるとよいかなと思っています。

駆け足になりましたけれども、私からのお話は以上とさせていただきます。ありがとうございました。

○橋田座長　貴重な御報告をいただきましてありがとうございます。

次に、国民生活センターさんから御発表をお願いしたいと思います。

議論するに当たって、まず消費者トラブルの現状を認識することが大切だと思いますので、国民生活センターさんから15分程度御発表いただきまして、その後、今の山本委員及びその前の事務局からの御説明を含めて質疑応答と意見交換をさせていただこうと思います。

では、国民生活センターの加藤様、御発表をお願いいたします。

---

≪2．⑤消費者トラブルの現状≫

○国民生活センター（加藤氏）　私の方からは、消費者トラブルの現状について御紹介をさせていただきます。

事務局様からデジタル空間のトラブルとそれ以外のものということで御依頼がありました。

今回、私の方で何を紹介するか非常に迷ったのですけれども、デジタルの技術で消費者トラブルを未然に防げるとしたらどうかな、被害救済の場面で活用できるとしたらよいなと思えるような、そうしたトラブルを幾つかピックアップさせていただきました。

まず1つ目、フィッシングの事例を御紹介いたします。読み上げておりますと、時間も限られておりますので、簡単にさせていただきます。

大手通販サイトから携帯電話に「会員満期通知」という件名でメールが届いたというよくあるパターンでございます。この方は、本物の通販サイトからと思い、ログインしてクレジットカード番号を入力してしまったところ、5万円を不正に利用されてしまったという御相談でございました。

事例2です。これもまだたまに見られるものでございまして、宅配業者から不在通知のSMSが届いて、本物の宅配業者からの連絡だと思ってURLからログインしてパスワードを入力してしまったところ、キャリア決済を不正に利用されてしまったという手口でございます。

これを簡単にイラスト、イメージで書いてみました。よくあるパターンですけれども、まず①のところでSMSや偽メールが届きまして、この段階で怪しいなと気付いていただければよいのですけれども、思い込みというのがありますと、その後、そのまま進んでいってしまいまして、結局、不正に利用されてしまうといったパターンでございます。いかにしてこういった被害に遭わないかというところが非常に重要になってくるかなと思っています。

相談の傾向ですけれども、これはちょっと古いデータですが、今この図ですと6,000件ぐらいになっているのですが、2024年3月末までの登録分ですと1万3000件ほどになっております。引き続き、高い水準で相談が寄せられております。

この件数は、全国の消費生活センターも使っているPIO-NETというデータベースでの相談件数でございまして、フィッシングですとフィッシング対策協議会様のデータの方が社会にどれぐらい今フィッシングが出回っているのかというのが分かるのかなと思っていて、先ほど見てみましたところ、2024年3月だけで9万7000件ぐらいの報告が上がっているというのが協議会様のホームページにも出ておりました。クレジットカードの不正利用の被害額もかなり高額になってきていますので、フィッシングにつきましては本当に対策が急務なのかなと思っております。

次に、サポート詐欺でございます。修理代100円のはずがサポート詐欺に遭ってしまって100万円を送金されてしまったという事例です。

この方は、パソコンで普通にインターネットサーフィンをしておりましたところ、大音量の警告音が鳴って、ウイルスに感染した可能性があるという画面が表示されたので、マイクロソフト社をかたる表示が出ていたので、そこに電話をしてしまったところ、パソコンをチェックするということを言われてパソコンを遠隔操作されてしまいました。そうすると、「インターネットバンキングを利用したか」と聞かれて、この方は使っておられたのですが、「ログインしてください」と言われて、ログインをしました。パソコンの修理代で100円と言われたので、100円だったら安いなと思って「100円」と入れましたところ、その後、遠隔操作によって相手方に「0」を追加されて「100万円」に変更されてしまった。慌てて気づいて銀行に自分の口座を凍結してもらったのだけれども、既に100万円が送金されてしまっていたという事例でございます。

この手口は、次のページに、情報処理推進機構様のホームページからお借りしてきた警告画面例を載せています。まず大音量が鳴って、こういった画面が出るので、非常に慌ててしまうわけです。マイクロソフト社がこういった広告を出すわけではないのですけれども、マイクロソフト社をかたる画面が出ているので、慌てて電話をしてしまうと相手方の誘導にそのまま乗っていってしまうという形になっています。

以前からサポート詐欺については被害があったのですけれども、当時はクレジットカードで、その後、電子マネーを買わせるという手口に変化をしておりました。最近はネットバンキングを高齢者の方でも利用されることが増えてきたこともあって、先ほどの事例のようにネットバンキングで一気にお金を取られてしまう手口の相談が寄せられてきております。

ですので、どこで気付くかですけれども、電子マネーの場合はコンビニに何度か買いに行かされて、その途中で本人もおかしいと気付けるタイミングがあるのですけれども、ネットバンキングになってしまいますと、おかしいと気付く間もなく被害に遭ってしまうところがありますので、情報処理推進機構様もおっしゃっておられるように、とにかく電話をしないということが一番重要です。

警告画面については、ウイルスではなくて単なる広告が出ているものなので、ウイルス対策ソフトを入れていたとしても基本的には意味がないです。また、ネットサーフィンはアダルトサイトだけに限らず、ニュースを見ていたとき出たという方もいらっしゃるので、どの方でもこういった画面が出る可能性があります。そういったところを、出なくするというのは難しいのかもしれませんが、電話をかけないように気付くような何か仕掛けができたらよいなと思っています。

こちらは相談件数でございまして、最近の3月末までの件数は5,900件ほどになっていまして、昨年度よりは増加傾向にあります。

次に偽サイトです。この相談者の方は、半額以下だ、安いと思って7,000円のソファーを注文しました。注文から1週間後、カード会社から連絡があって、海外の航空会社で18万円決済されていますと言われて、不正利用されたのだなと気付いたわけです。

その後、商品は届かず、履歴から注文した通販サイトにアクセスしたが閲覧できなかった。公式通販サイトだと思って注文したが、偽サイトだったようです。商品が届く場合もあれば、届かないケースもあり、見分けることがなかなか難しいのかなと。

異常に安くなっているとか、日本語がおかしいとか、特商法の記載を確認するとか、そういったチェック方法はあるかと思うのですけれども、こういったトラブルがあるということを意識した上で通信販売を利用される方はそう多くはないのかなと思っていて、何か警告できるような仕掛けができる技術があったら大変よいなと思うところでございます。

こちらは、データは2022年度になっていますが、2023年度でも同じように、やはり減っていないという状況でございます。

○友行参事官　国民生活センターの加藤さん、聞こえますか。

大変申し訳ありません。こちらの会場の音声の調子が悪くて、加藤さんのお話がこちらに聞こえておりませんでした。

では、加藤様、申し訳ありません。11ページのところからもう一度お願いいたします。

○国民生活センター（加藤氏）　分かりました。11ページのこのサイトですけれども、これは実際にあったもので、令和3年11月に国民生活センターで注意喚起をしたときの資料から取ってきました。

百貨店をかたるもので、こういうサイトははやりもあるみたいなのですが、偽物であることが見分けにくいサイトが非常に多くなっています。

相談が多いのは、この例のように高級ブランド品のバッグが多いのですけれども、それ以外にも消費者庁が注意喚起をしたものですと、スポーツウエアのブランドや女性物の下着のブランドの会社のサイトにそっくりといいますか、本物であるかのように作ったサイトが実際に出ていて、注意喚起をされています。必ずしも高級ブランド品に限らないなというのが実態です。

次は、定期購入です。定期購入のトラブルは、簡単に申し上げると、例えばお試しのつもり（1回限りのつもり）で購入したのだけれども、実は数回、例えば3回購入しないと解約できないような条件付きの契約になっていたというトラブルです。

事例1は、この方はSNSで初回980円のダイエットサプリを見て、クレジットカードで申し込みました。1回限りのつもりだったのだけれども、その後、商品が届いて中身を見たら6箱も入っていたので、おかしいと思ったわけです。申し込む際に、この方の場合は、「期間限定クーポンプレゼント」を選択したことで、2万円の商品が3か月ごとに届く定期購入になっていたというトラブルでございます。

事例2の方も同様に、SNSの広告からアクセスしたサイトでダイエットサプリを購入したというものです。購入時の画面は保存していないけれども、いつでも解約できると書いてあったとこの方はおっしゃっています。2回目の商品が届いて、驚いて事業者に電話すると、「6回の購入が条件のコースになっていますよ」と言われた。解約したいがどうしたらよいかという御相談でございました。

こちらの図は、先ほど御紹介した事例とは直接関係ないのですけれども、イメージとして私が作ったものです。先ほどの話でいうとターゲティングというか、何十歳代の女性向けの広告ということで出るような仕掛けがあるのだと思うのですけれども、SNS上にショート動画みたいな広告が出てきます。そこで、気になるなと思ってクリックしていくと、記事風広告に移動します。

記事風広告は、このイラストだとすごく短く見えるのですけれども、ずっとスクロールしていかないといけないようなすごく長い記事風広告になっています。この辺りで消費者としては、定期縛りはないのだと。定期購入のトラブルは何となく分かっている人も増えてきているので、1回限りだったら安心だと思って申し込もうと思うわけです。

この後、販売サイトに移るのですけれども、消費者の意識としては1回限りだと思っているので、必要事項を書いて、細かい規約まではよく見ない。見にくいつくりになっていたりもしていて広告で見たものと契約条件が違っていることに気付かずトラブルになるというパターンです。

それから、これはクーポン利用によってコースが変わっている例をイラストで表したものです。いつでも解約可能、回数縛りなしという形で記載がありましたので、注文をいたします。注文すると、「注文ありがとうございました」と出て、普通であればこれで終わりなのですけれども、このときに「10分間限定特別割引クーポン」が出るので、消費者の認識としてはこのクーポンを利用すると先ほどの契約が安くなるのだと思って、「クーポンを利用する」を選択する。もともと「利用する」というボタンの方が大きくなっています。これで注文を完了すると、2回目の注文完了画面が出るのですけれども、このときに契約内容が回数は縛りがあるという契約に変わっているのですけれども、それが下の枠の中をスクロールしないと見えないような仕掛けになっているので、消費者としては十分認識がないまま注文をしてしまうというようなトラブルがあります。

消費生活センター、相談者も、最初の注文が終わった後のこの画面を再度見ることができないので、実際はどういう画面になっていて、消費者を誤認させるような表示なのかどうかといったところを確かめることができない点がトラブルの解決に苦労しているところでございます。

次に、SNS広告きっかけのトラブルです。ここで1つ、投資系のものを御紹介したいと思います。SNSで見たFXの広告が気になって広告にアクセスしたら、LINEのグループに招待されました。LINEに誘導されるパターンはいろいろあるのですけれども、この事例はグループに入るパターンです。グループ内で、もうかったという成功談がいろいろ繰り広げられております。

取引所の担当者を名乗る者の案内に従って相談者の方はFXの口座を開設して、証拠金1,000万円を振り込んでいます。さらに振り込もうとしたところ銀行からブロックされたので問合せをしたところ、不審な点があるので制限をしましたと言われています。

この方の場合はFXの口座に既に1,400万円ほどあったということで、あったといっても、そういうふうに利益が出ているように見せかけているだけだと思われるのですけれども、出金したいと言うと、さらに700万円が必要ですよと言われて、それでだまされているのではないかと気付く。こういったパターンの相談が、この方のケースが特異な例ではなく複数寄せられております。

その流れのイメージをイラスト化したものです。時間の関係もありますので、後ほど御覧いただければと思いますけれども、こういうよくあるSNSの広告からLINEのグループに誘導されて、その中で成功談を聞かされる。それで、この人の言ったとおりにすれば儲かるのではないかなと思って、どんどん信用していってしまう。そういったパターンのトラブルが寄せられています。

ケースによっては、1回目は利益が出て、その分を引き出せたりするので、2回目にはもっと大きな金額を振り込むというようなケースになります。最終的には相手方と連絡が取れなくなって、返金もほぼ難しいような状態になってしまうというトラブルはFXに限らず暗号資産でもよく見られます。

次は、電話勧誘の相談でございます。インターネット空間以外のものということで、アナログ戻しの事例を御紹介します。アナログ戻しと我々は言っているのですけれども、インターネット回線を引いているおうちに、特に高齢者宅が多いのですけれども、大抵の方はもう使ってなかったりします。そうしますと、それをやめて電話回線はアナログに戻せば安くなりますよと言って、自分でNTTに電話すれば手数料3,000円ぐらいで済む話が、よく分からない事業者にサポートの契約をしたことになっている。そういった詐欺的なトラブルが以前ありまして、多少減りましたけれども、今もたまに寄せられている相談でございます。

電話勧誘のトラブルをなぜ御紹介したかと言いますと、大手通信会社を名乗る者から両親宅に電話があって、安くなりますよと言われる電話勧誘なのですけれども、この辺りは記録が残っていないので、高齢者のお宅にどういうふうに名乗っているのか、消費者がどういうふうに理解したかというのを後で確認したくてもできないというのがあります。

こういったケースですと事業者の所在が不明なわけではないので、消費生活センターなりがあっせんに入れるわけですが、事業者に問題点を指摘して交渉しようと思っても、どういう勧誘の仕方をしているのかというのを、その場にいて聞いているわけではないので、やり取りが残っていないのでできない。もう既にあるかと思いますが「この通話は録音しております」というのをオレオレ詐欺対策で使っておられる方がいらっしゃるかと思いますけれども、そういった電話などが非常に有効なのかなと思っています。

こちらは、アナログ戻しの手口をイラストにしたものですので、説明は割愛させていただきます。

それ以外で、架空請求の事例です。NTTを名乗る事業者から、未納料金が発生していますよという感じで電話をかけてくるパターンがありまして、最近は人ではなくて自動音声を使ってランダムにといいますか、何かしらの名簿を基にかけてくるようなパターンがあります。自動音声なのですけれども、そこで必要なボタンを押すと人間につながって、あなたは幾ら未納なので払ってくださいということを言われるという手口です。

それから、還付金詐欺につきましてはなかなか減らないなと思っています。4,000件から5,000件近く消費生活センターの方には寄せられています。こちらについては、もしかしたら警察庁が出している統計データの方がより規模感は分かるのかなと思います。市役所からこういった電話がかかってくることがあるのかというような御相談ですから、消費者からするとそこの真偽を計ることは難しいのかなと思っています。

最後にまとめですけれども、インターネット上の詐欺的トラブルは手口が巧妙化していて、消費者自身で見抜くことは非常に難しくなっています。先ほど御紹介したフィッシングですけれども、フィッシング対策協議会様の方でも見分けることは非常に困難ですとサイトでもおっしゃっておりました。

こんなときに被害に遭いやすい点が掲載されていて、なるほどと思ったのが、思い込みがあるとき、慌てている、急いでいるとき、ちょっと疲れているとき、そういったときにうっかり被害に遭いやすいと。ですから、幾ら気をつけましょうと言っても難しいのかなと感じています。

2つ目で記載しましたけれども、相談現場におりますと被害回復が難しいケースが増えております。インターネット取引ですと相手方がどこにいるのかが分からないような状況で、連絡が取れなくなったら消費生活センターでもお手上げということも多いので、未然防止がより一層重要になってきていると感じております。

3つ目ですけれども、契約した当時の広告とか販売サイト、相手方とのやり取り、そういったところの証拠が残っていないために被害救済が難しい。消費者としては、私はこういうサイトを見て、こう記載があったから契約したのですとか、こういうふうに言われたから契約したのですということを主張したくても、それを立証するのが非常に難しいと思っていますし、消費生活センターの方でも主張をお手伝いするためにも材料が乏しいようなことも多くありますので、デジタルの技術で、例えば定期購入の何か自動でスクショが撮れるような仕掛けができるとか、先ほどのお話ですと、ターゲティング広告みたいなものがあって、消費者の利便性もさることながら、もしかしたらあなたにはこういう傾向があるので注意してくださいねみたいなサジェスチョンをしていただけるとか、多少冷静になる、クールダウンできるような仕掛けができると、トラブルの防止には役立つのではないかと思っています。

今回御紹介したものはほんの一例でございまして、ほかのトラブルでも活用できるケースがあるのではないかと思っております。

これは参考程度ですけれども、全国の消費生活相談ですと2023年度約83万件になっています。22年度からは減少しているかと思いますけれども、依然として高水準で様々な相談が寄せられています。

販売方法・手口としては圧倒的にインターネット通販が多くて、続いて定期購入という形で、やはりインターネット空間上のトラブルが非常に多くなっておりますので、消費者を手助けしていただけるようなデジタル技術をもって、未然予防とか被害救済に活用できたら大変ありがたいと思っていますので、是非この検討会の検討内容を我々も注視していきたいと思っているところでございます。

簡単ですが、以上でございます。

○橋田座長　どうもありがとうございました。

では、意見交換に移りたいと思います。

先ほどの事務局からの御説明と山本委員及び国民生活センターの加藤さんからの御発表への御質問、御意見等がございましたらお願いいたします。

御発言のある方は挙手、オンラインの場合にはチャットでお知らせください。よろしくお願いします。

---

≪2．⑥意見交換≫

○森座長代理　ありがとうございました。

御説明ありがとうございました。

まず、事務局でお示しいただいた資料について意見を申し上げようと思います。資料1の最後のページ、「検討の領域とデジタル技術の活用のイメージ」ですけれども、契約締結前のところですが、接点コントロールということで、非ネット空間がインターホンとか電話ということで、ネット空間では怪しいサイトや広告、メールを警告、ブロックということですけれども、もちろん危険から遠ざけることは非常に重要なことですので、これは一つのカテゴリーとして是非やっていただくべきことだと思うのですが、もう一つは選択を助けるということが求められているのではないかと思っています。もちろん怪しいものは怪しいと教えてあげることは重要なわけですけれども、星野委員のお話の中に、非ネット空間のときはスキャナーとかカメラなのではないかというお話がちょっとありましたけれども、それはそうなのではないかと思っています。

例えば、商品を買うときに、画像認識、イメージレコグニションで、もしかしたらそのサンドイッチは後ろを見たら具が入っていないかもしれないよとか、清涼飲料水だったら、OCRですかね、その商品についてはネット上でこういうふうに書かれているよとか、あなたは2か月前からダイエットをすると言っているけれども、それはめちゃめちゃ高カロリーだよとか、イメージレコグニションとかOCRというものが非ネット空間の情報提供のツールとしてはイメージしやすいのかなと思いました。ですので、消費者の決定を支えるというものが、タイプとしては入っていた方がよいのかなと思いました。

2点目は、加藤さんの御説明の中で8枚目のスライドですけれども、サポート詐欺が増えていますということだと思うのですが、青いところと黄色いところはどういう違いなのか、教えていただければと思います。よろしくお願いします。

○橋田座長　では、事務局と加藤さん、お願いします。

○江口企画官　事務局です。

今いただいた御意見は参考にさせていただき、この後に生かしていきたいと思います。

○橋田座長　加藤さん、8ページのグラフはいかがでしょうか。

○国民生活センター（加藤氏）　これは、2023年度と2022年度の同じ時期を比較しているので、オレンジのところは2022年2月末までの時点で、前年同期と比較をしています。2023年2月28日までの登録分ですと5,955件で、前年の同じ時期だと4,434件という意味です。

○森座長代理　理解できました。

2021年については特に情報として書き込んでないということですね。

○国民生活センター（加藤氏）　そういうことです。

○森座長代理　21年も2月28日までの数字はあると思うのですけれども、それは書いていないと。分かりました。ありがとうございました。

○橋田座長　10ページのグラフも同様ですか。

○国民生活センター（加藤氏）　そうです。我々はいつも前年同時期をいつも比較して、それを色分けしてしまうので、ちょっと分かりづらいのですけれども、おっしゃるとおりです。

○橋田座長　分かりました。ありがとうございました。

では、柿沼委員、よろしくお願いします。

○柿沼委員　柿沼です。

山本委員と国民生活センター様に御質問がございます。

まず、山本委員ですが、3ページと19ページに消費者団体についての記載がございます。国や地方公共団体に設置されている消費生活センターではなく、消費者団体として記載した理由について教えていただければと思います。

例えば消費者教育ですと、消費者教育推進法では国と地方公共団体にある消費生活センターにおいては消費者教育を行うことが責務とされていますが、消費者団体や事業者団体の消費者教育は努力義務となっていますので、その辺り、なぜ消費者団体にしたのかということをお聞きしたいです。

また、役割の変化は必要というところと、負担軽減につながるというところについて、何か御提案があれば教えてください。

2点目です。国民生活センター様の今回のスライド資料にはなかったのですが、FAQを開設されているかと思います。そのFAQの効果について分析されているということがあれば教えていただければと思います。

以上、2点です。

○山本委員　山本です。

御質問ありがとうございます。

私がスライドの書き方を少し誤ったなと思っていますけれども、消費者団体等というイメージでございましたので、消費者を支援したり、保護したりする諸団体ということですので、先生がおっしゃるような特に深い意図はなく書いてしまったところでございます。

負担軽減のところはもう単純なお話で、こういった団体等につきましては様々消費者からの相談を受けると認識しております。この相談の中には、被害を実際に受けたと申しますか、被害が生じてしまっている後に御相談を受けることが多いように思いますので、今回、認知科学と技術を掛け合わせたような消費者をエンパワーする仕組みがあった場合には、これは楽観的な見方かもしれませんけれども、そういった事後の被害が一定程度防げる、軽減できることが期待されるので、その場合には被害を受けてからの相談が実際には減っていくのではないかと予想されるという趣旨でございました。

ただ、その代わりと言ってしまうと非常にディマンディングな感じがして大変申し上げにくいところもあるのですけれども、他方で、今日のお話にあるダークパターンの監視とか、逆にホワイトパターンのような消費者をエンパワーするようなユーザーインターフェースあるいはデザインといったものを褒めてあげる、あるいはそういったものをリスト化して公表してあげるというような役割、よりテクノロジーに対するセンシティビティーを高めていくようなことも同時に必要になるのではないかというのが、この文章の趣旨でございました。ありがとうございます。

○橋田座長　では、加藤さん、お願いします。

○国民生活センター（加藤氏）　2点目につきまして、加藤からお話しさせていただきます。

手元にどれぐらいのアクセス件数があるのかというデータはないのですけれども、もともとのFAQの機能につきましては、まず自己解決サポート機能というのが1つあります。トラブルに遭った後に検索をかける方が多いものですから、そういった方に向けて、まず自分で解決できるのであればそれを支援するということが1つあります。

2つ目が相談窓口の前さばき機能でございます。相談員による対応が必要な案件は相談窓口に誘導するというところで、そこの前さばき機能が1つあります。現状、アジャイル方式でいろいろ動かしながらやっているのですけれども、消費者がどういった検索キーワードで探しているのかというのを知ることもできますので、今何がニーズがあるのかというのをいち早く把握してFAQを更新していく。

例えば、エステの倒産があるとなったら、それをすぐFAQに入れるとか、紅麹の問題があれば、それを入れるとか、そういった形でなるべくクイックに対応しているところでございます。

以上でございます。

○橋田座長　ありがとうございます。

どうぞよろしくお願いします。

○原田委員　ECネットワークの原田でございます。

今日は、発表を非常に興味深く拝聴させていただきました。ありがとうございます。

山本委員と国民生活センターさんに1つずつ御質問がございます。

山本委員の発表は非常に興味深かったと思います。認知のバイアスという感じで、最後のまとめのところに「弱いが、強い個人」ということで、まさにこういった武器を持って自立する消費者というようなイメージを私も持って、まさにそのとおりだと思ったのですけれども、例えばウェアラブル端末などで今行われているような、バイタルデータみたいなものを取れるような機器なども出てきているかと思うのですけれども、そういったバイタルデータみたいなもの、例えば趣向とか感情とか、そういうものが消費者行動に反映されるというようなシーンもあるのかなと思います。

冷静ではない状態に消費者教育が届くわけではないので、そういったときに、自分はそういう状態なのだということが、冷静になるという部分での開発というものは非常に興味深いなと思っているのとともに、これは逆に消費者側の方も、強い消費者というのはとてもすばらしいのですけれども、昨今話題になっているカスハラみたいな、逆に消費者側の方が事業者に対して感情を爆発させてしまうようなケースも社会問題化している。逆にいうと、消費者側の方がこれ以上やるとカスハラになって警察を呼ばれちゃうぜみたいな、そういうところにも利用できる余地が、要は消費者側の方にも冷静な対応を促すような、そういうところも認知のバイアスのところで、いろいろな趣向のところで検討できる余地があるのかどうかというところが御質問です。

もう一つは国民生活センターさんの方ですけれども、いろいろな事例を拝見させていただきまして、明らかな詐欺というものと悪質商法みたいなところの区別がなかなか難しいかと思います。

一番簡単にいうと、連絡が取れるかどうかというところが一つの線引きだと思うのですが、連絡が取れなくなると救済が難しいということで。

○国民生活センター（加藤氏）　ただいま原田委員の音声が途切れてしまいました。

○原田委員　分かりました。

非常にそこが難しいと思うのですが、その線引きのところに、いわゆる連絡が取れるかどうかというところが、詐欺は全然連絡が取れないということになりますが、悪質商法だと、例えば消費生活センターさんのあっせんや介入によって解決するという部分が出てくるかと思います。

つまり、例えば今回のデジタル技術で活用するという点では、明らかな詐欺というところについては、事前にそういったところに行かないようにと。要は、未然防止が重要だという反面、例えば悪質商法みたいなものについては、連絡が取れるというところでは事後救済というところも従来どおり通っていく、そういった考えでよろしいのかどうかというところを国民生活センターさんの考えとして教えていただければと思います。

○橋田座長　山本委員、お願いします。

○山本委員　御質問ありがとうございました。

興味深い御指摘で、私がこの辺りの問題を考えるときに非常に気になっていたのが、いわゆるニューロマーケティングという神経科学的な分析を加えた、あるいはそれを使ったマーケティングで、ネットでもニューロマーケティングと引くと結構いろいろ出てくるという意味では、今後、生体情報を使ったマーケティングは増えてくる可能性もあるのかなと。

特に、メタバースとか、デバイスを目の周りにかぶっていく場合には、生体情報、例えばアイトラッキングのような視線をトラッキングしていくことも可能になってくるので、より詳細なプロファイリング、感情分析ができるのではないかなと思っています。そういう意味では、そこは消費者保護という観点からもまず重要な論点になるだろう。

考え方としては2つ、そもそも情報を取られるとかプロファイリングされるというところに対して本人のコントロール・アビリティーをどう高めていくのか。そこは情報保護の問題にもなってくるのかもしれませんけれども、ある種川上的な、プロファイリングをどうコントロールしていくか、まずそこが非常に重要だと思いますし、プロファイリングを認めた場合に、いろいろなバルネラブルな状態を使ったターゲティングが出てきたときに、おっしゃるように、今はこういう状態だからもう少し考えた方がよいのではないですかみたいなメッセージが出てくるということは一つあり得るのかなと。それでも本人が買いたいと思えば、それはもちろん本人の自己決定を尊重するということに最終的にはなるのでしょうけれども、ちょっと考えた方がよいのではないですかというような機能はあり得るのかなと思います。この辺の実際の効果は、御専門の先生方と議論しながら深めていく必要があるのではないかなと思いましたけれども、そう思いました。

もう一つは、先生がおっしゃるように、カスハラ対策として自分の感情というものをしっかり理解しておくことも必要だろうと思いますけれども、ここはどっちのイニシアチブでそれをやるか。つまり、事業者側が録音をしたり、そういう感情の浮き沈みみたいなことをデータとして取っておいてということですと、それは本人のコントロール・アビリティーが及ばないところで感情分析をされることになりますので、そこは本人がそれについてコントロールできるようにすることも他方で重要なのではないかなと思います。

以上です。

○原田委員　ありがとうございます。

○国民生活センター（加藤氏）　ありがとうございます。

今委員がおっしゃる整理で事例をピックアップしました。

確かに、相手方がいれば当然交渉するので、材料をどれだけ持っていられるかというところが一つあるので、証拠の記録みたいなものをうまく技術を使ってできないかということ。

その他、いろいろ考えたのですが、例えば美容医療でも安いと思って出向いて、その場で当日施術して帰ってきてしまう。その当日のところで技術を使って、やめますと言って帰らせることができるかというのは、なかなか難しいと思うのですけれども、そのときのやり取りが残っているとか、若者に多いマルチの取引なんかですと、早めに冷静になって、あれっと思ってもらえるような、早めに相談できるような工夫、クールダウンというのでしょうか、そういったきっかけみたいなものを技術を使うことによって、事業者側からの洗脳というか、思い込みみたいなものから脱却して、消費者が自分で判断できるような状況にさせてあげられるか、そういった仕掛けみたいなものが消費者のスマホの中にあれば非常に効果的なのではないかと思っております。

以上です。

○原田委員　ありがとうございました。

○橋田座長　ありがとうございました。

実は私も言おうと思ったことがあったのですが、もう時間が過ぎておりますので、この辺りで今回の議論を切り上げたいと思います。

星野委員、山本委員、国民生活センターの加藤様におかれましては、大変貴重な御知見をいただきましてありがとうございました。委員の皆様も、活発な御議論をありがとうございます。

本日の議論を踏まえまして、消費者をエンパワーするデジタル技術に関して、次回以降、また議論を深めてまいりたいと思います。

最後に、事務局から事務連絡をお願いします。

---

≪3．閉会≫

○江口企画官　本日は、長時間にわたりありがとうございました。

また、機材のトラブルで皆様に御迷惑をおかけしたことをお詫びいたします。

次回の会合につきましては、確定次第、御連絡させていただきます。

以上です。

○橋田座長　では、本日はこれにて閉会とさせていただきます。お忙しいところをお集まりいただきまして、どうもありがとうございました。次回以降もよろしくお願いします。

(以上)