NHKスペシャル デジタルVSリアル(1)フェイクに奪われる“私”▽こんな話

NHK総合 2020年4月5日(日)午後9時00分~9時49分

第1回は氾濫するウソの情報「フェイク」との闘い。「フェイク」を信じた市民に無実の若者が殺害される事件やAIを使った最新技術「ディープフェイク」による身に覚えのない偽のポルノ動画が拡散される被害が世界各地で発生。選挙の現場では世論操作を狙って「フェイク」が飛び交う。信じたい情報だけが信じられ“真実”が揺らぐ時代、私たちにできることは?シリーズアイコンは渡辺直美。デジタルに翻弄されるリアルを体感!

出典:NHK HP

「事実」よりはるかに早く、広く“拡散力”を持つ「フェイク」

シリーズアイコン 渡辺直美さん
「ナオミが不倫」とフェイクが流れると「いいね」が、あっという間に増えた。

「事実」よりはるかに“拡散力”を持つと言われる「フェイク」。

2/26 トイレットペーパーが無くなるという、デマが流され、多くの人が買い込みに走りました。

メキシコでは「フェイク」によって誘拐犯とされ、無実の若者が、群衆に殺害された。
「子どもを誘拐した男が捕まった」「3人の子どもが連れ去られそうになっていたらしい」この投稿がされたとき、確かに、2人は警察署の中にいました。
路上飲酒をしており、警察に事情聴取を受けて警察署に連れて行かれていたのです。
メキシコでは、年間で推計8万件もの誘拐事件が起きています。
「臓器売買目的の誘拐があった」「15人の誘拐された子どもの遺体が発見された」というフェイクが流れ、不安はピークに達していたのです。
車の中に入っていた作業用の鎖の動画が、市民の正義感を駆り立てていったのです。
事情聴取を受けている警察署の前には、150人の人が集まってきました。
釈放されるやいなや、大衆は、リカルドさんとアルベルトさんを引きずり出し、殴る蹴るを繰り返し、横たわっている2人にガソリンをかけて、焼き殺すという事態にまでエスカレートしました。

「フェイク」は、“拡散力”が事実よりも20倍速い。
驚き、嫌悪感、怒りは反応が大きく拡散される。

台湾の選挙で「フェイク」が多く使われた。
アメリカ大統領選でも。
民族感情に訴えるものは、拡がりやすい。
私たちは知らず知らずのうちに、世論操作を受けている可能性も指摘されている。

「いいね」悪用、フェイクで世論操作をする会社

カルロス・メルロ氏は、情報操作の天才です。
金を持った人間は市民を利用している。
活用してきたのは「ボット」です。まず、ネットにある別人の写真を使用して、実在する人物のようなアカウントを大量に作成します。そして、それらのアカウントから自動的にコメントを書いたり「いいね」をつけたりするのです。
さらに、メルロ氏の下請け会社を取材することができました。
それは現役の政治家から依頼を受けたネットのアンケートです。得票数を増やしてほしいという依頼でした。
独自に開発した「いいね」や「コメント」の数を増やす、スマホ用のアプリをダウンロード(100万人の利用者も)してもらいます。インストールされると、自由にアカウントを使える権利を得ます。あと1分読めばわかるのに……。
本物のアカウント」を乗っ取り、自由に操作して、「いいね」や「コメント」をつけることができます。案内された部屋に飾れていたのは、ホワイトハウスの写真。

SNSの写真で、フェイクポルノの被害に

AIを使った最新の映像技術「ディープフェイク」によって、身に覚えのないポルノが作られる「フェイクポルノ」の被害が、報告されている。
AIはナオミさんの顔を5万ポイントに分け、分析、動きを学習、別人の映像データを加え、ナオミさんの表情を自由に動かす、別人の音声データで声もそっくりに。
ディープラーニング+フェイクディープフェイク
見逃せないこと、次々にアップされる、女性タレントのアダルト動画
ネットに公開されているプログラムを使えば、AIの知識が無くとも、簡単にでき、「収入源になれば、片っ端から手を出す」と割り切って、後ろめたさも無く作ってしまう。

被害にあったオーストラリアのノエル・マーティンさんに話を聞きました。
グーグルの画像検索システムで、自分の写真を何気なく検索し、身に覚えのない自分の裸の写真が、ポルノサイトに出回っているのを見つけたのです。
悪用されたのは、SNSで公開されていた写真でした。友人との旅行や食事、家族と撮影した写真などがポルノ女優の体とすげ替えられていた。初めてフェイクポルノを見つけたとき、すでにさまざまな、ポルノサイトに拡散してしまっていた。
拡散しているフェイクポルノには、本物の写真も一緒に投稿され、名前や住所などの個人情報が添えられているものもありました。
誰がやったのか心当たりもなく、ノエルさんは弁護士や警察などに相談。ポルノサイトの運営者などにも削除を求めましたが拡散が止まることはありませんでした。

SNSに写真や動画を投稿していますが、それが悪用されるということを考える必要があります。写真がオンライン上にある限り、皆、その危険にさらされている。

「フェイク」に対抗

フェイスブック社は改ざんされたメデイアを削除することに。
表現の自由との兼ね合いが難しいとのこと。

台湾の公共放送、コロナへの「フェイク」の拡散に対応。
ファクトチェック(事実の確認)しようにも、拡散のスピードに追いつけません。
真偽不明意見もあり、難しい。
デジタル担当 大臣唐鳳氏、ファクトチェックだけでは無理。
NPOの取り組み、関連情報も添えて、自分で考えてもらうように。

▽まとめ&感想

やっと、録画していたものを見ました。

「フェイク」は“拡散力”が、事実よりも20倍速い驚き、嫌悪感、怒りは拡散されやすい。
台湾の選挙でも、アメリカ大統領選でも「フェイク」が多く使われた。民族感情に訴えるものは、拡がりやすい。私たちは知らず知らずのうちに、世論操作を受けている。

「いいね」悪用、フェイクで世論操作をするメキシコの会社。
ダウンロード時、あと1分読めばわかるのに……。(小さい長い文章、ツイ読むのが面倒になるけれど気をつけなくては。)
「本物のアカウント」を乗っ取り、自由に操作「いいね」を集める。

SNSの写真で、フェイクポルノの被害に。投稿した写真や動画が悪用されるかもしれません。

ネット上の記事、事実か、ウソか、自分で考えなくてはなりません。
金を持った人間は、バンバン宣伝している、気をつけなくちゃ。