オレム — ユタバレー大学学長アストリッド・トゥミネスは戒厳令下のフィリピンで育ち、選挙制度への不信感がもたらす損害を目の当たりにした。
「その期間、選挙はありませんでした。そして、選挙があるときは、私が子供の頃でさえ、常に争われました。非常に、非常に暴力的でした」とトゥミネス氏は語った。 「私は移民として米国にやって来ましたが、人々が平和的に権力を放棄するなんて信じられませんでした。私の国ではそんなことは全く知りませんでした。」
これは彼女にとって決して当たり前のことではありません。
それでも、ピュー・リサーチ・センターによると、選挙管理の信頼レベルには党派間の大きな隔たりがあるという。
先週発表された新たな調査によると、カマラ・ハリス副大統領の支持者の９０％を含む有権者の７３％が選挙がうまく運営されると期待している一方、ドナルド・トランプ前大統領の支持者の５７％も同様に感じている。
これには無数の理由がありますが、月曜日に発表された UVU の調査によると、選挙のセキュリティと偽情報に関連する懸念の 1 つは、AI によって生成されたディープフェイクの存在です。
2019 年から 2023 年にかけて、オンラインのディープフェイクの数は 552% 増加し、ディープフェイク コンテンツは今後も指数関数的に増加し続けることが調査で示されています。
UVUゲイリー・R・ハーバート公共政策研究所の研究助手ウィリアム・フリードマン氏は、「ディープフェイクコンテンツの台頭により、信頼できる情報源を見つけることが難しくなり、オンライン情報に対する不信感が高まっている。この問題は大きな意味を持っている」と述べた。
この学際的な研究では、全米の被験者 244 人を対象に、本物と AI が生成したディープフェイクのビデオと音声をテストし、両者を区別する能力を判定しました。
そのために、UVU Sales Marketing Applied Research Test Laboratory (SMARTLab) は、視線追跡や顔コーディングなどの生体認証手法を採用して結果を分析しました。この研究では、ディープフェイクが選挙にどのような影響を与える可能性があるかについても調査し、選挙の安全とセキュリティを確保するために必要な対策について概説しました。
では、ディープフェイク コンテンツの増加が避けられない中、この研究ではこの問題について何がわかったのでしょうか?
研究でテストされたディープフェイクは、信頼性、信頼性、説得力などのカテゴリーで本物のコンテンツと同等以上の評価を受けました。基本的に、ディープフェイクは本物のメディアと同じくらい信頼できると見なされていることが研究で示されています。
「問題はもはや、ディープフェイクが（信頼できると見なされるほど）優れたものになるかどうかではない。問題は、誰がそれほど優れたディープフェイクを作成できるのか、そしてその能力が普及するまでにどれくらいの時間がかかるのかということだ」とホープ氏は語った。ファーガー氏は、UVU国家安全保障研究センターの戦略研究チームリーダーである。
この研究から得られるもう 1 つのポイントは、一般的に人々はディープフェイクを識別することに熟練していないということです。実際、参加者の 50% 以上が、ディープフェイクを見た可能性があると知らされた後でも、ディープフェイク コンテンツを「おそらく本物」または「間違いなく本物」と評価しました。
「この研究では、ソーシャルメディア上のビデオをスクロールする自然な状況を可能な限りシミュレートしました。一般に、人々のデフォルトの反応は、現実生活と同じように、本物のコンテンツを見ていると思い込むことでした」とフェイガー氏は述べた。 。
さらに、ほとんどの参加者は、コンテンツが本物か偽物であるかについての仮定が正しいと確信しており、遡及的なディープフェイクの特定が非常に難しいことを示唆しています。
「これは、優れたディープフェイクを使えば、見知らぬ人が不正に法執行機関、現場の専門家、個人的な友人、政治家になれる可能性があることを意味する」とフェイガー氏は述べた。 「私たちの調査によると、誰かがあなたのアイデンティティ、権限、専門知識を少なくとも 50% の精度で採用する可能性があります。」
さらに、メディアが本物であっても、ディープフェイクの存在と蔓延は、それ自体で問題を引き起こします。研究によると、実際のビデオを見た参加者のうち、本物のビデオを見たと思ったのはわずか 70% でした。これは、何かがディープフェイクである可能性があるという考えだけで、少なくとも、自分が見ているものが何なのかを人々に確信させるのに十分であることを示唆しています。
この研究から得られる最後の重要な点は、人々はディープフェイクを識別するのがあまり得意ではないにもかかわらず、無意識のうちにディープフェイクに対して異なる反応を示しているということです。
「実際のビデオでは、恐怖、喜び、驚きといった自然な感情がより強くなりました」とフェイガー氏は語った。 「一方、ディープフェイクビデオには、より高いレベルの関心と混乱がありました。この混乱は、ビデオのいくつかの不完全さから生じました…顔、目、歯が完全に正しくありません。しかし、問題はありません。この混乱は何らかの意識レベルで感じられたことを示しています。」
研究によれば、これはディープフェイクメディアを閲覧した際の「不気味の谷」効果に関連した無意識の反応を示唆しているという。問題は、人々が見ているものが偽物であると実際に知らせるのに十分なレベルでは感じられていないことです。
このような驚くべき調査結果を考えると、危険なディープフェイク メディアと相まって、今日の政治情勢がこれほど不安定であることも理解できます。
それでも、ユタ州の指導者たちは時間をかけて、州、そして国家の選挙の誠実さを再確認した。
ユタ州のディードレ・ヘンダーソン副知事は、「私たちは、選挙結果がどのようなものであれ、条件を整えて受け入れるようにならなければならないと思う」と語った。 「私たちのシステムには良いシステムがあります。私たちのシステムにはいくつかの欠陥があり、改善するために継続的に取り組んでいます。私たちのシステムは人間によって運営されており、時には小さな間違いを犯しますが、時には大きな間違いを犯します。しかし、私たちはそうしなければなりません」気に入らない選挙結果を受け入れる習慣を取り戻すことだ。それがなければ、私たちは国としてかなり見失ってしまうだろう。」
この記事の重要なポイントは、大規模な言語モデルの支援を受けて生成され、編集チームによってレビューされました。記事自体は人間が書いたものだけです。
