ノート:ディープフェイク

活用事例の削除について

@消費者保護系編集者さんの2024年3月21日 (木) 08:26の編集において、

”ディープフェイクは元来否定的な用語で単なる生成AI応用事例は削除した”とありますが、その根拠と議論を行いたく中立性のテンプレートの貼り付けを行いました。

日本語においてのディープフェイクの語釈には以下のようにあり”元来否定的な用語”であるとの主張は誤りであると考えます。

「AI（人工知能）の深層学習であるディープラーニングと、偽物のフェイクを組み合わせた造語です。ディープフェイクとは、AI技術を活用した合成メディアともいえます。（中略）ディープフェイクはエンターテインメントの分野で活用されていますが、問題は技術の悪用です。」[1]

「ディープフェイク（deepfake）は本来、機械学習アルゴリズムの一つである深層学習（ディープラーニング）を使用して、2つの画像や動画の一部を結合させ元とは異なる動画を作成する技術である。」[2]

「ディープフェイクとは、AIを用いて動画や音声を合成する技術のことです。」[3]

以上のように、ディープフェイクとは元とは異なるメディアを作成する技術自体を指す語であり、”悪用もされうる”のであって、ディープフェイクという語ないしは技術を主題とするならば活用事例も適切に記述すべきではないでしょうか？

実際、ディープフェイクという技術の名前で実際活用[4][5]が為されていますので本項で言及することは私は必要であると考えます。

[1]NTT西日本,"ディープフェイク",https://www.ntt-west.co.jp/business/glossary/words-00030.html

[2]NECソリューションイノベータ,"ディープフェイク",https://www.nec-solutioninnovators.co.jp/ss/insider/security-words/33.html

[3]大和総研,"ディープフェイク",https://www.dir.co.jp/world/entry/deepfake

[4]THOMSON REUTERS","Practice Innovations: Seeing is no longer believing — the rise of deepfakes,https://www.thomsonreuters.com/en-us/posts/technology/practice-innovations-deepfakes/

[5]Vidnoz,"ディープフェイクで合成音声を作成する方法",https://jp.vidnoz.com/ai-solutions/deep-fake-audio.html--B himajin（会話） 2024年3月21日 (木) 12:12 (UTC)

B himajinさま、いつもお世話になっております。

ディープフェイクの用法について当方の行った編集について不快に感じられてしまったようで大変申し訳ございません。

当方も最初はそう考えたのですが、翻訳立項にあたり英語版を参照したところ英語版には合成メディアという記事があり、Deepfakeはその副題として扱われていたと考えました。

学術論文を参照したところ、ディープフェイクの語源は2017年にRedditでのフェイクポルノ製作が発祥となっており[6]、これより基盤技術を指すものではなく技術の悪用を指すものと考えました。

この件に関しましてはすぐに結論を出すのではなく、慎重に議論を重ねていければより良い結果につながると考えております。

案としてはディープフェイクとディープフェイクに使われる技術を明確に分離して扱うことを考えております。

[6]Are Deepfakes Concerning? Analyzing Conversations of Deepfakes on Reddit and Exploring Societal Implications,https://dl.acm.org/doi/fullHtml/10.1145/3491102.3517446

--消費者保護系編集者（会話） 2024年3月26日 (火) 08:56 (UTC)

消費者保護系編集者さんご返事ありがとうございます。

ぜひ、議論によって良き結論につなげられればと思います。そこで、議論を以下の論点について分けて考えたいと思います。

①"DeepFake"という英単語について

②"ディープフェイク"という日本語の単語について

③ディープフェイクの技術的側面について

①"DeepFake"という語について

　ご指摘の通り、最初に"DeepFake"という英単語が用いられ始めたのは2017年後半のRedditであるということは複数の文献において指摘されており[7][8][9]、GoogleTrendの動きから見てもおそらく正しいと考えることができます[10]。そうすると、現在は削除されている"DeepFake"という語の発祥はそのように記述することが適当であろうと考えます。他方で、2017年のフェイクポルノ動画によって"知られるようになった"とあり、究極の出典は探れていないとしています[7]。

また、これら文献においてDeepFakeとは何かという議論がされており、以下のような定義がされています。

「「ディープラーニング」と「フェイク」を組み合わせたディープフェイクは、実際には起こらなかった人々の発言や行動を描写するためにデジタル処理された非常にリアルなビデオです。」[7]

「オーディオビジュアルでは、ディープフェイクとは、従来の知覚ではそれが真実か偽りかを判断できない、極限まで本物を再現するものを指す」[8]

「ディープフェイク、 人工知能(AI)テクノロジーによって生成された、現実には存在しないものや、これまでに起こったことのない出来事を描写する画像、ビデオ、音声などの合成メディア。」[9]

これらのように単に、"DeepFake"という語それ自体には否定的な意味は記述されていません。

またその範囲については、

「このコミュニティ(Reddit)は、ディープフェイクという言葉の使用を、AIで作成されたすべての動画を指すように広げた。」[8]

などの記述もあり、これを踏まえると"DeepFake"という語自体は"AI技術を用いた真偽判別困難なコンテンツ"であると解釈できます。

一方で、「テクノロジーに関して言えば、ディープフェイクは敵対的生成ネットワーク (GAN)、つまり本物のように見えるメディアを作成するために連携する 2 つの人工ニューラル ネットワークの産物です。」[7]

とあるように"DeepFake"それ自体には"コンテンツ作成技術"としての意味は薄いと解釈できます。そういった意味では英語版における合成メディアの1分野としてのディープフェイクという扱いは適当であるといえそうです。

②"ディープフェイク"という日本語の単語について

さて、Wikipedia日本語版の充実には英語版の翻訳は非常に重要です。ただし、ここはWikipedia日本語版であるから日本語としての"ディープフェイク"の解釈についても考えなくてはなりません。ただ、これについては前述ものを参照すると[1][2][3]

日本語"ディープフェイク"という語には英語の語釈以外にも"真偽判別困難なコンテンツを作成する技術体系"としての意味合いが含まれると解釈できます。

以上より、日本語版においては"コンテンツ若しくは作成技術"の語釈の両方を記述すべきではないかと考えます。

③ディープフェイクの技術として

さて、前述のとおり日本語におけるディープフェイクは"真偽判別困難なコンテンツを作成する技術体系"としても考えることができ、その最適な手法は技術の進化に依りますものになります。空中での移動を可能とする"飛行機"のような内部的技術の変化に依らない結果ないしは用法を見た語であるとすることができます[7][8][9]。そのため、"ディープフェイク"に使われる技術については「GANなどを用いる」などの最小限の説明にしかなりえないと考えます。一方で、その"技術体系"としての使われ方についてについては日本語版において記述すべきと考えます。

以上のような解釈の中において"DeepFake"においても活用事例が紹介されています[7][8]。ただ、やはりどの文献においても懸念や危険性に多くの紙幅を割いているのはその通りであるため、百科事典Wikipediaとしては適切な割合で記述する必要はあります。

[7]Mika Westerlund,"The Emergence of Deepfake Technology: A Review",Technology Innovation Management Review, 9(11),2019. DOI: 10.22215/timreview/1282

[8]Victor Cerdan,Graciela Padilla-Castillo,"Historia del fake audiovisual: deepfake y la mujer en un imaginario falsificado y perverso",Historia y Comunicacion Social,2019. DOI: 10.5209/hics.66293

[9]Laura Payne,"deepfake",Britannica,2024. https://www.britannica.com/technology/deepfake.

[10]Google Trend,"deepfake". https://trends.google.co.jp/trends/explore?date=all&q=deepfake&hl=ja--B himajin（会話） 2024年4月1日 (月) 07:37 (UTC)

いつもお世話になっております。

B himajinさまのおっしゃる通り、ディープフェイクは"AI技術を用いた真偽判別困難なコンテンツ"と定義することも可能であると存じます。

その一方で"ディープフェイク"はもっぱらリスクや危険性に言及する文脈で使用されているため、その点を留意していただければ幸いです。

もう少し専門的な文献も調査してみたいと思いますので今暫くお待ちいただけますと幸いです。--消費者保護系編集者（会話） 2024年4月9日 (火) 08:17 (UTC)

消費者保護系編集者さん、お疲れ様です

前回の返信から一か月程度経過しましたが、文献調査についてはいかがでしょうか？

自分で問題提起をした以上、議論が有耶無耶の状態で本ページを放置を行うことも、また自分の判断のみで活用事例の記述の復活ないし追記を行うのも不適かと思います。そのため、反応がない場合はコメント依頼を出し合意形成を行いたいと存じますがいかがでしょうか？--B himajin（会話） 2024年5月14日 (火) 16:41 (UTC)