テイラー・スウィフトからオーストラリアの女子生徒に至るまで、あらゆる人々をターゲットにするために使用されてきた有害な AI 副産物であるディープフェイク ポルノを抜きにして人工知能について語ることは困難です。

しかし、最近の報告スタートアップの Security Heroes が 95,820 件中から見つけたものディープフェイクポルノビデオさまざまな情報源から分析したところ、53% が韓国の歌手や女優をフィーチャーしており、このグループが不当にターゲットにされていることを示唆しています。

では、韓国の背後には何があるのかディープフェイク問題？そしてそれに対して何ができるでしょうか?

被害者には10代と未成年者もいる

ディープフェイクとは、誰かが実際に行ったことのない発言や行動を説得力を持って描写する、デジタル処理された写真、ビデオ、または音声ファイルです。韓国のティーンエイジャーの間では、ディープフェイクの作成が非常に一般的になっており、一部ではそれを疑う人もいるいたずらとして。そして、彼らは有名人だけをターゲットにしません。

Telegram では、中学生や高校生、教師、家族などの女性に対する画像に基づく性的虐待を行うという特定の目的でグループ チャットが作成されています。自分の写真を載せている女性たちソーシャルメディアプラットフォームのようなカカオトーク, InstagramやFacebookもよく狙われます。

加害者は AI ボットを使用して偽の画像を生成し、被害者のソーシャル メディア アカウント、電話番号、カカオトークのユーザー名とともに販売および/または無差別に広めます。ある情報によれば、ある Telegram グループには約 220,000 人の会員が集まりました。ガーディアンレポート。

認識の欠如

ジェンダーに基づく暴力が引き起こされているにもかかわらず、重大な害韓国の被害者に対するこの問題に対する認識は依然として不足している。

韓国はここ数十年で急速な技術発展を遂げた。で1位にランクされています世界のスマートフォン所有率インターネット接続が最も優れていると言われています。レストラン、製造業、公共交通機関など、多くの仕事がロボットやAIに急速に置き換えられています。

しかしヒューマン・ライツ・ウォッチとして指摘する、この国の男女平等やその他の人権対策の進歩はデジタルの進歩に追いついていない。そして、技術の進歩により、実際に問題が悪化する可能性があることが研究で示されています。ジェンダーに基づく暴力。

2019年以来、韓国では子供や青少年に対するデジタル性犯罪が大きな問題となっている。「N番目の部屋」事件。この事件には、数百人の若い被害者（その多くは未成年者）と約26万人の参加者が搾取的で強制的な親密なコンテンツの共有に関わっていました。

この事件は広範な怒りを引き起こし、より強力な保護が求められています。このことは、2020年性犯罪処罰等特例法の条件強化にもつながった。それにも関わらず、最高検察庁はわずか28％と答えた2021 年に逮捕されたデジタル性犯罪者合計 17,495 人のうち、起訴されたのは、デジタル性犯罪に効果的に対処する上での継続的な課題を浮き彫りにしている。

2020年に法務省は、デジタル性犯罪対策委員会が提案されました約60の法規定がまだ受け入れられていない。チームは2022年の尹錫悦政権発足直後に解散した。

2022年の大統領選挙期間中、ユンは言った韓国には「構造的な男女差別はない」と主張し、ジェンダーに基づく暴力の防止を担当する主要省である女性家族省を廃止すると約束した。この投稿空席のままだ今年の2月以来。

テクノロジーでも解決できるのでしょうか？

しかし、AI は必ずしも有害であるわけではなく、韓国もこれを証明しています。2022年、ソウル市が運営するデジタル性犯罪支援センターツールを開発したディープフェイク画像とビデオを 24 時間自動的に追跡、監視、削除できます。

2024 年に優勝したテクノロジー国連行政賞ディープフェイクを見つけるのにかかる時間を平均 2 時間から 3 分に短縮するのに役立ちました。しかし、このような試みはディープフェイクによるさらなる被害を軽減するのに役立つかもしれないが、被害者への影響は持続する可能性があるため、完全な解決策になる可能性は低い。

意味のある変化を起こすためには、政府はソーシャルメディアプラットフォームやメッセージングアプリなどのサービスプロバイダーにユーザーの安全を確保する責任を負わせる必要がある。

一体となった取り組み

8月30日には、韓国政府が発表韓国におけるディープフェイクの所持、購入、閲覧を犯罪とする法律の制定を推進する計画だ。

しかし、韓国におけるディープフェイクがジェンダーに基づく暴力の有害な形態であると認識されるまで、捜査と裁判は不十分なまま続く可能性がある。ディープフェイク問題に対処するには、より強力なアプローチを含む多面的なアプローチが必要となる法律、改革、教育。

韓国当局はまた、ジェンダーに基づく暴力に対する国民の認識を高めることを支援し、被害者を支援するだけでなく、そもそも暴力を防ぐための積極的な政策や教育プログラムの開発にも注力しなければならない。

この記事はから転載されています会話クリエイティブ・コモンズ・ライセンスに基づいて。読んでください元の記事。