シュトゥットガルト州サービス管理研究センター (ZMM) の DHBW による最近の研究では、画像や広告内の差別的なコンテンツを認識する人工知能 (AI) の能力が調査されており、目覚ましい進歩と既存の限界の両方が示されています。

この総合的な研究では、AI にさまざまな画像や広告を提示し、それらを評価するよう求めました。これには、ドイツ広告評議会が最近批判した60件の広告などが含まれていた。結果は、AI が広告内の差別を印象的な精度で識別する驚くべき能力を備えていることを示しています (F1 スコア: 0.949)。その結果、AIはドイツ広告評議会によって批判された広告を潜在的に差別的であると概ね評価した。同時に、ほとんどの場合、非差別的な広告はそのような警告を受けませんでした。

わずか 10 年前、AI が画像に描かれたオブジェクトを正しく分類するのに大きな困難があったことを考えると、これは特に印象的です。その間に、何百万もの画像のおかげで、AI は犬と猫をほぼ正確に区別できるようになりました。AI の急速な進歩は、その限界がどこにあるのかという問題を引き起こしています。学生のヘレン・ベッカーズ氏は、「広告だけを提示されて評価を求められた場合に、AIがどの程度差別的行為を認識するのかを知りたかった」と研究のアプローチについて説明する。

これは、性別、宗教、イデオロギー、人種差別、または出身地に基づいて人々に不利益をもたらす可能性のあるアルゴリズムによる差別が大幅に増加していることを考慮すると、特に関連性があります。アルゴリズムによる差別が申請プロセス、単位の割り当て、医療、犯罪者の再犯確率の計算などのさまざまな分野に影響を与える深刻な問題になりつつあるため、この側面はますます重要になっています。

ChatGPT が性的差別と固定観念を検出できるという洞察は特に明らかです。交換された変更された広告性別役割AI は逆の状況でも差別を識別できることを示しました。「2 つのシナリオにおける ChatGPT によるこの異なる評価は、逆の状況でも差別を特定できる能力を強調しています」と学生のスヴェン・ピーターは研究で得られた別の発見を共有しながら述べた。

しかし、AI は、物体化、軽蔑、権力の乱用など、他の形態の差別を特定するのに限界に達しました。「研究結果は、差別をより効果的に認識し、防止するために AI システムをさらに開発する必要性を強調しています」と学生のマリウス・ファンクは報告しています。この研究は、AI技術が将来どのようにAI技術と戦うことができるかについて重要な疑問を投げかけている。差別さまざまな分野で平等を促進します。提供元

バーデン ヴュルテンベルク州デュアーレ大学