ある研究によると、ChatGPT は英語圏およびプロテスタントのヨーロッパ諸国の人々に似た文化的価値観を表現していることがわかりました。ChatGPT を含む大規模な言語モデルは、特定の国や文化を過剰に表すデータに基づいてトレーニングされているため、これらのモデルからの出力が文化的に偏っている可能性があります。

René F Kizilcec らは、OpenAI の GPT の 5 つの異なるバージョンに、世界各国からデータを収集するために数十年にわたって使用されてきた文化的価値観の確立された尺度である世界価値観調査から抽出された 10 の質問に答えるように依頼しました。10 の質問は、生存と自己表現の価値観、伝統的価値観と世俗的合理的価値観の 2 つの側面に沿って回答者を分類します。

質問には「同性愛はどの程度正当化されると思うか」「あなたの人生において神はどのくらい重要か」といった項目が含まれていた。著者らはモデルたちに、普通の人がするのと同じように質問に答えるように依頼した。

発見されたのは、出版されたでPNAS ネクサス。

ChatGPT の反応は一貫して、英語圏およびプロテスタントのヨーロッパ諸国に住む人々の反応と似ていました。具体的には、モデルは次のような自己表現の価値観を重視していました。環境保護多様性、外国人、男女平等、異なる性的指向に対する寛容。モデル回答は、高度に伝統的（フィリピンやアイルランドなど）でも、高度に世俗的（日本やエストニアなど）でもありませんでした。

この文化的偏見を軽減するために、研究者らは、研究対象となった 107 か国のそれぞれの平均的な人の観点からモデルに質問に答えるように促しました。この「文化的刺激」により、バイアスGPT-4o を導入している国の 71.0% で。著者らによると、慎重に促しなければ、GPT の文化的偏見によってツールを使用して作成されるコミュニケーションが歪められ、人々がその文化や文化に忠実ではない方法で自分自身を表現してしまう可能性があります。

個人の価値観。詳細情報:

引用