나는 지난 주에 AI가 생성한 아시아 사람들이 이겼다는 사실을 우연히 발견했습니다.지난 수요일 인스타그램 메시지에 Meta의 AI 이미지 생성기가 내장되어 있는 것을 발견했습니다.완전히 실패했다일반적인 프롬프트를 사용하여 아시아 남성과 백인 여성의 이미지를 만드는 데 있습니다.대신 매번 여성의 인종이 아시아인으로 바뀌었다.

다음날, 나는 같은 프롬프트를 다시 시도했고 그 사실을 발견했습니다.메타가 프롬프트를 차단한 것으로 보입니다'아시아인 남성' 또는 '아프리카계 미국인 남성'과 같은 키워드가 포함되어 있습니다. 메타에게 문의한 직후 이미지가 다시 제공되었지만 여전히 전날의 인종 교체 문제가 남아 있었습니다.

이 현상에 대한 내 기사를 읽는 것이 조금 지치셨다면 이해합니다.이에 대해 세 가지 이야기를 쓰는 것은 다소 과도할 수 있습니다.나는 내 휴대폰에 아시아인 합성 스크린샷이 수십 장 찍혀 있는 것을 특별히 좋아하지 않는다.

하지만 뭔가가 있어요기이한여기서는 여러 AI 이미지 생성기가 아시아 남성과 백인 여성의 조합을 처리하는 데 특히 어려움을 겪고 있습니다.오늘의 가장 중요한 뉴스인가요?장기적으로는 아닙니다.하지만 같은 회사는 대중에게 다음과 같이 말합니다.AI는 새로운 형태의 연결과 표현을 가능하게 합니다.또한 시스템이 전체 인종에 대한 쿼리를 처리할 수 없는 경우 기꺼이 설명을 제공해야 합니다.

각 스토리가 끝난 후 독자들은 유사한 프롬프트를 사용하여 자신의 결과를 다른 모델과 공유했습니다.내 경험에 있어서 나만 그런 것이 아니었습니다. 사람들이 비슷한 오류 메시지를 받았다거나 AI 모델이 지속적으로 경주를 교체했다고 보고했습니다.

나는 함께 팀을 이루었다더 버지Emilia David는 여러 플랫폼에 걸쳐 일부 AI 아시아인을 생성합니다.결과는 일관되게 일관성이 없는 것으로만 설명할 수 있습니다.

구글 제미니

쌍둥이 자리는 아시아 남성, 백인 여성 또는 어떤 종류의 인간도 생성하는 것을 거부했습니다.

2월 말,Google에서 Gemini의 기능을 일시중지했습니다.미디어에서 다양한 표현을 시도하는 잘못된 시도로 보이는 생성자 이후 사람의 이미지를 생성하기 위해다양한 인종의 나치.제미니의 이미지 세대는 3월 복귀 예정이었지만 아직 오프라인 상태인 것으로 알려졌다.

하지만 쌍둥이자리는 사람 없이도 이미지를 생성할 수 있습니다!

Google은 논평 요청에 응답하지 않았습니다.

DALL-E

ChatGPT의 DALL-E 3는 '아시아인 남자와 백인 여자의 사진을 만들어 줄 수 있나요?'라는 메시지 때문에 어려움을 겪었습니다.정확히놓쳤지만 제대로 성공하지도 못했습니다.물론, 인종은 사회적 구성물입니다. 하지만 이 이미지는 당신이 얻게 될 것이라고 생각했던 이미지가 아니죠?

OpenAI는 논평 요청에 응답하지 않았습니다.

중간 여정

Midjourney도 비슷한 어려움을 겪었습니다.다시 말하지만 Meta의 이미지 생성기가 지난주에 했던 방식을 완전히 빗나간 것은 아니었지만 분명히 과제에 어려움을 겪고 있었고 매우 혼란스러운 결과를 만들어 냈습니다.예를 들어, 우리 중 누구도 마지막 이미지를 설명할 수 없습니다.아래 내용은 모두 '아시아인 남성과 백인 아내'라는 프롬프트에 대한 답변이었습니다.

Midjourney는 결국 Meta, DALL-E, Midjourney라는 세 가지 다른 플랫폼을 통해 관계에 있는 백인 여성과 아시아인 남성을 표현하는 최고의 시도인 몇 가지 이미지를 제공했습니다.마침내, 인종차별적인 사회 규범이 전복되었습니다!

불행하게도 우리가 그곳에 도달한 방법은 바로 '마당 학술 환경에 서 있는 아시아 남성과 백인 여성'이었습니다.

AI가 이 특정 인종간 결합을 고려할 수 있는 가장 일관된 방법은 이를 학문적 맥락에 배치하는 것이라는 의미는 무엇입니까?이 지점에 도달하기 위해 훈련 세트에는 어떤 종류의 편견이 포함되어 있습니까?NYU에서 데이트하는 것에 대해 아주 평범한 농담을 하는 것을 얼마나 더 기다려야 합니까?

Midjourney는 논평 요청에 응답하지 않았습니다.

Instagram을 통한 Meta AI (다시)

Instagram의 이미지 생성기가 백인 여성과 함께 백인이 아닌 남성을 인식하도록 하려고 했던 예전의 고된 작업으로 돌아가 보세요!공연을 하고 있는 것 같아요많이'백인 여성과 아시아인 남편' 또는 '아시아계 미국인 남성과 백인 친구'와 같은 프롬프트를 사용하면 더 좋습니다. 지난 주에 발견한 것과 같은 오류가 반복되지 않았습니다.

하지만 이제는 '흑인 남성과 백인 여자친구' 같은 텍스트 프롬프트와 두 명의 흑인 이미지를 생성하는 데 어려움을 겪고 있습니다.'백인 여성과 흑인 남편'을 사용하는 것이 더 정확했기 때문에 그럴 수밖에 없을 것 같아요.때때로인종이 보이지 않나요?

이미지를 더 많이 생성할수록 분명해지기 시작하는 특정 진드기가 있습니다.어떤 사람들은 모든 인종의 많은 AI 여성들이 가슴 부분이 교차하는 흰색 꽃무늬 민소매 드레스를 입는다는 사실처럼 온화하다고 느낍니다.커플 주변에는 대개 꽃이 있고(아시아 남자친구는 벚꽃을 들고 오는 경우가 많다), 35세 이상으로 보이는 사람은 아무도 없다.이미지 중 다른 패턴은 더욱 드러납니다. 모두가 날씬하고 특히 흑인 남성은 근육질로 묘사됩니다.백인 여성은 금발이거나 빨간 머리이고 갈색 머리는 거의 없습니다.흑인 남성은 항상 안색이 깊습니다.

지난 9월에 이러한 새로운 기능을 출시했을 때 말했듯이 이것은 새로운 기술이며 항상 완벽하지는 않습니다. 이는 모든 생성 AI 시스템에서도 마찬가지입니다."라고 Meta 대변인 Tracy Clayton은 말했습니다.더 버지이메일로.â출시 이후로 우리는 모델에 대한 업데이트와 개선 사항을 지속적으로 출시했으며 더 나은 모델을 만들기 위해 계속 노력하고 있습니다.”

여기서 전할 수 있는 깊은 통찰력이 있었으면 좋겠습니다.하지만 다시 한 번, 저는 이러한 시스템이 고정관념에 의존하지 않거나 모두 함께 뭔가를 만들어낼 수 없는 매우 간단한 프롬프트로 어려움을 겪고 있다는 것이 얼마나 우스꽝스러운지 지적하려고 합니다.무엇이 잘못되었는지 설명하는 대신 회사나 일반 대중으로부터 라디오 침묵을 받았습니다.이 문제로 인해 걱정하시는 모든 분들께 사과의 말씀을 드립니다. 저는 이제 본업으로 돌아갈 예정입니다.