전 세계 여성들의 AI 이미지가 입소문을 타고 있다. 그들은 색채주의와 문화적 아름다움 기준을 장려합니까?

Jul 19, 2023

인도에서 온 "아름다운" 여성은 어떤 모습일까요?

필리핀이나 라오스는 어떻습니까?

인공지능(AI)이 답을 갖고 있다고 주장한다.

AI가 생성한 전 세계 '아름다운 여성'의 이미지가 몇 달 동안 입소문을 타고 있었습니다.

최근 AI World Beauties라는 계정이 게시한 남아시아 및 동아시아 여성의 AI 이미지를 담은 한 TikTok 동영상의 조회수는 170만 회가 넘었습니다.

그러나 전문가들은 편향된 데이터 세트와 고정관념에 대해 "훈련"되었기 때문에 이미지가 제한적이고 배타적이며 잠재적으로 해로운 이상을 영속시킬 수 있다고 말합니다.

입소문이 퍼지는 이미지는 "생성 AI" 또는 "GenAI"라고 알려진 프로그램에 의해 생성됩니다.

시드니 공과대학의 데이터 과학 및 혁신 강사인 시바니 안토네트(Shibani Antonette)는 ABC와의 인터뷰에서 "GenAI는 기계 학습 모델로 구동되는 일종의 인공 지능입니다."라고 말했습니다.

"수백만 개의 데이터 포인트에서 학습한 패턴과 정보를 사용하여 이전에는 존재하지 않았던 새로운 콘텐츠를 만듭니다."

Antonette 박사는 훈련 데이터의 품질과 다양성이 이미지 생성기의 출력을 결정한다고 말합니다.

ABC에서 연락을 받았을 때 바이럴 비디오 제작자는 Midjourney라는 확산 모델을 사용하여 이미지를 생성했다고 말했습니다.

그들은 이야기나 논평에서 더 이상 이름을 밝히기를 거부했습니다.

흰 피부, 얇은 코, 도톰한 입술, 높은 광대뼈.

바이럴 영상에 따르면, "아름다운" 여성들은 이와 같은 특징을 공유하고 있습니다.

편견은 이미지 생성과 안면 인식 기술에서 "심각한 문제"라고 Antonette 박사는 말합니다.

"모델은 인종과 성별에 대한 편견과 고정관념을 증폭시켜 왜곡된 현실을 만들 수 있습니다."라고 그녀는 말합니다.

"생성된 이미지의 대부분은 색채주의와 문화적 아름다움 기준을 영속시킵니다."

바이러스성 AI 이미지를 볼 때, Antonette 박사는 이를 생성한 모델이 "다양한 피부색과 모양을 가진 유색인종의 많은 얼굴을 포함하는 다양한 훈련 데이터세트를 갖고 있지 않았을 것"이라고 말했습니다.

"결국 이러한 모델에 대한 데이터는 특정 애플리케이션에 맞춰 적용 범위, 다양성, 포용성에 대한 책임 없이 지난 수십 년 동안 전체 인터넷에서 가져온 것입니다."

아시아 잭슨은 종종 사람들에게 자신의 인종을 추측하게 하고, 그녀가 사람들에게 말할 때 보통 "당신은 그렇게 보이지 않아요"라는 말을 듣습니다.

흑인과 필리핀인 배우이자 콘텐츠 제작자인 그는 어렸을 때 "혼혈"로 인해 "많은 정체성 문제"가 발생했다고 말했습니다.

이제 29세가 된 잭슨 씨는 자신의 자아감과 정체성이 더욱 강해졌다고 말합니다.

“누군가가 나에게 '나는 흑인으로 보이지 않는다', '아시아인처럼 보이지 않는다'고 말하면 나는 확실히 더 기분이 나빠진다.

"이 두 인종 범주에는 매우 다양한 피부색과 특징이 포함되어 있기 때문입니다."

사람들이 잭슨에게 "필리핀인처럼 보이지 않는다"고 말할 때도 마찬가지다.

"필리핀은 7,100개 이상의 섬과 수백 개의 다양한 인종 집단으로 구성된 국가입니다."라고 그녀는 말합니다.

잭슨 씨는 바이러스성 AI 이미지에 대해 "매우 무관심"하다고 느낍니다.

"AI는 비포괄적이거나 비정치적으로 올바르더라도 인간의 행동을 모방할 뿐입니다."라고 그녀는 말합니다.

“이건 현실에서 일어나는 일과 별반 다르지 않아요.

"동시에 모든 국가의 다양한 특징이나 인종을 30초짜리 동영상에 담는 것은 불가능하다고 생각합니다."

Ishara Sahama는 위의 이미지를 처음 봤을 때 "거의 천상적"이라고 생각했습니다.

그 후 그녀는 자신이 보고 있는 것이 "각 인종 그룹에서 가장 인정받는 아름다움의 기준"이라는 것을 깨달았습니다.

"각 국가 내 인종 그룹의 다양성은 하나의 모델로 일반화됩니다. 이는 축소적이고 해당 국가의 다양성을 반영하는 것과는 거리가 멀습니다."라고 그녀는 말합니다.

전략 디자인 에이전시인 에코 임팩트 그룹(Echo Impact Group)의 25세 공동 창업자는 인도인, 파키스탄인, 아랍인, 호주 원주민으로 오해를 받았습니다.

그녀는 스리랑카인이고 싱할라어, 타밀어, 말레이어 배경을 가지고 있습니다.

"자신의 민족성을 추측하고 묻지 않고 그것을 연관시키는 것이 나를 가장 짜증나게합니다."