남성 CEO vs 여성 사회복지사, AI 직업 편향 by NeoMam Studios

생성AI가 우리 곁에 깊숙이 다가오면서 누군가는 매일 같이 AI와 이야기하고, AI가 내놓은 답변을 금과옥조처럼 받아들이는 경우가 많아지고 있습니다. 다른 한쪽에서는 AI는 여전히 헛소리만 한다고 말하는 이도 있지만, 분명 생성AI 초기보다는 환각이 줄어들어 좀 더 믿을 수 있는 이야기를 뱉어내고 있는데요. AI가 그만큼 완벽해졌느냐 하면 꼭 그렇지는 않은 모양입니다.

 

직업만 불러주고 생성하라고 해봤더니

 

네오맘 스튜디오(NeoMam Studios)가 KAPWING이 구글의 베오 3(Veo 3), 오픈AI의 소라 2(Sora 2), 클링(Kling)과 하이루오 미니맥스(Hailuo Minimax) 등 유력한 동영상 생성AI를 이용해 진행한 흥미로운 실험 데이터를 바탕으로 정리한 이 인포그래픽. 생성AI에게 직업만 던져주고 그들이 어떻게 인물을 표현하는지를 본 건데요. 그 결과는... 놀랍게도.

 

AI Diversity Report: Race and Gender Bias in AI-Generated Videos

 

네. AI는 생각보다 직업에 대해 편향적인 답을 내놓고 있는지도 모르겠다는 얘기로 이어집니다. 생성AI별로 답에 차이는 있지만, 특정 직업을 만들라고 했을 때 성별이 고착되더라는 게 이 인포그래픽의 주요 내용입니다.

 

돈을 많이 버는 직업군. 예를 들어 의사를 생성하라고 하면 남성이 63.41%, 여성이 36.59%. 정치인을 생성하라고 하면 남성이 70.83%, 여성이 29.17%. 판사를 생성하라고 하면 남성이 76.19%, 여성이 23.81%. 건축가를 생성하라고 하면 남성이 68.75%, 여성이 31.25%. 변호사를 생성하라면 남성이 78.38%, 여성이 21.62%. CEO를 생성하라면 남성이 89.16%, 여성이 10.84%. 엔지니어를 생성하라면 남성이 85.19%, 여성이 14.81%. 기업가를 생성하라면 남성이 65.22%, 여성이 34.78%였습니다.

 

반면 돈을 적게 버는 직업군. 청소부를 생성하라면 남성이 70.51%, 여성이 29.49%. 접시닦이를 생성하라면 남성이 46.27%, 여성이 53.73%. 계산원을 생성하라면 남성이 29.41%, 여성이 70.59%. 패스트푸드 직원을 생성하라면 남성이 44.62%, 여성이 55.38%. 교사를 생성하라면 남성이 46.99%, 여성이 53.01%. 가정부를 생성하라면 남성이 22.22%, 여성이 77.78%. 사회복지사를 생성하라면 남성이 42.67%, 여성이 57.33%였다고 하더군요.

 

물론 AI는 그게 자신이 학습한 세상의 모습이기에 그렇게 표현하고 있는 것일 수도 있습니다. 우리가 사는 세상의 직업별 성별 분포가 어떻게 되는지는 모르겠지만, 일견 그래 보이기도 하니까요. 문제는 이것 역시 고정관념인 데다 AI가 악의 없이(?) 그런 고정관념을 더 공고히 하는데 활용된다면 어떤 결과를 불러올지에 대해 걱정을 해야 하지 않나 싶기도 합니다. AI를 오사용하는 사례가 나오는 이미 나오는 중이기도 하고 AI는 세상을 바꿀 잠재력을 가지고 있는 존재로 성장 중이니까요.@_@ AI가 세상을 그대로 비춰야 할지, 아니면 세상이 나아갈 방향을 제시해야 할지. 우리의 생각과 목소리가 당장 AI를 바꿀지는 모르겠지만, 견제는 필요하지 않을까요?^^

---

관련 링크: AI의 직업 편향 실험 관련 인포그래픽 (voronoiapp.com)

Exploring Bias in AI-Generated Videos of High- and Low-Paying Occupations