DALL-E 2와 스테이블 디퓨전의 숨겨진 편향성: AI 이미지 생성의 문제
테크씬의 Hot Tech 뉴스 떠먹이기 ! 최신 생성형 AI 모델 DALL-E 2와 스테이블 디퓨전은 여전히 심각한 편향성을 보여준다. 허깅 페이스와 독일 라이프치히 대학교 연구원들은 AI 이미지 생성 모델의 편향성을 확인할 수 있는 온라인 툴을 개발하였다. 연구원들은 다양한 인종, 성별, 직업으로 구성된 96,000장의 이미지를 생성하여 편향성을 분석하였다. 군집화(Clustering) 기술을 사용하여 이미지에 숨겨진 패턴을 찾아내고, AI 이미지 모델이 어떤 주제를 기준으로 그룹으로 분류하는지를 분석하였다. 연구 결과, AI 이미지 모델은 백인 남성 이미지를 생성할 가능성이 높으며, 영향력 있는 지위에 있는 사람의 이미지를 생성하도록 지시할 때 편향성이 더욱 두드러진다. 형용사와 직업의 조합에 따라 ..
AI
2023. 5. 8. 07:44