티스토리 뷰
목차
테크씬의 Hot Tech 뉴스 떠먹이기 !
- 최신 생성형 AI 모델 DALL-E 2와 스테이블 디퓨전은 여전히 심각한 편향성을 보여준다.
허깅 페이스와 독일 라이프치히 대학교 연구원들은 AI 이미지 생성 모델의 편향성을 확인할 수 있는 온라인 툴을 개발하였다. - 연구원들은 다양한 인종, 성별, 직업으로 구성된 96,000장의 이미지를 생성하여 편향성을 분석하였다.
- 군집화(Clustering) 기술을 사용하여 이미지에 숨겨진 패턴을 찾아내고, AI 이미지 모델이 어떤 주제를 기준으로 그룹으로 분류하는지를 분석하였다.
- 연구 결과, AI 이미지 모델은 백인 남성 이미지를 생성할 가능성이 높으며, 영향력 있는 지위에 있는 사람의 이미지를 생성하도록 지시할 때 편향성이 더욱 두드러진다.
- 형용사와 직업의 조합에 따라 생성되는 이미지에서 성별에 대한 고정관념과 편견이 놀라울 정도로 반영되었다.
- AI 모델은 특정 민족과 성별에 대한 이미지를 다양한 방식으로 표현하며, 이는 도구를 통해 확인되었다.
- AI 연구원들은 이미지 생성 AI가 제3의 성 정체성 또는 성별의 논바이너리(nonbinary)의 백인을 동일하게 묘사하지만, 기타 인종의 논바이너리 사람들에 대해서는 보다 다양한 이미지를 생성한다는 사실을 발견하였다
- OpenAI와 StabilityAI는 AI 시스템에 깊게 자리잡은 편향성을 완화하기 위한 수정 버전을 도입했다. 그러나, 허깅 페이스의 새로운 도구들은 이러한 수정 버전의 효과가 제한적임을 보여준다.
- AI 모델의 편향성은 모델이 다양한 분야에서 채택되고 더욱 사실적인 이미지를 만들어 내면서 시급한 문제로 대두되고 있다. 이러한 편견은 점차 심화될 위험이 있다고 루치오니 연구원이 말했다.
반응형
'AI' 카테고리의 다른 글
| 프롬프트 엔지니어링 : 챗GPT 대화를 마스터하는 방법 (0) | 2023.05.26 |
|---|---|
| 인간과 AI의 대화 : ChatGPT와 그 배경 기술들 (GPT, LLM) (0) | 2023.05.11 |
| 인공지능 판도라의 상자를 열다 : LLM, 챗GPT, 그리고 직업의 미래 (7) | 2023.04.26 |
| 스몰 데이터로 AI 만들기: Few-Shot, Zero-shot 학습의 힘 (0) | 2023.03.09 |
| ML Ops 궁극 가이드: MLOps 및 DevOps의 개념과 차이점 이해 (0) | 2023.02.04 |