상세 컨텐츠

본문 제목

어도비(Adobe)는 어떻게 생성형 이미지 인공지능 'Adobe Firefly' 는 편향성 최소화(Bias Mitigation) 하였는가?

전략_경영/AI트랜스포메이션

by Marketcast 2023. 5. 11. 08:15

본문

Stable Diffusion, DALL-E, Midjourney 같은 생성형 이미지 인공지능 서비스들이 저작권 및 편향성의 문제들이 이슈가 되면서 Adobe는   Adobe는 'Adobe Firefly' 를 출시하면서 이러한 문제들에 관하여 보다 책임감 있고 윤리적인 측면에서 차별화된 대안들을 제시하고 있다.  

Adobe가 Firefly를 통해 해결하고자 하는 책임감 있는 AI의 또 다른 측면은 사회적 고정 관념이 고착화되지 않도록 생성된 이미지의 편향성을 줄이는 것이다. 이미지 생성기는 학습 데이터에서 학습한 사회적 편견에 따라 이미지를 출력하는 경향이 있다.

예를 들어서 '학생들이 모여있는 교실에서 가르치는 교수님' 이라는 질의어를 미드저니(Midjourney)에 입력하면 대부분이 백인남성의 교수들이 가르치는 모습의 이미지를 출력한다.

그러나 Adobe Firefly는 이러한 편향성을 줄여서 여성도 포함이 되며 다양한 인종들이 결과물들이 나올 수 있도록 편향성을 최소화 하였다.

 

Adobe Firefly FAQ는 "포괄적인 데이터 세트에 대한 교육 외에도 유해한 고정 관념이 지속되지 않도록 모델을 지속적으로 테스트하고 있습니다."라고 언급하고 있다. 

관련참고기사:Adobe Firefly for Generating Visual Illustration?

 

Adobe Firefly for Generating Visual Illustration?

Adobe’s Firefly tries to address some of the issues with image generation models.

generative-ai-newsroom.com

 

관련글 더보기

댓글 영역