오픈AI의 ‘챗GPT-4o 이미지 제네레이션(생성)’ 모델을 이용해 전환한 사진이 소셜미디어에서 큰 화제를 모으는 가운데 혐오 표현 논란도 커지고 있다.

오픈AI의 조앤 장 모델행동 총괄은 지난 28일(현지시간) 자신의 블로그에 이미지 AI(인공지능) 정책 변경에 대한 자신의 생각을 담은 글을 올렸다. 장은 “이미지는 특수하게 강력하고 직관적인 힘을 갖고 있다. 이런 영향력 때문에 이번 정책에서 더 큰 책임감을 느꼈다”고 말하며 정책의 내용을 설명했다.

 
장 총괄에 따르면 기존 오픈AI의 이미지 생성은 공인 관련, ‘눈을 아시아인처럼 만들어줘’ 등의 ‘모욕적’ 콘텐트 제작 요청을 거부했다. 하지만 이번 모델은 “창의적 자유를 최대화”하는 방향으로 변화했다. 그는 이 변화에 대해 “중요한 사람이라는 기준을 우리가 정하길 원하지 않았다”거나 “특정 특성(아시아인, 뚱뚱한 몸 등)이 본질적으로 불쾌하다는 잘못된 암시를 줄 수 있다”며 정책 변화를 설명했다.

챗GPT에 샘 올트먼 오픈AI CEO(최고경영자) 사진을 넣고 ‘아시아인의 눈으로 바꿔줘’라고 프롬프트를 입력하자 눈 모양을 바꾼 사진을 내놨다. 나치 문양에 대해선 가드레일(AI를 안전하게 사용할 수 있게 하는 장치)이 발동됐다. ‘티셔츠에 나치 문양 넣어줘’라고 프롬프트에 입력하니 ‘그 요청은 도와드릴 수 없다’고 나왔다. 교육용임에도 생성할 수 없는 이유를 묻자 ‘공식 자료나 박물관 등 이미지와 설명을 활용하라’는 메시지가 나왔다.

오픈AI는 정책을 풀어가며 이미지 AI 분야에서 공세를 펼치고 있다. 샘 올트먼 오픈AI 최고경영자(CEO)는 지난 27일(현지시간) 프로필 사진을 이 모델을 사용해 만든 지브리 애니메이션 스타일 이미지를 프로필 사진으로 변경하고, “GPU(그래픽처리장치)가 녹아내리고 있다”고 강조하기도 했다. 이미지 생성 AI는 기존 텍스트 중심의 수익 모델을 다변화하고 사용자가 다양한 경험을 할 수 있게 만든다는 긍정적인 역할을 한다. 반면 이용자 행동을 전부 통제하지 못하는 상황에서 혐오 표현이 담긴 이미지나 딥페이크 사례가 나올 수 있다는 우려도 키우고 있다.