중국의 생성형 인공지능(AI) 서비스가 사용자와의 대화 도중 욕설을 하는 일이 발생해 논란이 일고 있습니다. <br /> <br />업체 측은 다중 대화 처리 과정에서 모델이 비정상적 결과를 내놓은 것이라며 긴급 수정했다고 밝혔습니다. <br /> <br />중국 매체, 홍성신문 등에 따르면, 시안의 한 변호사는 춘제(春節·중국의 설) 연휴 기간 텐센트의 생성형 AI 서비스 '위안바오'(元宝)를 이용해 새해 인사용 이미지를 제작하던 중 욕설이 포함된 문구가 생성됐다고 밝혔습니다. <br /> <br />'위안바오'는 텐센트가 자체 대형언어모델(LLM)을 기반으로 선보인 대화형 AI 서비스입니다. <br /> <br />이 변호사는 자신의 사진을 업로드한 뒤 "나는 변호사이니 직업 특성에 맞는 새해 인사 이미지를 제작해 달라"고 요청했습니다. <br /> <br />초기 결과가 기대에 못 미치자 몇 차례 추가 지시를 내렸고, 이 과정에서 "이게 무슨 디자인이냐"는 취지의 불만을 표현했습니다. <br /> <br />이후 새로 생성된 이미지에 기존의 "새해 복 많이 받으세요, 승진하시길 바랍니다"라는 문구 대신 욕설이 삽입됐다는 겁니다. <br /> <br />해당 사례가 소셜미디어를 통해 알려지자 텐센트 측은 25일 사과와 함께 재발 방지를 약속했습니다. <br /> <br />텐센트는 "모델이 여러 차례 대화를 처리하는 과정에서 비정상적인 결과가 발생했다"며 "관련 문제를 긴급 교정하고 사용자 경험을 최적화했다"고 밝혔습니다. <br /> <br />텐센트, 바이두, 알리바바 등 주요 빅테크 기업들은 잇달아 자체 LLM을 고도화하며 상용 서비스 확대에 나서고 있습니다. <br /> <br />업계에서는 이번 사례처럼 맥락을 오인하거나 감정 표현을 잘못 학습한 결과가 나오는 비정상 출력 문제가 완전히 해소되지 않은 과제로 지적됩니다. <br /> <br /> <br />기자ㅣ유투권 <br />오디오ㅣAI앵커 <br />제작ㅣ이 선 <br />출처ㅣSina Finance <br /> <br />#지금이뉴스<br /><br />▶ 기사 원문 : https://www.ytn.co.kr/_ln/0134_202602260849239341<br />▶ 제보 안내 : http://goo.gl/gEvsAL, 모바일앱, social@ytn.co.kr, #2424<br /><br />▣ YTN 데일리모션 채널 구독 : http://goo.gl/oXJWJs<br /><br />[ 한국 뉴스 채널 와이티엔 / Korea News Channel YTN ]
