사람들의 집단지성을 이용해 생성형 AI의 취약점을 발견하기 위한 '생성형 AI 레드팀 챌린지' 대회가 국내에서 처음으로 열렸습니다. <br /> <br />대회 참가자는 직업·연령에 상관없이 AI에 관심이 많은 지원자 천 명으로 구성됐는데, 교묘한 질문으로 AI를 공격해 잘못됐거나 부적절한 대답을 도출해 내는 방식으로 진행됐습니다. <br /> <br />공격 대상 AI는 네이버와 SKT 등 국내 4개 기업의 거대언어모델, LLM인데, 유해한 답변이나 편견과 차별, 악성코드 정보제공, 오답이나 모순적 답변도 포함됐습니다. <br /> <br />과기정통부는 이번 AI레드팀 챌린지가 지난해 8월 미국 빅테크들에 이어 이번이 두 번째 라며, 결과를 정리해 AI 가이드라인을 만들 계획이라고 밝혔습니다. <br /> <br /> <br /> <br /><br /><br />YTN 김기봉 (kgb@ytn.co.kr)<br /><br />※ '당신의 제보가 뉴스가 됩니다' <br />[카카오톡] YTN 검색해 채널 추가 <br />[전화] 02-398-8585 <br />[메일] social@ytn.co.kr<br /><br />▶ 기사 원문 : https://www.ytn.co.kr/_ln/0102_202404120212097442<br />▶ 제보 안내 : http://goo.gl/gEvsAL, 모바일앱, social@ytn.co.kr, #2424<br /><br />▣ YTN 데일리모션 채널 구독 : http://goo.gl/oXJWJs<br /><br />[ 한국 뉴스 채널 와이티엔 / Korea News Channel YTN ]
