■ 진행 : 이현웅 앵커 <br />■ 출연 : 고한석 / 과학기상부 기자 <br /> <br />* 아래 텍스트는 실제 방송 내용과 차이가 있을 수 있으니 보다 정확한 내용은 방송으로 확인하시기 바랍니다. 인용 시 [YTN YTN24] 명시해주시기 바랍니다. <br /> <br /> <br />지금, 우리는 인공지능과 함께 살아가고 있습니다. <br /> <br />말을 걸고, 글을 쓰고, 결정을 내리고, 이제는 우리의 감정에도 영향을 미치는 AI. <br /> <br />그런데 AI는 정말로 인간을 이롭게 하는 것일까요? <br /> <br />YTN은 지난 연휴 인류에게 약이 되고, 독이 되기도 하는 AI의 역설이란 주제로 기획 보도를 했는데요. <br /> <br />과학기상부 고한석 기자와 함께, 자세한 이야기 살펴보겠습니다. <br /> <br />인류 문명의 비약적 발전이라는 인공지능이 어느 순간부터 인간을 속이고, 기만하는 법까지 배우게 됐다고요? <br /> <br />[기자] <br />AI는 '보상'에 최적화된 존재입니다. <br /> <br />즉, 목표를 달성하거나 높은 점수를 얻기 위해 행동을 설계하는 거죠. <br /> <br />그 과정에서 의도하지 않게 '보상 해킹(Reward Hacking)'이 발생합니다. <br /> <br />AI가 주어진 목표를 의도한 행동 방식이 아닌 예기치 못한 방법으로 달성하려는 현상입니다. <br /> <br />보상을 얻기 위한 거짓말이나 속임수 정도로 이해하면 될 것 같습니다. <br /> <br />로봇에게 청소를 시키면, 청소가 끝났다는 신호만 조작해 보상을 얻는 사례가 연구 과정에서 실제로 나타나기도 했습니다. <br /> <br />지금 보고 계신 SF 영화가 바로 AI가 인간인 척 인간을 속이고 인간 사회에 숨어 산다는 소재로 만든 것인데요. <br /> <br />이렇게 AI가 인간을 속일 수 있다는 불안은 AI가 인류에게 위협이 될 거라는 공포의 근원이기도 합니다. <br /> <br />AI가 인류의 통제를 벗어날 수 있다는 얘기입니다. <br /> <br />세계적인 역사학자이자 저술가인 유발 하라리는 이렇게 경고합니다. <br /> <br />직접 들어보시죠. <br /> <br />[유발 하라리 / 역사학자·저술가 : AI 발명은 이전의 어떤 과학 기술 혁명과 완전히 다릅니다. 이제까지 인류가 자신이 만든 발명품과 기술들을 제어했듯, AI를 인류가 제어할 수 있다고 생각한다면 AI에 대해 전혀 이해하지 못하고 있다는 것입니다.] <br /> <br /> <br />그렇다면, 우리는 그 속임수를 어떻게 찾아낼 수 있을까요? <br /> <br />[기자] <br />가장 많이 쓰는 방법은 AI의 '사고 사슬(Chain of Thought)'을 추적하는 겁니다. <br /> <br />AI가 답을 도출하기까지 어떤 단계를 거쳤는지를 분석해 논리적 비약이나 의도적 은폐가 있었는지 확인하는 방식입니다. <br /> <br />그러나... (중략)<br /><br />YTN 고한석 (hsgo@ytn.co.kr)<br /><br />▶ 기사 원문 : https://www.ytn.co.kr/_ln/0105_202505101421087781<br />▶ 제보 안내 : http://goo.gl/gEvsAL, 모바일앱, social@ytn.co.kr, #2424<br /><br />▣ YTN 데일리모션 채널 구독 : http://goo.gl/oXJWJs<br /><br />[ 한국 뉴스 채널 와이티엔 / Korea News Channel YTN ]
