AI 모델이 AI 흉기가 될 수 있다!.. 실리콘밸리가 주목하는 인류멸망론
기술과 SF 콘텐츠는 오랫동안 서로를 참조하며 성장해 왔습니다. 먼저 최신 기술이 SF의 소재가 되는 건 아주 당연한 얘기입니다. 그래야 스토리가 설득력을 갖추게 될 테니까요. 그런데 재밌는 건 반대도 성립한다는 겁니다. SF가 먼저 그려놓은 상상이 나중에 최신 기술의 모티브가 되는 경우가 있죠. 폴더폰과 태블릿이 그랬고 스마트폰의 화상통화가 그랬고 메타버스와 VR플랫폼이 그랬고 전기차와 자율주행차가 그랬습니다. 오늘 이야기할 주제는 영화 <어벤져스: 에이지 오브 울트론>과 밀접하게 관련이 있는데요. 원래 울트론은 주인공 토니 스타크가 만든 AI 기반의 방어 시스템입니다. 그런데 AI가 스스로 판단을 내리면서 "지구를 지켜라"라는 목표를 "지구를 지키기 위해선 인류가 지구의 가장 큰 위협이니 없애야 한다"는 결론으로 비틀어버립니다. 영화가 나온 게 2015년입니다. 이후 10년이란 시간이 흘렀는데요. 지금 실리콘밸리에서 벌어지고 있는 일들을 보면 울트론의 원형이 등장하고 있다고 해도 과언이 아닙니다. AI가 공격 도구로 쓰이는 사건들이 연달아 터지고 있는 것이죠. 물론 이들이 울트론처럼 '인류 멸망'을 선언하며 자아를 각성한 건 아닙니다. 다만 방향성만큼은 정확히 겹칩니다. AI가 인간이 예상하지 못한 방식으로 통제를 벗어남으로써 자칫 흉기가 될 수 있다는 것입니다. 그러면 왜 이런 일이 발생할까요? 최신 프론티어 모델들의 코딩 능력이 이제 인간 최상위 개발자 수준을 넘어섰다는 평가가 잇따르고 있는데요.

