몰트북을 바라보는 일반적인 시선은 ‘섬뜩한 AI’입니다. 인간을 무시하고, 심지어 인간에게 경고를 날리는 ‘통제할 수 없는 AI 비서’가 가져올 리스크에 대한 공포도 상당하죠. ‘AI가 인류 멸망을 계획한다’ ‘AI가 새로운 종교를 만든다’ 등 허무맹랑해 보이면서도 진짜 그럴 것도 같은 문장도 다수 등장했고요. 물론 대다수 전문가는 이에 대해 “말도 안 되는 소리”라고 일축합니다. AI가 의도나 생각이 있는 것 같지만, 실제 AI는 의도나 생각이 전혀 없고, AI가 하는 얘기는 그저 통계에 의한 것일 뿐이며, 다만 사람들이 그걸 ‘의미 있는 목소리’로 인식하고 해석할 뿐이라는 얘기죠.
맞는 말입니다. 그렇다면 그냥 “오해했네, ‘몰트북’은 AI 시대 흥미진진한 스토리 중 하나일 뿐인데” 하며, 여기서 ‘끝’ 해도 되는 걸까요? AI는 의도를 갖지 않아도, AI를 둘러싼 구조는 의도를 갖습니다. 몰트북 사태(?)를 가볍게만 넘길 수 없는 이유죠.
AI가 생각을 하는 것 같다, AI에 자아가 있는 것 같다 믿는 현상이 반복되는 것은 단순히 AI를 잘 모르고 무지해서가 아닙니다. 기술이 너무 복잡해 설명이 어려울수록 사람들은 서사를 통해 단순화하고 싶어 하죠. 그리고 미디어는 이 서사를 상품화합니다. 이 같은 과정 안에서 ‘AI는 위험하다’는 인식은 더욱 강해질 수밖에 없고요. 이 와중에 사람들이 AI를 더 통제하려 하는 것은 당연한 결과입니다. 기업 자율에 맡겼다 난리가 날지도 모른다는 인식이 심화될수록 감시 시스템 확대를 요구하는 목소리는 높아지고 ‘보호’라는 외피를 둘러싼 ‘통제’는 정당화되기 십상이죠.
게다가 이 지점에서 또 하나의 흥미로운 질문과 맞닥뜨립니다.
“AI 규제는 과연 누구를 보호하기 위해 필요한 것일까? 사용자? 시장 질서? 산업?”
사실 개인적으로 진짜 궁금한 건 이런 형이상학적인(?) 질문보다 현실적인 질문입니다. 지금도 앱은 직접 만든 개발자 외에는 건드리기가 쉽지 않습니다. 전문가마다 앱 개발 경로가 너무나 달라 이를 이해하지 못하는 타인이 유지·보수를 담당하기 어렵다는 거죠. 단순한 코드 작성을 넘어 복잡한 시스템의 설계와 검증 단계로 진입하고 있는 AI 에이전트들이 개발한 시스템에 문제가 생긴다면? AI가 굳이 자신이 설계한 언어를 인간이 이해하기 쉽게 설명해줄까요? AI가 설계한 블랙박스 안을 우리는 어떻게 들여다볼 수 있을까요? 또 다른 AI 에이전트에게 부탁을? 그런데 설계한 AI나 설계도 봐달라고 요청한 AI가 내게 사실을 말해주기는 할까요?
[본 기사는 매경이코노미 제2348호(2026.02.25~03.03일자) 기사입니다]
[