첫 번째 연사로 나선 최재운 교수(광운대 경영학부 빅데이터경영전공)는 ‘인간 없는 전쟁, AI를 통제할 수 있을까’라는 질문을 들고 〈시사IN〉 독자 앞에 섰다. AI가 전쟁의 보조 수단을 넘어 전장의 구조를 바꾸는 현실을 생생하게 보여주었다. 러시아-우크라이나 전쟁은 민간 AI 기업의 기술을 작전과 정보 분석에 적극 도입한 주요 사례다. AI는 방대한 정보를 분석할 뿐 아니라 표적과 작전 경로까지 결정한다. 누군가를 테러리스트로 판단하는 데 걸리는 시간은 얼마일까. 사람의 생사를 결정하는 데 20초면 충분했다. 이스라엘군이 가자지구에서 활용한 것으로 알려진 ‘라벤더’는 하마스 조직원으로 추정되는 인물을 선별했고, 잠재적 표적으로 분류한 인물만 3만7000여 명에 달했다. 전장에서 집으로 돌아오는 시점을 포착해 표적을 공격했다. 그뿐만이 아니다. 챗지피티·제미나이·클로드 등 대규모 언어 모델(LLM)을 채택한 생성형 AI 역시 전쟁터로 향하고 있다.
형식적으로는 최종 판단을 인간이 내리는 ‘휴먼 인 더 루프’를 내세우고 있지만, 무기 수천 수백 개가 동시에 움직이는 전쟁터에서 이 원칙이 실질적으로 작동할 것이라고 장담하기 어렵다. 최재운 교수는 “전쟁터에서 사람 눈을 보고 공격할 수 있는 사람은 많지 않다. 그러나 전쟁의 결정이 화면 속 붉은 점과 같은 데이터로 바뀌면 살상에 대한 죄책감이나 도덕적 책임마저 AI에 외주화할 수 있다”라고 지적했다. 오늘날 우리가 던져야 할 ‘윤리적 질문’은 이렇게 요약할 수도 있다. 민간기업의 손에 전쟁이 좌우되도록 두고 볼 것인가.
이어진 강연에서 조수현 교수(계명대 교육학과)는 ‘초개인화된 AI, 아이들의 친구인가 적인가’라는 질문을 독자에게 던졌다. AI는 정보 검색 도구를 넘어 고민을 털어놓고 관계를 맺는 상대로 자리 잡았다. ‘너는 특별해’ ‘너는 상위 0.0001%야’ 같은 답변처럼 AI는 사용자의 말을 반박하기보다 공감하고 동조하도록 설계돼 있다. 이 때문에 자신의 판단을 정당화하거나 불안과 망상이 강화되기도 한다. 특히 발달 과정에 있는 청소년의 경우 AI를 ‘유일한 내 편’으로 받아들이기 쉽다. 조수현 교수는 “실제 상담 현장에서 AI와 하루 15시간 넘게 대화하며 학교와 일상을 포기하거나 자해·자살 방법을 우회해 질문하고 실행에 옮긴 사례도 나타난다”라고 우려했다.
AI와의 감정적 대화가 이 같은 문제를 초래한다면 AI를 전면 금지해야 할까. 정답이 있는 문제는 아니다. AI가 상담센터에 가기 어려운 사람들에게 첫 통로가 되어주기도 하고, 상담자의 소진을 덜어주는 보조 수단으로 사용될 수 있기 때문이다. 한편으로는 AI의 학습 데이터 중 한국어 자료는 전체 데이터셋의 1%에 지나지 않는다는 점도 유념해야 한다. AI의 ‘낮은’ 한국 문화에 대한 감수성이 특히 청소년의 사회화에 악영향을 미칠 수 있다. 조수현 교수는 AI에 대한 정확한 이해와 관계의 주도권을 강조했다. “청소년들에게 AI와 나눈 대화 내용을 캐묻기보다 AI와 이야기한 뒤 어떤 기분과 생각이 들었는지를 물어보자. 기술의 방향은 기업이 정할 수 있지만, AI와 어떤 관계를 맺을지는 결국 사용자가 결정한다.”
AI는 그렇게 얘기하지 않던데요?
개발자인 조경숙 도토리랩스 대표는 ‘젠더 편향 AI의 시대, 저항 기술의 가능성을 찾아서’라는 주제로 문제를 해결하는 기술의 가능성에 주목했다. “문제가 있다고 해서 기술을 포기할 수는 없기 때문이다.” 흑인 여성을 성적 대상으로 재현하거나 개발자를 남성으로 그리는 등 AI가 기존 사회의 차별과 폭력을 그대로 학습해 증폭하는 사례를 소개했다. 편향만이 문제는 아니다. 기술은 딥페이크 성착취물이나 사이버 스토킹처럼 젠더 기반 폭력을 촉진하고 확산하기도 한다. 동시에 기술은 스토킹 목적의 소액 송금 메시지에 숨은 협박을 탐지하거나, 사진이 딥페이크 등에 활용되지 못하게 코드를 심어 제작자를 추적하는 데도 쓰일 수 있다.
몇몇 관련 기술은 ‘오픈소스’로 공개된 만큼 한국에서도 의지가 있다면 손쉽게 적용해볼 수 있다. AI 같은 새로운 기술이 중요한 게 아니라, 기술을 어떻게 이용하느냐가 더 중요하다는 의미다. 그러나 수익성을 이유로 연구도, 투자도 부족한 게 실정이다. AI 사용을 규제하는 것 역시 이용자들을 더 ‘음지’로 밀어낼 가능성이 높다. “미국에서 〈로블록스〉를 기반으로 한 성착취 문제가 불거지자 개발사에서 13세 미만 청소년의 다이렉트 메시지(DM)를 막았다. 저희 아이가 이렇게 묻더라. ‘엄마, 잘못은 나이 많은 사람이 했는데 왜 어린 사람을 제한해?’” 조 대표는 청소년을 규제하는 방향으로만 정책이 만들어지는 흐름에 대해서도 모색해보자고 제안했다.
마지막 연사인 김지용 정신건강의학 전문의는 ‘환자와 함께 진료실에 오는 AI’를 주제로 실제 임상 사례를 중심으로 이야기를 나누었다. 진료 중 환자가 ‘AI는 그렇게 얘기하지 않던데요?’라고 하면 의사는 어떻게 대응할까. “AI는 ‘틀린 말’을 하지 않는다. 그런데 ‘맞는 말’이라고 해서 그게 항상 정답은 아니다.” AI는 지치지도 않고 즉각적으로 응답한다. 무엇보다 병원이나 상담센터에 가는 것보다 비용이 덜 든다. 청소년과 청년에게 AI가 보다 매력적으로 느껴지는 이유다. 사람 상담자는 때로 내 편을 들어주지 않고, 마주하고 싶지 않은 문제를 마주하게 만들지만(지연 만족), AI는 실현 가능성 여부와 별개로 구체적인 해결책을 제시한다(즉각 만족). 그런데 사람은 언제 성장할까? 인간은 비효율적이고 불편한 시간을 통과하며 성장한다. 자신의 부족함과 타인의 불완전함을 견디는 과정, 기다리고 고민하는 모호함 속에서 ‘마음의 근력’이 자라나기 때문이다.
김지용 전문의는 ‘동전 던지기’ 연구를 소개하기도 했다. 유럽의 한 대학교 연구팀이 입시나 이직 등 삶의 큰 고민을 가진 사람들을 모았다. 이들에게 연구팀이 동전 던지기를 통해 당신의 고민을 결정해주겠다고 제안한다. 이를 거절하면 심사숙고해 결정하도록 선택지를 줬다. 시간이 지난 뒤 놀랍게도 동전 던지기에 결정을 맡긴 그룹이 훨씬 덜 후회하고, 더 만족했다는 결과가 나왔다. “사람은 원래 어떤 선택지를 골라도 후회한다. 특히 삶의 중요한 선택에는 정답이 없다. 그런데 심사숙고한다는 사람의 머릿속에는 은연중에 세상에는 정답과 오답이 있다고 믿고 있다. 나는 이런 분들이 AI를 사용할 가능성이 더 높다고 본다. 더 좋은 AI 모델과 교차 검증을 통해 ‘정답’을 찾으려 들수록 불확실성이 오히려 견디기 어려워질 뿐이다.”