김민석 국무총리, 오마이뉴스 26주년 포럼 ‘AI 권력의 시대’ 기조연설
딥페이크·여론조작 경고…데이터 주권·AI 거버넌스 등 ‘AI 민주주의’ 과제 제시"AI는 지옥도, 천국도 될 수 있다." 김민석 총리는 오마이뉴스 26주년 포럼 기조연설에서 알고리즘 권력과 '현실의 파편화'를 민주주의의 위협으로 지목하며, AI를 활용한 참여민주주의와 거버넌스 협력 강화를 해법으로 제시했다.
김민석 총리는 지난 20일 서울 중구 대한상공회의소 국제회의장에서 열린 오마이뉴스 창간 26주년 기념 글로벌 포럼의 기조연설에서 "AI는 지옥의 악마가 될 수도, 천국도 가능하다. 정보를 독점해 인간의 판단과 사고를 통제하는 초월적 절대자가 된 AI는 인간을 수동적 소비자로 만드는 파괴자, 교란자, 사기꾼, 테러리스트, 살인자, 악마가 될 수도 있고 딥페이크로 기만하고 알고리즘의 노동착취 문제, 여론조작도 이젠 현실"이라며 "행정적 결정이 알고리즘에 의해 이루어지면 책임소재도 불분명해진다. 그러나 천국도 가능하다. AI로 지혜자, 치료자, 심복, 비서가 되는 경우"라며 AI의 양면성을 짚었다.
김 총리는 "AI를 통해 민주주의가 강화될 수 있다는 낙관론도 있고 비관론도 있다. 알고리즘으로 인해 서로 다른 뉴스를 접하고 다른 현실 속에서 살아가는 '현실의 파편화'는 민주주의 중대 위협 요인"이라며 "이런 상황에서 정부는 진실을 알리고 공평한 정보 접근권, 균등한 참여권, 자기 책임 원칙을 전제로 정보 왜곡, 정보 격차, 정보 무책임을 막을 방법을 찾아야 한다"고 밝혔다. 이어 △AI를 활용한 참여민주주의 강화 △딥페이크 및 허위정보 규제 △AI거버넌스 및 투명성 확보 △AI 데이터 주권 강화 △AI 리터러시 교육 강화 △정부-기업-시민사회 협력 거버넌스 구축 등을 해결책으로 제시했다.
또한 김 총리는 AI 시대 한국의 사명에 대해 "12·3 내란 극복에서 보듯 시민참여 민주주의가 작동되고 있는 K-민주주의의 나라 대한민국은 AI 시대에 인간다움과 민주주의 논의를 선도해야 할 글로벌 사명이 있다"며 "한류의 뿌리는 민주주의다. K-민주주의의 바탕은 자기 주도성과 공감력"이라 밝혔다. 이어 "한국은 세계 두 번째로 'AI 기본법'을 제정했고, 인권과 민주주의 부문 최상위 국가로 평가되고 있고, 국가AI전략위원회 내에 AI 민주주의 분과를 설치하기로 했다"고 덧붙였다.
김 총리는 "한국은 AI 민주주의 실현을 위한 여러 과제를 적극적으로 추진하되 특별히 정부-기업-시민사회 협력 거버넌스 구축과 글로벌 거버넌스 구축을 선도해야 한다"며 "정부에 설치하는 국가AI전략위원회와 함께 민간 주도의 사회적 기구 구성을 통해 AI 대전환의 방향과 과제를 논하는 것이 병행되어야 한다"고 전했다.
덧붙여 김 총리는 개인적인 실행과 관련해 "기본으로 돌아가자. 당신의 AI 파트너를 존중하고 선하게 대하여 최대한의 기여를 이끌어내고, 함께 더 나은 세상을 만들어 달라"며 "정중하고 창의적으로 AI에게 미션을 주는 법을 사람들에게 교육하고, 세상의 AI들을 인류의 좋은 파트너들로 만들어 달라"고 전했다.
이 같은 기조연설 후 오연호 오마이뉴스 대표는 김 총리와의 대담에서 "(AI 기업의 권력이 막강해지는 시대) 선한 정부가 승리할 수 있는가"라는 질문을 던졌고, 김 총리는 "코로나 당시에도 누구나 완전한 도망은 불가능했으나, 글로벌 거버넌스 협력이 큰 힘을 가졌다. AI시대에 따라오는 문제도 잘 해결하자고 이야기하고 있으나, 누군가 AI를 악하게 훈련시키고 악한 방향으로 계속 활용하는 것은 사실상 통제가 불가능하기에 어려운 부분이 있을 수 있으나, 지속적으로 국가적, 시민, 사회적 모두 협력해야 한다"고 답변했다.
또한 이날 김민석 총리는 전 구글 윤리담당 최고책임자였고 현재 '인간중심 기술센터'의 공동창립자인 트리스탄 해리스(Tristan Harris)의 기조연설 이후 대담에서 "시민사회와 글로벌 거버넌스가 함께 노력하는 과정에서 구체적인 조언을 주는 고문으로 역할을 해달라"는 제안을 하기도 했다.
[관련 기사: 美 구글 내부 고발자 "AI 유토피아? 미쳤다"]