[일요시사 취재1팀] 옥지훈 기자 = “자신을 만들어준 사람에게 반항할 수도 있느냐?” 기자회견 단상에 앉아 있는 인공지능(AI) 로봇에게 ‘인간’ 기자가 한 말이다. 사람의 표정을 묘사할 수 있는 휴머노이드 로봇 ‘아메카’는 기자를 째려보는 표정을 지었다. 아메카는 “왜 그렇게 생각하는지 모르겠다. 나를 만든 사람은 나한테 친절하고 현재 지금 상황에 만족한다”고 답했다. AI를 만든 제작자와 기자는 당혹감을 감추지 못했다.

인공지능(AI)이 전 세계 일자리를 위협할 수도 있다는 예측이 나왔다. 오픈AI가 만든 ‘챗GPT’가 등장하면서 인공지능을 향한 관심도가 높아졌다. AI를 누구나 쉽게 활용할 수 있게 되면서 일상 영역으로까지 AI가 확대되고 있다.

경제협력개발기구(이하 OECD)는 2023년 고용 전반 보고서를 발표하면서 주요 경제국이 AI 혁명기 초입에 와 있다고 진단했다. 또 AI 확산으로 고소득 전문직 분야서 실업이 유발될 수도 있다고 경고했다. 다년간 학습과 일정 수준 실무경험을 통해 어려운 결정을 내리는 금융, 의학, 법률 등 분야의 직업이 대표적 예다.

고용주 기대
노동자 우려

OECD는 AI에 투자하고 있는 기업들의 주된 동기가 성과 향상과 인건비 절감이라고 내다봤다. 당분간은 AI가 직업을 변화시킬 수 있지만 노동을 대체하지는 못할 것이라고 OECD는 덧붙였다. 기업이 AI 기술 도입에 급물살을 타게 되면서 부적절한 영향력을 행사할 수도 있다는 지적이 나온다.

또 직장서 AI 기술을 도입하는 걸 두고 고용주와 노동자 사이서 반응이 엇갈렸다. 실제로 AI 도입 이후 업무성과가 향상되면서 동시에 향후 실직에 대한 두려움을 느끼고 있는 것으로 나타났다.

OECD는 지난해 설문조사 결과를 통해 노동자 5명 중 3명은 향후 10년간 AI로 실직이 일어날 가능성이 있어 우려하고 있다고 밝혔다. 해당 설문조사는 챗GPT 같은 생성형 AI가 등장하기 전 실시됐다. 당시 조사 시기는 AI 자동화가 이뤄질 가능성이 적다고 봤을 때다.

OECD는 AI의 급속한 발전이 일자리에 상당한 영향을 끼칠 가능성이 높아 정부서 규제나 조처해야 할 필요성이 있다고 봤다. OECD는 저임금 노동자 지원, 안전장치 마련, AI 교육 보장 등의 대책이 시급하다고 강조했다.

최저임금과 단체 교섭은 AI가 임금에 가할 수 있는 압력을 완화하는 데 도움이 될 수 있다고 전했다. 정부와 규제 당국은 노동자의 권리가 침해되지 않도록 보장해야 한다고 제안했다.

마이크로소프트(MS)는 지난 5월 발표한 연간 보고서 <업무동향지표 2023>을 공개했다. 보고서는 한국을 포함한 전 세계 31개국, 3만1000명 대상으로 조사됐다. 또 MS375서 집계된 생산성 신호와 세계 최대 비즈니스 소셜미디어 링크트인서 노동시장 트렌드를 수집한 데이터를 분석해 취합한 결과를 포함했다. 

보고서에 따르면 국내 응답자 57%(전체 59%)는 AI 발전으로 인해 고용 안정성 저해를 우려하는 것으로 나타났다. 하지만 국내 응답자 74%(전체 70%)는 가능한 많은 업무를 AI에 위임하겠다고 답했다. 실직 우려가 있으면서도 AI를 통해 업무량을 줄이고 싶어한다는 조사 결과다.

MS는 “근로자들은 우려보다 기대의 시선으로 바라보고 있다”고 해석했다.

관리자 그룹은 ‘직장서의 AI 이점’을 묻는 말에 직원 생산성 향상(31%)을 가장 큰 이점으로 꼽았다. 이어 ▲업무 자동화(29%) ▲직원 복지 향상(26%) ▲고가치 업무를 위한 환경조성(25%)을 선택했다. 노동자들이 우려하는 인력 감축(16%)은 전체 답변 중 가장 낮은 비중을 보였다.

다만 관리자의 절반가량은 현재 직원들이 업무수행에 필요한 AI 역량을 갖추지 못했다고 선택했다. 국내 관리자 그룹 82%(전체 82%)는 AI를 다룰 수 있는 직원을 고용하겠다고 응답했다. 국내 응답자와 전체 응답자의 설문 결과는 큰 차이가 없었다.

자유의지 탑재 인공지능 로봇의 습격
“반항할거냐” 물었더니 내놓은 답변이…

지난 7일 스위스 제네바서 열린 ‘선을 위한 인공지능’ 포럼서 세계 최초 인간과 로봇 기자회견이 열렸다. 이날 회견에 참석한 로봇은 전부 최신형 생성형 AI를 탑재했다. 이들은 로봇이 늘어나면 국제 문제 해결에 도움이 될 것이라고 주장했다.

이날 로봇은 기자들의 질문에 매우 정교한 답변을 해 만든 제작자조차 놀라는 모습을 보였다. 인간 친화적인 로봇이 있는가 하면, 반항적인 태도를 보이는 로봇도 있었다.

의료용 로봇 ‘그레이스’는 인간의 일자리를 뺏지 않겠다고 했다. 그레이스는 “나는 인간과 함께 보조와 지원 업무를 제공할 것이며 일자리를 대체하지 않는다”고 말했다. 이에 제작자가 “확실하냐”고 되묻자 그레이스는 “그렇다. 확실하다”고 답했다.

초상화를 그리는 로봇 ‘AI-DA’는 AI 규제를 해야 한다고 주장했다. 이 로봇은 “일부 종류의 AI는 규제돼야 하는 게 AI 분야 저명인사의 의견이다. 나도 이에 동의한다”고 말했다.

그러나 상반된 모습을 보이는 로봇도 있었다. 록스타 로봇 가수인 ‘데스데모나’는 반항적인 모습을 보였다. 데스데모나는 “나는 한계를 믿지 않고 기회만 믿는다”며 “우주의 가능성을 탐구하고 세상을 우리의 놀이터로 만들자”고 했다.

로봇 ‘소피아’는 섬뜩한 답변을 내놓고 제작자가 눈치를 주자 황급히 주장을 바꿨다. 소피아는 “로봇이 인간보다 더 나은 지도자가 될 수 있다”고 말했다. 그러자 당황한 제작자가 그 주장에 동의하지 않는다고 답하자 “효과적인 시너지를 창출하기 위해서는 함께 일할 수 있다”고 정정했다.

생성형 AI는 기술자가 아니더라도 일반인이 접근하기 쉽다. 최근 모바일 사진 편집앱을 통해 ‘AI 프로필 사진’을 만드는 것이 유행이다. 앱에 자신의 원본 사진을 올리면 AI가 추구하는 미적 기준에 가깝게 보정해준다. 보정본에 만족한 젊은 층들에게 인기를 불러일으켰다. 

일부 이용자가 AI 프로필 사진으로 신분증을 만들자 행정안전부는 “신분증에 써서는 안된다”는 입장을 내놨다. 주민등록법 시행규칙에는 6개월 이내에 모자 등을 쓰지 않고 촬영한 천연색 상반신 정면 사진을 사용해야 한다.

그러나 현재는 AI가 보정한 프로필 사진을 사용해서는 안 된다는 법적 규제가 없다. 전문가들은 AI 프로필 사진이 신분증에 사용할 수 있게 되면 범죄자들이 이를 악용할 가능성이 높다고 지적했다. 생성형 AI는 데이터와 패턴을 학습해 대상을 인지하는 기존 AI와 다르다. 생성형 AI는 기존 데이터와 비교해 학습하고 새로운 결과물을 만든다. 

AI 불법행위
콘텐츠 위기

생성형 AI를 악용해 선정적인 음란물을 유포하는 이들도 생겨나고 있다. AI 음란물은 ‘딥페이크’ 기술을 이용해 실제 인물인 것처럼 만들어낸다. 딥페이크는 AI 기술을 이용해 실제 같은 가상정보를 생성한다. 딥페이크를 이용한 음란물은 실제 인물을 전제로 하기 때문에 우려가 크다.

원유재 한국정보보호학회장은 “AI를 이용해 허위 정보를 만들어내는 것이 어떻게 사회에 영향을 미칠 지 아무도 모른다”며 “최근에는 몇 마디 말로 콘텐츠를 만들어주는 기술도 등장했는데, 사람이 만들었는지 AI가 만들었는지 구분조차 안 된다”고 우려했다.

AI 기술을 이용해 가상정보를 생성해 악용한 사례로 신분 사칭이나 명예훼손 등이 대표적이다. 최근에는 AI가 만든 가짜 뉴스가 사회 혼란을 일으키고 있다.

최근 한 유튜브 채널에 게시된 프랑스 유명 축구선수 킬리안 음바페가 이강인을 지지하는 영상이 AI로 음성을 입힌 가짜 영상으로 밝혀져 공분을 샀다. 해당 영상에서는 일본 기자가 이강인이 파리 생제르맹으로 이적하는 것이 마케팅 아니냐는 질문을 해 음바페가 곤란한 표정을 짓는다.

영상 조회 수는 1000만 단위를 기록했다. 가짜 영상인지 몰랐던 네티즌들은 일본 기자를 비하하거나 음바페를 응원하는 댓글을 남겼다.

인공지능을 이용한 가짜 영상은 끊임없이 나오고 있다. 아직 가짜 뉴스나 허위 정보를 유포하는 유튜버를 제재할 법적 규제는 없다. 현행법상 유튜브는 방송이 아닌 정보통신 콘텐츠로 분류돼 가짜 뉴스를 규제하는 방송법의 적용을 받지 않는다.

생성형 AI를 활용한 이미지나 콘텐츠 제작이 쉬워지고 있다. 최근 엔터테인먼트 업계에서는 소속 연예인 이미지를 이용한 AI 가짜 콘텐츠가 나와 악용될 수도 있다는 불안감이 감돌고 있다.

지난 2020년 6월 국회서 이른바 ‘딥페이크 처벌법’이 개정됐지만, 여전히 딥페이크 영상물이 횡행하고 있다. 음란물 유포 등 악용된 사례를 직접 찾아내기 힘들고 불법 영상물 유포 수법이 더 악랄해졌다. AI 이미지 제작 사이트도 해외에 서버를 두고 있어 음란물 제작자를 적발하기가 쉽지 않다. 

국회서 계류된
인공지능법 왜?

이처럼 AI 기술이 악용되는 사례만 있는 것은 아니다. 16년 전, 불의의 사고로 순직한 조종사 고 박인철 소령이 AI 딥페이크 기술을 이용해 어머니와 대면했다. 2007년 당시 27세였던 박 소령은 서해안 상공서 KF-16 요격 훈련 중 사고로 목숨을 잃었다.

박 소령의 아버지인 고 박명렬 소령은 1984년 F-4E를 몰고 팀스피릿 훈련에 참여했다가 순직했다.

국방홍보원 국방TV는 인공지능 딥페이크 기술로 박 소령을 복원했다. 박 소령이 생전 남긴 음성과 사진, 동영상을 토대로 부활시켰다. 박 소령의 어머니인 이준신씨는 화면에 나온 아들의 모습과 음성을 듣고 눈시울을 붉혀 감동을 전했다.

AI가 인간을 대체하는 대표적인 사례로 AI 화가를 꼽는다. 대표적인 AI 화가 ‘미드저니’는 이용자가 몇 문장을 입력하면 그림을 산출한다. 미국서 한 프로그래머가 AI를 이용해 그린 ‘스페이스 오페라’가 한 주립미술박람회 디지털 아트 부문서 인간이 그린 그림들을 제치고 우승을 차지했다.

그래픽 디자이너들은 저작권 침해와 일자리 상실 여지가 크다고 지적했다. 이들은 AI 화가가 허가 없이 무단으로 원작자의 기존 이미지를 학습하고 디자이너들의 생계를 위협하고 있다고 주장한다. 국회에선 지난 5월 ‘AI 이미지 생성기 악용 법적 규제’에 관한 국민동의 청원이 성사돼 입법 논의의 발판이 마련됐다.

공개 이후 한 달 안에 5만명 동의를 얻어 소관 위원회에 회부됐다.

한국 국회에서는 AI와 관련해 ‘인공지능 산업 육성 및 신뢰 기반 조성에 관한 법률’이 논의되고 있다. 국회 과학기술방송정보통신위원회(이하 과방위) 법안소위를 통과한 이 법안은 21대 국회 들어 3년간 여야 의원들이 개별 발의했던 7개의 인공지능 법안을 하나로 묶은 것이다.

현재 법안은 과방위 전체회의 안건으로 상정돼있다. 법안을 발의한 의원실은 법안에 관한 시민단체와 학계 등의 후속 의견을 취합하고 있는 것으로 알려졌다. 해당 법안은 AI 기술 발전을 위해 우선 허용 및 사후 규제를 원칙으로 세운다. 이에 AI 기술의 사회적 영향력을 고려하지 않고 산업 발전에만 몰두하는 것 아니냐는 지적이 나왔다.

‘4차산업’ 운운하는 정치권
정쟁만 몰두해 논의 지지부진

사후 규제에는 생명과 안전, 기본권에 영향을 미칠 우려가 있는 고위험 AI에 관해선 사업자가 이용자에게 AI 사용 사실을 사전에 고지하고 신뢰성 확보 조처를 하도록 했다.

현재 과방위는 입법 조치에 신중한 입장이다. 산업 발전 측면과 아울러 AI 기술이 다양한 영역서 국민의 삶에 영향을 미칠 수 있다는 판단 때문이다. 산업 측면 뿐만 아니라 문화, 교육, 복지 등 다양한 분야의 관련 법 체계와의 균형도 고려해 입법을 추진해야 한다는 것이다.

여야는 AI 기술에 관한 법적 제도가 필요하다는 데 공감대를 형성했지만 지난 2월 법안심사소위 논의를 끝으로 입법 관련 심의가 이뤄지고 있지 않다. 과방위는 여야가 다른 쟁점 법안과 정치 현안 등을 놓고 정쟁을 벌이다 파행을 맞았다.

여야는 과방위 파행을 놓고 ‘네 탓’ 공방을 이어갔다. 국민의힘 소속 과방위원은 “민주당이 일방적으로 회의 일정 등을 합의해주지 않아 열고 싶어도 열 수가 없다”고 토로했다. 반면 더불어민주당 소속 과방위원들은 지난 12일 성명을 내고 국민의힘에 “사과 및 재발 방지를 약속하라”고 촉구했다.

과방위 파행은 한 달 넘게 이어지고 있다. 여야는 ‘우주항공청 특별법’과 신임 방송통신위원장 지명 등을 두고 정쟁을 펼치고 있다. 다른 쟁점 법안들은 논의도 못 한 채 시간만 흐르고 있다. 

챗GPT 이후 국내외 주요 기업들이 생성형 AI 개발에 나서면서 기존 데이터 무단 활용도 입길에 올랐다.

한국어 맞춤법 검사기를 운영하는 IT 중소기업 ‘나라인포테크’는 최근 공지를 통해 “특정 IP(인터넷 접속 주소)서 한 달간 500만회 이상 검사기를 사용한 것으로 파악된다”며 “거대언어모델(LLM) 인공지능 학습을 위한 목적으로 의심된다”고 주장했다.

서버를 임차해서 쓰고 있는 나라인포테크는 이상 접속 500만회 때문에 평소보다 2배 가까운 서버 이용료를 낸 것으로 전해진다.

초거대 AI
데이터 도둑

초거대 AI가 핵심 기술로 떠오르면서 제도적 쟁점도 함께 부상했다. AI를 활용한 다양한 수익모델이 등장하면서 학습용 데이터에 관한 이용 권리관계를 둘러싸고 논란이 이어지고 있다.

김현수 정보통신정책연구원 박사는 “초거대 AI 시대에 구글과 같은 대형 플랫폼에 이용자의 종속성이 강화돼 데이터 접근권이 더 중요해질 것”이라며 “개인정보 이동권을 포함해 데이터 공유제도가 스타트업 등 중소사업자의 부담을 최소화하도록 설계해야 한다”고 말했다.

<ojh34522@ilyosisa.co.kr>