• vol.24 2022 Summer

    가상인간, 현실로 로그온

N Story 4

가상 인간 시대의 윤리

김명주 교수(서울여자대학교 바른AI연구센터장)

가상 인간이 기업뿐 아니라 개인에 의하여 적극적으로 활용되기 시작하면서 윤리적 이슈들이 새롭게 제기되고 있다. 이는 결코 적지도 단순하지도 않다. 또한 가상 인간을 어떤 환경에서 어떻게 이용하느냐에 따라 풀어야 할 이슈들의 스펙트럼은 상당히 넓다. 이 문제를 보다 체계적으로 접근하기 위해서는 가상 인간 전체를 특정 기준으로 구분한 후, 이를 토대로 우선 고려할 윤리적 이슈를 이야기해 봐야 한다.

가상 인간 : 형태분석 프레임워크

  • n4_1
  • 가상 인간과 같이 어떤 복잡한 대상을 체계적으로 구분할 때, 형태분석 프레임워크(Morphological Chart)라는 방법을 생각해 볼 수 있다. 이는 한 개의 축에 나타날 수 있는 구성요소 모두를 나열하되, 누락 없이 겹치지 않도록 나열하는 X, Y, Z축, 즉 3차원을 구성한 도표이다.

    가상 인간을 이러한 형태분석 프레임워크로 구분해보자. 일반적으로 가상 인간은 현실에서 우리 인간이 인지할 수 있는 다양한 형태로 존재하는데(X축), 이 존재 속에서 가상 인간은 어떤 독특한 생김새를 가지고 있으면서(Y축), 어떤 목적이나 지시를 따라 행동하고 활동하게 된다(Z축).

  • 가상 인간이 현실에 존재하는 형태(X축)는 구체적으로 디지털 기기 모니터 속의 그래픽, 3D 홀로그램, 휴머노이드를 꼽을 수 있다. 그래픽 형태의 가상 인간은 컴퓨터, 스마트폰, TV, 영화 등 다양한 디지털 기기 속 스크린에 오랫동안 존재해왔다. 한편 2014년 빌보드 뮤직 어워드에서 마이클 잭슨은 3D 홀로그램으로 공연을 했으며, 영화 <Her>에 등장하는 운영체제 인공지능의 이름을 인용하여 만든 스페인산 AI성인로봇 ‘사만다’는 사람과 동일한 크기, 외형, 피부를 갖는 휴머노이드로 존재한다.

  • n4_3 아나운서 김주하(왼쪽)와 AI 아나운서 '김주하' ⓒ MBN
  • 가상 인간의 생김새(Y축)는 실존 인물을 전부 혹은 일부를 모사하는 경우와 완전히 꾸며낸 허구의 인물인 경우로 크게 구분할 수 있다. MBN의 AI 아나운서 ‘김주하’는 실제 아나운서 ‘김주하’를 모델로 활용했다. 국내 가상 부캐 1호 ‘루이’, 최초의 가상 아이돌 ‘이터너티’는 신체와 행동, 목소리는 실제 인간이 직접 연출하지만, 얼굴 등 신체 일부만 페이스 스왑 기술을 이용하여 만들어낸 가상 인간이다. 신한라이프 광고 모델 ‘로지’를 비롯한 ‘릴 미켈라’, ‘슈두’, ‘이마’와 같은 대부분의 가상 인플루언서는 참조 모델 없이 모두 허구로 제작된 가상 인간이다.

    가상 인간이 어떤 목적을 따라 움직이고 어떤 지시를 따라 행동할 때(Z축) 이러한 움직임과 행동이 피동적이냐, 연동적이냐, 자율적이냐로 크게 구분할 수 있다. ‘피동’적인 행동을 하는 가상 인간의 경우, 일정한 제작 과정을 거쳐 가상 인간의 행동과 언어를 만든 후 이처럼 제작된 콘텐츠만 반복하여 재생하게 된다. 반면에 행위와 언어를 ‘연동’하는 가상 인간의 경우, 온라인 게임이나 메타버스의 아바타를 통하여 실제 소유주의 의지를 실시간으로 반영하고 행동하며 말하게 된다. ‘자율’적인 가상 인간의 경우, AI스피커나 AI비서처럼 이미 학습된 내용을 토대로 자신 앞에 있는 사람과 양방향으로 자율적인 대화가 가능하다.

서로 다른 윤리적 쟁점

  • 지금까지 등장한 다양한 가상 인간은 이처럼 형태분석 프레임워크에서 기술된 X, Y, Z축을 기준으로 특정한 교차지점에 고유한 위치 매김이 이루어질 수 있다. 그리고 각 위치 매김에 따라 고민해야 할 윤리적 이슈가 충분히 다를 수 있음에 주목해야 한다. 참고로 현재 빈자리로 남아있는 교차지점 공간은 장차 새로운 형태의 가상 인간이 나올 수 있는 공간이므로, 가상 인간 발전의 미래 방향을 예견할 수 있게 해준다. 형태분석 프레임워크의 X, Y, Z축을 고려하면서 가상 인간 부류 별로 관련된 윤리 이슈들을 알아보자.

    X축 : 의인화 현상

    가상 인간이 현실에 존재하는 형태(X축)는 지금까지 대부분 디지털 기기 모니터 속의 그래픽이라는 전통적인 방법을 따랐기 때문에 윤리적 이슈가 그리 많지 않았다. 그러나 3D 홀로그램이 보편화되면서 가상 인간이 무대에 한정하지 않고 책상 위에 등장하면서 가상 인간의 실존감이 커지고 있다. 특히 햅틱 기술이 등장하여 그래픽에 한정된 가상 인간의 반응을 이용자가 직접 피부로 느끼면서 교감할 수도 있게 되었다. 더구나 영화에나 등장할 것 같았던 실물형 가상 인간이 곁에 등장하면서 이를 직접 만질 수 있고 현실 속에서 함께 공존할 수 있게 되었다. 이처럼 X 축에서 일어나는 기술 발전은 갈수록 사용자에게 가상 인간에 대한 몰입감과 실존감을 높이고 있다. 이로 인하여 인간의 거울신경세포가 활성화되어 공감능력이 극대화됨으로써, 가상 인간에 대한 의인화 현상, 가상 인간에 대한 중독이 윤리적 이슈로 등장한다.

  • n4_5 AI성인로봇 '사만다' ⓒ RealDoll
  • 앞서 소개한 ‘사만다’는 주문제작형 성인돌에 AI챗봇 기능을 넣어서 만든 소셜로봇이자 배우자로봇이기에, 이용자의 일부는 이 가상 인간과 사실혼 기반의 부부생활을 하고 있다. 이 경우 외부인이 배우자 역할을 하는 가상 인간을 다른 배우자의 허가 없이 접촉하게 되면 가정 파괴범으로 몰릴 수도 있다. 자신과 함께 해온 가상 인간과 합법적으로 결혼할 수 있도록 해달라는 요청은 일본, 중국, 프랑스 곳곳에서 이미 발생했다. 인간 중심으로 된 현재의 법률 체제에서 인공지능 가상 인간에게 사람과 같은 기본권과 인격권을 부여하는 것은 원천적으로 불가능하다. 하지만, 소수 차별 금지의 큰 흐름이 사회의 전면에 부각될 경우, 미국 내 동성 결혼의 합법적 허용 사례를 고려할 때 가상 인간에게 합법적 권리를 부여하여 결혼도 허용하는 것이 사회적 논의에 부쳐질 가능성도 있다.

    Y축 : 디스클레이머

    가상 인간의 생김새(Y축)에 있어서 실존 인물을 전부 혹은 일부를 모사하는 경우, 윤리 이슈는 좀 더 복잡해진다. 특히 실존 인물이 현재 생존하느냐, 아니면 고인인지에 따라 달라진다. 실존 인물을 투영한 가상 인간인 경우, 가상 인물이 진짜인지 가짜인지를 구분하는 것이 일반인들에게 갈수록 힘들어져서 진위 구분의 문제가 생긴다. 딥페이크 관련 제반 문제는 대부분 Y축과 관련된 문제이다. 우리나라 여성 연예인들의 많은 수가 자신의 포르노 동영상을 가지고 있다는 통계는 이런 문제의 심각성을 알려준다. 너무나 비슷하고 정말 똑같기 때문에 미리 이 사실을 알려주지 않으면 사람들은 혼동하거나 속기 쉽다. 그래서 가상 인간이 사람들 앞에 등장할 때는 먼저 자신이 가상 인간임을 먼저 밝히는 것이 중요한 윤리 이슈이다.

    가상 인간 ‘로지’의 경우, 2020년 8월 인스타그램을 시작한 이래 신한라이프 광고가 대중에게 나가고 난 2020년 12월이 되어서야 ‘가상 인플루언서’임을 공식으로 밝혔다. 일종의 바이럴 마케팅을 의도한 것으로 볼 수 있는데, 가상 인간 윤리에 있어서 이러한 접근은 추천하지 않는다. 딥페이크에 의하여 정치인들의 가짜 동영상이 진짜 같이 제작되자 미국 대통령 선거를 앞둔 의회는 2019년 HR.3230-2019라는 ‘딥페이크 법’을 제정하였다. 미국의 딥페이크 법은 딥페이크 기술을 사용할 경우 신뢰도 향상을 위하여 이 기술을 사용하여 제작했다는 표시인 ‘디스클레이머’를 반드시 명시하도록 요구한다. 이를 통해서 딥페이크 기술을 활용하는 표현의 자유를 제한하지 않는 대신, 이용자들이 진짜와 가짜에 대한 사전 정보를 미리 인지할 수 있도록 해준다.

    Y축 : 사후 디지털 부활

    가상 인간의 생김새(Y축)가 이미 돌아가신 분을 모델로 하는 경우는 고려해야 할 윤리적 이슈는 더 많아진다. 고인을 디지털 기술로 부활시킨 후 생전의 활동을 기반으로 고용 활동하는 것을 ‘DEAD(Digital Employment After Death)‘, 즉 ‘사후 디지털 고용’이라고 한다. 사후 디지털 고용은 경제적 부의 분배 문제, 사후 사생활 침해, 사후 명예훼손, 사후 퍼블리시티권 문제라는 윤리적, 법적 이슈를 일으키게 된다. 동시에, 산 자가 죽은 자와도 경쟁해야 하는 새로운 고용 형태의 사회에 들어감을 의미한다. 2022년 6월 다시 운영을 재개한 싸이월드가 고인이 된 계정주의 디지털 유산을 유족들에게 자동 승계해주겠다고 한 뉴스는 이와 무관하지 않다. 고인의 디지털 유산은 고인에 대한 가상 인간을 만드는 데 활용되는 결정적인 학습 데이터이기 때문이다.

  • n4_2 마이클 잭슨 3D 홀로그램 공연 ⓒ Billboard
  • 더구나 사후 디지털 부활에 따른 활동 재개는 고인의 이미지와 명예를 왜곡할 가능성을 안고 있다. 이를 방지하기 위한 조치를 취한 경우도 있다. 영화 <죽은 시인의 사회>의 로빈 윌리엄스는 2014년 자살로 세상을 떠나면서 유언장에 특이한 조항을 남겼다. “내가 죽고 나서 25년 동안은 내 이미지를 상업용으로 사용하지 말라”는 내용이다. 일반적으로 인기 연예인들은 죽은 다음에도 광고 등에서 그 이미지를 사용하도록 허용하는 경우가 많다. 로빈 윌리암스는 이러한 ‘사후 퍼블리시티권’을 명확하게 제한한 것이다.

    Z축 : 가상 현실에서의 성폭력 사건

    가상 인간의 행동(Z축)이 피동적이냐, 연동적이냐, 자율적이냐에 따라 고려할 윤리적 이슈도 많이 다르다. 가상 인간이 실제 소유주와 실시간으로 ‘연동’되는 경우로서 가장 대표적인 경우가 메타버스나 가상현실, 온라인 게임 속에 등장하는 ‘아바타’이다. 아바타는 실소유주에 대한 대리자로서 메타버스 안에서 다른 사람과 소통하는 주체이자 통로이다. 따라서 타인의 아바타를 대상으로 괴롭히고 불편하게 하며 심지어 공격하는 행위는 실시간으로 연동된 실소유주에게 직접적인 영향을 주게 된다.

    가상 현실에서의 성폭력 관련 사건의 역사는 1993년으로 거슬러간다. 람다무(LamdaMOO)라 불리는 가상 현실 속에서 가상 강간이 최초로 발생한 것이다. 한 이용자가 다른 두 이용자의 아바타를 특정 프로그램으로 강제로 제어한 후, 그들의 아바타를 자신의 아바타가 강간했다. 이후로도 유사한 사건이 발생해왔고, 가장 최근에는 2022년 1월 메타의 가상 현실 플랫폼 호라이즌 월드(Horizon World)에서도 21세 연구원의 아바타가 성폭행을 당했다는 보도가 있었다.

  • n4_4 ⓒ 메타
  • 이러한 가상 강간, 가상 성폭력, 가상 성희롱에 대해 가중 처벌이나 특정 형벌화를 반대하는 의견도 적지 않다. 가상 현실에서 이루어지는 성폭력은 현실 세계에서 이루어지는 성폭력에 비하여 피해 체감도가 다르며, 헤드셋을 벗거나 메타버스를 즉시 벗어나는 등 자기방어의 용이성이 상대적으로 쉽다는 것이다. 반면에, 가상 인간 아바타의 특성상 가상 현실에서의 언행은 실제 세계에서의 소유주와 직접 연결되어 있으므로, 아바타에 가해지는 위해는 실제 소유주에 대한 위해로 보는 것이 옳다는 의견도 있다. 특히, 우리나라의 경우 디지털 성범죄 근절의 차원에서 2022년 6월 ‘디지털 성범죄 대응 4법’ 개정안이 국회에 상정되었다. 이 개정안에서는 상대방의 의사에 반해 성적 욕망 내지 만족을 목적으로 캐릭터(아바타, 가상 인간)에 성적인 언동을 하는 것을 정보통신망 상 유통이 금지되는 정보에 포함시켰다. 디지털 캐릭터가 사용자의 인격을 표상하는 만큼 캐릭터에 대한 성적 모욕 등을 제재할 법적 근거가 되는 것이다.

    다만, 가상 인간의 행동(Z축)이 ‘자율’적인 경우 가상 인간이 만드는 행동과 발언에 대한 책임 소재가 윤리적 이슈가 된다. 예를 들어 공직자 선거 과정에서 가상 후보들이 앞으로 더욱 새로운 모습으로 등장할텐데, 이 경우 기존의 ‘피동’적 언행에서 앞으로는 ‘자율’적 언행으로 전환될 것이다. 또한 유권자와 만나는 가상 후보의 ‘자율’적 발언 내용이 공식 공약으로 인정받거나 실제 후보의 발언이라고 간주할 수 있느냐 하는 신뢰성 문제도 대두될 것이다. 더 나아가 이 가상 후보가 경쟁상대 후보를 비방하거나 폄하 혹은 모욕할 경우, 상대 후보에 대한 모욕죄와 명예훼손죄를 누구에게 물을 것인가도 중요한 쟁점이 될 것이다.

    이처럼 가상 인간의 존재 형태와 생김새, 활동방식에 따라 발생 가능한 윤리 이슈는 다양하고 복잡하다. 아직은 이러한 구분조차도 대중에게는 낯설고 어색한 접근일 수 있다. 하지만, 진정한 가상 인간의 시대가 오기 위해서는 윤리적 문제를 ‘처음부터’ 찾아내어 함께 풀어가야 한다. 지속적 성장이란 윤리적 성장을 전제로 하기 때문이며, 윤리적 개발은 가장 경제적인 개발이기 때문이다.

    과거 숱한 신기술에서 목도해왔듯이, 밝은 빛일수록 진한 그림자가 공존하며 유용성과 효율성의 기대에는 부작용과 역기능이 늘 뒤따랐다. 가상 인간 역시 예외가 아니다. 이 점을 잘 기억하여 윤리적 균형감을 갖추어 활용한다면, 가상 인간은 아직 충족되지 못했던 우리 내면의 욕구를 기대보다 훨씬 크게 충족시켜줄 것이다. 매슬로의 욕구계층이론에서 상위 단계인 ‘자아 실현 욕구’에 이 가상 인간이 실효적인 도움을 줄 날을 기대해본다.

맨위로