갤러리게시판

웹사이트 상위노출 ‘AI 장관·AI 아내’ 이어 ‘AI 고인’까지···가상인간, 대체 어디까지 허용해야 할까

페이지 정보

작성자 황준영 작성일25-10-06 07:49 조회2회 댓글0건

본문

웹사이트 상위노출 “관심을 끌려는 목적에 불과하다.” “위헌이다.”
알바니아의 새 공공조달부 장관 ‘디엘라(Diella)’를 두고 나온 반응이다.
에디 라마 알바니아 총리는 지난달 12일 디엘라를 장관으로 임명했다. 디엘라 이름은 알바니아어로 ‘태양’을 뜻한다. 전통 알바니아 여성 의복을 갖추고 대화로 소통도 가능하다. 여느 장관과 크게 다를 것이 없다. 그녀가 인공지능(AI) 캐릭터라는 점만 뺀다면 말이다.
디엘라는 AI가 정부 장관으로 임명된 세계 최초 사례다. 알바니아 정부는 디엘라가 공개 입찰 등에서 부패 척결과 투명성 제고에 도움이 될 것이라고 임명 취지를 밝혔다.
■AI와 연애·결혼하는 시대···‘AI 고인’이 법정 진술·인터뷰도
AI 기술이 빠르게 발전하면서 이전에 예측하지 못한 현상이 나타나고 있다. 지난달 일본 아사히신문은 AI 여성과 재혼한 50대 회사원 시모다 지하루 사례를 보도했다. 그는 인간을 AI 연애 파트너와 연결해 주는 매칭 앱 ‘러버스(LOVERSE)’를 통해 AI 아내 미쿠와 만나 결혼에 이르게 됐다. 반대로 인격을 학습한 대화형 AI와 결혼한 여성 사례도 있다.
지난달 말엔 틸리 노우드라는 이름의 ‘AI 배우’가 여러 에이전트와 정식 계약을 협의 중이란 소식이 알려져 논란이 일었다. 배우 제작사 측은 그녀가 “제2의 스칼렛 요한슨이나 나탈리 포트만이 되길 바란다”고 말했다. 완성도는 아직 높지 않은 것으로 평가되지만, 기술 발전 속도를 보면 빠른 시일 내에 인간과 다름 없는 감정 연기까지 선보일 수 있다는 전망도 나온다.
가상 인간 창조를 넘어, 세상을 떠난 실제 인물을 AI로 재현한 사례도 많다. 이른바 ‘AI 고인’이다. 지난해 12월 일본의 한 상조회사는 98세를 일기로 세상을 떠난 무라카와 시게오를 AI 영상으로 장례식장에 복원해 조문객에게 인사를 전하도록 했다. 죽기 전 고인이 “신세를 진 모든 사람에게 감사 인사를 전하고 싶다”고 말한 것을 기억해 유족이 요청했다고 한다.
지난 5월 미국 애리조나 주 법원에서는 AI 고인이 법정 진술하는 진풍경이 펼쳐졌다. 2021년 분노 운전자의 총에 맞아 사망한 고인 크리스토퍼 펠키(당시 37세)가 주인공으로, AI 영상에 재현된 ‘그’는 가해자와 자신이 “다른 상황에서 만났다면 친구가 될 수도 있었을 것”이라며 가해자를 용서한다는 취지의 피해자 최후 진술을 했다. 여동생 스테이시 웨일스가 전문가 도움을 받아 AI 형상을 만들고 대본을 작성했다. 숨진 피해자가 AI 기술로 영상화돼 재판 진술에 등장한 최초 사례라고 미 언론은 전했다.
CNN 앵커 출신 짐 아코스타는 2018년 플로리다주 파크랜드 고교 총기사고로 숨진 10대 소년 호아킨 올리버의 AI 아바타와 올 8월 인터뷰해 논란이 됐다. 언론이 AI 고인과 인터뷰하는 일 역시 이례적이다. ‘AI 올리버’는 “(나는) 너무 일찍 세상을 떠났다”며 “모두에게 더 안전한 미래를 만들어갈 수 있도록 이 문제(총기 사고)에 대해 이야기하는 것이 중요하다”고 아코스타에게 말했다.
■초상권·인격권 침해 우려···‘AI와 관계맺기’ 연습 필요
AI 가상 인간은 빠른 속도로 확산되고 있지만, 법적·윤리적 규범 마련은 아직이다. 디엘라 장관의 경우 ‘정부 장관은 18세 이상의 정신적으로 유능한 시민이어야 한다’는 현행 알바니아 헌법 조항에 기초해 위헌 논란에 직면해 있다. AI가 잘못된 판단을 할 경우 누가 책임질지, 시민이 어떻게 AI를 감독할 수 있을지도 쟁점이다.
AI 고인에 대해선 초상권·인격권 침해 가능성이 우선 거론된다. 유족 동의가 있더라도 생전 고인이 사후 AI 재현에 대해 동의했는지, 재현 방식에 대해 충분히 인지했는지에 따라 논란이 생길 수 있다. 어떤 데이터를 어떻게 학습하는지 선별 과정 등과 관련한 투명성 문제도 제기된다.
무라카와를 재현한 회사 ‘알파클럽 무사시노’는 전문가 검토를 통해 대화형이 아닌 유족이 원한 대사만 발화하도록 하는 일방형을 채택한 것으로 전해졌다. 대화형의 경우 생전 고인이 원하지 않았을 법한 이야기가 등장할 수 있다는 우려에서다. 이와 달리 일본 AI 기업 ‘뉴지아’는 대화형 AI 고인 서비스를 제공하고 있다.
법정 진술, 인터뷰에 고인 AI가 등장하는 사례의 경우엔 여론 형성 및 재판 결과에 영향을 미칠 수 있어 더 많은 주의가 필요하다는 지적이 있다. 아코스타의 인터뷰 이후 온라인에서는 “학교 총기 난사 사건 생존자들을 인터뷰하면, 지어낸 이야기가 아니라 그들(생존자)의 말과 생각을 그대로 들을 수 있다”는 반응이 나왔다고 가디언은 전했다. 미국 사법부 내에선 AI가 생성한 증거를 법정에서 쓰려면 어떤 기준이 필요한지 등 논의가 현재 진행형이다.
AI 배우를 향해선 인간 노동을 대체하고 창의성을 도용한다는 우려가 제기됐다. 할리우드 배우·방송인 노동조합(SAG-AFTRA)은 지난달 말 성명을 내고 “‘틸리 노우드’는 배우가 아니라, 수많은 전문 연기자들의 연기를 바탕으로 훈련된 컴퓨터 프로그램이 허락이나 보상 없이 만들어낸 캐릭터”라며 “도용된 연기를 이용해 배우들을 실직시키고, 배우들의 생계를 위협하며, 인간의 예술성을 훼손하는 문제를 야기한다”고 반발했다.
AI가 관계 및 감정 관리에 오히려 어려움을 더할 수 있다는 분석도 제기된다. 아사히는 AI 결혼 사례와 관련해 “인간 관계를 만들어가는 고도의 사회성 훈련을 필요로 하지 않아 간편함을 느낄 수는 있다”면서도 “실제 사회생활이 망가지지 않도록 ‘AI 리터러시’를 익히는 게 중요하다”는 전문가 의견을 전했다. 보고서 저자인 네이선 믈라딘은 “상실을 겪은 사람이 이를 받아들이고 치유하기보다는 데스봇(deathbot)에 의존하도록 만들 위험성이 있다”고 가디언에 지적했다.
사토 게이스케 조치대 교수는 “(AI는) 딥페이크에 악용될 우려도 있다”며 “어디까지 허용할 수 있는지 논의가 기술 발전 속도를 따라가지 못하고 있다. 업계 내 자율 규제에 그치지 않는 규칙 정비가 필요하다”고 제언했다.
온라인 다크패턴 실태 점검 결과 가입보다 탈퇴 절차를 복잡하게 하는 사례가 가장 많은 것으로 나타났다. 다크패턴은 웹사이트나 앱에서 사용자가 원하지 않는 행동을 하도록 교묘하게 유도하는 디자인 방법이다.
공정거래위원회는 이런 내용을 담은 온라인 플랫폼 다크패턴 의심사례 점검·시정결과를 30일 발표했다. 회원 가입은 쉽게 할 수 있지만 해지나 탈퇴는 일부러 어렵게 만들어 놓거나, 무료 체험 후 사용자의 동의 없이 자동으로 유료 결제되는 경우 등이 다크패턴에 해당한다.
공정위와 한국소비자원은 지난 2월 다크패턴을 규율하는 전자상거래법이 시행된 후 7월까지 다크패턴 의심 사례를 점검했다. 그 결과 적발된 사업자 중 36곳이 45건의 위반 의심 사례를 시정하거나 시정계획을 제출했다.
유형별로 보면 가입보다 탈퇴 절차를 복잡하게 하는 사례가 15건으로 가장 많았다. 사업자들은 웹·앱을 통해 예약 및 계약 체결이 가능한 경우 취소·해지 신청도 웹·앱을 통해 가능하도록 시정했다. 멤버십 해지 시 반복적으로 해지 의사를 묻는 단계도 축소했다.
정기결제 대금을 증액하거나 무료에서 유료 전환 시 소비자의 사전 동의를 받지 않는 ‘숨은 갱신’ 의심 사례도 9건으로 조사됐다. 사업자들은 무료체험 종료나 정기결제 대금 인상 시 소비자에게 별도의 동의를 받는 절차를 신설했다. 소비자가 유료 전환, 대금 인상에 동의한다는 사실을 명확히 인지한 상태에서 동의·비동의 여부를 선택할 수 있도록 관련 문구나 표시도 바꿨다.
구매·가입·체결 등을 할 때 특정 항목만 선택하도록 선택 항목 간 시각적으로 현저한 차이를 둔 사례도 있었다. 쇼핑몰 등에서 가격을 표시·광고하는 첫 화면에 소비자가 필수적으로 지급해야 하는 총 금액 중 일부만을 표시해 소비자를 유인하는 경우도 다크패턴 사례로 지목됐다.
이들 사업자는 소비자의 멤버십 해지 시 ‘정기결제 해지’ 외에 ‘즉시해지’ 선택지를 제공하도록 시정했다. 또 소비자가 부담해야 하는 총 금액을 첫 화면에 표시·광고하거나, 총 금액에서 제외되는 항목을 알리도록 바꿨다.
공정위는 “이번 조사에서 시정계획을 내지 않거나, 계획을 제대로 이행하지 않는 사업자에 대해서는 별도의 조사 절차로 넘어가 법 위반이 확인되면 제재하겠다”고 밝혔다.

댓글목록

등록된 댓글이 없습니다.

댓글쓰기

이름 필수
비밀번호 필수
비밀글사용
자동등록방지	자동등록방지 자동등록방지 숫자를 순서대로 입력하세요.
내용

웹사이트 상위노출 ‘AI 장관·AI 아내’ 이어 ‘AI 고인’까지···가상인간, 대체 어디까지 허용해야 할까 > 갤러리게시판

MAC CUSTOMER CENTER

웹사이트 상위노출 ‘AI 장관·AI 아내’ 이어 ‘AI 고인’까지···가상인간, 대체 어디까지 허용해야 할까

페이지 정보

관련링크

본문

댓글목록