명품레플리카사이트 일론 머스크의 xAI가 운영하는 인공지능(AI) 챗봇 그록이 최근 전 세계적 논란을 만들고 있다. 이 기능은 지난달 머스크 소유의 소셜미디어 플랫폼인 엑스에 기본으로 탑재됐는데, 엑스에 사진을 올리면서 그록 계정인 @grok을 태그하고 사진을 특정한 형태로 바꿔달라고 적기만 하면 AI로 합성된 이미지가 즉시 멘션으로 날아온다.
얼마 전 산타클로스가 하늘을 날아가는 이미지나 만들어볼까 하고 이 계정 태그를 클릭했다가 경악해서 뒤로가기 버튼을 연타한 일이 있었다. 몇초에 한 장씩 쏟아지는 합성사진의 대부분이 나체에 가까운 옷차림을 하고 성적인 자세를 한 여성의 사진이었기 때문이다. 아마도 이 중 상당수는 실제 인물일 것이며, 자신의 사진이 이와 같은 방식으로 편집되어 전 세계 사람들에게 전시되는지조차 몰랐을 것이다.
챗봇 ‘그록’ 표현의 자유 이유로규제 최소화한 ‘성 콘텐츠’ 허용클릭 한번에 딥페이크 영상 제작거대 기술자본에 책임을 물어야
그록은 경쟁사들의 AI 챗봇과 달리 ‘표현의 자유’를 내세워 규제를 최소화한다. 챗GPT, 제미나이 등의 AI 서비스는 ‘옷을 벗겨라’ ‘인물의 자세를 성적으로 바꿔라’ 등의 요청을 수행하지 않지만, 그록은 성적 콘텐츠를 허용하면서 이용자를 늘려왔다. 지난해 8월에는 성적인 이미지를 생성할 수 있는 이른바 ‘매운맛 모드’를 내놓기도 했다.
AI로 성적 허위영상물(딥페이크)을 만드는 범죄는 원래 잦았지만 이전까지는 그나마 기술적 장벽이 있었다. 이미지를 저장하고 별도 프로그램을 이용해 합성하고 재업로드를 하는 과정을 거쳐야 했다. 이 과정이 아주 간단치는 않다 보니 텔레그램을 통해 돈을 받고 딥페이크 영상을 만들어주는 범죄도 성행했다. 의도적으로 범행 대상의 사진을 찾아 다운로드하고, 합성을 위한 애플리케이션을 찾고, 때로는 돈까지 내는 과정을 감내하는 ‘의도를 가진’ 가해자들만 이 판에 들어왔다는 얘기다. 하지만 그록이 제공하는 사진 합성은 하루 방문자 수가 1억5000만명에 달하는 거대 소셜미디어 플랫폼에서 클릭 한 번으로 접근할 수 있는 기본 기능이다. 심지어 다른 사람의 계정에 올라온 사진도 클릭 한 번으로 합성할 수 있다.
이렇게 쉽게 장난처럼 성적 허위영상물을 만들어낼 수 있게 되었을 때 가해와 피해의 문턱은 급격히 낮아질 수밖에 없다. 프랑스의 한 비영리단체가 지난해 말 일주일간 엑스에서 @grok을 태그한 게시물 5만건과 이미지 2만장을 분석했더니, 이 중 절반 이상은 속옷이나 비키니 차림이었고 대부분이 젊은 여성이었다고 한다. 이렇게 만들어진 이미지는 클릭 한 번으로 재게시돼 퍼져나간다. AI 도구를 사용하는 방식이 극도로 간편해지고 표현의 자유라는 이름으로 플랫폼이 아무 책임을 지지 않는 동안, 불과 한 달 만에 생긴 일이다. 다른 소셜미디어 플랫폼들은 이 길을 따라가지 않을까. 그러지 않을 거란 확신이 들지 않는다.
지금까지 인터넷과 기술의 발전은 수많은 혁신을 낳았지만 성폭력과 성착취를 확산시키기도 했다. 초고속인터넷망 보급과 함께 불법촬영물의 온상인 소라넷이 등장했고, 소셜미디어와 온라인 메신저는 성착취물 유포 경로가 됐다. 소형화된 카메라는 동의 없는 촬영에, 이미지 압축과 스트리밍 기술의 진화는 불법촬영물을 퍼뜨리는 데 이용됐다. AI의 발전도 같은 길을 갈까봐 두렵다. 한국은 지난해 딥페이크 사태 후 피해자의 의사에 반해 성적 허위영상물을 제작·유포·소지·시청·저장하는 행위를 모두 처벌한다. 하지만 이걸 다 잡을 수 있을지도 회의적이고 잡는다고 이미 유포된 합성사진과 영상이 삭제되지도 않는다.
아동이 성적으로 대상화된 합성사진까지 범람하자 영국과 유럽연합(EU) 등은 엑스에 조치를 요구하고 있다고 한다. 기술은 가치중립적이라고 하지만 플랫폼이 어떤 기능을 내세우느냐는 전혀 가치중립적이지 않다. 표현의 자유라는 구호 뒤에 숨어 성착취의 가능성을 방치하고 이익을 추구하는 것은 기업의 가치판단이며, 디지털 성범죄는 어떻게 보면 나쁜 개인의 일탈이라기보다는 이 판단의 결과다. 사후 처벌만으로는 확산되는 피해를 되돌릴 수도 없다. 더는 거대 기술기업에 책임을 묻는 데 사회와 세계가 실패하지 않아야 한다. 실패의 대가는 언제나 가장 취약한, 피해를 호소할 곳이 없는 사람들에게 돌아갈 수밖에 없고 이번에도 예외는 아닐 것이기 때문이다.
전국장애인차별철폐연대(전장연)가 오는 6월 지방선거 때까지 ‘출근길 지하철 탑승 시위’를 유보하기로 했다. 서울시장 선거 출마를 선언한 김영배 더불어민주당 의원이 전장연을 찾아 정치권의 해결 노력을 약속하자 시위를 잠시 멈추기로 한 것이다. 다만 전장연은 시위를 중단하는 것이 아니라 정치권의 책임있는 답을 지켜보겠다고 밝혀 향후 지방선거를 전후해 장애인 이동권과 관련한 의미 있는 결과가 나올지 주목된다.
박경석 전장연 상임대표는 7일 오전 서울 지하철 4호선 혜화역 플랫폼에서 기자회견을 열고 “김영배 의원이 민주당 서울시장 후보들의 간담회를 오는 9일 국회에서 열겠다고 약속했고 제안했다. 이 제안을 수용하기로 했다”며 “출근길 지하철을 탑승해 연착하는 지하철 행동을 지방선거 때까지 유보하겠다”고 밝혔다. 이어 “지하철에서 외쳐온 장애인 권리 요구와 서울시장으로서 책임져야 할 사안들을 (간담회에서) 직접 설명하고 정책 협약을 제안할 것”이라고 말했다.
앞서 김 의원은 지난 6일 전장연의 혜화역 선전전 현장을 방문해 이 같은 제안을 했다.
전장연은 오는 6월 서울시장 선거를 앞두고 장애인 이동권 등 요구 방식을 조정한 것으로 보인다. 박 상임대표는 “우리의 투쟁 목적은 장애인이 지역사회에서 함께 살아갈 기반을 만드는 것”이라며 “여야를 떠나 정치가 이번에 실제로 이를 약속할 수 있다면 대화에 응하는 것이 맞다고 판단했다”고 설명했다.
시위 방식을 놓고 내부에서부터 다른 의견이 나온 부분도 이번 결정의 배경으로 해석된다. 전장연은 2021년 12월부터 장애인 이동권 보장과 관련 예산 확충을 요구하며 출근길 지하철 탑승 시위 등을 벌여왔는데 이로 인해 시민들의 불편이 쌓이자 전장연 내부에서부터 “다수 시민의 지지를 얻기 어려운 방식”이라는 반론이 적지 않게 나왔다.
이른바 ‘욕먹는 시위’를 계속해왔지만 실질적인 변화가 더딘 부분도 전장연을 지치게 했다는 평가가 나온다. 이재명 정부 출범 직후부터 장애인 이동권 보장, 장애인활동지원 예산 증액, 탈시설 예산 확대 등을 요구했지만 최종 예산안에 반영된 내용은 제한적이었다. 지난해 국회 국토교통위원회는 장애인 콜택시 등 특별교통수단 운전 지원 예산으로 260억원을 합의했지만, 실제 반영액은 25억원에 그쳤다. 또 탈시설 요구와는 달리, 장애인 시설을 보강하는 예산이 오히려 늘어나면서 논란도 이어졌다.
입법 역시 제자리걸음이다. 서미화 더불어민주당 의원이 2024년 5월 22대 국회 1호 법안으로 발의한 ‘교통약자 이동권 국가책임제’ 법안은 1년 6개월 넘도록 국회 문턱을 넘지 못하고 있다.
그러는 사이에 장애인에 대한 혐오는 커졌다. 시민 불편이 커지자 김재섭 국민의힘 의원은 전장연을 겨냥해 지하철 시위 등을 가중처벌하는 이른바 ‘전장연 방지법’을 발의하기도 했다. 일부 온라인 커뮤니티에서는 ‘전장연’이라는 이름 자체를 비하하는 말로 쓰는 등 혐오가 빈번하게 이뤄지고 있다.
전장연이 이번 ‘잠시 멈춤’ 기간에 거는 기대는 그래서 작지 않다. 전장연은 오는 9일 국회 간담회에서 ‘장애인 콜택시 운행 지원 확대’와 ‘권리중심 중증장애인 일자리 복원’ 등을 논의 대상으로 꺼낼 계획이다. 서울의 장애인 콜택시는 하루 평균 7시간만 운행돼 최대 대기 시간이 12시간에 달해 운영을 확대해달라는 게 이들의 요구다. 오세훈 서울시장이 폐지한 권리중심 중증장애인 일자리가 단순 고용을 넘어 장애인 권리 보장 차원에서 필요하다고 주장한다.
박 상임대표는 “이번 결정은 철회나 중단이 아니라 유보일 뿐”이라며 “정치권의 약속이 지켜지지 않으면 다시 단호하게 투쟁에 나설 수밖에 없다”고 했다.

분당불법촬영변호사, 구미이혼전문변호사, 의정부음주운전변호사, 폰테크, 신차비교어플, 수원성범죄변호사, 이혼소송, 신차딜러서비스, 이지렌트, 인터넷티비현금많이주는곳, 월렌트카싼곳, 의정부학교폭력변호사, 의정부변호사, 안산음주운전변호사, 저신용자렌트카, 월단위렌트, 렌트카앱, 성남학교폭력변호사, 폰테크, 개인회생장기렌트, 의정부이혼전문변호사, 장기렌트인수비용, 폰테크, 이지렌트, 의정부소년재판변호사, 화물차장기렌트, 용인성추행변호사, 당일 폰테크, 양육권, 수원촉법소년변호사, 용인강간변호사, 남양주학교폭력변호사, 수원강간변호사, 평택이혼전문변호사, 의정부이혼변호사, 이혼전문변호사, 의정부법률사무소, 서울이혼전문변호사, 저신용장기렌트, 선납금없는장기렌트카, 폰테크, 용인성범죄전문변호사, 수원성범죄전문변호사, 수원상간변호사, 경차장기렌트, 안양학교폭력변호사, 신차출고, 안양이혼변호사, 신차장기, 보증금장기렌트, 구리학교폭력변호사, 약, 렌트카보증금, 용인음주운전변호사, 장기렌트란, 용인검사출신변호사, 위자료, 인터넷가입사은품많이주는곳, 용인상간소송변호사, 의정부검사출신변호사, 창원이혼전문변호사, 장기렌트나이, 인터넷비교사이트, 자동차대여, 인터넷가입, 자동차싸게사는법, 의정부형사전문변호사, 렌트카예약, 카니발장기렌트가격, 폰테크, 의정부변호사, 안산상간소송변호사, 수원이혼전문변호사, 상간녀소송, 당일폰테크, GLE장기렌트, 12개월렌트, 안산이혼변호사, 이혼전문변호사, 수원이혼전문변호사, 홈페이지 상위노출, 산타페하이브리드리스, 3개월렌트, 의정부법무법인, 포르쉐장기렌트, 용인상간소송변호사, 장기렌트, 기아카니발, 안양음주운전변호사, 의정부음주운전변호사, 양주학교폭력변호사, 개인사업자차량구매, 폰테크, 장기렌트카프로모션, 평택학교폭력변호사, 비대면 폰테크, 수원상간소송변호사, 의정부이혼변호사, 신차장다이렉트, 백링크, 폰테크, 단기렌터카, 인터넷비교사이트, 용인법무법인, 당일폰테크, 성남상간소송변호사, 사고대차렌트, 수원이혼전문변호사, 용인형사전문변호사, 의정부음주운전변호사, 외제차프로모션, 투싼장기렌트, 폰테크, 아반떼리스가격, 수원대형로펌, 미니쿠퍼장기렌트, 안양상간소송변호사, 아반떼리스가격, 단기렌터카가격비교, 수원형사변호사, 재산분할, 수원상간소송변호사, 성남성범죄변호사, 대구이혼전문변호사, 웹사이트 상위노출, 인스타 팔로워 늘리기, 안양대형로펌, 스타렉스장기렌트, 렌탈리스차이, 인터넷티비현금많이주는곳, 폰테크당일, 의정부이혼변호사, 위자료, 수원불법촬영변호사, 폰테크, 자동차한달렌트비용, 폰테크, 대학생중고차, 인스타 좋아요, 구미이혼전문변호사, 폰테크, 청주이혼전문변호사, 안산상간소송변호사, 인터넷가입현금지원, 팔팔정구입, 인터넷가입, 의정부소년범죄변호사, 무심사장기렌트카, 용인이혼변호사, 수원검사출신변호사, 의정부형사전문변호사, 안산학교폭력변호사, 웹사이트 상위노출, 연체자장기렌트, 안양상간소송변호사, 렌트카비용, 이지렌트카, 홈페이지 상위노출, 수원강제추행변호사, 폰테크, 네이버키워드광고, 의정부법률사무소, 내구제, 의정부음주운전변호사, 렌탈리스차이, 용인불법촬영변호사, 렌트카추천, 수원형사변호사, 인터넷비교사이트, 부장검사출신변호사, 용인검사출신변호사, 부장검사출신변호사, AVMOOV 변호사, 수원형사전문변호사, 수원형사변호사, 폰테크, 분당성추행변호사, 사이트 상위노출, 수원형사변호사, 남양주학교폭력변호사, 폰테크, 저신용장기렌트, 세종이혼전문변호사, 장기렌트보증보험, 용인법무법인, 폰테크, 장기렌터카, 장기렌트카추천, 용인성범죄변호사, 천안이혼전문변호사, 장기랜트, 저신용장기렌트카, 마약변호사, 남양주법무법인, 쏘렌토하이브리드렌트, 성남이혼전문변호사, 분당성추행변호사, 인스타 좋아요 구매, 인터넷가입사은품많이주는곳, 무보증장기렌트 , 협의이혼, 수원이혼전문변호사, 당일폰테크, 안산학교폭력변호사, 한달렌트카비용, 양산이혼전문변호사, 평택학교폭력변호사, 기아자동차렌트, 인천이혼전문변호사, 인터넷가입현금지원, 수원마약변호사, 탐정사무소, 개인회생자장기렌트, 장기렌트카보증금, 안양대형로펌, 신차장기리스, 의정부형사전문변호사, 출장용접알곤, 비아그라 후기, 수원음주운전변호사, 용인검사출신변호사, 용인성추행변호사, 성남이혼변호사, 수원법률사무소, 수원성범죄변호사, 렌트카쿠폰, 의정부형사전문변호사, 안양이혼변호사, 폰테크, 수원성범죄변호사, 단기렌트가격비교, 분당강제추행변호사, 수원성범죄전문변호사, 분당불법촬영변호사, 성남상간소송변호사, 남양주대형로펌, 현대차렌탈, 의정부형사변호사, 의정부이혼전문변호사, 스포티지장기렌트, 분당강제추행변호사, 인터넷비교사이트, 안양법무법인, 차량렌트비용, 성남상간소송변호사, 신차장기렌트견적, 용인성범죄전문변호사, 장기렌트1년, 중고차리스, 리스초기비용, 차량가격, 수원법무법인, 고양이혼전문변호사, 안산학교폭력변호사, 용인음주운전변호사, 성남성범죄변호사, 수원상간소송변호사, 의정부대형로펌, 의정부성범죄변호사, 대전이혼전문변호사, 인터넷비교사이트, 차량렌트, 포항이혼전문변호사, 의정부법률사무소, 차량견적, 인스타그램 팔로워, 세종이혼전문변호사, 의정부검사출신변호사, 폰테크 홈페이지, 다이렉트KB, 수원법무법인, 의정부이혼전문변호사, 수원강간변호사, 수원학교폭력변호사, 신차장기렌트비교, 하나장기렌트, 평택이혼전문변호사, 성남학교폭력변호사, 인수형장기렌트, 대기업렌트카, 용인이혼전문변호사, 의정부이혼변호사, 안양상간소송변호사, 의정부이혼변호사, 수원검사출신변호사, BMW장기렌트 , 이혼상담, 이지렌트카, 차량한달렌트, 카니발장기렌트카, 출장용접, 수원음주운전변호사, 전기차장기렌트카, 6개월렌트카, 안산이혼변호사, 신불자장기렌트, 자동차렌트비용, 인스타 좋아요, 자동차가격, 의정부음주운전변호사, 중고장기렌트카, 이지렌트, 의정부이혼전문변호사, 차량한달렌트, 현대렌터카, 중고차장기렌탈, 구리학교폭력변호사, 이혼상담, 단기렌트추천, 폰테크, 포천학교폭력변호사, 의정부변호사, 서울이혼전문변호사, 용인음주운전변호사, 장기렌트법인, 안양음주운전변호사, 의정부마약변호사, 수원강간변호사, 신용불량장기렌트, , 양산이혼전문변호사, 차가격, 렌트카조건, 7리스, 이혼소송, 두달렌트, 신용불량자장기렌트, 안산학교폭력변호사, 장기렌트선납금, 안양이혼전문변호사, 신차견적어플 , 수원이혼전문변호사, 의정부이혼전문변호사, 수원형사전문변호사, 인터넷가입, 수원음주운전변호사, 수원이혼전문변호사, 신차장기렌트카추천, 포항이혼전문변호사, 수원법률사무소, 수원대형로펌, 용인상간소송변호사, 안산음주운전변호사, 대전흥신소, 모닝장기렌트, 서울렌트, 포천학교폭력변호사, 탐정사무소, 수원불법촬영변호사, 분트, 사업자차량, 서울이혼전문변호사, 이혼변호사, 승소사례, 수원형사전문변호사, 용인상간소송변호사, 수원학교폭력변호사, 장기랜트카가격, 성남이혼변호사, 한게임머니상, 성남음주운전변호사, 분당강간변호사, 수입차프로모션, 장기렌트매입, 폰테크당일, 장기렌트카비교견적, 인터넷가입현금지원, 용인음주운전변호사, 의정부성범죄변호사, 폰테크, 수원이혼전문변호사, 포항이혼전문변호사, 남성진변호사, 부천이혼전문변호사, 수원성추행변호사, 폰테크, 안양상간소송변호사, 평택학교폭력변호사, 수원소년재판변호사, 렌트카 장기렌트, 성남학교폭력변호사, 성남법무법인, 수원형사전문변호사, 제주장기렌트카, 아반떼장기렌트가격, 랜트카, 업무용승용차, 분당강간변호사, 렌트카보증금, 한게임머니상, 인터넷가입현금지원, 저신용장기렌트, 문해력, 수원음주운전변호사, 제네시스견적, 수원학교폭력변호사, 의정부음주운전변호사, 인터넷가입현금지원, 의정부이혼변호사, 렌트카가격비교, 용인성범죄변호사, 중고차장기렌탈, 개인사업자자동차, 소형차리스, 의정부음주운전변호사, 당일폰테크, 분당성추행변호사, 성남이혼전문변호사, 수원음주운전변호사, 의정부법률사무소, 유튜브 조회수 늘리기, 경주이혼전문변호사, 대구이혼전문변호사, 의정부이혼전문변호사, 마사지구직, 이혼변호사, 수원상간녀변호사, 렌트카비교, 용인상간소송변호사, 의정부법률사무소, 2024카니발제원, 유방암요양병원, 수원형사전문변호사, 비아그라 복용법, 용인마약변호사, 개인회생렌트카, 캠리장기렌트, 아반떼N장기렌트, 한게임클래식머니상, 용인형사전문변호사, 중고장기렌터카, 의정부의정부검사출신변호사, 폰테크, 인터넷가입, 폰테크, 수원변호사, 의정부형사변호사, 수원음주운전변호사, 안양이혼전문변호사, 신차가격비교, 의정부성범죄변호사, 재산분할, 렌트차, 성남상간소송변호사, 고양이혼전문변호사, 이혼변호사, 개인렌트카, 중고차렌탈, 용인법무법인, 수원법무법인, 용인의정부검사출신변호사, 수원형사변호사, 의정부마약전문변호사, 당일폰테크, 폰테크, 정품비아그라, 수원이혼전문변호사, 상조내구제, 폰테크 당일, 안양이혼변호사, 성남학교폭력변호사, 폰테크, 포항이혼전문변호사, 안산이혼전문변호사, 장기렌트잔존가치, 수원형사전문변호사, 아반떼신차가격, 차량단기렌탈, 장기렌트조건, 벤츠장기렌트, 수원이혼전문변호사, 인터넷가입현금지원, 저신용자렌트, 미스트롯4투표, 선납금없는장기렌트, 인스타그램 좋아요 늘리기, 승소사례, 분당불법촬영변호사,