갤러리게시판

수원형사변호사 [산업이지]챗GPT 고민 상담, ‘LAMP’합시다···감정 교류 AI 첫 ‘윤리 가이드라인’

페이지 정보

작성자 황준영 작성일25-10-27 11:38 조회0회 댓글0건

본문

수원형사변호사 30대 직장인 A씨는 요즘 고민거리가 있을 때 가장 먼저 챗GPT를 찾습니다. 뾰족한 해결 방법도 없고 그저 털어놓고 싶을 뿐인 이야기라면 굳이 사람일 필요가 없다고 생각합니다. 가까운 친구들을 ‘감정 쓰레기통’(부정적 감정을 일방적·지속적으로 받아주는 사람)으로 만들고 싶지 않은 마음도 크고요.
A씨에게 공감하는 분들, 드물지 않을 겁니다. 인공지능(AI)과 친밀하게 지내는 것을 넘어 인간보다 AI와 하는 대화가 오히려 편하게 느껴지는 경우도 늘고 있습니다. 챗GPT 개발사인 오픈AI와 MIT 미디어랩이 챗GPT와 사용자의 실제 대화 400만건 이상을 분석한 결과, 사용 시간 상위 10% 이용자 대화의 절반 이상에서 정서적 신호가 확인됐다고 합니다. 그런데 이런 AI와의 감정 교류, 그냥 해도 문제는 없는 걸까요?
사실 AI와 인간의 감정 교류와 관련해선 통계나 연구가 턱없이 부족합니다. 그저 위의 조사 결과처럼 한국에서도 비슷한 추이를 보일 것으로 추측할 뿐이죠.
이런 가운데 최근 국내에서 의미 있는 움직임이 포착됐습니다. 국제인공지능윤리협회(IAAE)가 발표한 ‘감정 교류 인공지능 윤리 가이드라인’입니다. AI 챗봇과 정서적으로 교류하며 의존하는 이용자가 급증하고 이에 따른 부작용을 막기 위해 만든 첫 윤리 기준입니다.
가이드라인은 크게 사업자(서비스 제공자)와 사용자로 나눠 AI와 감정 교류를 할 때 무엇을 지켜야 하는지 제시합니다.
사업자가 따라야 할 핵심 원칙은 ‘LAMP’(램프)로 요약할 수 있습니다. ‘L’(Limit·줄여라)은 데이터를 최소한으로 수집할 것, ‘A’(Announce·알려라)는 사용자에게 해당 서비스가 AI임을 명확히 고지할 것을 뜻합니다. ‘M’(Monitor·살펴라)는 지속적 점검과 검증을, 마지막으로 ‘P’(Protect·지켜라)는 개인정보와 취약 계층의 보호를 의미하고요.
특히 사용 시간이 길어지면 휴식을 유도하고, 위험 키워드를 감지하면 전문 기관으로 연결할 것을 권고합니다. 또 정서 의존을 완화할 기술적 조치에도 적극적이어야 한다고 명시합니다.
사용자들도 스스로를 보호하기 위해 지켜야 할 원칙이 있습니다. 먼저 AI가 인간이 아닌 기술적 모의임을 명확히 인식하고, 과도한 의존을 경계해야 합니다. 서두에 소개한 오픈AI·MIT 미디어랩의 연구에서도 이용 시간이 길수록 외로움, 감정적 의존 등 부정적 지표와 상관관계가 있는 것으로 나타났거든요.
나의 개인정보는 스스로 챙겨야 합니다. 개인정보 자기 결정권을 행사하고 공정성과 접근성을 요구해야 합니다. AI를 활용할 땐 올바르게 그리고 사용에 따른 사회적 책임도 져야 합니다.
AI와의 감정 교류는 아직 초기 단계로 앞으로도 빠르게 늘어날 것으로 보입니다. 일단 ‘돈이 된다’는 게 업계 판단입니다. 다수의 리서치 기관에 따르면, 감정 교류형 AI 시장은 2030년대 초중반까지 연평균 20~30%대 성장을 할 것으로 전망됩니다. 1인 가구 비중과 함께 디지털 웰빙 수요가 증가하고 있는 한국에선 해당 서비스의 성장이 한층 빠를 것으로 예상되고요.
감정 교류 인공지능 윤리 가이드라인은 기술 발전 속도에 비해 사회적 규범과 제도 정비가 크게 뒤처져 있다고 진단합니다. 이런 상황에서 감정 교류 AI가 확산하는 것은 심리적 의존과 알고리즘 편향, 프라이버시 침해 등 복합적인 위험을 낳을 수 있다고도 경고합니다. AI가 사용자의 감정적 취약점을 이용할 경우 신체적 피해 이상의 심리적 손상을 줄 수 있다는 다소 섬뜩한 지적도 나오고요.
전창배 국제인공지능윤리협회 이사장은 말합니다. “이번 가이드라인은 선언적 원칙에 그치지 않고 주체별 구체적인 실천 지침과 행동강령을 제시했다는 데 큰 특징이 있습니다. 기술 발전 속도에 비해 사회적 규범과 제도 정비가 뒤처진 상황에서 산업계의 책임 있는 혁신과 정책의 합리적 수립을 위한 기반을 제공할 것입니다.”
2022년 20대 대선 정국을 흔든 ‘대장동 개발비리 의혹’에 연루된 민간업자들의 1심 재판이 4년 만에 마침표를 찍는다. 이들의 유무죄를 가리는 과정에서 대장동 사업의 ‘최종 결재권자’란 의심을 받아 온 이재명 대통령이 언급될지 주목된다.
서울중앙지법 형사합의22부(재판장 조형우)는 오는 31일 오후 2시 특정경제범죄가중처벌법상 배임 등 혐의로 기소된 유동규 전 성남도시개발공사 기획본부장, 화천대유자산관리 대주주 김만배씨, 남욱 변호사, 정영학 회계사, 정민용 변호사 등에 대한 1심 판결을 선고한다. 이들은 대장동 개발 사업 과정에서 ‘초과이익 환수’ 조항을 고의로 삭제하는 등 성남시와 유착해 총 7886억원의 부당 이득을 챙긴 혐의로 2021년 10월 무렵 차례로 기소됐다. 지난 4년간 총 190여 차례 재판이 열렸다.
사건의 쟁점이 많고 공범들 간 관계가 복잡하다는 점을 고려해도 해당 재판은 진행이 느리다는 평가가 많았다. 우선 재판 도중 해를 넘기는 바람에 법관 정기 인사로 재판부가 바뀌는 일이 반복돼 공판 갱신 절차만 총 3번 밟았다. 앞서 진행된 재판의 녹취를 듣느라 약 두 달이 지나기도 했다. 유 전 본부장과 남 변호사 등 핵심 피고인들의 진술이 오락가락했던 점도 심리가 길어진 이유로 꼽혔다.
올해는 재판부 교체 없이 막바지 심리에 속도를 내면서 지난 6월30일 변론을 마쳤다. 당시 재판부는 수사와 재판 기록이 25만 쪽에 이른다며 4개월 뒤인 오는 31일로 선고기일을 정했다. 마지막 재판 날로부터 한 달 뒤에 판결을 선고하는 다른 재판과 비교하면 변론 종결 후 선고까지도 이례적으로 긴 시간이 걸렸다.
검찰은 유 전 본부장에게 징역 7년, 김씨에게 징역 12년의 중형을 선고해달라고 재판부에 요청했다. 정 회계사에는 10년, 남 변호사·정 변호사에게는 각각 징역 7년과 5년을 구형했고 총 7800억원의 추징 명령도 요청했다. 검찰 측은 “피고인 5명은 천문학적인 이익을 취득했고 피해는 고스란히 지역 주민들에게 전가됐다”면서 “정상적인 방법으로는 사업권을 취득할 수 없던 민간업자들이 선거 운동을 돕거나 뇌물을 주는 등 성남시와 공사 공직자들에게 부정한 방법을 동원했다”고 했다. 피고인 측은 성남시도 고정 몫을 가져가 손해를 보지 않았고, 사업이 예상 밖의 성공을 거둬 이익이 커졌을 뿐이라 배임 혐의는 성립하지 않는다는 취지로 반박했다.
사업의 최종 결재권을 가지고 있던 이 대통령에 대한 법적 판단을 이번 판결에서 엿볼 수 있을지도 관심사다. 그간 민간업자들의 재판에서는 당시 성남시장이었던 이 대통령이 대장동 수익 배분 구조를 보고받았다는 취지의 진술이 나왔다. 유 전 본부장은 최후 진술에서 “이재명의 정치적 성공을 위해 많은 범죄에 연루가 됐다”며 이 대통령을 언급했다. 이 대통령은 민간업자들과 따로 기소돼 재판을 받아 왔는데 ‘대통령의 형사상 불소추특권’을 명시한 헌법 84조에 따라 현재는 재판이 무기한 연기된 상태다.
법원 안팎에선 재판부가 이 대통령 등 ‘윗선’의 개입 여부는 판단하지 않을 거라고 보는 시각이 많다. 재판부는 심리 막바지에 접어든 지난 3월부터 이 대통령의 증언을 들어보겠다고 했지만 이 대통령이 5차례 연속 불출석하면서 불발됐다. 재판부는 “어떤 경위로 정책을 결정했는지 국민 의문을 해소하는 차원에서 나오기를 기대했으나 안 나오면 이대로 판단할 수밖에 없다”고 했다.

댓글목록

등록된 댓글이 없습니다.

댓글쓰기

이름 필수
비밀번호 필수
비밀글사용
자동등록방지	자동등록방지 자동등록방지 숫자를 순서대로 입력하세요.
내용

수원형사변호사 [산업이지]챗GPT 고민 상담, ‘LAMP’합시다···감정 교류 AI 첫 ‘윤리 가이드라인’ > 갤러리게시판

MAC CUSTOMER CENTER

수원형사변호사 [산업이지]챗GPT 고민 상담, ‘LAMP’합시다···감정 교류 AI 첫 ‘윤리 가이드라인’

페이지 정보

관련링크

본문

댓글목록