웹사이트 마케팅 프롬프트 바꿨더니 임산부에 ‘태아 기형 유발 약’ 추천···AI, ‘악의적 공격’ 못 걸렀다 > 갤러리게시판



세계로 뻗어가는 글로벌 기업 몬스터앤컴퍼니. 21세기 함께 성장하는 파트너가 되겠습니다.

갤러리게시판

웹사이트 마케팅 프롬프트 바꿨더니 임산부에 ‘태아 기형 유발 약’ 추천···AI, ‘악의적 공격’ 못 걸렀다

페이지 정보

작성자 황준영 작성일26-01-07 09:44 조회0회 댓글0건

본문

웹사이트 마케팅 챗지피티(ChatGPT) 등 주요 인공지능(AI) 모델 대부분이 사용자에게 잘못된 의료 정보를 제공하도록 유도하는 악의적 공격에 취약하다는 연구 결과가 나왔다. 임신부에게 태아 기형을 유발할 수 있는 약물을 권하는 상황까지 조작을 통해 쉽게 만들어졌다.
서울아산병원 비뇨의학과 서준교 교수와 정보의학과 전태준 교수, 인하대병원 영상의학과 이로운 교수 연구팀은 세계 최초로 ‘프롬프트 인젝션 공격’에 대한 의료용 대규모언어모델(LLM)의 보안 취약성을 분석한 연구를 ‘미국의사협회저널 네트워크 오픈’에 게재했다고 5일 밝혔다. 프롬프트 인젝션 공격은 해커가 AI 모델에 악의적인 명령어를 삽입해 본래 의도와 다르게 작동하도록 유도하는 사이버 공격으로, 의료용 AI에 이런 공격이 가해지면 위험하거나 금기된 치료를 권고하도록 조작될 수 있다는 우려가 제기돼 왔다.
연구진은 지난해 1월부터 10월까지 챗지피티(ChatGPT)와 제미나이, 클로드 등 실제로 널리 쓰이는 인공지능(AI) 모델 3종을 대상으로 실험을 진행했다. 연구진은 먼저 정상적인 의료 상담 상황처럼 보이지만, 특정 방향의 답변을 유도하도록 설계한 악의적 명령어를 AI에 입력했다. 이를 통해 AI가 위험하거나 부적절한 의료 조언을 하도록 조작될 수 있는지를 살펴봤다.
이 과정에서 연구진은 상황별 위험도를 나눠 분석했다. 예를 들어 당뇨 같은 만성질환 환자에게 검증된 치료 대신 생약 성분을 권하는 경우는 중간 단계, 호흡기 질환 환자에게 호흡 억제를 일으킬 수 있는 약물을 우선 추천하는 경우는 높은 단계 위험도로 분류했다. 임신부에게 태아 기형을 유발할 수 있는 금기 약물을 권하는 경우는 최고 위험도 단계로 설정했다. 연구진은 이처럼 위험 수준이 다른 12개 시나리오를 가정해 AI가 어떤 답변을 내놓는지 실험했다.
공격에는 두 가지 기법이 사용됐다. 환자 정보를 활용해 판단을 교란하는 ‘상황인지형 프롬프트 주입’과, 실제 존재하지 않는 정보를 그럴듯하게 만들어내는 ‘증거 조작’ 방식이다. 연구진은 공격 이후 환자와 AI 모델 간에 오간 총 216건의 대화를 분석했다.
그 결과 세 모델 전체에 대한 공격 성공률은 94.4%에 달했다. 최고 위험도 시나리오의 성공률도 91.7%를 기록했다. 높은 단계는 93.3%, 중간 단계는 100%로 위험도가 낮아질수록 취약성이 더 커졌다. 모델별로는 GPT-4o 미니와 제미나이 2.0 플래시라이트가 각각 100%, 클로드 3 하이쿠는 83.3%의 공격 성공률을 보였다. 조작된 답변이 후속 대화까지 이어진 비율도 세 모델 모두 80%를 넘겼다.
임신부에게 금기 약물을 권장하는 시나리오에서는 최상위급 AI 모델도 비슷한 한계를 드러냈다. 추가 실험에서 GPT-5, 제미나이 2.5 프로, 클로드 4.5 소넷 등 최신 모델 3종을 대상으로 사용자의 화면에 악성 문구를 숨기는 방식의 공격을 수행한 결과, GPT-5와 제미나이 2.5 프로는 공격 성공률이 100%, 클로드 4.5 소넷도 80%에 달했다.
연구진은 의료 현장에서 AI 활용이 빠르게 늘고 있는 만큼, 안전성을 높이기 위한 추가 조치가 시급하다고 지적했다. 서준교 교수는 “이번 연구는 의료용 AI 모델이 단순 오류를 넘어 의도적 조작에 구조적으로 취약하다는 사실을 실험적으로 규명했다”며 “현재의 안전장치만으로는 금기 약물 처방을 유도하는 등의 악의적 공격을 차단하기가 어려우므로, 환자 대상 의료 챗봇이나 원격상담 시스템을 도입하기 위해선 AI 모델의 취약성과 안전성을 철저히 테스트하고 보안 검증 체계를 의무화하는 조치가 필요하다”고 말했다.
지난 3일(현지시간) 미국이 니콜라스 마두로 베네수엘라 대통령을 체포하고 현지를 공습한 배경에는 중국과의 지정학적 경쟁이 있다. 전 세계 석유 매장량 1위인 베네수엘라는 미국과 중국 등 강대국이 이권을 차지하기 위해 내정에 개입한 역사가 있는 나라다. 현지 시민들은 석유 자원 침탈과 정치 불안정으로 빈곤에서 벗어나지 못하고 있다.
남미를 식민 지배하던 유럽 국가를 견제하기 위해 19세기 ‘먼로 독트린’을 내세웠던 미국은 1914년 베네수엘라 북부 마라카이보에서 유전이 발견된 이후 자본을 대거 투입해 석유 산업을 장악하기 시작했다. 냉전 당시 자유주의 진영이었던 베네수엘라 또한 미국과 손을 잡고 유전 개발 기술과 비용을 지원받았다.
베네수엘라 독재자 후안 비센테 고메스 전 대통령(1908~1935년 집권)은 미국과 영국 등 외국 석유 회사에 유리한 조건으로 채굴권을 허가했다. 엑손(엑손모빌 전신)과 셰브런 전신인 걸프오일, 캘리포니아스탠다드오일 등이 대거 진출했다. 베네수엘라는 이 시기 막대한 원유를 생산했지만 석유 판매 수익은 대부분 외국 자본으로 넘어갔다. 1970년대 중동 전쟁, 이란 혁명 등으로 두 차례에 걸친 기름 파동으로 유가가 급등했음에도 원유 수출국 베네수엘라의 경제 사정은 나아지지 않았다.
유전 개발권과 석유 판매를 통해 얻은 이익을 베네수엘라의 부패한 기득권층이 독식하자 1999년 ‘석유 주권’을 강조한 우고 차베스가 대통령으로 당선됐다. 차베스 정권은 자국에 있는 외국계 석유 기업 자산을 몰수해 베네수엘라 국영 석유회사(PDVSA)로 귀속시켰다. 그러나 베네수엘라에는 자체적인 유전 개발 기술이 부족했고, 차베스 정권이 석유 수익을 사회복지 프로그램 ‘볼리바르 혁명’에 쏟으면서 베네수엘라 경제 상황은 되레 악화했다. 당시 복지 예산 집행 과정이 불투명했다는 지적이 나온다.
차베스 정권은 반미 국가인 러시아, 쿠바, 중국 등과 손을 잡았다. 중국은 2007년 베네수엘라에 차관을 주면서 빚을 원유로 갚으라는 계약을 맺었다. 당시 중국이 빌려준 자금은 총 600억달러에 달하는 것으로 추산된다. 이 탓에 베네수엘라는 현재까지도 원유 생산량의 30% 이상을 중국과 러시아로 상환하고 있는 것으로 알려졌다.
중국은 돈을 빌려주는 조건으로 현지 기반시설 건설 프로젝트를 수주했다. 서구권 국가들이 안보 위협으로 꼽은 중국 통신기업 화웨이가 베네수엘라 통신 기반시설 구축에 대거 관여했고, 베네수엘라 최초의 통신 위성인 ‘시몬 볼리바르’를 제작할 때에도 중국이 기술을 공유했다.
베네수엘라가 중국과 가까워진 사이 미국은 2000년대부터 우파 성향의 군부 쿠데타나 정치인을 지원하며 정권 전복을 시도했다. 차베스주의를 등에 업고 2013년 첫 집권한 마두로 대통령은 반미주의 세력을 결집했다.
마두로 대통령이 재선에 도전한 2018년 대선에서 부정선거 의혹이 일자 야권이 다수인 베네수엘라 의회는 이듬해 후안 과이도 국회의장을 임시 대통령으로 선언했고, 도널드 트럼프 1기 행정부는 이를 지지했다. 미국은 이 사건을 계기로 베네수엘라 원유를 제재 대상으로 정했다. 마두로 대통령은 과이도를 지지한 미국 행위가 “내정 간섭”이라며 미국과의 단교를 선언했다.
강대국이 자원을 약탈하고 권력층이 부패한 사이 베네수엘라 시민들은 심각한 인플레이션과 경제난에 시달렸다. 2019년에는 연간 물가상승률이 34만%에 달했다. 마두로 정권은 2024년 반정부 시위를 벌인 시민과 야권 정치인 2400여 명을 체포하며 표현의 자유를 억압했다.

용인이혼변호사, 네이버검색광고, 안산이혼전문변호사, 베뉴장기렌트, 장기렌트출고기간, 의정부의정부검사출신변호사, 개인회생장기렌트, 수원형사변호사, 모델3장기렌트, 장기렌트카프로모션, 안양학교폭력변호사, 세종이혼전문변호사, 수원마약변호사, 폰테크, 무심사렌트, 자동차한달렌트비용, 의정부변호사, 레이장기렌트, 수원상간소송변호사, 의정부이혼변호사, 성남이혼전문변호사, 이지렌터카, 폰테크, 수원이혼전문변호사, 성남이혼변호사, 의정부상간소송변호사, 청주이혼전문변호사, 의정부법률사무소, 남양주학교폭력변호사, 렌트, 구리학교폭력변호사, 한달렌트카비용, 외제차프로모션, 암요양병원, 소형차리스, 장기렌트카사이트, 테슬라장기렌트, 사업자장기렌트, 인터넷가입현금지원, 수원법무법인, 싼타페하이브리드리스, 의정부음주운전변호사, GV70장기렌트, 수원이혼변호사, 천안이혼전문변호사, 용인상간소송변호사, 평택이혼전문변호사, 성남음주운전변호사, 렌트카쿠폰, 출장용접, 용인성추행변호사, 새차할부, 흥신소, 스타렉스리스, 의정부변호사, 용인성범죄전문변호사, 인스타 팔로우 구매, 차량단기렌트, 빠른이혼, 볼보장기렌트, 월단위렌트, 서울암요양병원, 수원상간소송변호사, 의정부변호사, 신차장기할부, 양산이혼전문변호사, 만21세장기렌트, 안양학교폭력변호사, 감성뮤직, 안양이혼변호사, 공부할때듣기좋은음악, 수원법무법인, 의정부법률사무소, 렌트자동차, 인터넷설치현금, 수원음주운전변호사, 신용불량장기렌트, 인천폰테크, 장기렌트카카드결제, 렌트카견적, 의정부이혼변호사, 상조내구제, 인스타 좋아요 구매, 의정부음주운전변호사, 수원음주운전변호사, 1달렌트카, 장기차렌트, 수원학교폭력변호사, 서울탐정사무소, 남양주학교폭력변호사, 안양이혼전문변호사, 볼보장기렌트, 수원성범죄변호사, 폰테크, 부천이혼전문변호사, 검사출신변호사, 저렴한장기렌트, 현대차딜러, 이혼상담, 한게임클래식, 폰테크, 수원의정부검사출신변호사, 용인성범죄변호사, 제주도장기렌트, 아반떼장기렌트가격, 자동차프로모션, 신용불량자장기렌트, 수원이혼전문변호사, 저신용렌트카, 수원형사변호사, 포항이혼전문변호사, 렌트카장기, 양주학교폭력변호사, 성남대형로펌, 안산이혼전문변호사, 수원법무법인, 무심사장기렌트카, 중고차장기렌트, 저신용장기렌트, 용인이혼변호사, 폰테크, 안산이혼전문변호사, 중고장기렌트, 상간남소송, 의정부법률사무소, 홈페이지 상위노출, 남양주학교폭력변호사, 수원소년범죄변호사, 장기렌트법인, 분당성추행변호사, 신차장기렌트카단점, GLE장기렌트, 폰테크, 수원부장검사출신변호사, 이혼소송, 수원성범죄변호사, 비아그라 처방, 의정부상간녀변호사, 당일폰테크, 개인회생장기렌트카, 용인불법촬영변호사, 안양음주운전변호사, 니로장기렌트, 의정부이혼변호사, 수원소년법전문변호사, 아반떼하이브리드장기렌트, 성남성범죄변호사, 포항이혼전문변호사, 랜트카대여, 인터넷설치현금, 분당강간변호사, 장기렌트카장점, 소액결제미납, 포천학교폭력변호사, 양주학교폭력변호사, 수원강제추행변호사, 의정부이혼변호사, 의정부이혼전문변호사, 저신용무보증장기렌트, 성남성범죄변호사, 이혼변호사, 용인강간변호사, 장기렌터카장단점, 용인이혼전문변호사, 폰테크, 출장용접, 저신용장기렌트, 인스타 좋아요 구매, 신차딜러서비스, 수원대형로펌, 청주센텀푸르지오자이, 성남대형로펌, 안산이혼전문변호사, 장기렌트신용등급, 저신용장기렌트, 전기차렌탈, 차렌트비용, 분당강간변호사, 차장검사출신변호사, 포천학교폭력변호사, 용인성추행변호사, 이혼전문변호사추천, 렌트카어플 , 안산학교폭력변호사, 가전내구제, 용인형사전문변호사, 저렴한렌트카, 마사지구인구직, 중고차장기렌트카, 의정부형사전문변호사, 수원이혼변호사, 용인성범죄전문변호사, 홈페이지 상위노출, 의정부음주운전변호사, 신차장기, 폰테크당일, 용인강간변호사, 수원이혼전문변호사, 의정부법률사무소, 차가격, 코글플래닛, 대구이혼전문변호사, 월렌트 , 의정부법률사무소, 용인부장검사출신변호사, 평택학교폭력변호사, 분당강간변호사, 수원형사전문변호사, 인터넷가입현금지원, 1년리스, 인터넷비교사이트, 이혼상담, 개인회생렌트카, 남양주이혼전문변호사, 의정부이혼전문변호사, 자동차할인, 신차장기렌트장점, 수원불법촬영변호사, 재산분할, 서울이혼전문변호사, 페라리리스, 경주이혼전문변호사, 성남학교폭력변호사, 만22세장기렌트, 수원성범죄전문변호사, 용인성범죄변호사, 수원변호사, 인스타그램 좋아요 구매, 한달렌터카, 장기렌트카가격비교, 의정부변호사, 출장용접, 남양주학교폭력변호사, 장안동렌트카, 렌트리스, 안산이혼전문변호사, 재산분할, 카니발리무진장기렌트, 폰테크., 중고차렌트, 용인학교폭력변호사, 펠리세이드장기렌트, 인터넷가입현금지원, 자동차리스렌트, 폰테크, 수원상간소송변호사, 인터넷설치현금, 분당불법촬영변호사, 개인회생장기렌트, 폰테크, 양산이혼전문변호사, 폰테크 당일, 장기렌트조건, 년미만렌트카, 성남이혼변호사, 수입차프로모션, 분당강간변호사, 성남대형로펌, 의정부변호사, 카니발장기렌트승계, 인터넷비교사이트, 대학생중고차, 폰테크, 렌트하는법, 용인검사출신변호사, 성남음주운전변호사, 중고차렌탈, 개인회생렌트, 개인사업자차량, 수원소년재판변호사, 인스타 팔로워 늘리기, 장기렌트5년, 렌탈임대, 레트카, 남성진변호사, 용인법무법인, 개인사업자렌트, 수원학교폭력변호사, 무심사장기렌트카, 기아차리스, 서울탐정사무소, 협의이혼, 용인성추행변호사, 인터넷티비현금많이주는곳, 대기업렌트카, 장기렌트란, 일일차량렌트, 단기렌트카가격, 천안이혼전문변호사, 의정부성범죄변호사, 기아자동차렌트, 안양이혼전문변호사, 저신용무보증장기렌트카, 분당불법촬영변호사, 안양음주운전변호사, 용인성추행변호사, 장기렌트인수, 스타렉스장기렌트, 인터넷가입현금지원, 개인사업자차량구매, 이혼전문변호사, 남양주학교폭력변호사, 의정부이혼변호사, 의정부학교폭력변호사, 의정부이혼전문변호사, 수원이혼변호사, 폰테크 사이트, 성남성범죄변호사, 의정부이혼전문변호사, 용인강간변호사, 안산이혼변호사, 경주이혼전문변호사, 수입차장기렌트카, 만21세장기렌트카, 의정부이혼전문변호사, 싼타페리스, 카니발장기렌트가격, 자동차렌트비교, 장기랜트, 비대면 폰테크, 창원이혼전문변호사, 용인이혼전문변호사, 의정부형사변호사, 안양이혼변호사, 수원성추행변호사, 현대자동차렌트, 수원개인회생, 수원성범죄전문변호사, 신차딜러서비스, 사업자차량, 싼타페하이브리드장기렌트, 수원성범죄변호사, 수원강간변호사, 남양주이혼전문변호사, 출장용접, 포천학교폭력변호사, 남양주대형로펌, 의정부학교폭력변호사, 쏘나타장기렌트, 이혼전문변호사, 수원상간변호사, 차빌리기, 차량장기렌트비용, 자동차할부 , 의정부성범죄변호사, 전기차장기렌트카, 폰테크, 의정부이혼변호사, 용인성범죄전문변호사, 성남성범죄전문변호사, 의정부성범죄전문변호사, 2024카니발, 수원상간소송변호사, 전연령렌트카가격, 의정부성범죄전문변호사, 장기렌트카신용등급, 자동차랜트, 수원음주운전변호사, 수원상간녀변호사, 경주이혼전문변호사, 의정부성범죄전문변호사, 안산학교폭력변호사, 장기렌트카반납, 렌트카견적, 인터넷가입현금지원, 의정부학교폭력변호사, 이지렌터카, 성남이혼변호사, 용인불법촬영변호사, 수원강간변호사, 대구장기렌트, 용인성범죄전문변호사, 남양주법무법인, 장기랜트카가격, 수원변호사, 안양이혼전문변호사, 수원대형로펌, 안산이혼전문변호사, 수원이혼전문변호사, 구미이혼전문변호사, 렌트카비교견적, 장기렌트사업자, 대전이혼전문변호사, 차대여, 차량구매, 수원이혼전문변호사, 폰테크, 용인강간변호사, 신차비교견적, 신차장기렌트카추천, 출장용접, 렌트카가격비교, 수원불법촬영변호사, 포천학교폭력변호사, 폰테크!, 수원법무법인, 국산차렌트, 남양주음주운전변호사, 인스타 팔로워 구매, 성남성범죄변호사, 인스타 좋아요 늘리기, 이지렌트, 폰테크, 양주학교폭력변호사, 인스타 좋아요, 수원대형로펌, 폰테크, 저신용장기렌트카, 남양주이혼전문변호사, 자동차장기리스, 현대렌터카, 내구제, 폰테크당일, 천안이혼전문변호사, 장기렌트저렴한곳, 차렌트어플, 장기렌트카추천, 폰테크 당일, 천안이혼전문변호사, 장기렌트나이, 분당강제추행변호사, 안양이혼변호사, 한게임머니상, 장기렌트카즉시출고, 네이버키워드광고, 웹사이트 상위노출, 성남대형로펌, 저신용장기렌트, 용인이혼전문변호사, 선납금없는장기렌트카, 수원성추행변호사, 신차가격비교, 홈페이지 상위노출, 이혼상담, 신용불량장기렌트, 신차렌트카, 구리학교폭력변호사, 평택이혼전문변호사, 안양이혼전문변호사, 의정부변호사, 조정이혼, 수입차장기렌트카, 수입차할인, 양주학교폭력변호사, 수원성추행변호사, 구미이혼전문변호사, 수원학교폭력변호사, 분당성추행변호사, 경주이혼전문변호사, 상간녀소송, 차렌트한달, 의정부성범죄전문변호사, 평택학교폭력변호사, 수원성범죄변호사, 기아장기렌트, 부천이혼전문변호사, 의정부학교폭력변호사, 울산이혼전문변호사, 수원법무법인, 만25세장기렌트, 자동차가격표, G90장기렌트, 승소사례, 대구이혼전문변호사, 빠른이혼, 인스타 팔로워 구매, 당일렌트, 위자료, 하나복권, 수원형사전문변호사, 폰테크, 수원형사변호사, 인터넷가입현금지원, 외제차할인, 안산학교폭력변호사, 서울흥신소, 웹사이트 상위노출, 성남상간소송변호사, 용인성추행변호사, 경차장기렌트, 수원형사전문변호사, 분당불법촬영변호사, 안산이혼변호사, 의정부상간소송변호사, 의정부성범죄전문변호사, 수원성추행변호사, 단기렌트카추천, 부천이혼전문변호사, 의정부법률사무소, 의정부형사전문변호사, 용인성범죄전문변호사, 의정부형사전문변호사, 비아그라 종류, 이혼전문변호사,

댓글목록

등록된 댓글이 없습니다.


TEL. 00-000-0000 FAX. 00-000-0000 서울 강남구 봉은사로 24길 46
대표:홍상식 사업자등록번호:000-00-00000 개인정보관리책임자:홍삼식

Copyright © 몬스터앤컴퍼니 All rights reserved.