안녕하세요, 비지트입니다.
몇번을 강조해도 지나치지 않을 AI 윤리에도 불구하고 딥페이크* 범죄에 노출되고 있습니다. 대표적으로 우크라이나 러시아 전쟁에서 우크라이나 젤란스키 대통령의 가짜 항복 영상에서부터 미국의 펜타곤 (국방부) 청사 근처 건물 폭발 가짜 사진 뿐만 아니라, 정치인 연예인 들의 가짜 뉴스나 영상 등을 생산 배포하고 있어 문제시 되었죠.
*딥페이크(deepfake)란 딥러닝(Deep Learning)과 Fake의 합성어로, 딥러닝 기술을 사용하는 인간 이미지 합성 기술을 말한다. 인공지능을 이용해 실제처럼 보이도록 만든 모든 비디오, 사진 또는 오디오를 모두 총칭하는 의미로 확장되었다. 주로 실존 인물의 사진이나 음성을 사용하여 AI로 생성, 조작된 자료를 의미한다. -나무위키-
특히나, 이미지 생성형 AI 를 이용해 아동 학대에 해당되는 음란물을 만들어 유포해 경찰에 검거되기도 한 사례는 실로 AI 를 이용하는 유저들의 윤리적인 정립이 중요함을 시사하고 있습니다.
AI를 잘 활용한다는 건, 법적 윤리적 테두리 안에서 올바른 목적을 달성하는 것이다
'AI, 질문이 직업이 되는 세상' 의 저자 최서연 전상훈
그런데 요즘 딥페이크 범죄가 심각하게 퍼지고 있습니다. 정부에서 대대적으로 '딥페이크 범죄' 에 강경 대응에 나섰는데요, 그 내용을 보니 실로 놀라움을 금치 못하겠더라고요. 지인들의 정보를 공유하고 서로 합성해서 음란물을 공유하는 딥페이크 범죄가 성행하고 있다는 소식입니다. 텔레그램의 대화방인 겹지방(겹치는 지인 방)에서 인공지능을 이용해 지인들의 얼굴에 음란물을 합성한 딥페이크 음란물이 유포되고 있는 것이죠. 이것은 성범죄까지 이어질 수 있는 상당한 위험성을 드러내고 있습니다. 어느 경우엔 인공지능 앱을 이용해서 22만명까지 참여한 방도 있다고 하니 이거 정말 심각한 문제입니다.
이런 딥페이크 범죄가 학생들에게까지 이어지면서 교육당국에서도 나서 타인의 개인정보에 음란물을 합성해 유포하는 것이 '성범죄'라는 점을 학생들에게 강조하고, 개인정보 노출에 주의해 달라고 당부했습니다. 교육부는 최근 전국 17개 시/도 교육청에 '디지털 성범죄 대응 및 예방을 위한 교육 안내 협조 요청' 공문을 보내 학생들이 사이버 공간에서 개인정보를 노출하지 않고, 타인의 정보를 전송하지 않도록 예방 교육을 실시해 달라고 주문, 일부 학교는 피해 확산을 막기 위해 학생들에게 SNS 등에서 얼굴 사진을 내리라고 공지했다 전해지고 있습니다.
피해자 신고센터와 상담소를 운영하고 특별교육과 캠페인도 실시하고 있지만 과연 가해자들의 상담이 이루어질까 하는 생가기 듭니다. 뉴시스에 따르면, 정보를 삭제 해 달라고 디지털장의사에게 연락을 해 오는 대상의 대부분이 피해자가 아닌 가해자의 부모라는 것입니다. 가해 학생들이 증거를 인멸하려는 사이 피해 여학생들은 SNS를 비공개하거나 게시물을 내리는 등 두려움에 떨고 있는 상황이라는 것입니다. 디지털장의사에 따르면, 성착취 영상물 1개가 촬영되면 유포는 2~3만 건에 달한다고 하니 엄청난 건수네요
[단독]"우리 애 억울하다"…딥페이크 가해자 부모들 '증거 지우기' 나서
[서울=뉴시스] 신항섭 기자, 성가현 인턴기자 = [[[[:newsis_bold_start:]]]]"딥페이크 피해자들보다는 가해자들의 의뢰 연락을 더 많이 받았다""최근 딥페이크 관련 의뢰가 들어오고 있는데 모두 가해자
www.newsis.com
경찰청 국가수사본부는 내년 3월까지 7개월간 '딥페이크 성범죄 관련 특별 집중단속'을 실시한하고 교육부는 전날 전국 17개 시도교육청에 딥페이크 피해·가해 현황을 파악해 달라는 공문을 보낸 상태로 강경 대응을 하고 있습니다. AI 윤리는 개발자와 기업 국가만의 문제가 아닙니다. 사용자들 또한 법적 윤리적 테두리 안에서 올바른 목적을 달성하기 위함임을 잊지 말아야 합니다. 절대로 있어서는 안될 문제입니다.
딥페이크 의심 성범죄물이나 게시글 신고는 112(경찰)·117(학교폭력 신고), 재학 중인 학교의 학교전담경찰관(SPO)나 여성긴급전화(1366), 디성센터(02-735-8994) 등에서 피해 상담도 가능합니다.
<유럽연합의 인공지능법, A 규제법 및 윤리>
<유럽연합 인공지능법> EU AI 규제법, AI 윤리, 적용대상, 요구사항, 위험기반 AI 규정, 범용 AI 모델
EU AI 법이란 무엇인가? EU 인공 지능법(EU AI Act)은 유럽연합(EU)에서 인공 지능의 개발 및...
blog.naver.com
【비지트는 IT 융합 공학박사이자 미래전략가로 개인과 기업의 미래 가치 향상에 힘쓰고 있습니다. '챗GPT 질문이 돈이 되는 세상'의 저자로 챗GPT/ AI 강연, 드론/ 자율주행차 강연, 미래전략 강연, 진로진학 커리어 컨설팅, 기업의 미래 전략 컨설팅 등 미래가치를 높이는 데 힘쓰고 있는 종합 컨설팅 Firm입니다】
