국민 절반 딥페이크 경험 58%: AI 사이버 불링 문제 심각 사례 확인

그래픽=디지털리터러시협회

 

인공지능(AI)과 메타버스가 확산되면서 가상공간에서의 괴롭힘, 즉 '사이버 불링' 피해가 증가하고 있습니다. 특히, 딥페이크 기술의 악용은 새로운 차원의 사이버불링 문제를 야기하고 있습니다. 이번 글에서는 딥페이크 문제의 심각성과 이에 따른 윤리적 대응의 필요성에 대해 자세히 살펴보겠습니다.

사이버불링 국민 인식 조사 결과

디지털리터러시협회가 실시한 '사이버불링 & AI에 관한 국민 인식 조사'에 따르면, 50.0%의 응답자가 사이버 불링을 목격했으며, 84.1%는 사이버불링 문제가 심각하다고 응답했습니다. 특히, 58.5%는 딥페이크 기술로 만든 콘텐츠를 경험했다고 밝혔습니다. 이는 AI 기술이 악용될 가능성이 매우 높다는 것을 시사합니다.

 

 

신종 사이버범죄 보러가기

 

위 버튼을 누르면 인공지능 딥페이크 기술을 악용한

신종 사이버 불링 사례를 보여주는 기사 페이지로 안전하게 이동합니다.

딥페이크의 심각성

딥페이크 기술은 AI를 이용해 실제와 구분하기 어려운 가짜 영상을 만드는 기술입니다. 응답자의 55.2%가 딥페이크 콘텐츠를 구별하기 어렵다고 응답했으며, 연령이 높을수록 그 어려움이 증가했습니다. 특히, 딥페이크 조작 영상(21.7%)에 대한 우려가 가장 컸으며, 이는 자동 개인정보 수집(14.7%), 생성형 AI 이용 허위정보(12.3%) 등의 문제보다 더 심각하게 인식되고 있습니다.

인공지능 윤리의 중요성

인공지능 기술의 발전은 많은 이점을 제공하지만, 그 이면에는 윤리적 문제가 함께 따릅니다. 이번 조사에서 88.4%의 응답자가 인공지능 산업 발전을 위해 윤리가 중요하다고 응답했습니다. 이는 인공지능이 사이버불링에 악용될 수 있는 가능성을 우려한 결과로 보입니다. 인공지능 윤리 문제에 대한 책임은 정부(82.1%), 서비스 기업(80.8%), 개발 기업(80.5%) 등 다양한 주체가 나눠져야 한다고 응답했습니다.

교육과 대응 방안

디지털리터러시협회의 김묘은 대표는 "사이버불링은 기술 발전에 따라 진화해 왔다"며, "인공지능 기술을 이용한 사이버불링은 더욱 지능화되고 있다"고 밝혔습니다. 따라서 인공지능 시대를 맞아 기술 교육과 함께 윤리 교육의 필요성이 더욱 강조됩니다. 협회는 사이버불링 예방을 위한 캠페인을 준비하고 있으며, 교육현장에서 쉽게 이용할 수 있는 무상 교육자료를 제공할 예정입니다.

 

AI와 딥페이크 기술의 발전은 사이버불링 문제를 더욱 복잡하게 만들고 있습니다. 이에 대한 윤리적 대응과 교육의 중요성이 날로 커지고 있습니다. 인공지능 시대를 맞아 사이버불링과 같은 온라인 폭력 문제를 예방하기 위해서는 기술적 대응뿐만 아니라 윤리적 교육이 필수적입니다. 이를 통해 안전하고 건강한 디지털 환경을 만들어 나가야 할 것입니다.