딥페이크 범죄가 급증하고 있으며, 가해자의 83.7%가 10대 청소년이다. AI 리터러시 교육을 통해 청소년들이 기술의 위험성을 이해하고 비판적 사고 능력을 키우는 것이 시급하다. 사회 전반의 인식 제고와 함께 책임 있는 교육이 필요하다.
청소년 딥페이크 문제의 본질
딥페이크 문제의 확산은 AI기술의 예상치 못한 빠른 발전에 기인하고 있다. 불과 몇 개월 전까지 딥페이크 기술은 전문가의 영역이었다. 하지만 이제 누구나 값싸고 손 쉽게 접근 할 수 있게 되었다. 그래서 충분히 예견할 수 있는 일이었다. 지난 8월 미국 월스트리트저널(WSJ)는 사이버보안 업체 ‘시큐리티 히어로’의 딥페이크 전세계 피해 현황 보고서를 보도했다. 전체 피해 대상자 중에 여자가 99%였고 그 가운데 한국 가수가 80%에 달했다. 의미하는 바는 국내에 한정된 문제가 아니라 국제적인 문제이며 그 핵심에는 AI 기술의 빠른 발전이 있다는 것이다. 결국 AI 기술의 발달에 미처 대응하지 못한 사회적 책임을 고민해야 한다.
[출처: 전체 딥페이크 성착취물의 유포 대상의 80%가 한국 가수, 시큐리티 히어로]
법적 제재의 강화 효과
최근 국회는 딥페이크 성범죄 방지법과 청소년 성보호법 개정안을 통과시켰다. 딥페이크 성 착취물을 소지하거나 시청하는 행위까지 처벌 대상에 포함되었으며, 제작자에 대한 형량도 최대 7년 이하의 징역으로 강화되었다. 처벌 일변도의 대응이다. 지금의 청소년은 인터넷을 사용하지 않고 학습을 하는 것이 불가능에 가깝다. 우리 중 누구라도 자신의 일이 될 수 있다. 호기심 많고 미 성숙한 자아 형성 단계의 청소년은 누구든 잠재적 가해자일 수 있다. 딥페이크 관련 사건의 참고인 조사 만으로 한 청소년은 아파트에서 뛰어 내렸다. 또 다른 청소년은 가족 모두가 해외로 이민을 떠났다고 한다.
10대들의 딥페이크 범죄가 그들만의 책임인가?
상황이 이러한데, 기성세대의 책임있는 목소리는 들리지 않는다. 강화된 법적 제재에도 불구하고, 딥페이크 범죄를 근절하기에는 한계가 있다. 청소년들은 여전히 딥페이크 기술을 이용한 범죄의 위험성과 심각성을 제대로 인식하지 못하고 있다. 이는 대부분 단순한 장난이나 호기심으로 시작된 행동이 범죄로 이어지고 있다는 분석이 말해주고 있다. 따라서 기성세대에게도 책임은 있고 그 역할이 있다는 문제 의식이 필요하다. 청소년들에게 AI에 대한 적절한 이해와 비판적 사고 능력을 키울 수 있는 ‘AI 리터러시’ 교육을 제공해야 한다.
AI 리터러시교육?
청소년들을 대상으로 한 AI 리터러시 교육이 시급하다. 이는 단순히 코딩과 같은 기술의 사용법을 가르치는 것이 아니다. 활용에 치우친 교육은 슈퍼카의 가속 페달을 알려 주면서 제동장치를 가르치지 않는 것과 유사하다. 빠르게 발전하는 AI 기술의 윤리적 활용과 책임을 함께 교육해야 한다. AI 리터러시 교육은 다음 세 가지 핵심 영역을 포함해야 한다.
- AI에 대한 이해: AI 기술의 원리와 작동 방식, 잠재적 위험성, 그리고 윤리적 측면을 포함한다. 이를 통해 학생들은 AI가 어떻게 작동하며, 어떤 방식으로 악용될 수 있는지, 그리고 그 활용이 타인에게 미치는 영향과 책임에 대해 인식할 수 있다.
- 비판적 사고 능력: AI의 한계와 오류 가능성을 이해하고, 법적 책임과 처벌에 대한 인식을 높이는 것을 포함한다. 이를 통해 학생들은 AI의 출력을 무비판적으로 수용하지 않고, AI 활용의 법적, 윤리적 측면을 고려할 수 있게 된다.
- 능동적 활용 능력: AI와의 상호작용에서 통제력을 유지하며, 인간 중심의 AI 활용을 할 수 있도록 하는 것이다. 이를 통해 학생들은 AI 기술을 단순히 수동적으로 받아들이는 것이 아니라, 필요에 따라 적극적으로 활용하거나 거부할 수 있는 능력을 갖추게 된다.
이러한 종합적인 AI 리터러시 교육을 통해, 우리는 청소년들이 AI 시대를 책임감 있게 살아갈 수 있도록 도울 수 있을 것이다.
사회 전반의 인식 제고 필요
AI 리터러시 교육은 청소년을 대상으로 학교에서만 이루어져서는 안 된다. 가정과 지역사회, 미디어 등 다양한 채널을 통해 AI 범죄의 심각성과 위험성을 알리고, 사회 전체가 경각심을 가져야 한다. 딥페이크 문제는 시작 일 뿐 보다 심각한 문제들이 예상되고 있다. 최근에 공개된 챗GPT의 고급음성(Voice Advanced Mode)는 인간의 감성을 담아 대화하기 시작했다. 오픈AI는 보고서를 통해 외로움에 취약한 사람일 수록 크게 의존하는 경향을 보인다고 한다. 뿐만 아니라 무비판적인 신뢰를 보이기까지 한다고 경고했다. 청소년 뿐만 아니라 사회 전반의 생애주기 교육의 차원에서 AI리터러시 교육을 통해 대비해야 한다.
딥페이크 범죄가 급증하고 있으며, 가해자의 83.7%가 10대 청소년이다. AI 리터러시 교육을 통해 청소년들이 기술의 위험성을 이해하고 비판적 사고 능력을 키우는 것이 시급하다. 사회 전반의 인식 제고와 함께 책임 있는 교육이 필요하다.
청소년 딥페이크 문제의 본질
딥페이크 문제의 확산은 AI기술의 예상치 못한 빠른 발전에 기인하고 있다. 불과 몇 개월 전까지 딥페이크 기술은 전문가의 영역이었다. 하지만 이제 누구나 값싸고 손 쉽게 접근 할 수 있게 되었다. 그래서 충분히 예견할 수 있는 일이었다. 지난 8월 미국 월스트리트저널(WSJ)는 사이버보안 업체 ‘시큐리티 히어로’의 딥페이크 전세계 피해 현황 보고서를 보도했다. 전체 피해 대상자 중에 여자가 99%였고 그 가운데 한국 가수가 80%에 달했다. 의미하는 바는 국내에 한정된 문제가 아니라 국제적인 문제이며 그 핵심에는 AI 기술의 빠른 발전이 있다는 것이다. 결국 AI 기술의 발달에 미처 대응하지 못한 사회적 책임을 고민해야 한다.
[출처: 전체 딥페이크 성착취물의 유포 대상의 80%가 한국 가수, 시큐리티 히어로]
법적 제재의 강화 효과
최근 국회는 딥페이크 성범죄 방지법과 청소년 성보호법 개정안을 통과시켰다. 딥페이크 성 착취물을 소지하거나 시청하는 행위까지 처벌 대상에 포함되었으며, 제작자에 대한 형량도 최대 7년 이하의 징역으로 강화되었다. 처벌 일변도의 대응이다. 지금의 청소년은 인터넷을 사용하지 않고 학습을 하는 것이 불가능에 가깝다. 우리 중 누구라도 자신의 일이 될 수 있다. 호기심 많고 미 성숙한 자아 형성 단계의 청소년은 누구든 잠재적 가해자일 수 있다. 딥페이크 관련 사건의 참고인 조사 만으로 한 청소년은 아파트에서 뛰어 내렸다. 또 다른 청소년은 가족 모두가 해외로 이민을 떠났다고 한다.
10대들의 딥페이크 범죄가 그들만의 책임인가?
상황이 이러한데, 기성세대의 책임있는 목소리는 들리지 않는다. 강화된 법적 제재에도 불구하고, 딥페이크 범죄를 근절하기에는 한계가 있다. 청소년들은 여전히 딥페이크 기술을 이용한 범죄의 위험성과 심각성을 제대로 인식하지 못하고 있다. 이는 대부분 단순한 장난이나 호기심으로 시작된 행동이 범죄로 이어지고 있다는 분석이 말해주고 있다. 따라서 기성세대에게도 책임은 있고 그 역할이 있다는 문제 의식이 필요하다. 청소년들에게 AI에 대한 적절한 이해와 비판적 사고 능력을 키울 수 있는 ‘AI 리터러시’ 교육을 제공해야 한다.
AI 리터러시교육?
청소년들을 대상으로 한 AI 리터러시 교육이 시급하다. 이는 단순히 코딩과 같은 기술의 사용법을 가르치는 것이 아니다. 활용에 치우친 교육은 슈퍼카의 가속 페달을 알려 주면서 제동장치를 가르치지 않는 것과 유사하다. 빠르게 발전하는 AI 기술의 윤리적 활용과 책임을 함께 교육해야 한다. AI 리터러시 교육은 다음 세 가지 핵심 영역을 포함해야 한다.
이러한 종합적인 AI 리터러시 교육을 통해, 우리는 청소년들이 AI 시대를 책임감 있게 살아갈 수 있도록 도울 수 있을 것이다.
사회 전반의 인식 제고 필요
AI 리터러시 교육은 청소년을 대상으로 학교에서만 이루어져서는 안 된다. 가정과 지역사회, 미디어 등 다양한 채널을 통해 AI 범죄의 심각성과 위험성을 알리고, 사회 전체가 경각심을 가져야 한다. 딥페이크 문제는 시작 일 뿐 보다 심각한 문제들이 예상되고 있다. 최근에 공개된 챗GPT의 고급음성(Voice Advanced Mode)는 인간의 감성을 담아 대화하기 시작했다. 오픈AI는 보고서를 통해 외로움에 취약한 사람일 수록 크게 의존하는 경향을 보인다고 한다. 뿐만 아니라 무비판적인 신뢰를 보이기까지 한다고 경고했다. 청소년 뿐만 아니라 사회 전반의 생애주기 교육의 차원에서 AI리터러시 교육을 통해 대비해야 한다.