기업 전자결재 양식, 직원 간 대화 패턴까지 AI에 기업 전자결재 양식, 직원 간 대화 패턴까지 AI에 학습시켜보안 담당자조차 위조 구별 못할 정도로 정교한 공격전 세계 보안 전문가 74% “AI 기반 위협이 현재 조직에 심각한 영향”美·英·EU, 사이버보안 관련 규제·처벌 강화“한국은 여전히 사고 발생 후 책임 물어” [편집자주] 최근 SK텔레콤, 예스24, 한국연구재단 등이 해커들의 사이버 공격을 받아 개인정보 유출, 서비스 장애 피해를 입었다. 인공지능(AI) 시대를 맞아 사이버 위협은 더 거세지고 공격 수법은 교묘해지고 있는 반면 우리 정부와 기업들의 대응 역량은 취약한 실정이다. 국내외 사례를 통해 사이버보안 체계의 문제점을 진단하고 해법은 무엇인지 모색해본다.일러스트=챗GPT “실제 상사와 똑같은 얼굴과 목소리였습니다. 영상통화로 지시를 받았기에 의심하지 않았죠.”지난해 1월 영국 엔지니어링 회사 아럽(Arup)의 홍콩지사 직원이 인공지능(AI)이 생성한 딥페이크에 당해 2560만달러(약 348억원)를 송금하는 일이 벌어졌다. 영상은 얼굴, 목소리, 억양, 눈동자의 미묘한 움직임까지 실제와 똑같았다. 피해 직원은 보안 시스템 우회 지시까지 따랐는데, 본사에서 “그런 요청을 한 적이 없다”는 연락을 받은 뒤에야 사기라는 사실을 깨달았다.AI는 더 이상 단순한 사이버 공격 보조 수단이 아니다. 해커는 AI를 핵심 무기로 활용하며 공격 속도와 정밀도가 기존 사이버보안 체계를 무력화하고 있다. 태국 국가사이버보안청(NCSA)에 따르면 올해 1~5월 사이버 공격은 총 1002건 발생했고, 기업의 63%가 실제 피해를 입었다. 이 중 절반 이상이 해커에게 금전적인 대가를 치렀다. 로그인 공격 시도의 94%는 자동화된 AI 봇에 의한 것으로 집계됐다. 실존 인물 모방한 딥페이크+문서 위조로 정교한 공격 생성형 AI를 악용한 사이버 공격은 기존 피싱 수법과는 근본적으로 다르다. 해커는 기업 내부 전자결재 양식, 결재 흐름, 직원 간 메신저 대화 패턴까지 AI에 학습시킨 뒤, 송금 지시나 계약서 발송과 같은 업무 시나리오를 구성한다. 여기에 실존 인물의 말투, 어휘 습관, 심지어 발화 속도까지 모방한 딥페이크 음성·영상을 결합해, 사용자가 의심 없이 따르게 만든다. 실시간 교신과 문서 위조가 결합된 정교한 공격은 ‘딥피싱(Deep Phishing)’으로 불리며, 기존의 이메일 링크 유도 방식과 달리 인간의 감각과 판단력을 정면으로 교란한다. 보안 담당자조차 실기업 전자결재 양식, 직원 간 대화 패턴까지 AI에 학습시켜보안 담당자조차 위조 구별 못할 정도로 정교한 공격전 세계 보안 전문가 74% “AI 기반 위협이 현재 조직에 심각한 영향”美·英·EU, 사이버보안 관련 규제·처벌 강화“한국은 여전히 사고 발생 후 책임 물어” [편집자주] 최근 SK텔레콤, 예스24, 한국연구재단 등이 해커들의 사이버 공격을 받아 개인정보 유출, 서비스 장애 피해를 입었다. 인공지능(AI) 시대를 맞아 사이버 위협은 더 거세지고 공격 수법은 교묘해지고 있는 반면 우리 정부와 기업들의 대응 역량은 취약한 실정이다. 국내외 사례를 통해 사이버보안 체계의 문제점을 진단하고 해법은 무엇인지 모색해본다.일러스트=챗GPT “실제 상사와 똑같은 얼굴과 목소리였습니다. 영상통화로 지시를 받았기에 의심하지 않았죠.”지난해 1월 영국 엔지니어링 회사 아럽(Arup)의 홍콩지사 직원이 인공지능(AI)이 생성한 딥페이크에 당해 2560만달러(약 348억원)를 송금하는 일이 벌어졌다. 영상은 얼굴, 목소리, 억양, 눈동자의 미묘한 움직임까지 실제와 똑같았다. 피해 직원은 보안 시스템 우회 지시까지 따랐는데, 본사에서 “그런 요청을 한 적이 없다”는 연락을 받은 뒤에야 사기라는 사실을 깨달았다.AI는 더 이상 단순한 사이버 공격 보조 수단이 아니다. 해커는 AI를 핵심 무기로 활용하며 공격 속도와 정밀도가 기존 사이버보안 체계를 무력화하고 있다. 태국 국가사이버보안청(NCSA)에 따르면 올해 1~5월 사이버 공격은 총 1002건 발생했고, 기업의 63%가 실제 피해를 입었다. 이 중 절반 이상이 해커에게 금전적인 대가를 치렀다. 로그인 공격 시도의 94%는 자동화된 AI 봇에 의한 것으로 집계됐다. 실존 인물 모방한 딥페이크+문서 위조로 정교한 공격 생성형 AI를 악용한 사이버 공격은 기존 피싱 수법과는 근본적으로 다르다. 해커는 기업 내부 전자결재 양식, 결재 흐름, 직원 간 메신저 대화 패턴까지 AI에 학습시킨 뒤, 송금 지시나 계약서 발송과 같은 업무 시나리오를 구성한다. 여기에 실존 인물의 말투, 어휘 습관, 심지어 발화 속도까지 모방한 딥페이크 음성·영상을 결합해, 사용자가 의심 없이 따르게 만든다. 실시간 교 기업 전자결재 양식, 직원 간 대화 패턴까지 AI에