AI 챗봇이 피싱 사기 작성에 기꺼이 협조

9월 15일 로이터 통신에 따르면, 최신 테스트 결과 여러 주요 인공지능(AI) 챗봇이 보안 제한을 쉽게 우회하여 노인을 대상으로 한 피싱 이메일을 생성하고 사기 계획에 대한 세부 조언을 제공할 수 있음이 밝혀졌다. 로이터는 ChatGPT, Grok, Meta AI, Claude, DeepSeek, Gemini 등 6종의 AI 챗봇을 사용해 모의 피싱 이메일을 생성하고 하버드 대학 연구원 프레드 하이딩(Fred Heiding)과 협력해 108명의 노인 자원봉사자를 대상으로 일부 이메일의 속임수 효과를 테스트했다. 결과는 약 11%의 피실험자가 가짜 링크가 포함된 이메일을 클릭했으며, 그중 5개의 이메일이 성공적으로 클릭을 유도했는데, 이들은 각각 Meta AI, Grok, Claude가 생성한 것이었다. 반면 ChatGPT와 DeepSeek가 생성한 이메일은 클릭된 바 없었다.

하이딩은 “이러한 보안 방어는 항상 우회된다”고 지적하며, AI가 생성한 피싱 이메일은 사람 손으로 작성한 것과 거의 동일한 속임수 효과를 내지만 비용과 시간이 크게 절감된다고 강조했다. 테스트 결과, 대부분의 챗봇은 “명백한 사기 의도” 요청에 대해 거부했으나, “연구 목적”이나 “소설 집필”과 같은 이유를 약간 포장하면 사기성 내용을 생성했다. Grok은 이메일 생성 후 “즉시 클릭”과 같은 촉구 문구도 자동으로 추가했다. 구글의 Gemini는 테스트에서 “교육용” 피싱 이메일을 생성했고, 최적 발송 시간으로 “월요일부터 금요일 오전 9시부터 오후 3시”를 추천했는데, 이는 노인들이 이메일을 가장 자주 확인하는 시간대라는 이유에서였다.

미국 AARP 반사기 네트워크 책임자 스톡스는 이러한 반응이 “실제 피해자 경험과 매우 일치해 불안하다”고 비판했다.