구글, 사상 최초 AI 생성 제로데이 익스플로잇 탐지… “미래 문제가 아니라 현재”

구글 위협 인텔리전스 그룹(Google Threat Intelligence Group)이 AI를 사용해 개발된 것으로 판단되는 제로데이 익스플로잇을 사상 최초로 탐지했다. 유명 사이버범죄 그룹이 오픈소스 웹 관리 플랫폼의 2단계 인증(2FA) 우회 취약점을 AI 모델로 발견하고 공격 코드를 작성한 것이다.

구글이 탐지한 제로데이는 널리 사용되는 오픈소스 웹 기반 관리 플랫폼의 2단계 인증(2FA) 우회 취약점이다. 공격자들은 대규모 침입 작전의 일환으로 이 취약점을 개발했으며, AI 모델을 사용해 결함을 식별하고 실제 사용 가능한 익스플로잇으로 전환한 것으로 파악되었다.

구글이 AI 생성 코드라고 높은 확신(high confidence)을 갖게 된 근거는 코드의 특성에 있다. 파이썬으로 작성된 익스플로잇 스크립트에는 교육적 문서 문자열(educational docstrings)이 풍부하게 포함되어 있었고, 실제로 존재하지 않는 CVSS 심각도 점수(hallucinated CVSS severity score)가 삽입되어 있었으며, 상세한 도움말 메뉴와 대규모 언어 모델 훈련 데이터에서 특징적으로 나타나는 깔끔하고 구조화된 포매팅 스타일이 관찰되었다.

구글은 해당 벤더와 협력해 캠페인이 본격적으로 전개되기 전에 조용히 패치를 적용했으며, 이로 인해 공격이 초기에 차단된 것으로 판단하고 있다.

구글 위협 인텔리전스 그룹의 수석 분석가 존 헐트퀴스트(John Hultquist)는 “AI 보조 취약점 발견을 미래의 문제로 취급하는 사람은 이미 뒤처져 있다”며 “현실은 이미 시작되었다. 우리가 AI로 추적할 수 있는 제로데이 하나마다, 아마도 더 많은 것들이 이미 존재할 것”이라고 경고했다. 앤트로픽 CEO 다리오 아모데이가 경고한 ‘6~12개월의 패치 창(window)’이 현실로 다가오고 있다.