MS 코파일럿 버그, 기업 기밀 이메일 AI에 줄줄 새나갔다

마이크로소프트가 자사 AI 비서 코파일럿의 심각한 데이터 보호 결함을 인정했다. 18일(현지시간) 테크크런치의 보안 에디터 잭 위태커가 보도한 바에 따르면, 마이크로소프트 365 코파일럿의 ‘워크 탭’ 채팅 기능이 조직에서 ‘기밀(Confidential)’로 분류한 이메일을 무단으로 읽고 요약하는 버그가 발견됐다.

이 버그는 기업이 민감 데이터를 보호하기 위해 설정한 데이터 손실 방지(DLP) 정책과 마이크로소프트 퍼뷰(Microsoft Purview) 민감도 레이블 제어를 완전히 우회했다. 특히 아웃룩(Outlook)의 ‘보낸 메일함’과 ‘임시 보관함’에 저장된 항목이 영향을 받았는데, 이 폴더에는 최종 커뮤니케이션, 법률 문서 초안, 첨부 파일, 비밀 유지 대상 서신 등이 포함되어 있어 파급력이 크다.

4주간 방치된 버그, 마이크로소프트 대응 논란

이번 버그의 타임라인은 마이크로소프트의 대응 속도에 의문을 제기하게 한다. 고객들이 처음 이 문제를 보고한 것은 1월 21일이었으나, 마이크로소프트가 공식적으로 이슈를 인정한 것은 2월 3일로 약 2주가 걸렸다. 내부 추적 번호 ‘CW1226324’로 등록된 이 결함은 최소 4주간 활성 상태로 유지됐다.

마이크로소프트는 “코드 이슈로 인해 기밀 레이블이 설정된 보낸 메일함과 임시 보관함의 항목이 코파일럿에 의해 처리되고 있다”고 설명하면서도, 영향을 받은 사용자 수나 조직 수는 공개하지 않았다. “조사가 계속됨에 따라 영향 범위가 변경될 수 있다”며 “영향을 받은 사용자 일부에게 연락해 수정이 작동하는지 확인하고 있다”고만 밝혔다.

이번 사건은 단독 사례가 아니다. 기업용 AI 비서의 데이터 보호 사고가 업계 전반에서 반복되고 있다. 2025년 6월에는 보안 기업 노마 시큐리티(Noma Security)가 구글 제미나이 엔터프라이즈에서 ‘제미나이잭(GeminiJack)’이라 명명된 제로클릭 취약점을 발견했다. 공유 구글 문서나 캘린더 초대장을 통해 기업 데이터를 탈취할 수 있는 심각한 결함이었다.

마이크로소프트 코파일럿에서도 이전에 ‘리프롬프트(Reprompt)’ 취약점이 발견된 바 있는데, 단일 클릭으로 프롬프트 인젝션을 통해 개인 데이터를 탈취할 수 있는 공격이었다. 2023년 4월에는 삼성전자 엔지니어 3명이 20일 만에 세 차례에 걸쳐 반도체 소스 코드, 회의 내용, 칩 테스트 데이터를 챗GPT에 입력하는 사고가 발생해 삼성이 사내 모든 생성형 AI 도구 사용을 금지한 전례도 있다. 내부 조사에서 삼성 직원의 65%가 생성형 AI 도구의 보안 위험을 인지하고 있었다.

마이크로소프트 365 코파일럿은 2024년 4월부터 한국어를 공식 지원하기 시작했으며, 워드, 엑셀, 파워포인트, 아웃룩에서 한국어 명령으로 콘텐츠 생성과 데이터 분석이 가능하다. 한국의 금융기관, 대기업(재벌), 정부 기관은 이메일로 대량의 기밀 데이터를 처리하고 있어 이번 DLP 우회 버그의 잠재적 영향권에 있다.

마이크로소프트는 2026년 7월 1일부터 마이크로소프트 365 상업용 가격을 개편하며, 비즈니스 프리미엄의 경우 월 22달러(약 3만 1,900원)에 일부 코파일럿 채팅 기능을 포함할 예정이어서 한국 기업의 코파일럿 도입이 더욱 확대될 전망이다.

타이밍도 주목할 만하다. 한국의 ‘인공지능 발전 및 신뢰 기반 조성에 관한 기본법(AI 기본법)’이 2026년 1월 22일 시행된 직후 이 사건이 발생했다. AI 기본법은 위험 기반 접근법을 채택해 AI 시스템을 위험 수준별로 분류하고, ‘고영향 AI’에 대해 영향 평가와 생애주기 위험 관리 계획 제출을 의무화했다. 위반 시 최대 3,000만 원의 벌금과 징역형이 부과될 수 있다. 유럽연합(EU) AI법의 고위험 의무 이행 기한인 2026년 8월 2일도 다가오고 있어, 이번 사건이 양 관할권 모두에서 AI 데이터 보호 규제 강화의 근거로 활용될 가능성이 있다.

업계 전문가들은 이번 사건이 기존 데이터 보호 메커니즘의 근본적 한계를 드러냈다고 지적한다. 마이크로소프트가 “코파일럿을 안전하게 배포할 수 있는 이유”로 마케팅해 온 바로 그 보안 메커니즘(DLP 정책 + 민감도 레이블)이 실제로는 제대로 작동하지 않았기 때문이다.

포춘 500 기업의 70%가 코파일럿을 시범 도입했거나 배포한 상황에서, ‘일부 사용자’에게만 영향을 미쳤다 하더라도 수천 개 조직의 법률, 재무, 전략 커뮤니케이션이 노출됐을 가능성이 있다. 보안 업체들은 AI 도구 배포 전 데이터 분류 선행, AI 접근에 대한 제로 트러스트 적용, AI 전용 DLP 정책 수립, 섀도 AI 모니터링, AI 전용 사고 대응 계획 수립 등을 권고하고 있다.