“AI 채팅은 고해성사 유도하는 기술”… 시그널 창업자, ‘도청 불가능한’ 챗봇 출시

메신저 ‘시그널(Signal)’의 공동 창립자 목시 마린스파이크(Moxie Marlinspike)가 프라이버시를 최우선 가치로 내세운 새로운 AI 챗봇 ‘컨퍼(Confer)’를 18일(현지시각) 공개했다. 최근 AI 개인 비서들이 사용자 데이터를 무분별하게 수집해 맞춤형 광고에 활용하는 사례가 급증하자, 마린스파이크는 이러한 흐름에 정면으로 반대하는 기술적 대안을 제시했다.

마린스파이크는 시그널 메신저를 만들고 시그널 프로토콜을 공동 저술한 인물로, 암호화와 프라이버시 보호 기술 분야의 권위자다. 그는 AI 챗봇이 대화 내용을 서버에 저장하고 이를 모델 학습에 재사용하는 현행 방식에 깊은 우려를 표해왔다. 이번 프로젝트는 시그널에서 쌓은 ‘신뢰 기반 설계’를 AI 영역에 이식하려는 시도다. 이를 구현하기 위해 웹오선(WebAuthn), 신뢰 실행 환경(TEE), 원격 증명(Remote Attestation) 등 고난도 보안 기술이 핵심적으로 적용됐다.

컨퍼는 사용자 프라이버시 보호에 사활을 건 AI 챗봇이다. 웹오선 패스키(Passkey) 기반 암호화를 통해 메시지는 사용자 기기에서 암호화된 상태로 전송된다. 서버는 이를 복호화할 수 없으며, 모든 데이터 처리는 외부 접근이 불가능한 신뢰 실행 환경(TEE) 내에서만 이루어진다. 또한 원격 증명 기술을 통해 시스템의 무결성을 검증할 수 있다. 소스 코드와 모델, 소프트웨어 스택을 모두 공개(오픈 소스)하고 투명성 로그를 제공해 누구나 보안성을 확인할 수 있게 했다. 특히 ‘프라이버시 바이 디폴트(Privacy by Default)’ 정책을 채택해 사용자 데이터 수집이 원천적으로 차단된다.

서비스는 무료와 유료 요금제로 나뉜다. 무료 이용자는 하루 20개 메시지와 최대 5개의 활성 채팅만 사용할 수 있다. 반면 월 약 5만 1,450원(35달러)인 유료 요금제는 무제한 메시지와 고급 모델, 개인화 기능을 제공한다. 이는 경쟁 서비스인 챗GPT 플러스보다 다소 높은 가격이지만, 개인정보 보호라는 확실한 가치를 반영한 책정이다.

컨퍼의 등장은 프라이버시 중심 AI 시장의 성장 잠재력을 시사한다. 특히 학교, 병원, 기업 등 보안이 필수적인 환경에서의 수요가 높을 것으로 전망된다. 민감한 개인정보와 기밀을 다루는 이들 기관에게 데이터가 외부로 유출되지 않는 AI 서비스는 선택이 아닌 필수이기 때문이다.

이번 출시는 기술 표준의 판도 변화에도 영향을 미칠 것으로 보인다. 웹오선, TEE, 원격 증명과 같은 기술이 AI 서비스의 새로운 표준으로 자리 잡을 경우, 오픈AI나 구글 같은 거대 플랫폼 역시 프라이버시 보호 기능을 강화해야 한다는 압박을 받게 된다. 마린스파이크는 “AI 채팅 인터페이스는 본질적으로 고해성사를 유도하는 기술”이라며, 이것이 광고 모델과 결합할 때 사용자 신뢰가 악용될 수 있음을 강력히 경고했다.

결론적으로 컨퍼는 단순한 AI 챗봇을 넘어, 프라이버시와 사용자 신뢰를 기술적으로 구현하려는 상징적인 시도다. AI가 일상 깊숙이 침투하는 시대에, 컨퍼의 접근 방식은 향후 AI 서비스가 나아가야 할 윤리적, 기술적 방향을 재정의할 것으로 기대된다.