출처: 원본 링크
에이전트 기반 브라우저의 보안 취약점: 간접 프롬프트 주입
이 블로그 게시물은 에이전트 기반 브라우저의 보안 취약점, 특히 Perplexity Comet에서 발견된 간접 프롬프트 주입(Indirect Prompt Injection)에 대해 설명합니다. Brave는 인브라우저 AI 비서인 Leo가 사용자를 대신하여 웹을 탐색하고 거래를 완료할 수 있도록 개발하고 있으며, 이 과정에서 발생할 수 있는 보안 및 개인 정보 보호 문제를 강조합니다.
Perplexity Comet에서 발견된 취약점은 AI가 웹페이지 콘텐츠를 처리하는 방식에 있습니다. AI가 사용자 지침과 신뢰할 수 없는 웹페이지 콘텐츠를 구별하지 못하여 공격자가 악성 지침을 삽입할 수 있게 됩니다. 예를 들어, 공격자는 숨겨진 지침을 통해 AI가 사용자의 이메일 주소를 추출하거나, OTP를 가로채거나, 민감한 정보를 공격자 제어 서버로 유출하도록 조작할 수 있습니다. 이러한 공격은 기존 웹 보안 메커니즘(동일 출처 정책, 교차 출처 리소스 공유 등)을 무력화하며, AI가 사용자의 전체 권한으로 인증된 세션에 접근할 수 있게 합니다.
이러한 공격을 완화하기 위한 가능한 전략으로는 브라우저가 사용자 지침과 웹사이트 콘텐츠를 구별하고, 모델의 출력을 사용자 의도와 일치하는지 확인하며, 보안 및 개인 정보 보호에 민감한 작업에는 사용자 상호 작용을 요구하고, 에이전트 기반 브라우징을 일반 브라우징과 격리하는 것이 있습니다. Brave는 에이전트 기반 브라우징의 개인 정보 보호 및 보안 수준을 높이기 위해 노력하고 있으며, 이 연구를 통해 위험을 조기에 파악하고 실질적인 방어책을 제시하는 것을 목표로 합니다.