브라우저 기반 AI 추론을 위한 기술적 전제 조건
고성능 브라우저 기반 AI 추론(예: LLM 실행)을 구현하기 위해서는 단순한 라이브러리 도입 외에 브라우저 보안 환경 및 전용 API에 대한 이해와 설정이 필수적입니다.
1. 교차 출처 격리 (Cross-Origin Isolation)
SharedArrayBuffer와 같은 강력한 기능을 사용하여 멀티 스레딩 및 메모리 공유를 최적화하려면 웹사이트가 “교차 출처 격리” 상태여야 합니다. 이는 Spectre와 같은 사이드 채널 공격을 방지하기 위한 브라우저의 보안 요구 사항입니다.
필수 HTTP 헤더 설정
메인 문서 응답 시 다음 헤더를 포함해야 합니다:
- COOP (Cross-Origin-Opener-Policy):
same-origin - COEP (Cross-Origin-Embedder-Policy):
require-corp또는credentialless
격리 상태 확인
JavaScript에서 self.crossOriginIsolated 값이 true인지 확인하여 격리 성공 여부를 판단할 수 있습니다.
2. SharedArrayBuffer 및 고정밀 타이머
교차 출처 격리가 활성화되면 다음 기능을 사용할 수 있습니다:
- SharedArrayBuffer: 웹 워커(Web Worker) 간에 메모리를 공유하여 대규모 텐서 데이터를 복사 없이 전달.
- 고정밀 타이머:
performance.now()의 해상도가 높아져 성능 프로파일링 및 최적화가 용이해짐.
3. Web Neural Network (WebNN) API
WebNN은 운영체제 및 하드웨어 플랫폼(NPU, GPU, CPU 가속기)의 머신러닝 성능을 직접 활용하기 위한 저수준 W3C 표준 API입니다.
- 목적: 하드웨어 플랫폼에 구속되지 않는 추론 가속 레이어 제공.
- 이점: WebGPU보다 더 머신러닝에 특화된 추론 프리미티브 제공, 데이터 프라이버시 강화.
- 보안: 모든 입력 데이터(이미지, 오디오 등)를 브라우저 샌드박스 내에서 처리하여 외부 유출 차단.