WEBTORCH · EXPERIMENTAL

브라우저에서 검증하는
PyTorch → WebGPU

PyTorch 그래프를 내보내고, 해시로 검증한 자산을 브라우저 WebGPU에서 실행하는 실험적 런타임입니다.

An experimental runtime that exports PyTorch graphs and runs hash-verified assets on browser WebGPU.

실험적 프로젝트 / Experimental project

이 페이지의 결과는 브라우저 런타임 재현성 확인용입니다. 모델 품질, 안전성, 배포 적합성 또는 특정 하드웨어 전반의 인증을 뜻하지 않습니다.

Results here demonstrate browser-runtime reproducibility only. They are not a certification of model quality, safety, production readiness, or all hardware.

OVERVIEW

프로젝트 개요 / Project overview

WebTorch는 PyTorch의 실제 forward graph를 정적 IR로 캡처하고, 가중치와 WGSL 커널을 독립 bundle로 내보내는 연구용 도구입니다. 브라우저 런타임은 서버 추론 없이 WebGPU에서 그래프를 실행합니다.

WebTorch captures an actual PyTorch forward graph as static IR and exports weights plus WGSL kernels as a standalone bundle. The browser runtime executes that graph on WebGPU without an inference server.

현재 대상은 Qwen3.5 2종, Qwen3-VL 2종, EXAONE 2종입니다. 체크포인트별 지원은 변환 성공이 아니라 PyTorch 수치 비교와 실제 GPU 실행 증거로 판단합니다.

The current targets are two Qwen3.5, two Qwen3-VL, and two EXAONE checkpoints. Support is based on PyTorch numerical comparison and real-GPU evidence, not conversion alone.

METHOD

방법론 / Methodology

  1. 01
    PyTorch 기준 실행원본 모델의 logits와 상태를 기준값으로 기록합니다.
    Record original-model logits and state as the reference.
  2. 02
    IR과 해시 검증 자산그래프·가중치 조각·커널을 직렬화하고 무결성을 확인합니다.
    Serialize graphs, weight shards, and kernels with integrity checks.
  3. 03
    브라우저 WebGPU 생성토큰, KV cache, 취소·초기화·해제 수명주기를 검사합니다.
    Exercise tokens, KV cache, cancellation, reset, and disposal in WebGPU.

PLAYGROUND

토큰 생성 시험 / Token generation

카탈로그에서 모델과 정밀도를 선택하면 공개 Hugging Face WebTorch bundle을 브라우저 WebGPU에서 직접 실행합니다.
Choose a model and precision to run its public Hugging Face WebTorch bundle directly on browser WebGPU.

별도 URL 설정 없이 검증된 모델 파일을 Hugging Face에서 자동으로 다운로드합니다. 첫 실행은 선택한 모델 크기와 네트워크 속도에 따라 시간이 걸릴 수 있습니다.
Verified model files download automatically from Hugging Face with no URL setup. The first run may take time depending on model size and network speed.

WebGPU 확인 중… / Checking WebGPU…

모델을 선택한 뒤 불러오세요. / Select and load a model.

생성 결과 / Generated output


          
실행 정보 / Run details

        

      


      

        

          
SCOPE

          
포함하지 않는 것 / What is not included

        

        

          
실제 체크포인트 산출물은 수 GB 단위이므로 Pages 배포에는 포함하지 않고, 카탈로그의 공개 Hugging Face 저장소에서 직접 다운로드합니다.

          
The real checkpoint artifacts are multi-gigabyte, so Pages does not bundle them; catalog entries download them directly from the public Hugging Face repository.

          
원격 자산은 이 페이지에서 읽을 수 있도록 CORS 헤더를 제공해야 합니다. URL은 브라우저에서만 사용되며 서버로 전송하지 않습니다.

          
Remote assets must provide CORS headers readable by this page. URLs stay in the browser and are never sent to a server.

          
Hugging Face에서는 공개 WebTorch bundle을 같은 디렉터리 구조로 올린 뒤 https://huggingface.co/소유자/저장소/resolve/커밋SHA/manifest.json을 사용합니다. 원본 Transformers 체크포인트는 빌드 머신에서 내보내는 단계가 먼저 필요합니다. Hub 다운로드 문서

          
On Hugging Face, upload a public WebTorch bundle with its directory structure intact, then use https://huggingface.co/owner/repository/resolve/commitSHA/manifest.json. A raw Transformers checkpoint must first be exported on a build machine. Hub download documentation