Transformers.js, 크롬 확장 프로그램에 도입: 브라우저에서 직접 AI 모델 실행

Hugging Face가 크롬 확장 프로그램 내에서 Transformers.js를 실행하는 완전한 가이드를 공개했습니다. 이제 AI 모델이 브라우저 안에서 완전히 실행될 수 있습니다 — 로컬에서, 비공개로, 단 한 번의 API 호출도 없이.

핵심 요약

• Transformers.js는 Hugging Face의 JavaScript 라이브러리로, 개발자가 WebAssembly와 WebGPU를 사용해 브라우저에서 직접 Hugging Face 모델을 실행할 수 있게 해줍니다.
• Transformers.js로 구축된 크롬 확장 프로그램은 AI 추론을 로컬에서 실행할 수 있습니다 — 백엔드 서버도, API 키도, 생성당 비용도 없습니다.
• 이 설정은 크롬 확장 프로그램 서비스 워커를 사용해 모델을 한 번 로드하고 브라우저 탭 전체에서 공유함으로써 메모리 오버헤드를 줄입니다.
• AI 아트 크리에이터에게는 커스텀 브라우저 네이티브 도구의 문이 열립니다: 프롬프트 어시스턴트, 스타일 태거, 이미지 분류기 등 오프라인에서도 작동하는 도구들입니다.
• WebGPU 가속 덕분에 최신 브라우저는 클라우드 왕복 없이도 실용적인 속도로 경량 생성형 및 비전 모델을 실행할 수 있습니다.

Hugging Face가 실제로 출시한 것

Hugging Face 블로그 포스트는 서비스 워커 내에서 Transformers.js 모델을 로드하는 완전하고 작동 가능한 크롬 확장 프로그램을 처음부터 끝까지 안내합니다. 서비스 워커는 크롬 확장 프로그램이 탭 간 로직에 사용하는 지속적인 백그라운드 스크립트입니다. 모델은 한 번 로드되어 메모리에 상주하며, 매번 가중치를 다시 로드하지 않고도 모든 탭이나 팝업의 메시지에 응답합니다. 이 아키텍처는 중요합니다: 이전의 브라우저 기반 AI 데모는 페이지 상호작용마다 모델을 다시 로드하는 경우가 많아 실제로 답답할 정도로 느렸습니다.

이 가이드는 최종 사용자보다 개발자를 대상으로 하지만, 실질적인 결과물은 기술적 소양을 갖춘 크리에이터라면 누구든 따라 자신만의 브라우저 네이티브 AI 도구를 만들 수 있는 청사진입니다.

브라우저 확장 프로그램에서의 로컬 추론이 생각보다 훨씬 중요한 이유

오늘날 크리에이터가 사용하는 대부분의 AI 도구는 클라우드에 의존합니다: 프롬프트를 보내면 원격 서버가 모델을 실행하고 결과를 돌려받습니다. 이 방식은 제공업체가 가격을 변경하거나, 서비스가 중단되거나, 특정 콘텐츠 카테고리를 제한하기로 결정하기 전까지는 잘 작동합니다. 로컬 추론은 이 모든 문제를 우회합니다.

크롬 확장 프로그램 내에서 모델을 실행한다는 것은 가중치가 사용자의 기기에 저장된다는 의미입니다. 추론은 브라우저를 벗어나지 않습니다. 캐릭터 컨셉, 레퍼런스 이미지, 또는 서드파티 서버에 보내고 싶지 않은 프롬프트 라이브러리를 다루는 크리에이터에게 이는 의미 있는 프라이버시 향상입니다.

또한 추론당 추가 비용이 전혀 없습니다. 확장 프로그램이 설치되고 모델이 캐시되면, 모든 프롬프트 제안, 모든 스타일 태그, 모든 이미지 분류 호출이 영구적으로 무료입니다.

크리에이터가 실제로 만들 수 있는 도구는?

이 아키텍처는 완전한 이미지 생성보다는 경량 보조 도구에 적합합니다(브라우저 하드웨어는 아직 Stable Diffusion 규모의 모델을 빠르게 실행할 수준이 아닙니다). 현실적인 단기 활용 사례는 다음과 같습니다:

• 프롬프트 강화 사이드바: 초안 프롬프트를 분석하고, 어떤 생성 플랫폼에서 타이핑하는 동안 스타일 키워드, 조명 설명어, 구도 용어를 제안합니다
• 이미지 태거: 업로드한 레퍼런스 이미지를 읽고 프롬프트에 바로 붙여넣을 수 있는 구조화된 태그 목록을 반환합니다
• 스타일 분류기: 저장된 이미지의 지배적인 미적 특성을 식별합니다 — 캐릭터나 장면 시리즈 전반의 일관성 유지에 유용합니다
• 네거티브 프롬프트 생성기: 초안을 스캔하여 특정 모델 패밀리에서 아티팩트를 생성할 가능성이 높은 용어를 표시합니다

이 중 어느 것도 강력한 GPU를 필요로 하지 않습니다. Hugging Face 카탈로그의 소형 비전-언어 및 텍스트 모델은 최신 브라우저의 WebGPU에서 충분히 실행됩니다. JavaScript에 익숙한 크리에이터 — 또는 오픈소스 AI 코딩 모델을 사용해 보일러플레이트를 구성할 의향이 있는 크리에이터 — 는 오후 한나절 만에 작동하는 프로토타입을 만들 수 있습니다.

WebGPU 요소

Chrome 113 이상에서 안정화된 크롬의 WebGPU API가 이를 실용적으로 만드는 핵심입니다. 브라우저 JavaScript가 GPU 컴퓨팅에 직접 접근할 수 있게 해주며, Transformers.js는 이를 행렬 연산 가속에 활용합니다. 그 결과 WebAssembly 전용 폴백보다 측정 가능하게 빠른 추론이 가능합니다 — 중급 소비자 하드웨어에서도 실시간 프롬프트 지원이 가능할 만큼 빠릅니다.

브라우저 기반 AI 추론은 전용 GPU 워크스테이션에 비해 여전히 제약이 있지만, Charmloop의 생성기와 같은 플랫폼에서 크리에이터가 더 빠르게 작업할 수 있도록 돕는 소형 보조 모델 카테고리에서는 성능 상한선이 충분히 높습니다.

다음에 주목할 것

논리적인 다음 단계는 커뮤니티가 이 패턴을 기반으로 실제 확장 프로그램을 출시하는 것입니다. Hugging Face Hub에는 이미 Transformers.js와 호환되는 수천 개의 소형 비전 및 언어 모델이 호스팅되어 있습니다. WebGPU 지원이 Firefox와 Safari로 확장됨에 따라 — 두 브라우저 모두 구현이 진행 중입니다 — 브라우저 네이티브 AI 도구의 도달 범위는 더욱 넓어질 것입니다. 지금 이 스택으로 구축하는 법을 배우는 크리에이터는 아직 존재하지 않는 도구 카테고리에서 상당한 선점 우위를 갖게 될 것입니다.