출처
- TechCrunch AI
나만의 작품으로
이 이야기에서 영감을 받으셨나요? 그 아이디어를 단 몇 초 만에 나만의 AI 아트로 만들어 보세요. 무료로 시작할 수 있고, 카드 등록도 필요 없습니다.

프랑스 AI 스타트업 ZML이 여러 하드웨어 제조사의 칩에서 실행되도록 설계된 무료 추론 가속 도구 LLMD를 출시했다. 이는 AI 이미지 생성의 비용과 속도에 직접적인 영향을 미치는 개발이다.
추론은 대부분의 창작자가 매일 접하는 AI의 핵심 과정이다. 「생성」 버튼을 누르면 모델이 프롬프트를 이미지로 변환하는 바로 그 과정이다. 동시에 이는 대규모 요청을 처리하는 플랫폼에게 가장 큰 반복 비용이기도 하다. 추론이 빨라지면 컴퓨팅 비용 1달러당 더 많은 이미지를 생성할 수 있으며, 이 수치는 가격 책정, 대기 시간, 출력 품질 한계에 직접적으로 영향을 미친다.
지금까지 대부분의 추론 최적화 도구는 단일 칩 아키텍처에 긴밀하게 결합되어 있었으며, NVIDIA의 CUDA 생태계가 그 대표적인 예다. ZML이 LLMD로 내세우는 것은 하드웨어에 구애받지 않는 가속화다. 이 소프트웨어는 다양한 제조사의 칩에서 작동하도록 설계되었으며, 지속적인 GPU 공급 부족 속에서 업계가 AMD, Intel, 커스텀 실리콘 대안을 중심으로 구축하려는 상황에서 중요한 의미를 갖는다.
ZML은 파리에 본사를 둔 스타트업으로, Yann LeCun의 공개적인 지지 덕분에 주목을 받았다. Meta의 수석 AI 과학자이자 튜링상 수상자인 LeCun은 연구 커뮤니티에서 상당한 영향력을 지니며, 그의 참여는 ZML의 위상을 일반적인 인프라 스타트업보다 훨씬 높은 수준으로 끌어올렸다. 이 회사의 목표는 운영자를 단일 하드웨어 스택에 종속시키지 않으면서 AI 추론을 더 빠르고 저렴하게 만드는 것이다.
LLMD는 회사의 첫 번째 주요 공개 제품 출시다. 무료로 제공하기로 한 결정은 명확한 시장 선점 전략이다. 광범위한 채택을 유도하고, LLMD를 AI 배포 파이프라인의 표준 레이어로 자리매김한 뒤 그 위에서 성장하겠다는 것이다. 이는 익숙한 전략으로, PyTorch와 Hugging Face의 Transformers 라이브러리가 AI 스택의 각 레이어를 장악하게 된 방식과 유사하다.
AI 아트 플랫폼에게 있어 비NVIDIA 하드웨어에서 효율적으로 추론을 실행하는 능력은 이제 이론적인 가능성이 아닌 현실적인 필요가 되고 있다. 클라우드 제공업체들은 AMD Instinct 및 커스텀 가속기 플릿을 확장하고 있으며, 일부 이미지 생성 워크로드는 이미 이러한 대체 칩에서 실행되고 있다. 하드웨어 차이를 추상화하면서도 경쟁력 있는 처리량을 제공하는 소프트웨어 레이어가 있다면, 플랫폼은 현재로서는 불가능한 방식으로 컴퓨팅 비용을 차익 거래할 수 있게 된다.
Stable Diffusion 변형 모델이나 기타 오픈 웨이트 이미지 모델을 실행하는 사람들을 중심으로 성장하고 있는 자체 호스팅 또는 로컬 실행 모델 사용자들에게 LLMD는 주요 프레임워크에서 칩별 최적화가 내려오기를 기다리지 않고도 이미 보유한 하드웨어에서 의미 있게 빠른 생성 속도를 의미할 수 있다.
실질적인 성능 수치는 아직 부족하다. TechCrunch가 출시를 보도했지만, 동등한 하드웨어에서 LLMD의 처리량을 vLLM, TensorRT-LLM, llama.cpp 등 기존 추론 런타임과 비교한 독립적인 벤치마크는 아직 공개되지 않았다. 정확히 어떤 아키텍처가 지원되며 얼마나 잘 작동하는지에 대한 칩 제조사 커버리지 역시 프로덕션 파이프라인을 재구성하기 전에 더 많은 세부 정보가 필요하다.
분명한 것은 방향성이다. 추론 최적화 레이어에서의 경쟁 심화는 AI 컴퓨팅 비용을 부담하거나 이에 의존하는 모든 이에게 이롭다. LLMD가 다중 칩 약속을 실현한다면, 하드웨어 제조사와 기존 추론 소프트웨어 제공업체 모두에게 성능과 가격을 개선하라는 의미 있는 압력을 가하게 된다. 이미지 생성 창작자들에게 있어 그 경쟁은 궁극적으로 모델 크기가 커짐에 따라 생성 비용이 무한정 상승하는 것을 막는 힘이다.