[뉴스] AMD, AI 추론 칩 스타트업 타알라스 인수 - 모델 가중치를 실리콘에 새긴다
AMD가 2026년 8월 6일 캐나다 토론토의 AI 추론 반도체 스타트업 타알라스(Taalas)를 인수하는 확정 계약을 체결했다고 발표했습니다. 인수 금액은 공개하지 않았고, 통상적인 선행 조건과 규제 승인 절차가 남아 있습니다. 타알라스는 2023년에 설립된 회사로, 창업자 겸 CEO는 텐스토렌트를 세웠던 류비사 바이치(Ljubisa Bajic)입니다. AMD는 이 팀과 기술을 자사 AI 조직에 합류시켜 Instinct GPU, EPYC CPU, ROCm 소프트웨어, Helios 랙스케일 제품과 함께 묶는 시스템 단위 솔루션을 만들겠다고 밝혔습니다.
타알라스가 만드는 것은 범용 가속기가 아니라 모델 전용 집적회로(MSIC)입니다. 모델 가중치를 HBM 같은 외부 메모리에 두고 매번 읽어오는 대신, 마스크 ROM 형태로 칩에 직접 새겨 넣습니다. 칩 안에는 가중치가 각인된 영역과, KV 캐시나 파인튜닝 어댑터를 담는 SRAM 영역이 나뉘어 있습니다. 지난 2월 공개한 1세대 칩 HC1은 TSMC 6nm 공정으로 만들어졌고 Llama 3.1 8B를 초당 16,960 토큰으로 서빙했다고 회사 측이 밝혔습니다. 2세대 HC2는 칩당 200억 파라미터를 목표로 하고, 50개를 파이프라인 병렬로 묶으면 1조 파라미터급 모델을 감당한다는 설명입니다.
이 소식이 눈에 띄는 이유는 추론 비용 구조를 건드리는 접근이기 때문입니다. 지금 대부분의 LLM 서빙은 연산 자체보다 메모리 대역폭에서 막힙니다. 가중치를 실리콘에 굳혀버리면 그 병목이 사라지는 대신, 칩이 특정 모델에 고정된다는 값을 치릅니다. 모델을 바꾸려면 다시 찍어야 하고, 다만 버전 갱신 정도는 금속층 두 개만 수정하면 된다고 합니다. 자주 갈아치우는 모델에는 맞지 않지만, 오래 쓰는 주력 모델을 대량으로 서빙하는 구간에서는 계산이 달라질 수 있습니다.
운영 관점에서 보면 AMD가 GPU 한 축만으로 엔비디아를 쫓는 대신, 학습은 범용 가속기가 맡고 굳어진 추론 워크로드는 전용 실리콘이 받는 이층 구조를 준비하는 것으로 보입니다. 구글 TPU나 아마존 Inferentia처럼 자체 추론 칩을 갖춘 클라우드 사업자들과 같은 방향이기도 합니다. 실제 제품이 나오려면 시간이 걸리겠지만, 추론 인프라 선택지가 GPU 일변도에서 벗어나는 신호로 볼 만합니다.
🔗 https://newsroom.amd.com/news/amd-acquires-taalas-ai-inference/
로그인 후 답글을 남길 수 있습니다.