AMD는 8월 6일 Taalas를 인수하기 위한 최종 계약을 체결했다고 밝혔습니다. Taalas는 2023년에 설립된 토론토 기반 회사로, 모델의 가중치를 고정 기능 실리콘에 직접 새겨 넣는 기술을 개발했습니다. AMD는 매입 가격, 현금과 주식의 비율, 종료 시점 등을 공개하지 않았습니다. 이번 거래는 "통상적인 종료 조건과 규제 승인에 따릅니다".

Taalas가 실제로 만든 것

HC1 기술 데모는 TSMC 6nm 공정의 815 mm² 다이에 530억 개의 트랜지스터를 담고 있습니다. 구동하는 모델을 바꿀 때 변경되는 것은 마스크 레이어 두 개뿐인데, 이것이야말로 고정 배선형 부품이 경제적으로 가능한 이유입니다. Taalas는 창업 이후 약 2억1900만달러를 조달했습니다.

벤치마크를 신중히 봐야 합니다

Taalas는 Llama 3.1 8B에서 사용자 1명당 초당 최대 1만7000토큰을 처리한다고 주장하며, 이는 Nvidia H200과 B200, Groq, SambaNova, Cerebras보다 앞선 수치입니다. 다만 이는 배송 중인 제품이 아닌 데모 장치에서 나온 회사 자체 측정치이며, 한 번에 한 모델만을 대상으로 합니다. 범용성은 설계상 이 아키텍처가 포기하는 부분입니다.

AMD가 이를 원하는 이유

AMD의 Vamsi Boppana는 이를 고객에게 "모든 AI 워크로드에 적합한 올바른 컴퓨팅 솔루션을 배치할 수 있는 유연성"을 제공하는 풀스택 플랫폼으로 설명했습니다. 다시 말하면 AMD는 GPU를 판매하고, GPU는 범용 해법입니다. 고정 기능 추론 팀을 인수하는 것은 대부분의 추론 토큰에는 범용 기계가 필요하지 않다는 Groq와 Cerebras의 주장에 맞서 로드맵을 분산하는 보험이기도 합니다.

아직 일어나지 않은 것

가격도, 종료도, 제품도, 특정 고객도 없습니다. "AMD가 Taalas를 인수한다"는 보도는 승인 대기 중인 계약을 설명한 서류보다 앞서 나간 것입니다. 이 사안은 또한 AMD의 2분기 실적 발표와도 무관합니다. 해당 실적은 8월 4일에 발표됐으며 별개의 사건입니다.