Thomson Reuters는 월요일 자사 최초의 사내 독점 대규모 언어 모델인 "Thomson"을 출시했다. 이 모델은 "강력한 오픈소스 기반" 위에 구축됐으며, 인재와 컴퓨트에 총 4천만 달러가 들었다고 밝혔다. 이 모델에 붙은 주장에 따르면 "우리의 초기 평가는 Thomson이 다양한 작업에서 최신 프런티어 모델들과 대등한 수준임을 보여준다"고 한다.
통상적인 해석이 놓친 것
"Thomson Reuters가 4천만 달러로 프런티어 모델을 만들었다"는 말에는 세 가지 서로 다른 오류가 있다. 첫째, 프런티어 모델을 만든 것이 아니다. 이름이 공개되지 않은 오픈 가중치 베이스를 후학습했기 때문에, 4천만 달러는 그 차이분에만 해당한다. 즉 베이스 모델 자체의 학습 비용은 비교 대상에서 완전히 제외된다. 그 비용은 거의 확실히 세 자릿수 달러 규모이며, 다른 회사의 몫이다. 둘째, 프런티어와 대등하다는 주장은 회사의 자체 초기 내부 평가일 뿐이다. 1인칭으로 서술돼 있고, 어떤 벤치마크도 제시되지 않았으며, 수치도 공개되지 않았고, 보도자료 어디에도 제3자 평가가 인용되지 않았다. 셋째, 아직 실제 배포도 아니다. 첫 적용처는 하나의 기능인 Tabular Analysis이며, 하나의 제품인 CoCounsel Legal 안에서만, 시점도 특정되지 않은 향후 릴리스
에 포함될 예정이다. 현재 다운로드 가능한 것은 Hugging Face에 올라온 작은
버전뿐이며, 학술 및 비상업적 사용으로 제한된다. 주력 모델은 오픈 가중치로 공개되지 않았다.
두 번 읽어볼 숫자
Thomson은 지금까지 Thomson Reuters 콘텐츠의 10% 미만으로 학습됐다. 보도자료는 이를 여지로 제시한다. 실제로 그렇다. 동시에 이는 데이터 해자가, 즉 전체 전략의 핵심 전제가 대부분 아직 활용되지 않았다는 뜻이기도 하다. 그리고 프런티어와의 비교를 내세우는 이 모델이, 정작 스스로를 특별하게 만든다고 주장하는 말뭉치에 대해 아직 시험되지 않았다는 점도 보여준다.
경제성이 주장보다 더 중요한 이유
이는 오픈 가중치 탈출구에 관한 지금까지의 가장 분명한 데이터 포인트다. 도메인 강자가 오픈 베이스를 가져와 인재와 컴퓨트에 4천만 달러를 쓰고, 자기 수직 분야에서 프런티어 모델과 논쟁 가능한 수준에 도달할 수 있다면, 도메인 작업에 프런티어 API 요금을 지불해야 할 이유는 약해진다. 그리고 랩들 입장에서는 무엇이든 오픈 가중치로 공개해야 할 이유도 약해진다. 이 논쟁은 지금 진행 중이다. 이번 발표는 Meta가 Muse Glimmer를 오픈 가중치로 공개한 지 몇 주 뒤, 그리고 Mistral의 오픈 가중치 관련 백서가 나온 지 한 달 뒤에 나왔다.
무엇이 이를 확정 지을 것인가
명시된 베이스 모델, 명시된 벤치마크, 그리고 숫자 하나다. Thomson Reuters가 이 셋 중 어느 하나라도 공개하기 전까지, "프런티어 모델들과 대등하다"는 주장은 회사 밖 누구도 측정하지 못한 모델에 대한 주장일 뿐이다.