Google Cloud가 "Always-On Memory Agent"를 오픈소스로 공개했습니다. 이는 AI 에이전트에 메모리를 부여하는 다른 방식을 제안하는 레퍼런스 구현으로, 현재 업계가 주로 의존하는 벡터 데이터베이스와 임베딩을 배제합니다. 이 구현은 7월 18일 공개됐으며, Google의 Agent Development Kit와 Gemini 3.1 Flash-Lite를 기반으로 합니다.
아이디어
단발성 호출을 보내는 대신, 이 에이전트는 24시간 365일 프로세스로 실행됩니다. 언어 모델은 지속적으로 읽고, 생각하고, 구조화된 메모리를 기록하며, 이를 평범한 SQLite 파일에 저장합니다. 즉, 메모리를 필요할 때 꺼내 쓰는 것이 아니라 사람이 하루의 사건을 정리하듯 시간이 지나며 축적해 나가는 것으로 다룹니다.
벡터 데이터베이스 없음
핵심적인 생략은 검색 스택입니다. 벡터 데이터베이스도, 임베딩도 없습니다. LLM 자체가 무엇이 중요한지 판단해 구조화된 텍스트로 기록합니다. 이는 유사도 검색의 속도 대신, 실제로 자료를 읽은 모델의 판단을 택하는 것으로, 검색증강생성(RAG) 정설에 정면으로 도전합니다.
에이전트는 어떻게 역할을 나누는가
오케스트레이터가 작업을 세 개의 하위 에이전트로 분배합니다. IngestAgent는 요약, 엔티티, 주제, 중요도를 추출하고, ConsolidateAgent는 30분마다 메모리 간 연결을 종합하며, QueryAgent는 출처 인용과 함께 질문에 답합니다. 이 시스템은 텍스트, 이미지, 오디오, 비디오, 문서 등 5개 범주에 걸친 27개 파일 형식을 수집합니다.
Flash-Lite를 택한 이유
Gemini 3.1 Flash-Lite를 선택한 점이 핵심적인 전제입니다. 지속적인 백그라운드 추론은 모델이 늘 가동되더라도 충분히 저렴하고 빠를 때만 성립합니다. 경량 모델이 발전할수록 상시 메모리 통합은 더 저렴해지고, Google은 마침 그 범주의 모델을 판매합니다. 다만 이것은 제품이 아니라 레퍼런스 설계라는 점을 분명히 할 필요가 있습니다. Google은 다른 이들이 복제할 수 있는 패턴을 공개하고 있으며, 바로 이런 방식으로 아키텍처의 기본값이 바뀝니다. 이 접근법이 확산된다면, 단발성 검색을 위해 설계된 벡터 데이터베이스와 임베딩 도구의 상당수는 선택 사항처럼 보이게 될 것입니다.