HN 표시: 휴대용 RAG(오픈 소스)

요약

문맥 창보다는 크지만 벡터 데이터베이스를 도입하기엔 작은 중간 규모의 텍스트 파일 관리를 위해 'raglet'이라는 경량 오픈소스 라이브러리가 개발되었습니다. 벤치마크 결과 100MB(약 2,600만 토큰) 데이터 처리 시 검색 속도가 10.4ms로 매우 빠르며, API 키 없이 로컬 임베딩 모델을 사용하고 결과를 Git으로 커밋 가능한 디렉터리에 저장합니다. 현재는 텍스트 파일만 지원하지만 향후 PDF 및 파일 변경 감지 기능을 추가하여 단순한 노트 검색을 넘어 코드베이스나 슬랙 데이터 분석에도 활용될 것으로 기대됩니다.