방대한 법률 문서에서 원하는 조항을 찾느라 밤새고 있다면? LlamaIndex가 공개한 legal-kb가 기존 RAG의 한계를 어떻게 우회하는지 살펴보세요.
계약서 검토를 맡은 주니어 변호사가 수천 페이지 분량의 문서 더미 앞에서 한숨을 내쉰다. 특정 조항이 어느 문서에 숨었는지 찾으려면 키워드 검색만으로는 부족하고, 그렇다고 사람이 일일이 읽자니 시간이 턱없이 모자란다. 이런 상황에서 최근 공개된 레퍼런스 앱 하나가 눈길을 끈다. 바로 LlamaIndex의 legal-kb다.
네 가지 도구, AI 검색에 ‘파일 시스템’을 입히다
legal-kb는 법률 문서용 지식 베이스로, LlamaIndex Index v2(현 LlamaParse Platform) 기반으로 동작한다. 이 앱의 핵심은 에이전트가 마치 파일 시스템을 다루듯 네 가지 도구를 써서 대규모 지식 베이스를 샅샅이 훑는 방식이다.
- retrieve: 의미 기반 검색
- find: 키워드·파일명 검색
- read: 특정 문서 전문 읽기
- grep: 정규 표현식을 사용한 패턴 매칭
쉽게 말해, “2024년 개정된 면책 조항 중 특정 문구가 들어간 것만 찾아줘” 같은 복합적인 요청을 여러 도구를 조합해 처리하는 구조다. 한 번의 임베딩 검색으로 끝내는 기존 RAG(검색 증강 생성) 방식과는 접근법이 다르다.
Retrieval Harness, 에이전트가 직접 크롤링한다
LlamaIndex 팀은 이 접근법을 Retrieval Harness 라고 부른다. 단일 검색 결과에 의존하지 않고, 에이전트가 여러 도구를 반복해서 호출하며 방대한 문서 더미를 ‘기어 다니듯’ 탐색하는 것이다.
여기서 중요한 점은 이 도구들이 엔지니어에게 이미 익숙한 명령어 패턴을 닮았다는 사실이다. grep, find 같은 유닉스 명령어에 익숙한 개발자라면 에이전트의 동작 방식을 직관적으로 이해할 수 있다. AI 에이전트를 검색 파이프라인에 도입할 때 흔히 마주치는 ‘블랙박스’ 문제를, 조작 방식의 투명성으로 풀어낸 셈이다.
라이브러리가 아닌 앱, 바로 써볼 수 있다
legal-kb는 라이브러리 형태가 아니라 TanStack Start 기반의 웹 애플리케이션으로 공개됐다. GitHub에서 코드를 내려받아 바로 실행할 수 있으며, 로그인 후 프로젝트를 만들고 파일을 업로드하면 에이전트와 채팅으로 상호작용한다.
프로젝트 단위로 관리형 LlamaCloud Index v2가 자동 생성되기 때문에, 별도의 인덱스 설정을 고민할 필요가 없다는 점도 실무자 입장에서는 반갑다. “개념 증명은 됐으니 이제 구현해보세요”가 아니라, 당장 써보고 판단할 수 있는 수준으로 풀어낸 것이다.
개발자가 체크해야 할 점
물론 모든 상황에 바로 적용하기엔 고려할 지점이 있다. legal-kb는 이름 그대로 법률 문서에 초점을 맞춘 레퍼런스 앱이다. 일반 비즈니스 문서나 기술 매뉴얼에 그대로 전용할 수 있을지는 직접 테스트해봐야 한다.
또 한 가지, 이 구조는 에이전트가 여러 도구를 순차적으로 호출하기 때문에 단순 임베딩 검색보다 응답 시간이 길어질 수 있다. 대규모 문서 세트에서 실시간 응답이 필요한 서비스라면 지연 시간을 꼭 확인해보는 편이 좋다. MarkTechPost 보도와 GitHub 리포지토리를 바탕으로 정리한 만큼, 도입 전에 실제 동작을 직접 확인해보는 게 현명하다.
참고
- 원문 링크: https://www.marktechpost.com/2026/07/05/llamaindex-legal-kb-agentic-retrieval-over-index-v2-with-retrieve-find-read-and-grep-tools/
- MarkTechPost 공식 자료와 AI Log 리서치 노트를 바탕으로 작성한 단일 출처 기반 초안입니다.
- 발행 전 원문 확인이 필요합니다.
