[CCA-F] Building With The Claude API (4/6)
·
AI/CLAUDE
Retrieval Augmented Generation(RAG)Introducing Retrieval Augmented Generation큰 문서가 입력으로 들어오고 내용에 대한 질문이 들어온다고 가정했을 때, 전체를 보는것 보다 text를 덩어리로 나누고, 각 덩어리에서 프롬프트 내용을 찾는걸 말한다. RAG의 장점은 아래와 같다.클로드는 가장 관련있는 내용에만 집중하면 된다scale-up 가능scale-out도 가능(여러 문서에 걸쳐서 적용 가능하다)프롬프트의 크기가 줄어든다하지만 다음의 도전점도 생각해야 한다.전처리 필요함연관성 있는 덩어리를 찾기 위한 검색 기술이 필요하다선택된 덩어리에 필요한 내용이 모자랄 수도 있다덩어리를 나누는 많은 방법들 중에 선택해야 한다Text chunking strat..