6강. RAG, 임베딩, 벡터 검색을 PM 언어로 해석하기

🤔 Question

👉 “RAG를 쓰면 더 똑똑해진다던데요?”
“임베딩이 왜 필요한 거죠?”
“벡터 검색이요? 그냥 검색이랑 뭐가 다른가요?”

AI 기획 회의에서 가장 자주 등장하지만, 가장 명확하게 설명되지 않는 단어들이다.

이 개념들을 이해하지 못하면 “AI가 똑똑해졌다”는 말은 기획적으로 아무 의미가 없다.

 

🎯 RAG란 무엇인가 (PM 관점)

👉 RAG(Retrieval-Augmented Generation)는 “모델이 답하기 전에 먼저 찾아보고 말하게 하는 구조”다.

즉, AI에게 “너 기억으로만 말하지 말고, 이 데이터 보고 말해” 라고 시키는 방식이다.

PM 관점에서 RAG의 의미는 명확하다.

- 환각(Hallucination)을 줄이고
- 최신 정보를 반영하고
- 근거 있는 답변을 만들 수 있다

“AI가 똑똑해졌다”는 말의 상당 부분은 사실 RAG 덕분이다.

 

🎯 임베딩(Embedding)은 무엇을 하는가

👉 임베딩은 “의미를 숫자로 바꾸는 작업”이다.

문장, 문서, 대화 로그를 사람이 아닌 기계가 비교할 수 있도록 숫자 벡터로 변환한다.

PM이 꼭 이해해야 할 포인트는 이것이다.

- 임베딩이 곧 데이터 준비 작업이며
- 임베딩 품질이 검색 품질을 결정하고
- 한 번 만들면 계속 관리해야 한다

“나중에 데이터 정리하면 되죠”라는 말이 AI 프로젝트에서 가장 위험한 말이 되는 이유다.

 

🎯 벡터 검색은 왜 필요한가

👉 벡터 검색은 “말이 달라도 의미가 비슷하면 찾아주는 검색”이다.

키워드 검색은 단어가 정확히 일치해야 한다.

반면 벡터 검색은 질문과 문서의 “의미 거리”를 계산한다.

PM 관점에서의 차이는 이렇다.

- 사용자는 말을 제각각 하지만
- AI는 의도를 맞춰야 하고
- 그걸 가능하게 하는 게 벡터 검색이다

그래서 “자연스럽게 알아듣는 AI”는 거의 항상 벡터 검색을 사용한다.

 

🎯 PM이 이걸 이해하면 달라지는 것

👉 이 개념들을 이해한 PM은 이렇게 말하기 시작한다.

❌ “AI가 똑똑해지게 해주세요”
✅ “이 데이터를 임베딩해서 RAG로 검색하게 합시다”

이는 단순한 말장난이 아니다.

일정, 비용, 품질을 예측할 수 있는 기획 언어로 바뀌는 순간이다.

 

☔ 정리

👉 RAG는 “찾아보고 말하게 하는 구조”이며, 임베딩과 벡터 검색은 그 구조를 떠받치는 핵심 기술이다.

PM이 이 개념을 이해하면, AI는 더 이상 블랙박스가 아니다.

 

If I was of any help to you, please buy me coffee 😿😢😥

If you have any questions, please leave them in the comments

Buy me a coffee

▶ Youtube Sub

🧭 References

[1] reference : https://doctorson0309.tistory.com/

[2] Ads : https://apps.apple.com/us/app/beluga-classic-film-filters/id6744041061