3강. ChatGPT도 사실은 백엔드 시스템이다

🤔 Question

👉 “ChatGPT처럼만 만들면 되는 거 아닌가요?”
많은 PM이 AI 서비스를 떠올릴 때 가장 먼저 ChatGPT 화면을 떠올린다. 하지만 그 화면 뒤에는 여러 단계의 처리가 연결된 복잡한 백엔드 시스템이 존재한다. ChatGPT는 단순한 챗봇이 아니라, 하나의 거대한 백엔드 파이프라인이다.

 

🎯 PM이 보는 ChatGPT vs 개발자가 보는 ChatGPT

👉 PM이 보는 ChatGPT는 “대화를 잘하는 UI”다.

반면 개발자가 보는 ChatGPT는
입력이 들어와 여러 단계를 거쳐 처리되는 백엔드 시스템이다.

이 관점 차이를 이해하지 못하면, AI 기획은 항상 “왜 이렇게 복잡해요?”라는 질문에서 멈춘다.

 

🎯 ChatGPT의 실제 동작 구조

👉 ChatGPT의 내부 흐름은 보통 다음과 같다.

UI → API → Retrieval → LLM → Post-processing

사용자의 입력은 바로 모델로 전달되지 않는다. 검색, 컨텍스트 구성, 필터링을 거친 후에야 모델이 호출된다.

이 파이프라인 전체가 곧 ChatGPT의 ‘지능’이다.

 

🎯 왜 이 구조를 PM이 알아야 하는가

👉 많은 PM은 “모델이 더 똑똑해지면 해결될 문제”라고 생각한다.

하지만 실무에서 터지는 문제의 대부분은 모델 이전 또는 이후 단계에서 발생한다.

- 검색 결과가 비어 있거나
- 컨텍스트가 너무 길어 잘리거나
- 출력 형식이 깨진다

이는 모델 문제가 아니라 백엔드 파이프라인 설계 문제다.

 

🎯 AI 기획은 화면이 아니라 파이프라인이다

👉 AI 기획서를 화면 중심으로 작성하면 개발 단계에서 반드시 충돌이 발생한다.

PM이 설계해야 할 것은 다음 질문이다.

- 이 입력은 어디로 가는가?
- 어떤 데이터를 검색하는가?
- 어떤 조건에서 모델을 호출하는가?
- 출력은 어떤 규칙으로 가공되는가?

이 질문에 답할 수 있을 때, PM은 개발자와 같은 언어로 AI를 기획하고 있다.

 

☔ 정리

👉 ChatGPT는 챗봇 UI가 아니라 여러 백엔드 컴포넌트가 연결된 시스템이다.

AI 기획의 핵심은 화면이 아니라 파이프라인이며, 이 구조를 이해해야 일정과 난이도를 예측할 수 있다.

 

If I was of any help to you, please buy me coffee 😿😢😥

If you have any questions, please leave them in the comments

Buy me a coffee

▶ Youtube Sub

🧭 References

[1] reference : https://doctorson0309.tistory.com/

[2] Ads : https://apps.apple.com/us/app/beluga-classic-film-filters/id6744041061