기업마다 "AI 담당 PM을 뽑는다"는 말이 나온다. 그런데 정작 채용 공고를 열어보면 같은 "AI Product Manager"라는 이름 아래 전혀 다른 일이 적혀 있다. 한쪽은 GPT나 Gemini, Claude 같은 AI 모델을 제품의 핵심 기술로 다루는 PM을 찾고, 다른 쪽은 기존 SaaS 제품에 AI 기능을 더하거나 AI를 활용해 업무의 효율을 높일 수 있는 사람을 찾는다. 두 역할은 같은 PM을 기반으로 하지만, 제품을 바라보는 관점과 설계 방식은 상당한 차이가 있다.
실무에서는 ‘AI Product PM’과 ‘Product PM for AI’가 서로 다른 역할로 나타난다. 전자는 AI·ML(Machine Learning) 모델과 데이터, 평가 체계를 제품의 핵심으로 다루는 PM이고, 후자는 기존 제품이나 업무에 AI를 적용해 사용자 문제를 해결하는 PM이다. 이 글에서는 후자를 기존 제품의 AI 기능 도입부터 PM 업무에 AI를 활용하는 경우까지 넓게 정의한다. 두 표현은 표준화된 용어라기보다 서로 다른 역할과 관점을 구분하기 위한 실무적 표현에 가깝다.
관점의 차이: AI를 제품의 핵심으로 볼 것인가, 도구로 볼 것인가
가장 근본적인 차이는 AI를 제품의 어디에 놓느냐다. AI Product Manager는 AI나 ML 자체가 제품의 핵심 기능이자 가치가 되는 제품을 책임진다. 반대로 AI를 도구로 활용하는 PM에게 AI는 업무를 효율화하고 생산성을 높이는 수단이며, 제품의 본질 자체를 바꾸는 요소는 아니다.
이 관점의 차이는 결과의 불확실성을 다루는 방식에서도 드러난다. 전통적인 소프트웨어가 같은 입력에 같은 결과를 내는 결정론적(deterministic) 특성을 갖는다면, AI 제품은 같은 입력에도 결과가 달라질 수 있는 확률론적(probabilistic) 특성을 가진다. 모델이 학습하고 변화하는 과정에서 환각(hallucination)이 발생할 수도 있다. 결국 전통적인 PM이 ‘작동하느냐, 아니냐’를 관리했다면, AI PM은 ‘얼마나 신뢰할 수 있게 작동하느냐’를 관리해야 한다.
설계 방식의 차이: 결정론적 UX에서 확률론적 UX로
관점의 차이는 설계 방식에도 이어진다. 전통적인 UX가 버튼과 화면을 통해 입력과 출력을 예측 가능한 방식으로 연결한다면, AI 제품의 UX는 결과의 불확실성을 설계에 반영해야 한다. 이른바 ‘probabilistic UX’는 같은 입력에서도 서로 다른 결과가 나올 수 있다는 전제에서 출발한다.
이러한 설계 원칙은 이미 주요 가이드라인을 통해 구체화되어 있다. Google PAIR의 People + AI Guidebook은 제품 개발 과정에서 모델의 신뢰도를 언제, 어떻게 보여줄지 결정하고, 사용자 피드백과 제어 수단을 마련하며, 오류를 식별·진단하고 이후의 대응 방향을 안내할 것을 권한다. Microsoft의 HAX Toolkit 역시 20년 이상의 연구를 바탕으로 18개의 Human-AI Interaction 가이드라인을 제시하며, 특히 AI가 잘못된 결과를 냈을 때 사용자가 이를 수정하고 회복할 수 있는 상호작용을 강조한다.
구체적인 설계 패턴도 비교적 명확하다. 첫째는 신뢰도(confidence)를 적절히 표현하는 것이다. 모델의 확신 정도를 시각적 표현이나 언어의 강도로 전달해 사용자가 결과의 불확실성을 판단할 수 있도록 한다. 둘째는 단계적 전환(graceful degradation)이다. AI의 신뢰도가 낮아지는 상황에서는 사람이 검토하거나 직접 처리할 수 있는 경로를 제공한다. 셋째는 교정 경로(correction affordance)다. AI의 결과를 사용자가 쉽게 편집·거부·수정할 수 있도록 하고, 필요할 경우 AI의 제안보다 더 간단한 방식으로 개입할 수 있게 설계한다.
여기서 중요한 관점의 전환이 일어난다. 바로 ‘실패 상태를 먼저 설계하는 것’이다. AI 제품은 모델이 틀리거나, 응답이 느려지거나, 비용이 증가하거나, 결과를 과신할 수 있다는 가능성을 전제로 설계해야 한다. 신뢰도가 높은 결과는 바로 제시하고, 낮을수록 선택지를 제공하며, 판단이 어려운 경우에는 사람이 개입할 수 있도록 하는 식의 신뢰도 기반 설계가 대표적인 접근이다. 전통적인 PM이 사용자가 입력한 대로 기능이 정상적으로 작동하는 기본 흐름을 먼저 설계했다면, AI Product PM은 AI가 잘못된 답을 내놓거나 확신하기 어려운 결과를 내놓는 상황까지 고려해 제품의 흐름을 설계한다. 이러한 불확실성과 신뢰성을 제품에 반영하는 것은 단순한 UX 설계를 넘어 리스크 관리의 영역이기도 하다.
역량의 차이: 평가(eval)·데이터·비용을 다루는 새로운 역량
Product PM for AI에게 AI는 챗봇이나 자동화처럼 기존 제품과 업무를 개선하는 도구에 가깝다. 반면 AI Product PM은 AI가 제품의 핵심 요소인 만큼 데이터 품질, 모델 평가(Eval), 안전성, 비용까지 함께 고려해야 한다. ProductMap은 이를 "전통적인 PM 역량 80%에 새로운 역량 20%가 더해지는 구조"로 설명한다. 이 20%에는 AI·ML에 대한 기본적인 이해를 비롯해 데이터 준비와 품질 관리, 프롬프트와 AI 도구 활용, ML 팀과의 협업, AI를 안전하고 책임 있게 활용하기 위한 판단(Responsible AI), 그리고 AI가 대신하기 어려운 전략적 판단이 포함된다.
그중에서도 가장 두드러지는 새로운 역량이 "평가(eval)"이다. 최근 제품·AI 분야에서 평가(eval)는 PM이 갖춰야 할 새로운 핵심 역량으로 주목받고 있다. 전통적인 소프트웨어에서는 단위 테스트(Unit Test)와 회귀 테스트(Regression Test)가 기능이 제대로 작동하는지를 검증했다면, AI 제품에서는 평가(eval)가 모델과 제품의 품질을 지속적으로 측정하는 역할을 한다.
데이터와 비용 역시 AI 제품에서 새롭게 고려해야 할 변수다. AI PM은 모델에 사용할 데이터를 확보하고, 정제하며, 품질을 검증하는 과정 자체를 제품 개발의 중요한 과제로 다뤄야 한다. 실제로 데이터에 접근하고 이를 정제하는 데 수개월이 걸리는 경우도 있다. 비용 구조도 달라진다. 기존 소프트웨어 제품에서는 사용량이 늘어나더라도 개별 요청에 따른 추가 비용이 상대적으로 작았지만, AI 제품에서는 모델을 한 번 호출할 때마다 비용이 발생한다. 따라서 사용자가 늘고 AI 기능의 사용량이 증가할수록 비용 구조를 함께 고려해야 한다.
따라서 AI 제품의 우선순위 결정은 단순히 ‘가치 vs 노력’만 비교하는 문제가 아니다. 여기에 ‘호출당 비용’과 전체 사용량에 따른 운영 비용까지 고려해야 한다. 제품의 품질을 판단하는 기준도 달라진다. AI Product PM은 지연시간(latency), 정확도, 비용, 안전성, 편향, 환각(hallucination) 등 서로 다른 지표 사이의 균형을 함께 고려해야 한다. 결국 기능을 구현하는 것에서 끝나는 것이 아니라, 얼마나 정확하고 빠르며 안전한지, 그리고 이를 어느 정도의 비용으로 제공할 수 있는지까지 제품의 성공 조건으로 관리해야 한다.
협업의 범위도 넓어진다. 전통적인 PM이 엔지니어, 디자이너, 마케팅 등과 협업한다면, AI Product PM은 여기에 ML 엔지니어, 데이터 사이언티스트, MLOps, 법무·컴플라이언스, 개인정보 보호 전문가 등 다양한 이해관계자가 추가된다. AI 제품에서는 모델의 편향이나 데이터 프라이버시, 규제 준수와 같은 문제가 출시 이후에 해결해야 할 부가적인 과제가 아니라, 제품을 설계하고 출시하는 단계부터 함께 고려해야 하는 조건이기 때문이다.
요구사항의 형태도 바뀐다: PRD에서 프로토타입과 평가(eval)까지
AI가 제품의 핵심이 되면 요구사항을 정의하고 검증하는 방식도 달라진다. 전통적인 제품 개발에서는 PRD로 요구사항과 기능을 정의하고, 개발이 완료되면 테스트를 통해 기능이 정상적으로 작동하는지를 확인하는 흐름이 일반적이다. 하지만 AI 제품에서는 같은 입력에서도 결과가 달라질 수 있기 때문에 ‘작동한다/작동하지 않는다’만으로 품질을 판단하기 어렵다. 요구사항을 문서로 정의하는 것뿐 아니라, 실제 동작을 확인하고 다양한 결과를 평가하는 과정이 함께 필요하다.
그래서 PRD가 사라지는 것이 아니라 역할이 확장된다. PRD는 여전히 비즈니스 맥락, 문제 정의, 성공 지표, 요구사항과 기술적 고려사항을 정리하는 기준점으로 사용된다. 여기에 기능적 프로토타입을 함께 만들어 실제 사용자 흐름과 상호작용을 확인하고, 평가(eval) 세트를 통해 다양한 입력과 사용 시나리오에서 AI의 결과가 정해진 품질 기준을 충족하는지 검증한다.
이 과정에서 프로토타입은 단순한 화면 시안을 넘어, 실제 기능과 사용자 흐름을 직접 확인할 수 있는 동작 가능한 결과물에 가깝다. 문서만으로 설명하기 어려운 인터랙션이나 엣지 케이스를 직접 확인할 수 있고, 엔지니어와 디자이너, 이해관계자가 동일한 결과물을 보면서 요구사항을 구체화할 수 있다.
평가(eval)는 AI 제품의 품질을 지속적으로 검증하기 위한 장치다. 프로토타입이 ‘어떻게 동작해야 하는가’를 보여준다면, 평가(eval)는 ‘AI가 실제로 어느 정도의 품질로 동작하는가’를 측정한다. 대표적인 사용 사례와 실패 가능성이 높은 사례 등을 평가 대상으로 정의하고, 정확성·일관성·안전성 등 제품에 필요한 기준을 반복적으로 확인하면서 출시 이후에도 품질을 관리한다. 따라서 AI Product PM에게 요구사항은 더 이상 문서에 적힌 기능 목록만을 의미하지 않는다. 문서로 맥락과 목표를 정의하고, 프로토타입으로 동작을 구체화하며, 평가(eval)를 통해 어느 수준의 품질을 충족해야 하는지 검증하는 구조로 확장된다.
결국 AI Product PM의 중요한 역할은 ‘무엇을 만들 것인가’를 문서로 정의하는 것에서 끝나지 않는다. ‘어떻게 동작해야 하는가’와 ‘어느 수준의 품질이면 출시할 수 있는가’까지 정의해야 한다. 기술적으로 AI를 적용할 수 있다는 이유만으로 제품에 AI를 넣는 것이 아니라, 고객의 문제를 해결하는 데 AI가 실제로 더 나은 방법인지 검증하는 것이 출발점이다. 가치(value), 사용성(usability), 실행가능성(feasibility), 사업성(viability)이라는 기본적인 제품 판단 기준은 AI 시대에도 달라지지 않는다. 다만 AI 제품에서는 여기에 품질, 비용, 안전성, 불확실성까지 함께 고려해야 한다.
시장은 어디로: 커지는 AI PM 수요와 변화하는 역할
역할의 무게가 커지는 만큼 시장의 수요도 빠르게 움직이고 있다. Stanford HAI의 AI Index 2025에 따르면 조직의 AI 사용 비율은 2023년 55%에서 2024년 78%로 증가했고, 생성형 AI 사용 비율은 같은 기간 33%에서 71%로 두 배 이상 늘었다. 생성형 AI에 대한 민간 투자도 2024년 339억 달러에 달했다. 이후 AI의 확산은 더욱 빨라졌다. AI Index 2026에 따르면 2025년 조직의 AI 도입률은 88%까지 올라갔으며, 생성형 AI는 등장 후 3년 만에 전 세계 인구의 53%가 사용하는 기술로 확산됐다. 이는 PC나 인터넷보다 빠른 속도다.
하지만 AI의 도입과 실제 성과 사이에는 여전히 큰 간극이 있다. McKinsey의 State of AI 2025 조사에서도 88%의 조직이 하나 이상의 업무 영역에서 AI를 정기적으로 사용하고 있다고 답했지만, 전사적인 스케일링을 시작한 곳은 약 3분의 1에 그쳤다. 기업 전체의 EBIT(Earnings Before Interest and Taxes, 이자 및 세금 차감 전 이익)에 AI가 영향을 미쳤다고 답한 곳도 39%였으며, 이들 가운데 대부분은 EBIT 영향이 5% 미만이라고 답했다. 또한 AI 에이전트는 62%가 실험 중이지만, 실제 업무에 적용하고 확장하는 단계에 들어간 곳은 23%에 그친다.
결국 AI를 도입하는 것과 AI를 통해 실제 가치를 만들어내는 것은 다른 문제다. 많은 기업이 AI를 사용하기 시작했지만, 이를 기존 업무와 제품에 효과적으로 연결하고 규모 있게 운영하는 단계까지 도달한 기업은 아직 많지 않다. 이 간극을 줄이기 위해서는 단순한 기술 도입을 넘어 업무 재설계, 제품화, 품질 관리, 사용자 경험 설계 등 제품 관점의 역량이 중요해진다. 이러한 변화는 노동시장에도 나타나고 있다. Lightcast가 Stanford AI Index에 제공한 분석에 따르면 미국에서 생성형 AI 관련 스킬을 명시한 구인 공고는 2023년 약 1만6천 건에서 2024년 6만6천 건 이상으로 증가했다. 1년 사이 약 네 배에 가까운 증가다. 다만 여기서 AI PM의 수요가 정확히 얼마나 증가했는지를 보여주는 공식 통계는 아직 제한적이다. 일부 업계 보고서는 AI PM에 대한 수요가 관련 인재 공급보다 빠르게 증가하고 있으며, AI 역량을 갖춘 인력에게 임금 프리미엄이 형성되고 있다고 분석한다. 다만 이들 수치는 민간 분석 기관의 추정치이기 때문에, Stanford나 McKinsey와 같은 대규모 조사와 동일한 수준의 통계적 신뢰성을 갖는다고 단정하기는 어렵다.
한편 시장의 변화가 AI PM의 수요 증가만을 의미하는 것은 아니다. 역할 자체가 재편될 가능성도 제기되고 있다. 2026 CPO Insights Report는 현재의 Product Manager 역할이 2030년까지 사라질 수 있다고 전망하면서, 제품 사고와 기술 이해, 디자인, 비즈니스 감각을 결합한 ‘Product Builder’의 부상을 언급했다. Forbes 역시 AI가 제품 개발 방식을 바꾸면서 전통적인 PM 역할의 규모는 줄어드는 반면, 아이디어를 실제 결과물로 빠르게 연결하는 Product Builder의 역할이 커질 가능성을 분석했다. 따라서 앞으로의 PM 시장을 단순히 "AI PM의 수요가 늘어난다"는 관점에서만 볼 필요는 없다. 오히려 중요한 변화는 AI를 이해하고 제품에 적용할 수 있는 PM의 역할 범위가 넓어지는 동시에, 기존 PM의 역할 자체도 재정의되고 있다는 점이다.
전망: 모든 PM이 AI PM이 되지는 않지만, AI 리터러시는 기본기가 된다
그렇다면 이처럼 엇갈리는 전망을 어떻게 바라봐야 할까. 가장 현실적인 해석은 AI가 PM이라는 역할 자체를 곧바로 대체하기보다는, PM이 일하는 방식과 요구되는 역량을 재정의하고 있다는 것이다. 모든 PM이 AI Product PM이 될 필요는 없지만, AI를 이해하고 활용하는 능력, 즉 AI 리터러시는 점점 더 기본적인 역량이 될 가능성이 높다. Stanford Online은 AI를 인간의 능력을 대체하는 수단보다는 증폭하는 기술로 설명하며, Lenny Rachitsky 역시 현재의 AI가 독립적으로 제품 관리 역할을 수행하기에는 아직 한계가 있다고 본다. 다만 그는 동시에 AI가 PM의 전략 수립, 데이터 분석, 문서 작성 등 다양한 업무에서 더 적은 시간과 노력으로 더 큰 성과를 낼 수 있도록 도울 것으로 보고 있다.
그렇다면 앞으로 PM의 경쟁력은 어디에서 갈릴까. 단순히 AI를 업무 도구로 활용하는 것과 AI가 핵심이 되는 제품을 직접 설계하고 운영하는 것은 다른 문제다. 전자는 AI를 활용해 리서치, 문서 작성, 데이터 분석 등 기존 PM 업무의 속도와 생산성을 높이는 데 초점이 맞춰진다. 반면 AI Product PM은 한 단계 더 나아가, 불확실한 확률론적 시스템을 실제로 신뢰할 수 있는 제품으로 만들어야 한다. 이를 위해 평가(eval) 시스템을 설계하고, 실패 모드를 분류하며, AI의 신뢰도에 따라 사용자 경험을 다르게 설계하고, 정확성·지연시간·비용·안전성 사이의 균형까지 판단해야 한다.
결국 중요한 것은AI를 얼마나 많이 사용하는가가 아니라, AI의 특성을 제품 설계에 얼마나 잘 반영할 수 있는가다. AI가 만들어내는 결과를 그대로 받아들이는 것이 아니라, 어디까지 자동화할 수 있는지, 언제 사람의 판단이 필요한지, 어느 수준의 품질을 만족해야 출시할 수 있는지를 정의하는 능력이 중요해진다. AI PM에 대한 시장의 관심 역시 이러한 역량을 가진 인재를 찾는 방향으로 움직이고 있다.
결국 좋은 AI Product PM은 AI를 앞세우는 사람이 아니다. AI를 활용해야 더 잘 풀 수 있는 문제를 찾아내고, 그 기술을 고객이 이해할 수 있는 제품의 언어로 번역하는 사람에 가깝다. 기술은 점점 더 확률론적인 시스템이 되어가지만, 제품이 해결해야 할 문제는 여전히 사람과 비즈니스에 있다. AI와 사람 사이의 간극을 제품으로 연결하는 역할, 그것이 앞으로 AI Product PM에게 요구되는 핵심 역량일 것이다.
참고
Next by Rahul, "AI Product Manager Roadmap 2026"
Scaled Agile, "AI/ML Product Managers Guide"
Antoine Buteau, "Designing Around Uncertainty and Failure"
ProductMap, "AI Product Manager Skills"
Lenny’s Newsletter, "Why AI Evals Are The Hottest New Skill"