“출장 보고서 작성해줘.”
이 한마디면 AI가 이메일과 캘린더, 회의록, 영수증 등을 찾아 필요한 정보를 모으고 보고서 초안까지 만들어낼 수 있다. 예전이라면 출장 일정을 확인하고, 회의 내용을 정리하고, 비용을 취합하고, 보고서 양식에 맞춰 문서를 작성하는 과정을 사람이 하나씩 처리해야 했다. 그러나 이제는 목표를 알려주면 AI가 그 목표를 달성하기 위한 작업을 나누고 실행한다.
필요한 정보를 찾고, 도구를 선택하고, 작업 순서를 정하고, 중간에 문제가 생기면 다른 방법을 시도한다. 이것이 지금 이야기되고 있는 Agentic AI가 만들어가는 변화다. AI가 단순히 답을 생성하는 도구를 넘어 목표를 향해 행동하는 시스템으로 발전하고 있는 것이다.
AI가 ‘도구’에서 ‘행동하는 시스템’으로
지금까지 생성형 AI를 사용하는 방식은 대체로 명령과 응답의 형태였다. “번역해줘”, “요약해줘”, “코드 짜줘”처럼 사람이 해야 할 작업을 나누고 AI에게 각각의 작업을 지시했다. 필요한 순서와 판단 역시 사람이 미리 설계해야 했다.
물론 기존의 생성형 AI도 RAGAI가 답변을 만들기 전에 외부 문서나 데이터를 검색해 필요한 정보를 가져오는 방식입니다. AI의 답변을 최신 정보나 특정 조직의 지식에 기반하도록 할 수 있습니다., tool callingAI가 필요에 따라 검색, API, 데이터베이스 등의 외부 도구를 호출해 정보를 가져오거나 실제 작업을 수행하는 방식입니다., workflow automation미리 정해진 순서에 따라 여러 업무를 자동으로 실행하는 방식입니다. 정해진 조건과 규칙에 따라 움직이기 때문에 예측 가능한 반복 업무에 적합합니다. 등을 통해 여러 단계의 작업을 수행할 수 있었다. Agentic AI가 완전히 새로운 능력을 갑자기 만들어낸 것은 아니다. 차이는 작업의 주도권이 어디에 있느냐에 있다. Agentic AI는 목표가 주어지면 그 목표를 달성하기 위해 필요한 정보를 찾고, 작업을 계획하고, 도구를 선택하고, 결과를 확인하면서 다음 행동을 결정한다. 예상한 결과가 나오지 않으면 다시 시도하거나 다른 방법을 선택할 수도 있다. 삼성전자 기술 블로그 역시 Agentic AI를 목표를 이해하고 계획을 세우며 도구를 활용해 작업을 수행하는 방향으로 발전한 AI로 설명한다.
다만 이것을 단순히 ‘AI가 생각하기 시작했다’고 표현하는 것은 조심할 필요가 있다. Agentic AI가 인간과 같은 의식이나 독립적인 목적을 갖게 된 것은 아니다. LLM을 중심으로 계획, 도구 사용, 상태 관리, 결과 검증, 재시도 등의 구조를 결합해 주어진 목표를 향해 보다 자율적으로 행동하도록 만든 시스템에 가깝다. 결국 변화의 핵심은 AI 모델 하나가 아니라 AI를 사용하는 방식과 시스템의 구조가 달라졌다는 것이다.
자율성과 행위성, 두 개의 축
Agentic AI를 이해할 때 자주 등장하는 개념이 자율성(Autonomy)과 행위성(Agency)이다. 자율성은 얼마나 독립적으로 행동할 수 있는가를 의미한다. 사람의 개입 없이 어느 정도까지 계획하고, 판단하고, 실행할 수 있는가의 문제다. 행위성은 조금 다른 관점이다. 목표를 향해 스스로 행동하고, 그 행동을 통해 외부 환경에 실제 변화를 만들어내는 능력에 가깝다. 여기서 환경은 물리적인 세계뿐 아니라 데이터베이스, 애플리케이션, 업무 시스템, 사용자와의 상호작용까지 포함한다. 단순히 정보를 제공하는 데 그치지 않고, 필요한 데이터를 조회하거나 도구를 호출하고, 문서를 생성하거나 시스템의 상태를 변경하는 것까지 포함한다. 정해진 명령을 반복하는 것이 아니라 상황에 따라 행동을 선택하고, 결과에 따라 다음 행동을 바꾸는 것이다.
둘은 비슷해 보이지만 같은 개념은 아니다. 혼자 행동할 수 있다고 해서 반드시 좋은 Agent가 되는 것은 아니다. 목표와 판단 기준이 없다면 단순히 자동화된 시스템에 가까울 수 있다. 반대로 목표를 이해하더라도 실제로 도구를 사용하고 행동할 수 없다면 문제를 해결할 수 없다. Agentic AI가 지향하는 것은 이 두 가지의 결합, 즉 목표를 이해하고 그 목표를 향해 스스로 행동하는 것이다.
하지만 여기서 인간의 역할이 사라지는 것은 아니다. 현재의 Agentic AI가 스스로 하위 목표를 만들고 실행 전략을 바꿀 수 있다는 것과, 스스로 삶의 목적이나 사회적 가치를 결정한다는 것은 전혀 다른 문제이기 때문이다. AI에게 목표를 주는 사람과, 그 목표가 옳은지를 판단하는 사람은 여전히 필요하다.
이미 현실이 된 Agentic AI
Agentic AI는 더 이상 개념이나 실험에만 머물러 있지 않다. Gartner는 2026년 말까지 기업용 애플리케이션의 40%가 업무 특화 AI 에이전트를 포함하게 될 것으로 전망했다. 2025년에는 5% 미만이었던 수준에서 크게 증가하는 전망이다. 소프트웨어 개발, 고객지원, 데이터 분석, 영업과 마케팅 등 다양한 업무에서 AI가 정보를 제공하는 것을 넘어 실제 업무의 일부를 수행하기 시작한 이유다.
하지만 여기서 한 가지는 함께 볼 필요가 있다. AI 에이전트가 등장한다고 해서 자동으로 가치가 만들어지는 것은 아니다. Gartner는 2027년 말까지 Agentic AI 프로젝트의 40% 이상이 비용 증가, 불명확한 사업 가치, 위험 통제 부족 등의 이유로 중단될 것으로 전망하기도 했다. AI가 할 수 있는 것과 AI가 해야 하는 것은 다르기 때문이다. 이 차이는 앞으로 AI를 도입하는 기업과 PM에게 꽤 중요한 기준이 될 것이다.
그래서 PM의 역할은 어떻게 달라질까
이 질문은 제품을 만드는 사람에게 특히 중요하다. 기존의 PM은 문제를 정의하고, 요구사항을 정리하고, 우선순위를 정하고, 개발팀과 디자인팀을 조율하면서 제품이 제대로 만들어지도록 관리했다. 그런데 AI가 이 과정의 상당 부분을 수행할 수 있게 된다면 어떨까.
예를 들어 PM이 “이번 달 사용자 이탈률이 증가한 원인을 분석해줘”라고 요청했다고 해보자. AI Agent는 데이터를 조회하고, 사용자 세그먼트를 나누고, 퍼널을 분석하고, 이전 기간과 비교하고, 관련 이벤트를 찾아 원인 후보를 정리할 수 있다. 여기까지는 기존의 데이터 분석 도구를 AI로 자동화한 것처럼 보인다. 하지만 Agentic AI에서는 여기서 끝나지 않을 수 있다. 원인 후보를 검증하기 위해 추가 데이터를 요청하고, 관련 실험 결과를 찾아보고, 사용자 리뷰까지 확인한 뒤, 개선안의 우선순위와 예상 효과를 정리할 수도 있다.
그렇다면 PM이 직접 해야 하는 일은 무엇일까. AI가 분석하는 방법을 하나하나 지시하는 것이 아니라, 어떤 문제를 해결해야 하는지 정의하고 그 결과를 어떻게 사용할지 결정하는 일이다. 즉 PM의 역할은 점점 실행 관리자에서 의사결정 설계자에 가까워질 수 있다. AI에게 일을 시키는 능력보다 더 중요한 것은 다음과 같은 질문을 던지는 능력이다.
“정말 이 지표를 개선해야 하는가?”
“이탈률의 감소가 실제로 사업 성과로 이어지는가?”
“AI가 제시한 원인이 원인이라고 볼 충분한 근거가 있는가?”
“이 문제를 해결하기 위해 제품을 변경하는 것이 최선인가?”
AI가 분석을 대신할 수 있어도 무엇을 분석할 가치가 있는지 결정하는 일까지 자동으로 해결되는 것은 아니다.
AI 리터러시는 프롬프트만으로 설명되지 않는다
이 지점에서 AI 리터러시(AI Literacy)가 중요해진다. AI 리터러시를 흔히 ‘프롬프트를 잘 작성하는 능력’으로 생각하기 쉽다. 물론 프롬프트를 잘 작성하는 능력은 도움이 된다. 하지만 Agentic AI 시대에는 그것만으로 부족하다.
AI 리터러시는 AI가 무엇을 할 수 있고 무엇을 할 수 없는지 이해하고, 결과를 평가하고, 위험을 인식하며, 필요한 경우 AI의 행동을 감독할 수 있는 능력까지 포함한다. IAPP(국제개인정보보호전문가협회, International Association of Privacy Professionals) 역시 AI 리터러시를 AI를 책임 있게 사용하고 감독하며 상호작용하기 위해 필요한 지식과 역량으로 설명한다. 특히 Agentic AI에서는 이 차이가 더 커진다. 챗봇이 잘못된 정보를 하나 제공하는 것과 AI Agent가 잘못된 판단을 바탕으로 실제 시스템에서 행동하는 것은 영향의 크기가 다르기 때문이다. 예를 들어 AI가 고객에게 보낼 이메일을 초안으로 작성하는 것과, 고객 데이터를 조회하고 할인율을 결정한 뒤 실제 고객에게 이메일을 발송하는 것은 전혀 다른 수준의 권한을 요구한다.
따라서 AI 리터러시는 단순히 “AI에게 일을 잘 시키는 능력”이 아니라 “AI가 한 일을 이해하고, 그 결과를 검증하며, 어디까지 권한을 줄 것인지 판단하는 능력”으로 확장되어야 한다. 이것은 PM에게 특히 중요하다. PM은 AI를 직접 개발하지 않더라도 제품 안에서 AI가 어떤 결정을 내리고, 어떤 데이터에 접근하고, 언제 사람의 승인을 받아야 하는지를 판단해야 하기 때문이다.
AI에게 일을 맡기는 것과 권한을 맡기는 것은 다르다
Agentic AI를 제품에 적용할 때 PM이 반드시 구분해야 할 것이 있다. 업무를 맡기는 것과 의사결정 권한을 맡기는 것은 다르다.
예를 들어 AI에게 다음과 같은 업무는 비교적 쉽게 맡길 수 있다.
- 회의록 정리
- 사용자 피드백 분류
- 경쟁사 정보 수집
- 데이터 조회 및 분석
- 보고서 초안 작성
- 테스트 케이스 생성
하지만 다음과 같은 행동은 다른 수준의 검토가 필요하다.
- 결제 승인
- 환불 처리
- 가격 변경
- 고객 계정 정지
- 계약 변경
- 인사 관련 의사결정
여기서는 단순히 “AI가 할 수 있는가?”가 아니라 “AI가 해도 되는가?”를 물어야 한다. 그리고 그 기준은 업무마다 달라진다. 오류가 발생했을 때 되돌릴 수 있는가, 잘못된 판단이 사용자에게 어떤 영향을 미치는가, 민감한 데이터에 접근하는가, 법적·재무적 책임이 발생하는가, 최종적으로 사람이 승인해야 하는가. 이런 기준을 바탕으로 AI의 자율성 수준과 인간의 개입 지점(Human-in-the-loop)을 설계해야 한다. NIST(미국의 국립표준기술원 National Institute of Standards and Technology)의 AI Risk Management Framework 역시 AI 시스템의 설계부터 개발, 배포, 사용, 평가 전 과정에서 위험과 신뢰성을 관리할 것을 강조하며, 인간의 감독과 Human-AI interaction을 중요한 영역으로 다룬다.
결국 Agentic AI를 도입하는 PM에게 필요한 질문은 “AI에게 무엇을 시킬까?”에서 끝나지 않는다.
“AI가 어디까지 결정하게 할 것인가?”까지 이어져야 한다.
인간의 역할은 사라지는 것이 아니라 위로 이동한다
AI가 사람의 일을 대신하면 인간의 역할이 줄어드는 것처럼 보인다. 하지만 모든 역할이 사라지는 것은 아니다. 사람이 담당하는 일의 위치가 바뀌는 것에 가깝다. 자료를 찾고 정리하는 일에서 무엇을 찾아야 하는지 결정하는 일로, 보고서를 작성하는 일에서 어떤 결정을 내려야 하는지 판단하는 일로, 반복적인 실행에서 목표와 우선순위를 정하는 일로 옮겨간다.
결과적으로 AI가 실행의 일부를 가져갈수록 인간에게 남는 일은 목표 설정, 판단, 검증, 책임과 같은 더 상위의 영역으로 이동한다. PM도 마찬가지다. 앞으로의 PM은 모든 일을 직접 수행하는 사람이 아니라 AI와 사람에게 일을 적절하게 배분하고, 그 결과가 제품의 목표와 연결되도록 만드는 사람에 가까워질 수 있다. AI에게 분석을 맡기고, 사람에게 사용자 맥락을 확인하게 하고, AI에게 여러 해결책을 제안하게 한 뒤, PM이 우선순위를 결정하는 식이다.
이렇게 보면 AI는 PM의 경쟁자라기보다 PM이 더 많은 의사결정을 더 빠르게 검토할 수 있도록 만드는 새로운 팀원에 가깝다. 다만 팀원이 늘어난다고 해서 관리가 필요 없어지는 것은 아니다. 오히려 AI가 팀의 구성원이 된다면 PM은 AI Agent의 역할, 권한, 책임, 평가 기준까지 설계해야 하는 상황에 놓일 수 있다.
결국 중요한 것은 ‘무엇을 할 것인가’다
Agentic AI가 발전할수록 AI에게 일을 시키는 방법 자체는 점점 쉬워질 가능성이 높다. 어떤 데이터를 찾아야 하는지, 어떤 도구를 사용할지, 어떤 방식으로 결과를 정리할지 상당 부분을 AI가 스스로 결정할 수 있기 때문이다. 그렇다면 인간에게 더 중요해지는 것은 무엇일까. 문제를 정의하는 능력이다.
“매출을 높여줘”라는 목표만 던지는 것과 “신규 고객의 첫 구매 전환율을 높이되, 할인 비용과 환불률 증가는 최소화한다”라고 목표와 제약조건을 명확하게 정의하는 것은 전혀 다르다. 후자는 단순한 프롬프트가 아니다. 제품의 목표와 성공 기준을 정의하는 일이다. 그리고 이것은 전통적으로 PM이 해오던 일과 맞닿아 있다.
그래서 Agentic AI 시대의 PM에게 필요한 역량은 AI 사용법만으로 설명하기 어렵다. 제품 전략을 이해하고, 데이터를 읽고, 사용자를 이해하고, AI의 한계와 위험을 이해하고, AI에게 적절한 권한을 부여하고, 결과를 검증하고, 최종적인 의사결정을 내리는 능력이 함께 필요하다. AI가 일을 대신할수록 PM의 역할이 없어지는 것이 아니라 PM에게 요구되는 판단의 수준이 높아지는 것이다.
기술이 아니라 질문이다
Agentic AI는 분명 강력하다. 목표가 주어지면 정보를 찾고, 계획을 세우고, 도구를 사용하고, 결과를 확인하면서 작업을 수행할 수 있다. 앞으로 AI가 담당하는 실행의 범위는 더욱 넓어질 것이다. 그렇다고 인간의 역할까지 함께 줄어드는 것은 아니다. 오히려 인간에게 필요한 역할은 더 선명해진다. 무엇을 해결해야 하는지 정의하는 것, 왜 해결해야 하는지 묻는 것, AI가 제시한 결과를 검증하는 것, 어디까지 AI에게 권한을 줄 것인지 결정하는 것, 그리고 그 결과에 대해 책임지는 것이다.
AI는 질문을 만들 수도 있고 답을 찾을 수도 있다. 하지만 그 질문이 정말 중요한 질문인지, 그 답을 따라 행동해도 되는지, 그리고 그 결과가 우리가 원하는 방향인지 판단하는 일은 여전히 인간의 몫이다.
그래서 Agentic AI 시대의 경쟁력은 AI에게 얼마나 많은 일을 시킬 수 있는가에서 끝나지 않는다. 무엇을 AI에게 맡기고, 무엇은 인간이 판단해야 하는지를 구분하는 능력. 어쩌면 앞으로의 AI 리터러시는 여기에서 시작될 것이다. 답을 만드는 능력이 AI에게 넘어갈수록, 우리는 오히려 더 좋은 질문을 만들어야 한다. 그리고 PM에게 그 질문은 단순한 질문이 아니라 제품의 방향을 결정하는 질문이 될 것이다.
AI는 답을 한다. 하지만 무엇을 물을 것인지는 우리가 결정해야 한다.
✍️ 이 글은 성소라의 『휴먼코드』와 삼성전자 기술 블로그의 Agentic AI 관련 글을 읽고, AI 시대에 인간과 PM의 역할에 대해 고민한 내용을 AI와 함께 정리하고 다듬어 작성했습니다.
참고
성소라, 『휴먼코드』, 더스퀘어, 2025
삼성전자 기술 블로그, “Agentic AI는 어떻게 ‘생각하는 동료’가 되었나?”