기업 AI가 답변에서 실행으로 이동한다: 에이전트 도입이 먼저 바꾸는 일

기업의 생성형 AI 활용이 질문에 답하는 보조 도구에서 여러 단계를 이어 수행하는 실행 도구로 옮겨가고 있다. OpenAI가 2026년 8월 12일 공개한 From assistance to execution: How enterprises put AI to work는 ChatGPT와 Codex 사용 양상을 토대로, 앞선 조직이 반복 업무의 일부를 에이전트형 흐름¹으로 재설계하고 있다고 설명한다. 중요한 변화는 모델이 더 길게 말하게 된 것이 아니라, 자료를 찾고 분석하고 결과물을 만들고 다음 시스템에 넘기는 과정이 한 흐름으로 묶인다는 점이다.

무엇이 달라지고 있나

초기의 기업 활용은 요약, 초안 작성, 질의응답처럼 사람이 매번 시작하고 끝을 확인하는 단일 작업이 중심이었다. 최근에는 작업의 목표와 허용된 도구를 주고, 모델이 여러 단계를 계획해 실행한 뒤 사람이 중요한 경계에서 승인하는 형태가 늘고 있다. 소프트웨어 개발에서는 코드 탐색과 수정, 시험, 리뷰 준비가 하나의 작업 단위가 되고, 운영 업무에서는 문서·표·발표 자료를 서로 연결하는 흐름이 대표적이다.

OpenAI가 8월 13일 별도로 공개한 The builder’s guide to GPT‑5.6도 같은 방향을 개발 관점에서 설명한다. 모든 단계에 가장 비싼 모델을 쓰기보다 작업 난도에 따라 모델을 고르고, Responses API²의 도구 호출과 상태 관리를 활용해 긴 실행을 구성하라는 내용이다. 이는 에이전트가 단일 모델 제품이라기보다 모델, 도구, 권한, 기록을 조합한 운영 체계에 가깝다는 뜻이다.

기업에 실제로 중요한 변화

가장 직접적인 효과는 사람이 여러 애플리케이션 사이에서 정보를 옮기는 시간을 줄이는 데 있다. 예를 들어 시장 자료를 모아 표로 정리하고, 가정을 표시한 뒤 보고서 초안을 만드는 일은 단계마다 검토 지점을 둘 수 있다. 반면 채용 결정, 대출 승인, 의료 판단처럼 오류 비용이 큰 업무를 통째로 맡기는 것은 다른 문제다. 자동화할 수 있다는 사실과 자동화해도 된다는 판단은 구분해야 한다.

성과 측정도 답변의 문장 품질만 봐서는 부족하다. 완료율, 사람이 고친 비율, 잘못된 도구 호출, 승인 없이 경계를 넘으려 한 횟수, 작업 한 건의 비용과 시간을 함께 봐야 한다. 미국 경제연구소(NBER)의 현장 연구들은 생성형 AI의 생산성 효과가 업무와 숙련도에 따라 다르고, 특히 경험이 적은 노동자에게 더 크게 나타날 수 있음을 보여줬다. 다만 콜센터나 특정 직무의 결과를 모든 기업 업무에 그대로 일반화할 수는 없다.

도입 전에 설계할 것

• 업무 경계를 작게 잡는다. 처음에는 결과를 되돌릴 수 있고 성공 조건을 측정할 수 있는 흐름을 고른다.
• 권한을 단계별로 나눈다. 읽기, 초안 작성, 외부 전송, 결제처럼 위험도가 다른 행동에 같은 권한을 주지 않는다.
• 승인 지점을 명시한다. 고객 메시지 전송이나 운영 환경 변경은 사람이 최종 확인하도록 한다.
• 근거와 실행 기록을 남긴다. 어떤 자료와 도구를 사용했는지 추적할 수 있어야 오류를 고치고 책임을 가를 수 있다.
• 비용을 작업 단위로 본다. 토큰 가격뿐 아니라 재시도, 검토 시간, 실패 복구까지 포함한다.

주의할 점

기업 사례 보고서는 실제 사용 신호를 제공하지만 공급자의 제품 전략과 분리해 읽어야 한다. “에이전트형 조직”이라는 표현이 곧 인력 대체나 자율 운영을 의미하지는 않는다. 모델은 그럴듯한 오류를 만들 수 있고, 연결된 도구가 많을수록 잘못된 행동의 영향도 커진다. 프롬프트 주입³, 과도한 권한, 민감정보 유출, 외부 서비스 장애가 하나의 실행 흐름에서 연쇄될 수 있다.

따라서 지금의 핵심 경쟁은 모델을 얼마나 빨리 붙이느냐보다 업무를 검증 가능한 단계로 나누고, 실패해도 멈추거나 되돌릴 수 있게 만드는 능력에 있다. 보조에서 실행으로의 이동은 분명하지만, 신뢰할 수 있는 실행은 모델 성능만으로 완성되지 않는다.

출처

• OpenAI — From assistance to execution
• OpenAI — The builder’s guide to GPT‑5.6
• OpenAI API 문서 — Responses API
• NBER — Generative AI at Work

¹ 에이전트형 흐름: 모델이 목표를 바탕으로 여러 단계를 계획하고 도구를 호출해 작업을 이어가는 방식.
² Responses API: 모델 응답과 도구 호출, 작업 상태를 하나의 인터페이스에서 다루는 API.
³ 프롬프트 주입: 외부 문서나 입력에 숨은 지시가 모델의 원래 지침을 왜곡하는 공격.