AI가 복잡한 코드를 작성하는 시대에 사람들은 왜 택시 한 대를 부르는 일조차 선뜻 맡기지 않을까.
AI 에이전트는 질문에 답하는 것을 넘어 예약과 주문, 결제처럼 실제 행동까지 수행하는 기술로 주목받고 있다. 그러나 기술이 할 수 있는 일과 이용자가 맡기고 싶은 일 사이에는 여전히 간극이 있다.
테크크런치의 2026년 11월 4일 기사에 소개된 우버 측 설명은 이 간극을 보여준다. 해당 보도에 따르면, 10월 중 이용이 가장 많았던 한 주에도 AI 에이전트가 호출한 우버 차량은 4건이었다. 같은 기간 우버이츠에서 AI 에이전트를 통해 이뤄진 주문은 약 500건이었다.
이 숫자만으로 AI 에이전트 시장의 성패를 판단할 수는 없다. 전체 거래 건수와 기능 이용 대상자 규모, 서비스 노출 정도 등이 함께 확인돼야 보급 수준을 평가할 수 있기 때문이다. 이용이 가장 많았던 주라는 설명을 계절적 ‘성수기’로 해석해서도 안 된다.
그럼에도 질문은 남는다. AI가 업무를 실행할 수 있다는 사실은 왜 곧바로 이용자의 선택으로 이어지지 않는가.
추천받는 일과 돈을 맡기는 일은 다르다
AI에 식당 추천을 받는 것과 음식 주문을 맡기는 것은 다른 문제다. 추천이 마음에 들지 않으면 무시하면 되지만, 주문이 잘못되면 결제 취소와 환불, 재주문까지 필요할 수 있다.
차량 호출도 마찬가지다. 출발지와 목적지뿐 아니라 탑승 위치, 차량 종류, 예상 요금, 도착 시간이 이용자의 의도와 맞아야 한다. 작은 오류라도 실제 이동 일정과 비용에 영향을 준다.
여기에 ‘설명과 검수의 비용’이 더해진다. 직접 앱에서 몇 번 누르면 끝나는 일을 AI에 설명하고, 실행 결과를 확인하고, 오류가 나면 바로잡아야 한다면 자동화의 이점은 줄어든다.
이는 우버 사례의 이용 부진 원인으로 입증된 결론은 아니다. 다만 소비자 서비스의 경쟁력을 판단하는 중요한 기준이다. 자동화가 줄여야 할 것은 클릭 수만이 아니라 확인과 수정에 드는 수고까지 포함한다.
이용 건수보다 먼저 살펴야 할 접근성과 사용 경험
낮은 이용량을 곧바로 불신의 결과로 해석하는 것도 경계해야 한다. 기능을 사용할 수 있는 사람이 적었거나, 이용자가 기능의 존재를 몰랐거나, 기존 앱 사용이 이미 충분히 편리했을 가능성도 있다.
차량 호출과 음식 주문의 수치 차이 역시 어느 한쪽에서 AI가 더 유용하다는 증거로 보기는 어렵다. 서비스별 이용 대상과 연결 방식, 이용 빈도가 다를 수 있기 때문이다.
기업이 확인해야 할 지표도 단순한 실행 건수를 넘어선다. 기능을 접한 사람 중 실제 사용한 비율, 재이용률, 오류율, 취소·환불 처리 시간 등을 함께 봐야 한다. AI가 거래를 몇 건 성사시켰는지만큼 중요한 것은 이용자가 다음에도 같은 일을 맡기는지다.
경제적 관점에서도 마찬가지다. 자동화로 거래 과정이 짧아지더라도 오류 대응과 고객 지원 비용이 커진다면 효율 개선은 제한적일 수 있다. 이용자의 시간과 기업의 사후 처리 비용을 함께 줄여야 지속 가능한 서비스가 된다.
금융 감독이 주목한 것은 ‘지능’보다 ‘권한’
AI의 실행 권한을 어떻게 관리할지는 소비자 편의를 넘어 감독의 문제이기도 하다.
로이터의 보도에 따르면, 미국 통화감독청(OCC)은 은행 검사관을 위한 첫 AI 지침에서 기존 위험관리 체계 안에서 AI의 기능과 오류가 초래할 결과를 평가하도록 했다. 특히 거래를 개시할 권한이 있는 AI 에이전트는 기반 모델이 특별히 정교하지 않아도 상당한 위험을 만들 수 있다는 취지다.
금융 분야의 지침을 차량 호출이나 배달 서비스에 그대로 적용할 수는 없다. 다만 공통된 원칙은 읽을 수 있다. AI의 위험은 얼마나 유창하게 답하는지만으로 판단할 수 없다는 점이다.
무엇을 실행할 수 있는지, 얼마까지 지출할 수 있는지, 오류가 발생하면 어디까지 영향을 미치는지가 중요하다. 설명을 잘하는 AI와 돈을 안전하게 다루는 AI는 같은 평가표로 검증하기 어렵다.
신뢰는 약속보다 설계에서 나온다
AI 업계에서도 기술 확산을 뒷받침할 사회적 조건을 강조하는 목소리가 나온다. 테크크런치의 같은 날 기사에 따르면, 오픈AI의 크리스 리헤인은 노동자 보호와 교육, AI 안전 등을 포함한 정책 대응을 촉구했다.
기업 관계자의 제안에는 사업적 이해관계가 반영될 수 있다. 다만 AI의 확산이 성능 향상만으로 완성되지 않는다는 문제의식은 소비자 서비스에도 적용된다. 이용자가 혜택을 체감하고, 잘못됐을 때 해결할 수 있어야 한다.
기업이 답해야 할 질문은 구체적이다.
- 결제나 예약 확정 전에 이용자가 최종 승인할 수 있는가.
- 건별·일별 지출 한도를 설정할 수 있는가.
- AI에 부여한 권한을 쉽게 확인하고 즉시 회수할 수 있는가.
- 잘못된 실행을 취소하거나 수정하는 절차가 명확한가.
- 분쟁이 생겼을 때 처리 주체와 책임 범위를 알 수 있는가.
이런 장치는 자율성을 방해하는 부가 기능이 아니다. 이용자가 자동화를 선택할 수 있게 만드는 기반이다.
‘더 많이 실행하는 AI’에서 ‘안심하고 맡기는 AI’로
우버 호출 4건은 AI 에이전트의 종말을 뜻하지 않는다. 제한된 수치가 드러내는 것은 기술 시연과 일상적 사용 사이에 더 확인해야 할 조건이 있다는 사실이다.
이용자에게 필요한 태도도 무조건적인 신뢰나 거부가 아니다. 비용이 낮고 되돌리기 쉬운 작업부터 시험하고, 결제와 예약처럼 실제 손실이 발생할 수 있는 기능은 승인 절차와 취소 조건을 확인하는 편이 합리적이다.
기술은 할 수 있는 일을 늘리지만, 신뢰는 맡길 수 있는 일을 늘린다. 다음에 AI 비서를 사용할 때는 기능 목록만 보지 말고 승인·취소·책임 규정부터 살펴보자. 기업 역시 자율성의 크기보다 이용자 통제권의 명확함을 경쟁해야 한다.
우리가 기다리는 것은 무엇이든 대신하는 AI일까, 아니면 어디까지 맡겨도 되는지 분명하게 알려주는 AI일까.
){kind=small}
){kind=small}
){kind=small}
){kind=small}
