AI는 추천은 잘 받아들이는데 왜 “예약 자동화”는 거부될까?
최근 여행 AI 관련 데이터를 보다가 좀 흥미로운 포인트가 있었습니다.
사람들이 AI로 여행 추천받고 일정 짜는 건 꽤 자연스럽게 받아들이는데,
막상 “예약까지 대신 진행할까요?”가 되면 갑자기 거부감이 커진다고 하더라고요.
처음엔 저도 그냥 AI 성능 문제가 아닐까 생각했습니다.
추천 품질이 아직 부족해서 그런 줄 알았는데,
보다 보니 오히려 핵심은 신뢰랑 통제감에 가까워 보였습니다.
생각해보면 추천은 틀려도 부담이 적습니다.
다시 검색하면 되고, 다른 선택지 보면 되니까요.
근데 예약은 다릅니다.
돈도 걸리고,
일정도 엮이고,
잘못되면 CS도 필요하고,
누가 책임질지도 중요해집니다.
그러다 보니 사용자 입장에서는:
“추천은 참고할게”
까지는 괜찮은데,
“최종 실행까지 네가 해”
는 아직 심리적 허들이 큰 거죠.
이거 보면서 AI 에이전트나 업무 자동화도 비슷하다는 생각이 들었습니다.
실제로 현업에서도:
- 초안 생성
- 정리
- 요약
- 추천
까지는 다들 잘 쓰는데,
- 메일 자동 발송
- 운영 반영
- 결제 실행
- 실제 권한 위임
단계로 가면 갑자기 다들 엄청 보수적으로 변합니다.
결국 중요한 건 모델 성능만이 아니라:
- 어디까지 사람이 승인하는지
- 실패 시 롤백 가능한지
- 책임 주체가 누구인지
- 사용자가 통제권을 느끼는지
같은 운영 구조라는 생각이 들었습니다.
AI 제품 만들 때 자꾸 “얼마나 똑똑한가”에 집중하게 되는데,
실제로는 “얼마나 안심하고 맡길 수 있나”가 더 중요한 문제일 수도 있겠더라고요.
비슷한 문제를 겪는 분들께 도움이 될까 해서 관련 내용을 정리해봤습니다.
