AI가 대신 결정하지 않지만, 당신이 나쁜 결정을 내릴 때 알려줌

AI가 내 결정을 대신해선 안 되지만, 이 도구는 내가 잘못된 결정을 하고 있을 때 알려줌

선택지가 길게 늘어선 화면을 보다가 어느 순간 머리가 멈춘 적 있다면, 나만 그런 건 아님.
Cornell University 연구진은 바로 그 순간을 겨냥해 Interactive Explainable Ranking, 줄여서 IER를 만듦.
IER는 결정을 대신 내려주지 않음. 내가 중요하다고 말한 가치와 실제 선택이 어긋나는 순간을 조용히 짚어 줌.

IER는 AI에 결정을 넘기는 도구가 아니라, 내 결정이 스스로의 기준에 맞는지 점검하는 도구임.
내 사고를 대신하는 시스템이라기보다, 내 판단을 현실적으로 점검하는 장치에 가까움.
AI를 10분만 써도 문제 해결 능력이 깎일 수 있다는 연구도 있음. IER는 통제권을 내 손에 남기도록 설계됨.
예를 들어 차를 고른다면, 먼저 비용·신뢰성·연비처럼 내가 중요하게 여기는 요소를 입력함.
그러면 도구가 일대일 비교 질문을 차례로 내놓고, 어떤 질문이 가장 유용한지 AI로 추림.
실제 선택이 처음에 밝힌 가치와 맞지 않으면 그 모순을 짚어냄.
- 예를 들어 이유를 의식하지 못한 채 계속 빨간 차만 고르고 있다면, 그 패턴을 드러냄.
- 그리고 순위를 다시 조정할지, 아니면 색상을 정말 중요한 요소로 넣어야 하는지 묻게 함.
이렇게 하면 마지막 선택을 스스로 설명하고 방어할 수 있음.
AI 사용이 부적절하다고 느껴지는 상황이라면 AI 기능 자체를 완전히 끌 수도 있음.

실제 실험에서도 잘 맞았음.
연구진은 두 가지 실험을 진행함.
- 하나는 참가자들이 단편 영화를 순위 매기는 실험.
- 다른 하나는 Cornell 컴퓨터 그래픽스 수업의 조교 4명이 학생 프로젝트 10개를 평가하는 실험.
두 실험 모두 기존 점수와 맞아떨어지는, 일관되고 설명 가능한 결과를 보임.
이 도구는 인간-컴퓨터 상호작용 분야의 대표 학회인 ACM CHI에서 Best Paper Award도 받음.
직접 써보고 싶다면 IER는 공개되어 있음.
이 도구는 일상적인 소소한 선택보다, 채용·채점·경쟁 선발처럼 결정의 정확도가 실제로 중요한 순간을 겨냥함.
AI가 이미 반복 업무에서 시간을 비워 주고 있다면, 남아 있는 중요한 판단만큼은 더 신중하게 다뤄볼 만함.