AI와 협업한다고 말하기 전에, 역할부터 다시 봐야 한다
논문 『What do you mean by human-AI collaboration: Prerequisite functions and the affordances needed to achieve it』를 읽고
인간-AI 협업이라는 말을 실제 협업으로 부르려면 무엇이 필요한지 따져보는 논문이다. 업무 AI 도입에서도 ‘협업’이라는 좋은 말보다 상담, 위임, 지시, 공동 추론의 차이를 먼저 구분해야 한다.
제일 먼저 든 생각
요즘 업무 현장에서 “AI와 협업한다”는 말은 거의 기본값처럼 쓰인다. 그런데 실제 장면을 보면 협업이라기보다 질문하고, 답을 받고, 초안을 시키고, 사람이 고치는 일이 많다. 이 논문이 마음에 걸린 이유는 그 차이를 말꼬리 잡기가 아니라 업무 설계의 기준으로 다룬다는 점이다.
논문은 협업(collaboration)이라는 말이 학습과학에서 꽤 높은 문턱을 가진 개념이었다고 되짚는다. 함께 일한다는 것은 단순히 한쪽이 도와주는 것이 아니라, 목표를 함께 조정하고, 역할이 움직이고, 서로의 생각을 모델링하고, 이유를 주고받으며 진행 방향을 바꾸는 일에 가깝다. 저자는 현재의 많은 인간-AI 상호작용이 협업이라기보다 상담(consultation), 거버넌스(governance), 위임(delegation), 지시(instruction)에 더 가깝다고 본다.
논문은 “AI를 협업자라고 부를 수 있는가”를 감상적으로 묻지 않는다. 어떤 기능과 관계가 있어야 그런 말을 할 수 있는지 단계별로 묻는다.
협업이라는 말이 너무 빨리 좋아졌다
논문이 반복해서 경계하는 것은 말의 인플레이션이다. 유용한 도구를 쓰는 것과 협업하는 것은 다르다. 계산기가 정확하고 빠르다고 해서 “계산기와 협업했다”고 말하지 않는 것처럼, 생성형 AI가 좋은 문장을 내놓는다고 해서 곧바로 협업이라고 부를 수는 없다.
“모든 유용한 AI 상호작용을 인간-AI ‘협업’이라고 부르면, 그 개념은 서로 다른 메커니즘을 구분하는 힘을 잃는다.”
“If every useful interaction with an AI system is labelled human-AI ‘collaboration’, the construct ceases to discriminate among genuinely different mechanisms.”
이 문장은 조직의 AI 도입에도 바로 붙는다. “우리 팀은 AI와 협업합니다”라고 말하기 전에, 실제로는 어떤 관계인지 먼저 이름 붙여야 한다. AI가 자료를 찾아주면 상담일 수 있다. 사람이 기준을 정하고 AI가 반복 실행하면 위임일 수 있다. AI가 현황을 보여주고 사람이 판단하면 상황 인식 지원일 수 있다. 각각 필요한 설계와 평가 기준은 다르다.
다섯 단계로 보면 기대치가 정리된다
논문은 인간-AI 팀잉을 다섯 수준으로 나눈다. 거래적(transactional) 수준은 사용자의 요청에 반응해 개별 행동을 수행한다. 상황적(situational) 수준은 학습자나 작업 상태 같은 공유 상태를 보여준다. 운영적(operational) 수준은 사용자의 목표와 제약이 작업 전체를 지배하도록 만든다. 실천적(praxical) 수준은 사용자의 피드백을 받아 내부 모델을 지속적으로 바꾼다. 마지막 시너지적(synergistic) 수준은 AI가 자기 가설, 근거, 불확실성을 드러내고 사용자의 이유에 따라 그것을 수정하거나 반박하면서 공동 추론(co-reasoning)에 들어간다.
여기서 중요한 것은 위 단계가 “더 똑똑한 챗봇” 순서만은 아니라는 점이다. 논문은 시너지 수준에 필요한 기능으로 inspectable task-level epistemic state, reason-keyed revision trigger, revision authority를 든다. 우리말로 옮기면 작업에 대한 AI의 가설과 근거가 보이고, 단순 클릭이나 평점이 아니라 이유에 의해 수정이 일어나며, AI도 근거를 가지고 반론할 수 있어야 한다는 뜻이다. 물론 최종 권한은 사람에게 남는다.
이 조건을 놓고 보면, 많은 업무용 AI는 아직 협업자가 아니라 “빠른 산출 도구”나 “지시받는 실행자”에 가깝다. 그것이 나쁘다는 말은 아니다. 오히려 더 정직한 이름을 붙이면 설계가 쉬워진다. 초안 작성 AI에게 공동 의사결정 책임을 기대하지 않고, 리서치 보조 AI에게는 출처와 불확실성 표시에 집중시키는 식이다.
업무 도입에서 먼저 물어볼 것
이 논문을 1번 슬롯, AI 업무설계와 조직 AI 도입 관점에서 고른 이유는 분명하다. AI 도입 프로젝트는 성능 평가보다 먼저 관계 정의에서 흔들릴 때가 많다. “AI를 팀원처럼 쓰자”는 구호는 좋아 보이지만, 실제 권한, 책임, 수정 방식, 검토 지점이 정해지지 않으면 사용자는 AI를 과신하거나 반대로 아무도 믿지 않게 된다.
작은 적용 질문은 이렇게 내려올 수 있다.
- 지금 쓰는 AI는 상담, 지시, 위임, 공동 추론 중 어디에 가까운가.
- 그 수준에 맞는 검증 지표는 무엇인가. 만족도인가, 오류율인가, 수정 이력인가, 근거 추적성인가.
- AI가 사용자의 피드백을 “다음 답변 맥락”으로만 쓰는가, 아니면 이후 작업 규칙을 실제로 바꾸는가.
- 사람이 AI의 이유를 확인하고 반박할 수 있는 화면이나 기록이 있는가.
- “협업”이라는 말을 쓰려면 사람의 최종 권한과 AI의 반론 가능성을 어디까지 허용할 것인가.
논문은 협업을 좁게 정의하자고 말하는 것처럼 보이지만, 실제로는 AI 설계를 더 실용적으로 만든다. 모든 AI를 협업자로 꾸미려 하지 말고, 지금 필요한 상호작용 수준을 정확히 고르자는 제안에 가깝다.
오늘의 작은 행동은 팀에서 쓰는 AI 도구 하나를 골라 “협업자”라는 말을 지우고 다시 이름 붙이는 것이다. 상담 도구인지, 위임 도구인지, 검토 보조인지, 공동 추론 후보인지 이름이 바뀌면 책임과 검증도 같이 바뀐다.
원문 첫 페이지. 논문은 협업이라는 말의 의미를 학습과학의 기준으로 되짚고, 인간-AI 팀잉의 기능적 진단표를 제안한다.