Chat에서 Agent까지, AI는 점점 더 인간처럼 말하고 판단하고 행동하는 존재로 설계되고 있다. 인간형 메타포가 만든 기대와 한계를 살펴보고, 인간을 닮지 않은 AI 인터페이스의 가능성을 묻는다.
1. 가까워진 AI, 왜 여전히 낯설까?
AI는 더 이상 미래기술이 아니다. 우리는 검색 대신 ChaGPT, Gemini, Claude에게 질문하고, 개발자들은 코드AI를 이용해 작성하며, 문서를 요약, 번역하고, 이미지를 생성한다.
AI와 전혀 상관없는 서비스에도 AI를 활용한 기능들이 우후죽순 생기고 있다. 기업들은 더 강력한 추론, 멀티모달, 에이전트 등을 이야기한다.
그런데, AI를 사용하는 경험은 생각보다 단조롭다. AI기능은 많아졌지만, 실제 사용경험은
- 질문한다
- 기다린다
- 결과를 받는다
의 순서를 따른다.
- 검색 → 질문하고 답변 받기
- 글쓰기 → 요청하고 생성 받기
- 코딩 → 요청하고 코드 받기
- 이미지 → 요청하고 이미지 받기
분야는 매우 다르지만, interaction pattern은 상당히 비슷하다.
기업들은 새로운 기술에 대해서 이야기한다. Reasoning, Mutimodal에 이어 Agent 등. AI는 단순 도구를 넘어 인간처럼 이해하고 판단하고 행동하는 기술로 이야기하곤 한다. 더 나아가서 인간 수준의 범용 인공지능까지 자연스레 연결짓고 상상하게 만든다.
하지만 이 기술의 발전이 정말 새로운 경험으로 만들어지고 있는가? 의문이 든다.
기술이 설명되는 방식과 실제 경험 사이에 간극이 있는 것은 아닐까? 만약 그렇다면 우리가 AI에게 기대하는 모습은 실제 기술에서 비롯된 것일까, 아니면 AI를 인간처럼 이해하도록 만드는 메타포에서 비롯된 것일까?
2. 우리는 AI를 사람처럼 기대하고 있는 것은 아닐까
AI를 설명하는 언어부터 인간적이다. Assisant, Copilot, Agent같은 표현들은 AI를 단순한 기능을 넘어 하나의 행위자로 인식하게 만든다. ‘생각중이에요…’, ‘판단했어요.’, ‘이해했어요.’와 같은 표현도 인간의 인지 능력을 그대로 빌려온다.
사용자는 기술 자체보다 이런 언어와 인터페이스를 통해 AI의 능력을 해석하게 된다.
인간형 메타포는 분명 유용하다. 낯선 기술을 직관적으로 이해하게 해주고, 학습 비용을 낮춘다. 즉 Antropomorphism 자체를 단순히 나쁜 설계라고 비난할 수는 없다.
하지만 메타포가 실제 능력을 앞서갈 수 있다. AI가 사람처럼 표현될수록 사용자는 이해, 의도, 판단 능력까지 기대할 수 있게된다. 실제 기술이 제공하는 능력과 사용자가 형성한 “Mental Model” 사이에 간극이 생길 수 있다.
여기에 기업의 마케팅과 AI hype이 더해진다면 그 간극은 더 벌어질 가능성이 있다.
3. Chat Interface는 왜 성공했는가
Chat은 분명 인간의 대화 형식을 닮았다. 하지만 실제 사용 가치는 인간과 대화하는 것이 아닌, 자연어로 의도를 바로 전달할 수 있다는 점에 있다.
사용자는 시스템의 구조나 정확한 명령어를 알지 못해도 원하는 것을 얻을 수 있게 되었다.
두번째로 Chat은 검색 인터페이스의 확장이다.
기존 검색에서는 사용자가 자신의 의도를 검색어로 변환하는 과정을 거치고, 이후 여러 결과를 읽고 비교하며 다시 정보를 조합해야만 했다. 하지만 Chat은 이 과정을 자연어 질의와 반복적 대화 안으로 압축함으로써 사용자 경험을 크게 향상시킬 수 있었다.
즉 검색의 단위가 키워드에서 의도와 맥락으로 넓어진 것을 의미한다.
생성형 AI는 정답 하나를 호출하는 시스템보다, 모호한 입력을 받아 결과를 생성하고, 피드백을 거치며 다시 수정하는 방식에 강점이 있다. Chat은 이런 과정을 자연스럽게 지원한다.
이 관점에서 Chat은 AI를 인간으로 생각하게 만드는 장치라기 보단, AI의 확률적이고 생성적인 특성을 사용할 수 있는 인터페이스로 볼 수 있다.
그렇다면 Chat만으로도 AI의 핵심 가치가 충분히 구현된다고 생각할 수 있겠지만, 왜 업계는 Agent, Proactive AI처럼 더 자율적이고 인간적인 형태를 향해 가고 있는가?
4. 왜 업계는 Chat을 넘어가려고 하는가
Chat은 기본적으로 사용자가 질문하거나 명령해야 작동한다. 즉 트리거가 사용자 본인의 몫이라는 점이다. 여기서 사용자가 무엇을 원하는지 알고, 그것을 언어로 표현해야하는 것은 사용자의 부담이라는 것이다. 따라서 AI의 능력이 커질수록 자연스럽게 ‘왜 사용자가 매번 직접 요청해야 하지?’라는 의문이 들 수 밖에 없다.
그래서 등장한 것이 바로 Proactive AI이다. Proactive AI는 사용자의 요청을 기다리지 않고, 맥락이나 상태를 바탕으로 먼저 제안하거나 개입하는 방식이다. 사용자가 문제를 인식하기 전에 시스템이 먼저 필요한 정보를 제공하거나 행동을 제안하려 하는 것이다.
핵심은 질문에 답하는 AI에서, 필요를 먼저 추론하는 AI의 이동으로 볼 수 있다.
또 다른 기술은 Agent이다. Agent는 제안을 넘어 행동으로 확장하는 것이다. Agent는 사용자의 목표를 전달받고, 이를 달성하기 위해 여러 단계를 직접 수행하려는 시스템이다. 검색하고, 비교하고, 도구를 호출하고, 결과를 확인하는 사용자의 부담을 AI에게 전가하는 방식이다.
즉 Chat은 인간의 의도 표현을 쉽게 만들었다면, Agent는 의도를 실제 행동으로 옮기는 비용까지 줄이려는 시도로 볼 수 있다.
산업이 궁극적으로 줄이려는 것은 ‘사용자의 개입’이다. 검색은 정보 탐색 비용을 줄였고, chat은 의도 표현과 정보 정리 비용을 줄였으며, Agent와 Proactive AI는 반복적인 인간의 개입을 줄이려 하고 있다.
정리하자면 AI는 새로운 User Interface를 만들기 보단, 사용자가 시스템에 얼마나 더 관여해야 하는지를 줄이는 방향으로 발전하고 있다고 볼 수 있다.
여기서 AI가 더 많은 맥락을 추론하고, 결정을 내리며, 행동을 수행할 수록, 그것은 점점 더 ‘도구’가 아닌 ‘행위자’처럼 보이게 된다. 그렇다면 이러한 메타포가 실제 AI 기술의 능력과 책임에 맞는가에 대한 의문이 남는다.
5. 인간형 AI Metaphor가 만드는 문제
AI가 이해한다. 판단한다. 기억한다. 행동한다 고 표현될 수록 사용자는 실제 기술적 능력보다 더 넓은 능력을 기대할 수 있다. 특히 Agent와 같은 표현을 통해 우리는 단순 기능보다 의도와 판단능력을 가진 존재처럼 느끼게 된다. 여기서 문제는 실제 시스템의 불확실성과 한계가 이런 표현 뒤에서 잘 드러나지 않을 수 있다는 점이다.
두번째 문제로 사용자는 결과뿐만 아니라 의도까지 해석하게 된다. 일반적인 도구의 오류는 기능 실패로 받아들인다. 반면 인간형 AI의 오류는 ‘나를 잘못 이해했나?’와 같은 의도와 관계 문제로 해석될 수 있다. 즉 인간형 메타포는 기술적 오류를 사회적 상호작용처럼 받아들일 가능성이 있다.
또 편리함과 통제권 사이의 긴장이 생길 수 밖에 없다. 사용자의 개입을 줄이려는 노력은 반대로 사용자는 무엇을 검색하고, 어떤 판단이 이뤄졌으며, 왜 특정 행동을 선택했는지에 대해 알기 어려워진다. 즉 편리하게 사용하는 AI는 통제 가능한 AI와 배타적인 성격을 지닐 수 있다.
문제는 인간형 메타포 자체보다, 메타포와 실제 능력의 거리라고 생각한다. chat처럼 인간의 언어를 빌려오면서도 도구적 역할이 분명한 경우에는 오히려 좋은 경험을 주는 인터페이스가 될 수 있다. 하지만 시스템이 실제로 보유하지 않은 이해, 의도, 책임, 자율성까지 사용자가 기대하도록 만드는 것은 위험이 크다.
6. 미래 AI Interface는 인간을 복제하는 방향이어야 하는가?
기업 역시 이런 메타포가 만드는 것이 기대 과잉과 잘못된 Mental Model을 만들 수 있다는 점을 인지하고 있다. 그래서 최근 AI를 더 인간처럼 만드는 것과 동시에 AI가 인간이 아니라는 사실을 인터페이스에 명확히 하려는 노력을 하고 있다.
Microsoft의 26년 Agent 디자인 가이드라인에서는, ‘사용자를 대신해 판단하는 존재’가 아니라 사용자의 의도를 지원하는 시스템이어야 한다고 명시한다. 출력은 수정 가능해야하며, 사용자가 행동을 시작했다는 통제권을 유지해야한다고 강조한다. 특히 think, feel, understand 같은 인간적 표현을 피하고, process, anlyze처럼 기술적 언어를 사용할 것을 권장한다.
Agent UI에서도 Human-in-the-loop 구조가 중요해지고 있다. 단순히 AI가 알아서 한다가 아니라, 진행 상태를 보여주고, 사용자가 적극적으로 개입하거나 수정할 수 있게 만드는 것이다.
Anthropic도 Claude의 Agent 권한이 커질수록 실패시 영향을 제한하는 containment를 중요한 엔지니어링 문제로 다루고 있다. 단순히 모델의 오류 확률뿐만 아니라, 오류가 발생했을 때 영향을 미칠 수 있는 범위 자체를 제한해야한다고 설명한다.
즉 자율성의 발전은 ‘AI를 더 인간답게 만든다’의 문제가 아니라, 권한,개입,복구를 어떻게 설계할 것인가 라는 인터페이스 문제를 만든다.
결국 미래 AI Interface는 얼마나 인간 앝은가가 아닐 수 있다. AI의 강점을 활용하기 위해 자연어 기반의 인터페이스는 계속 발전할 수 있다. 하지만 그것이 꼭 인간을 복제한 존재가 되어야 한다는 의미는 아니다.
반복해서 말하지만, 중요한 것은 AI가 무엇을 알고, 무엇을 추론하고, 무엇을 행했는지, 사용자가 어디에서 개입할 수 있는지를 적절한 형태로 보여주는 것이다.
어쩌면 우리가 AGI를 너무 자연스러운 AI의 종착점처럼 받아들이는 것부터가, AI를 인간의 언어와 역할로 설명해 온 메타포의 결과일지도 모른다. AI의 미래는 인간이 되는 것이 아닐 수도 있다. 그렇다면 이제 필요한 것은 AI를 얼마나 인간답게 만들 수 있는지를 묻는 것이 아니라, 인간이 아닌 AI를 어떻게 이해하고 사용할 것이 될 것이다.
