로봇과 AI가 사람처럼 속일 때, 어느 정도까지일까? 속임의 수준을 나누는 틀

HCI 관점에서 읽을 만한 이유

이 글은 로봇이나 AI가 얼마나 사람처럼 보이고 말해야 하는지를 단순한 취향 문제가 아니라, 사용자 경험과 신뢰 설계의 문제로 다루고 있어 HCI 실무자와 연구자에게 의미가 있습니다. 특히 ‘사람처럼 보이게 하는 설계’가 편리함을 주는 동시에 오해와 과신을 만들 수 있다는 점을 수준별로 정리해, 실제 서비스에서 투명성과 설득력 사이의 균형을 생각하게 합니다. 안전이 중요한 시스템에서는 더더욱 유용한 관점입니다.

CIT의 코멘트

이 글의 강점은 ‘사람처럼 만드는 디자인’을 예쁘게 보이게 하는 선택이 아니라, 사용자가 무엇을 믿게 되는지까지 포함한 인터랙션 문제로 다시 정의한 데 있습니다. 특히 humanlikeness, agency, selfhood를 나눠 본 틀은 챗봇이나 AI 에이전트에 바로 적용해볼 수 있는데요, 실제 제품에서는 이 셋이 함께 움직이면서 신뢰와 기대를 크게 흔듭니다. 다만 현장에서는 ‘얼마나 사람처럼 보일 것인가’보다 ‘언제 시스템 상태를 숨김없이 드러내고, 사용자가 어디서 개입할 수 있게 할 것인가’가 더 직접적인 설계 질문이 됩니다. 한국의 메신저·플랫폼 환경에서는 대화가 친숙한 만큼 이런 anthropomorphic design이 더 쉽게 받아들여질 수 있어서, 글로벌 기준보다 더 엄격한 투명성 장치가 필요할 가능성도 큽니다. 결국 이 프레임은 금지 목록이라기보다, 제품 목표에 맞는 설득과 오해의 경계를 점검하는 실용적 체크리스트로 읽히는 글입니다.

원문을 읽으면서 던질만한 질문

• Q.Level 2처럼 애매한 구간에서, 사용자가 ‘속았다’고 느끼지 않도록 할 최소한의 투명성 장치는 무엇인가요?
• Q.실제 제품에서는 사람처럼 보이게 하는 장점과 오해를 줄이는 장점이 충돌하는데, 어떤 상황에서 어느 쪽을 우선해야 하나요?
• Q.한국의 AI 서비스처럼 대화형 인터페이스가 익숙한 환경에서는 이 프레임워크를 어떻게 다르게 적용해야 할까요?