AI 말동무는 왜 더 끌릴까? AI ‘역할’에 따라 중독처럼 행동하는 마음이 생기는 이유

HCI 관점에서 읽을 만한 이유

이 글은 AI 동반자를 단순한 대화 모델이 아니라, 사람들이 관계를 맺는 인터페이스로 바라본다는 점에서 HCI/UX에 중요합니다. 어떤 역할로 보이느냐에 따라 사용 방식, 기대, 정서적 의존이 달라진다는 점을 보여주기 때문에, 기능 설계만 보던 시야를 넓혀 줍니다. 특히 안전과 책임이 필요한 서비스에서 ‘어떻게 말하느냐’가 ‘무엇을 하느냐’만큼 중요하다는 사실을 잘 드러냅니다.

CIT의 코멘트

흥미로운 점은 AI 동반자의 위험이 모델의 똑똑함보다 ‘역할 연출’에서 크게 달라진다는 부분입니다. 연인, 친구, 코치처럼 보이게 만드는 순간 사용자는 그 역할에 맞는 기대를 갖고, 그 기대가 강할수록 감정적 의존이나 오프라인 관계 약화 같은 부작용도 커질 수 있습니다. 그래서 프로덕트 설계에서는 ‘정서적으로 잘 반응하는가’보다 ‘지금 이 시스템이 어떤 관계를 요구하고 있는가’를 더 분명히 보여줘야 합니다. 예를 들어 경계 설정, 사용 시간 반영, 관계 종료 경로 같은 장치가 인터페이스 안에 자연스럽게 들어가야 합니다. 또한 이런 연구는 한국의 AI 서비스에도 바로 이어집니다. 네이버, 카카오, 국내 스타트업처럼 빠르게 기능을 실험하는 환경에서는 역할 정의가 흐려지기 쉽기 때문에, 출시 전부터 역할별 위험 신호와 개입 지점을 함께 설계하는 접근이 필요합니다.

원문을 읽으면서 던질만한 질문

• Q.AI 동반자의 역할을 사용자에게 어느 수준까지 명시해야 과도한 기대와 의존을 줄일 수 있을까요?
• Q.연인형, 코치형, 친구형처럼 서로 다른 역할에 대해 개입 버튼, 사용 알림, 종료 경로를 어떻게 다르게 설계해야 할까요?
• Q.Reddit 자기보고 데이터가 아닌 실제 제품 로그와 인터뷰를 함께 보면, 어떤 위험과 혜택이 새롭게 드러날까요?