마음건강 상담에서 사람과 AI가 믿고 소통하려면: 설문조사와 여러 이해관계자의 제안

HCI 관점에서 읽을 만한 이유

이 글은 정신건강 지원 AI를 단순히 ‘똑똑한 모델’이 아니라, 사용자가 믿고 의지하고 개입할 수 있는 인터랙션으로 다시 보게 해줍니다. 특히 신뢰를 한 덩어리로 보지 않고, 사용자 인식·상호작용·모델 수준으로 나눠 본 점이 실무와 연구 모두에 유용합니다. 자동 지표만으로는 놓치기 쉬운 안전, 과신, 설명의 역효과까지 짚어 HCI/UX 평가의 기준을 넓혀줍니다.

CIT의 코멘트

이 글의 가장 큰 장점은 ‘신뢰’를 감정적인 호감이 아니라, 층이 다른 설계 과제로 정리한 점입니다. 정신건강처럼 위험이 큰 영역에서는 말투가 부드럽다고 안전해지는 게 아닌데요, 오히려 친절한 표현이 과신을 키울 수 있습니다. 그래서 인터랙션이 보여주는 신뢰와 실제 시스템이 갖춘 신뢰성을 분리해 보는 시각이 중요합니다. 또 LLM-as-a-judge 같은 평가 도구가 편리해 보여도, 정말 측정하고 싶은 사용자 경험과 어긋날 수 있다는 경고도 실용적입니다. 한국 서비스 환경에서도 네이버·카카오 같은 대규모 플랫폼이나 국내 상담/헬스케어 스타트업은 자동화된 응답 품질보다 ‘언제 사람에게 넘길지’, ‘위험 신호를 어떻게 드러낼지’를 더 섬세하게 설계해야 합니다. 결국 핵심은 신뢰를 키우는 것이 아니라, 사용자의 신뢰가 시스템 능력과 정확히 맞물리도록 조율하는 일입니다.

원문을 읽으면서 던질만한 질문

• Q.정신건강 AI에서 ‘과신’을 줄이면서도 사용자가 실제로 도움을 받는다고 느끼게 하는 인터랙션 신호는 무엇인가요?
• Q.LLM 기반 평가 도구를 쓸 때, 자동 점수와 사람 평가가 어긋나는 구간을 어떻게 검증해야 하나요?
• Q.국내 서비스 맥락에서 사람 개입 경로를 설계할 때, 어떤 순간에 AI를 멈추고 전문가에게 넘겨야 한다고 볼 수 있나요?