하이라이트

눈에 띄는 공통점은 AI의 문제를 모델 내부의 정확도나 안전장치 부족만으로 설명하지 않고, 상호작용의 구조와 피드백 루프의 문제로 다룬다는 점이다. 추천 피드는 클릭을 잘 맞혀도 사람의 진짜 목표와 어긋날 수 있고, 대화형 AI는 잘 말할수록 오히려 존재적 혼란을 키울 수 있으며, 생성형 AI는 질문의 폭을 넓히면서도 답변의 다양성은 좁힐 수 있다. 동시에 Contexty 같은 연구는 사용자의 생각과 문맥을 시스템 바깥에서 포착해 AI와 공유 가능한 형태로 만들려 하고, 에이전트 UX는 사람만이 아니라 AI도 실제 사용자라는 전제를 인터페이스 설계에 반영하자고 말한다. 즉 핵심 이슈는 더 좋은 답변 생성이 아니라, 무엇을 기준으로 최적화하고 누가 어떤 방식으로 개입할 수 있게 할 것인가에 있다.

이 소식들을 함께 보면 최근 HCI/UX는 세 가지 방향으로 재편되고 있다. 첫째, 최적화 목표에 대한 재검토다. engagement나 클릭률처럼 측정하기 쉬운 지표는 여전히 강력하지만, 그것이 장기 신뢰나 정신적 안녕, 탐색의 폭 같은 중요한 경험 가치를 대변하지 못한다는 비판이 분명해지고 있다. 둘째, 보이지 않던 시스템 상태를 사용자에게 드러내려는 흐름이다. Contexty의 스니펫 메모와 캔버스, 에이전트 UX에서의 구조적 투명성, 대화형 AI에서의 속도 조절과 개입 경로 설계는 모두 AI가 무엇을 기억하고 어떻게 판단하는지 사용자가 확인할 수 있어야 한다는 방향으로 모인다. 셋째, 개인 수준의 usability를 넘어 집단적·시간적 효과를 다루는 시각이 강해지고 있다. 추천 시스템의 되먹임 구조가 정치 양극화나 청소년 정신 건강 문제로 이어지고, 생성형 AI의 답변 방식이 장기적으로 정보 탐색 습관을 바꾸며, 대화형 AI의 관계적 착시는 취약한 사용자에게 누적 위험을 만든다. 다시 말해 UX 평가는 이제 한 번의 상호작용 만족도보다 반복 사용 속에서 어떤 인지적 습관과 사회적 결과를 만들어내는지까지 포함해야 하는 단계로 가고 있다.

실무자에게 가장 중요한 메시지는 편리함과 신뢰가 자동으로 함께 가지 않는다는 점이다. 당장 체류시간이나 전환율이 좋아 보여도 사용자가 시스템의 의도와 상태를 이해하지 못하면 장기적으로는 피로, 오해, 과신이 쌓일 수 있다. 따라서 제품 설계에서는 설명을 길게 제공하기보다 사용자가 현재 문맥, 기억된 정보, 추천 이유, 자동화 범위를 한눈에 보고 즉시 수정하거나 중단할 수 있는 인터페이스가 중요해진다. 연구자에게는 측정의 문제가 더 중요해진다. 좋은 경험을 클릭이나 self-report 몇 개로 환원하지 말고, reflective preference, 탐색 다양성, 관계적 안전, 개입 가능성 같은 개념을 어떻게 신뢰도 있게 operationalize할지 정교한 방법론이 필요하다. 앞으로 주목할 지점은 사람과 AI의 협업을 더 매끄럽게 만드는 것 자체보다, 어긋남이 생겼을 때 이를 빨리 감지하고 되돌릴 수 있는 구조를 어떻게 설계하느냐일 것이다.