Prompt-based AI 디자인에는 direct manipulation이 빠져 있나?
Is prompt-based AI design missing direct manipulation?
배경 및 소개
최근 AI 기반 디자인 도구는 대부분 텍스트 프롬프트에 의존해 결과물을 생성하지만, 이는 Figma가 강점으로 키워온 direct manipulation의 장점을 희석시킨다. 여전히 디자인과 프로덕션 사이에는 코드·목업을 오가며 해석과 변환을 반복하는 간극이 크고, AI를 써도 주로 초안 코드를 뽑은 뒤 사람이 다시 손보는 흐름이 일반적이다. 게시글 작성자는 특히 UI 단계에서 이 간극을 더 좁히고 싶다고 말한다. Figma처럼 살아있는 UI를 화면에서 직접 수정하면, AI가 그 아래의 시스템과 코드 일관성을 자동으로 맞춰 개발 단계까지 밀어줄 수 있지 않겠느냐는 제안이다. 이는 협업이나 design system을 대체하려는 것이 아니라, 툴 간 왕복과 사소한 번역 비용을 줄이려는 문제의식에서 출발한다. 커뮤니티 토론은 이런 방향을 이미 시도하는지, 어떤 도구가 근접해 있는지에 초점을 맞춘다.
주요 내용
토론의 핵심은 프롬프트만으로는 정교한 UI 다듬기 단계에서 생산성이 떨어진다는 공감대다. 초반 아이디어 발화와 거친 생성에는 AI가 유용하지만, 세밀 조정 국면에서는 요소를 직접 집어 움직이고 미세값을 눈으로 보며 맞추는 direct manipulation이 훨씬 빠르다는 것이다. 이상적인 흐름은 AI로 초안을 만들고 곧바로 화면에서 직접 조작해 미세조정하는 하이브리드인데, 현재는 생성 결과를 다른 툴로 옮겨 손보는 전달 구간이 여전히 투박하고 마찰이 크다. 실무 경험을 공유한 참여자는 Cursor에서 CSS와 코드를 바로 편집하며, 내장 브라우저와 Figma 유사 패널로 시각과 코드를 나란히 조작할 수 있지만 동작이 번거로워 결국 CSS를 손수 다듬는 편이 낫다고 말한다. 그는 AI를 연결과 로직 검증, 초기 품질을 90%까지 끌어올리는 용도로 쓰고 마지막 품질은 사람이 완성한다고 정리한다. 한편 MCP를 통해 code에서 Figma로, 다시 code로 왕복하는 흐름이 가능해졌지만 손실 없이 오가는 수준에는 이르지 못했다는 평가가 나온다. 이미 이 간극을 직접 겨냥하는 제품도 거론된다. pencil.dev와 paper가 그 예로, 실시간 UI 편집과 코드 동기화를 표방한다. 커뮤니티는 Figma 역시 곧 canvas 안에서 이를 본격 지원할 것으로 예상하며, Figma Make를 둘러싼 기대감이 이를 부각시켰다고 본다. Subframe은 Figma 스크린샷이나 프롬프트로 UI를 생성한 뒤 추가 수정을 이어갈 수 있어 WYSIWYG에 가장 근접한 사례로 언급됐지만, dark mode 같은 테마 변형에서는 아직 미해결 문제가 있다고 지적된다. 전반적으로 논의는 협업과 design system을 유지한 채, AI가 하부의 코드와 토큰, 제약을 관리하고 사람은 눈앞의 UI를 직접 건드리며 즉시 반영되는 형태로 왕복 비용을 줄이는 방향을 지향한다.
결론 및 시사점
이 논의가 가리키는 방향은 프롬프트 중심에서 direct manipulation 우선으로 옮기되, AI는 백그라운드에서 컴파일러와 동기화 엔진처럼 동작하는 하이브리드 모델이다. 그러나 당장은 디자인과 코드 사이를 무손실로 왕복시키는 정합성, 레이아웃과 스타일의 미세한 충실도, light·dark 모드 같은 테마 전환의 규칙 유지, 그리고 AI가 무엇을 바꿨는지 투명하게 설명하는 신뢰성에서 한계가 뚜렷하다. 결과적으로 마지막 10%를 사람 손으로 마무리해야 하는 구간이 남아 있고, 도구 간 핸드오프의 마찰도 완전히 해소되지 않았다. MCP 계열 파이프라인과 신규 제품의 진화로 간극은 빠르게 좁혀지겠지만, 벤더 종속과 디자인 토큰 훼손, 버전 관리 혼선 같은 리스크를 경계해야 한다. 결국 성공 조건은 지연이 낮고 왕복 손실이 없으며, 변경 내역이 비교 가능하고 되돌리기가 쉬워 실제 개발로 무리 없이 전파되는 운영 가능성에 달려 있다.
💡 AI가 코드와 design token을 생성·동기화하고 사용자는 canvas에서 미세조정하는 하이브리드 워크플로를 프로토타이핑하되, round-trip 안정성·diff 가시성·rollback 용이성을 명확한 수용 기준으로 설정하라. 연구에서는 direct manipulation과 AI 에이전트 공존 인터랙션, 핸드오프 경험, 다중 테마 보존을 중심으로 usability testing을 설계하라.
뉴스레터 구독
매주 금요일, 주간 HCI 하이라이트를 이메일로 받아보세요.