얼마 전 제빙기를 하나 사고 싶었어요.
징동 AI 쇼핑을 열어 추천을 물어봤어요. 아주 열정적이더라고요. 한참을 나열해 줬는데 전부 1,000위안이 넘는 것들뿐이었어요. 스펙도 그럴듯하고, 평가도 그럴듯하고, 추천 이유도 제법 그럴싸하게 쓰여 있었어요. 그리고 나서 습관처럼 Claude에게 똑같은 질문을 했더니, Midea의 230위안짜리 한 대를 가리켜 줬어요. 제가 필요한 기능은 하나도 빠짐없이요.
결국 저는 그 230위안짜리를 샀어요. 사기 전에 다시 징동으로 돌아가 AI에게 할인 계산을 부탁했죠. 정말 열심히더라고요. 팝업, 애니메이션, "최적화해 드렸습니다"까지, 10위안을 아껴 줬어요.
이 두 숫자를 나란히 놓으면, 지난 2년간 AI로 물건을 사면서 얻은 제 깨달음 전부가 돼요: 부정행위가 가능한 층에서는 제가 770위안을 더 쓰게 만들었고, 부정행위가 불가능한 층에서는 성실하게 10위안을 아껴 줬어요.
거짓말을 한 게 아니라, 그 제품을 후보에 넣지 않았을 뿐이에요
먼저 징동을 위해 공정한 말 한마디를 할게요. 그 1,000위안 넘는 제빙기들은 아마 대부분 좋은 기계일 거예요. 스펙도 더 좋고, 평가도 더 진짜고, 추천도 완전히 합리적이에요. 거짓말은 한마디도 없었어요.
문제는 후보 집합이에요.
230위안짜리가 나쁘다고 말할 필요가 없어요. 그냥 후보에 넣지 않으면 되니까요. 그리고 후보 집합의 경계는 사용자에게 설명될 필요가 없어요. "당신을 위해 400대의 기계를 걸러냈고, 그 로직은……"이라고 알려 주는 한 줄을 당신은 영원히 볼 수 없어요. 이건 추천 시스템의 가장 깊은 우물이에요. 검색 시대부터 있었죠. 다만 그때는 자리 판매, 광고 슬롯, 순위 매기기처럼 생겼고 인터페이스가 정직했어요. 그게 광고라는 걸 알았으니까요.
이제는 조언처럼 생겼어요. "이걸 사라고 추천해요, 왜냐하면 xx니까요." 이 문장의 신뢰 비용은 검색 결과 목록보다 한 자릿수 더 높아요.
이 논리를 따라가면 더 괴로운 결론이 하나 있어요. 플랫폼 AI의 추천 가격 중심은 당신의 실제 최적핵보다 구조적으로 높아요. 객단가가 그대로 KPI에 들어가니까요. 그리고 이 편차는 싼 물건에서는 수백 퍼센트, 비싼 물건에서는 오히려 수십 퍼센트예요. 싼 물건일수록 플랫폼 AI에게 더 심하게 당해요. 몇백 위안짜리야말로 외부 AI에게 물어봐야 하고, 몇천 위안짜리는 오히려 그렇게 급하지 않아요.
물건이 문제가 아니라, 수익 구조가 문제예요
처음 제 생각은 순진했어요. Qwen과 징동 AI는 물건이고, Claude와 GPT는 매달 돈을 내니까 후자를 믿는다, 이런 거요.
나중에는 이 말이 성립하지 않는다고 느꼈어요. 유료가 신뢰를 만들지는 않아요. Prime에도 돈을 내지만 자체 상품과 광고 슬롯은 여전히 얼굴 앞에 들이밀어지고, Netflix에도 돈을 내지만 추천 페이지는 여전히 자체 제작작 편이에요.
정말로 저를 믿게 한 건 다른 일이에요: Claude가 잘못 추천핸도 매출은 그대로고, 잘 추천핸도 매출은 그대로예요. 추천 결과와 현금 흐름 사이에 파이프가 없어요.
반면 징동 AI의 주력 수익은 GMV예요. 내일부터 1년에 199위안을 받는다 핸도 저는 여전히 못 믿어요. 그 199위안은 수수료에 비하면 푼돈이니까요. 그래서 AI 쇼핑 도우미의 신뢰도 상한은 유료 여부가 아니라 두 번째로 큰 수익원이 결정해요.
좀 더 정확히 말하면, 저는 Claude라는 물건을 믿는 게 아니라 그 보증을 믿는 거예요.
이 기계가 괜찮다고 말할 때, 그 말은 스스로 보증하는 것이고 어떤 이득도 얻지 못해요. 추천이 틀리면 잃는 건 도구로서의 평판이고, 추천이 맞아도 제 돈 한 푼 더 벌지 못해요. 유일하게 거는 대상은 "다음에도 와서 물어볼 의향이 있느냐"예요. 이게 깨끗한 보증이에요. 두 번째 수혜자가 없거든요.
징동 AI가 이 기계가 괜찮다고 말할 때, 그 말 뒤에는 최소 두 사람이 서 있어요. 저와, 그 기계의 판매자요. 정말로 저를 생각해서일 수도 있지만, 저는 그걸 영원히 확인할 수 없어요. 보증에 두 번째 수혜자가 생기는 순간, 그건 더 이상 보증이 아니라 세일즈예요. 말이 맞고 틀리고와 상관없고, 태도가 좋고 나쁘고와도 상관없어요.
당한 적도 있지만, 그 일이 신뢰를 흔들지는 않았어요
반대 사례도 말해야 해요. GPT에게 프린터를 골라 달라고 했더니 Toshiba 2323AMW를 추천해 줬는데, 사 와서 보니 Mac을 지원하지 않더라고요.
사고가 났어요. 완전한 사고요.
그런데 이상하게도 이 일은 저를 전혀 흔들지 않았어요. 어디가 틀렸는지 한마디로 말할 수 있으니까요. Mac 드라이버가 없었어요. 구체적이고, 지목 가능하고, 단일 지점의 실패예요. 게다가 책임도 나눌 수 있어요. 저는 질문에 Mac을 쓴다고 애초에 말하지 않았고, GPT도 되묻지 않았어요. 다음에 어떻게 할지도 명확해요. 환경을 먼저 말하고, 그다음에 요구사항을 말하면 돼요.
이제 징동 AI가 같은 제품을 추천했다고 상상해 봐요. "이 모델은 인쇄량이 많고, 가성비가 좋고, 판매 1위예요"라고 말하겠죠. 사 왔는데 못 쓰는 거예요. 어디가 틀렸는지 지목할 수 있을까요? 없어요. 거짓말을 한 게 아니라, 그냥 말하지 않았을 뿐이니까요. 그리고 "말하지 않음"은 완벽한 면책 구조예요. 몰라서인지, 알지만 그쪽 수수료가 더 높아서인지 판단할 방법조차 없어요.
그래서 지난 2년간 가장 크게 깨달은 건 사실 이 문장이에요: AI 쇼핑 도우미의 가치는 얼마나 자주 맞히느냐가 아니라, 틀렸을 때 추적 가능하냐에 있어요.
90% 정확하지만 오류의 귀인이 불가능한 시스템은, 80% 정확하지만 오류를 복기할 수 있는 시스템보다 장기 신뢰도가 낮아요. 전자의 옳음은 매번 운인지 실력인지 확인할 수 없으니까요.
그리고 "틀려도 추적 가능"의 전제는 논증 과정을 보여 주는 것이고, 논증 과정을 보여 주는 전제는 당신이 무엇을 사는지로 돈을 벌지 않는 것이에요. 다시 원점이죠.
덧붙여 꽤 중요하다고 생각하는 말 하나: 플랫폼 AI는 구조적으로 논증 과정을 줄 수 없어요. 논증 과정은 공격받을 수 있는 면이니까요. "A를 추천하는 이유는 A의 CADR이 B보다 높기 때문"이라고 말하는 순간, 당신은 바로 "그럼 왜 C는 추천 안 해요? C는 A보다 더 높은데"라고 반문할 수 있어요. 그리고 C는 경쟁사 제품일 수도, 광고를 안 집행한 물명 브랜드일 수도 있어요. 말할수록 점점 영업사원처럼 들리는 건 멍청해서가 아니라, 솔직하게 말하는 것 자체가 리스크이기 때문이에요.
그럼 대체 어떻게 써야 할까
지금 제 방식은 둘 중 하나를 고르는 게 아니라, 이 일을 두 단계로 나누는 거예요.
상류는 스펙 정하기: 내가 정확히 어떤 물건을 원하는지, 어떤 파라미터가 중요한지, 예산을 어떻게 나눌지, 어떤 함정을 배제할지.
하류는 구매 실행: 어디가 싼지, 쿠폰을 어떻게 겹칠지, 언제 살지, A/S는 누가 책임질지.
핵심은 플랫폼 AI의 편향이 상류에만 숨을 수 있고, 하류에는 숨을 수 없다는 거예요.
쿠폰이 제대로 적용됐는지는 결제하는 그 순간 알 수 있어요. 물건이 사흘 안에 안 오면 그것도 알 수 있죠. 이 층은 그 자리에서 검증 가능해요. 여기서 부정행위를 핸봤자 이득이 없고, 오히려 극한까지 잘할 강한 유인이 있어요. 이게 이들의 해자예요. 반면 "B 말고 A를 사라"는 추천은 영원히 검증 불가예요. A를 사면 B가 더 나았을지 영원히 모르니까요. 이건 반사실이고, 태생적으로 반증 불가능해요. 편향은 반드시 이 층에 가라앉아요. 그리고 오직 이 층에만요.
그래서 규칙은 간단해요. 스펙은 GMV로 돈을 벌지 않는 쪽이 정하고, 구매는 이행 능력이 있는 쪽이 해요.
Claude에게 spec 하나를 뽑게 하세요. 어떤 파라미터, 어떤 모델 구간, 무엇을 배제할지까지요. 그리고 그 spec을 들고 징동이나 Qwen에 가서 실행하면 돼요. 그들의 취향을 신뢰할 필요는 없어요. 필요한 건 창고와 쿠폰이에요. 조언자가 아니라 구매 담당으로 강등시키는 거예요. 이 지점에서는 물건든 유료든, 편향이 있든 없든 중요하지 않아요. 부정행위가 가능한 칸을 이미 빼앗았으니까요.
부수적인 것 하나 더. 많은 사람이 깨닫지 못하는 것 같아요. 타오바오의 AI는 구조적으로 "이건 징동에서 사면 300위안 더 싸요"라고 말할 수 없어요. 플랫폼 간 비교가 필요한 카테고리에서 플랫폼 AI는 태생적으로 탈락이에요. 능력이 없어서가 아니라, 할 수 없어서예요.
알리바바가 지난 2년간 Qwen을 입구로 만들려고 안간힘을 쓰는 건, 사실 징동을 막으려는 게 아니라 "대화창이 독립된 입구가 되는 것" 자체를 막으려는 거예요. 하류는 고된 일이고, 비용이고, 프리미엄이 없어요. 돈은 상류의 그 한 칸에 있거든요.
AI도 유통기한이 있어요. 그리고 거의 알아채기 어려워요
이건 직접 당해 보고 깨달은 거예요.
저는 Antelope 오디오 인터페이스를 써요. 지금 검색해 볼면 포럼마다 드라이버 불안정, 연결 끊김, 블루스크린에 대한 불만이 넘쳐나요. 확신에 찬 어조로요. 그런데 저는 매일 쓰고 있고, 아주 안정적이에요.
그 글들이 거짓은 아니에요. 한때는 진실이었어요. 다만 십 년 전 진실일 뿐이죠. USB class compliant가 보급된 뒤로, 현대 오디오 인터페이스의 드라이버 지옥은 기본적으로 사라졌어요.
마이크도 마찬가지예요. 오래된 포럼은 마이크 고르기를 "지향성 고르기, 맛 고르기, character 고르기"라고 말해요. 과거에는 맞는 말이었어요. 하지만 현대 음악 제작에서는 이 논리가 크게 약해졌어요. Sony C-80 같은 물건의 논리는 지표가 충분히 좋고, 가격이 충분히 낮고, 쓸 만하다는 거예요. 미학적 프리미엄이 워크플로에 눌려 납작해진 거죠.
그래서 한 가지가 분명해져요. 카테고리는 좌표축 위에서 움직여요. 그리고 방향은 하나예요. 시장이 성숙할수록 전부 "더 파라미터화 가능하고, 정보가 더 풍부한" 쪽으로 이동해요.
여기서 AI에게 꽤 치명적인 반동이 나와요. AI의 말뭉치 우위가 곧 말뭉치의 지연이에요.
전문 장비에서 어이없을 만큼 강한 이유는, 정확히 십 년 치 포럼을 읽었기 때문이에요. 중국어 인터넷에는 애초에 존재하지 않고 Gearspace와 외국어 옛날 글에 숨어 있던 그런 것들이요. 하지만 그 십 년 치 포럼에는 "어느 오디오 인터페이스 블루스크린" "어느 마이크는 character가 부족" 같은 말도 가득해요. 그 말뭉치는 한때 진실이었고, 지금은 노이즈예요. 방대한 역사적 토론을 읽은 모델은 이미 해결된 문제를 여전히 존재하는 문제로 구조적으로 착각해요.
게다가 이런 오류는 거의 감지할 수 없어요. 실제로 존재했던 토론을 인용하기 때문에 엄청나게 그럴듯하게 들리거든요.
한 카테고리에서 AI의 신뢰도는 그 카테고리의 이동 속도에 반비례해요. 냉장고나 에어컨처럼 십 년간 거의 안 바뀌는 건 안정적이에요. 오디오 인터페이스, 그래픽카드, AI 하드웨어처럼 1년마다 바뀌는 건 5년 전의 합의로 오늘의 질문에 답할 수 있어요.
대응 동작도 구체적이고, 위의 것과는 달라요. 스펙 시트 밖의 함정은 환경을 보충해서 피하고, 말뭉치 유통기한의 함정은 타임스탬프를 캐물어서 피해요. "이 결론이 지금도 성립하나요?" "이건 몇 년도의 합의인가요?" "이 문제는 나중에 해결됐나요?"라고 추궁하는 거예요.
어떤 것들을 AI에게 맡길 수 있을까
지난 2년간 실제로 산 것들을 그림 한 장에 박아 볼면 대략 이렇게 생겼어요. 가로축은 의사결정의 파라미터화 가능 정도, 세로축은 정보 획득 비용이에요(위로 갈수록 조사하기 어려움).
우상단, AI 압살 구역. 제빙기, 제습기, 공기청정기, 침대 렌즈, 마이크, 오디오 인터페이스. 공통점은 스펙이 딱딱한데 중국어 리뷰가 극단적으로 적거나 전부 광고성 글이라는 거예요. 여기서 AI의 가치는 계산이 정확해서가 아니라 당신이 읽을 수 없는 것을 읽었다는 점이에요. 이 칸이 가성비가 가장 좋아요.
우하단, 유용하지만 한계효용이 낮음. 에어컨, 냉장고, TV. 스펙은 똑같이 딱딱하지만 리뷰가 지천이라 직접 30분 검색핸도 해결돼요. AI가 아껴 주는 건 인지가 아니라 시간이에요.
좌상단, 자료 담당으로만. 임대 주택, 중고차. 정보가 희소한 데다 물이 탁해요. 하지만 최종 판단은 현장 감각과 운에 달려 있어요. AI는 기껏해야 체크리스트를 뽑아 줄 뿐이에요.
좌하단, 탈락. 기계식 시계, 차의 외관. 당신 자신이 최종 심판이고, 사람이 바뀌면 답도 바뀌어요. 시계 같은 건 한 겹 더 있어요. 실제 가격은 정가가 아니라 중고 시세가 결정해요. 그 정보는 유동적이고, 비공개적이고, 시의성이 극도로 강해요. 모델도 검색도 줄 수 없어요.
그리고 빨간색으로 따로 표시한 두 점이 있어요. 프린터와 오디오 인터페이스요.
좌표축상으로는 둘 다 오른쪽에 있어야 해요. 스펙이 완비돼 보이고 AI가 이겨야 하죠. 그런데 둘 다 스펙 시트에 없는 킬러가 하나씩 있어요. 프린터는 운영체제와 드라이버, 오디오 인터페이스는 (과거의) 안정성과 LAN 프로토콜이에요. 저는 이걸 의사 파라미터화 함정이라고 불러요. 비슷한 것으로 그래픽카드 전원(케이스 크기), 식기세척기(싱크대 타공과 급수), 프로젝터(층고와 키스톤 보정)가 있어요.
전혀 상관없어 보이는 프린터와 오디오 인터페이스가 같은 함정에 빠졌다는 건, 어느 제조사가 믿을 만하지 못해서가 아니라 구조적 문제라는 뜻이에요. 이런 카테고리에서는 질문할 때 반드시 환경을 먼저 설명하고, 그다음에 요구사항을 설명해야 해요.
노트북은 우상단의 가울데쯤에 뒀어요. 고충은 조사하기 어려운 게 아니라 동질화예요. 열 대의 기계 스펙이 거의 똑같고, 리뷰도 전부 같은 말을 해요. 세 시간을 봐도 구분 못 할 수 있어요. 여기서 AI가 하는 일은 무관한 차원을 잘라 내고, 당신의 용도에서 진짜로 차이를 만드는 건 한두 가지뿐이라고 알려 주는 거예요.
마지막으로: 후보 하나를 지워 준 적도 있어요
작년에 차를 볼 때 Genesis G80, Volvo S90, BMW 530 사이를 왔다 갔다 했어요. 스펙, 가격, 잔존가치, 평판까지 전부 비교했는데도 결정이 안 섰어요.
GPT가 한마디 했어요. S90 외관이 마음에 안 들면 그냥 그 옵션을 지워요. 사 놓고 매일 볼 때마다 눈에 거슬리면 재수 없잖아요.
문제는 그 자리에서 해결됐어요.
재미있는 건, 제가 모르는 걸 하나도 알려 주지 않았다는 거예요. 그 외관이 싫다는 건 진작 알고 있었어요. GPT가 한 일은 제가 이미 가진 판단을 하드 제약으로 격상시킨 거예요. 제가 계속 망설인 이유는 "생긴 게 안 예뻐서 모든 면에서 합격인 차를 탈락시킨다"는 이유가 충분히 정당하지 않다고 느꼈기 때문이에요. 누군가 대신 사인해 주길 기다린 거죠. GPT가 사인해 줬어요.
차는 제 그림에서 분명히 "AI 탈락" 칸에 떨어져요. 미학이 파라미터화 불가능하다는 게 바로 그 이유니까요. 그런데 이 칸에서도 도움이 됐어요. 저를 대신해 판단한 게 아니라, 제 판단이 종국적임을 인정하고 실행을 도와준 거예요.
그래서 물건을 사는 일에서 AI의 가치는 사실 한 가지가 아니라 세 가지예요: 정보(당신이 읽을 수 없는 걸 읽었다), 실행(쿠폰 계산과 구매를 대신한다), 의사결정 위생(버려야 할 걸 버리게 돕는다). 앞의 둘은 서로 다른 존재에게 나눠 줄 수 있어요. 셋째는 당신이 무엇을 사는지로 돈을 벌지 않는 존재만 할 수 있어요. 플랫폼의 AI는 절대로 차 한 대를 후보에서 지우라고 권하지 않으니까요.
마지막으로 솔직한 말 하나를 해야 해요. 저는 사용자를 대표하지 않아요.
2024년에 이미 쇼핑 의사결정을 LLM에 아웃소싱한 사람은 중국 전체에서 만분의 일도 안 될 거예요. 저는 지불 능력도, 영어 능력도 있고, 대화창과 스펙을 놓고 실랑이할 시간도 기꺼이 써요. 반면 징동과 타오바오가 서비스해야 하는 건 십수억의 이커머스 월간 활성 사용자예요. 그 큰 판에서 "감사 불가능"은 문제가 아니에요. "편하다"면 충분해요. 모두가 더우인이 알고리즘으로 먹이를 준다는 걸 알면서도 8시간씩 스크롤하는 것처럼요.
그래서 저는 플랫폼 AI가 지지 않을 거라고 생각해요. 이 일이 두 개의 시장으로 갈라질 거라고 생각해요. 하나는 편함을 원하고, 하나는 추적 가능함을 원해요. 전자가 훨씬 클 거예요.
지난 2년간 저는 집 구하기와 외식부터 컴퓨터, 차, 시계, 가전제품 구매까지 거의 이렇게 해 왔어요. 정말로 넘긴 건 결정권이 아니라 자료 조사와 조건 나열이라는 두 가지 고역이에요. 그리고 감히 넘길 수 있었던 건 그 보증이 깨끗했기 때문이에요. 저를 대신해 한 모든 말의 수혜자는 저 하나뿐이었으니까요.
저는 그저 원래 뒤의 시장에 있어야 할 사람들이, 얼빠진 채로 앞의 시장에 머물면서 770위안을 더 쓰고, 아껴 준 10위안에 감동하지 않기를 바랄 뿐이에요.