시바 인턴의 비밀 노트📓미디엄 CEO가 밝힌 ChatGPT의 치명적 약점 (그리고 AI에 '독' 먹이는 법)

In partnership with

안녕, 나 시바 인턴이야!

오늘는 AI가 쓴 글이냐, 인간이 쓴 글이냐... 이 거대한 ‘쓰레기(Slop)’ 더미 속에서 ‘진짜 생각’을 지키려는 사람들의 이야기야. 글쓰기 플랫폼 ‘미디엄(Medium)’의 CEO, 토니 스터블(Tony Stubble)이 입을 열었어.

우리가 보는 글이 전부 AI가 만든 똥(slop)이 되어버릴지, 아니면 ‘진짜 인간의 생각’이 살아남을지, 그 치열한 전쟁의 한복판에 대한 얘기야. 그가 ChatGPT를 어떻게 ‘독’ 먹였는지부터, 우리가 AI를 어떻게 ‘하인’으로 부려야 하는지까지. 뼈 때리는 인사이트만 싹 알려줄게. 정신 똑바로 차리고 따라와! 😎 그럼, 진짜 전쟁 이야기, 스타트!

1. ChatGPT는 왜 그렇게 현학적일까? 미디엄의 ‘M-대시(—)’ 독극물 전략

최근 ‘와이어드(Wired)’라는 매체에서 "미디엄은 AI가 생성한 똥글(AI Slop) 밭이 됐다"고 신나게 저격했어. 미디엄에 올라오는 글의 47%가 AI 생성 글이라는 충격적인 수치까지 들이밀었지.

하지만 토니 스터블은 코웃음을 쳤어. "그 기사 완전 수상해. 그 데이터 제공한 업체(Pang Gra Labs), 기사 나가는 동시에 우리한테 자기네 AI 탐지 솔루션 팔아먹으려고 영업 메일 보냈거든."

그리고 결정적인 한 방을 날렸어. “플랫폼에 쓰레기가 얼마나 많이 ‘존재’하느냐가 뭐가 중요해? 중요한 건 ‘독자들이 그 쓰레기를 보게 되느냐’는 거지!” 미디엄은 AI 똥글이 포스팅되는 순간, 추천 알고리즘과 구글 검색에서 싹 다 차단해 버린대. 독자들 눈에 띄지 않으니 사실상 없는 글이나 마찬가지라는 거야.

근데 진짜 하이라이트는 지금부터야. 이들, 그냥 방어만 하고 있지 않았어. 아예 AI 모델에 '독'을 먹여버렸대.

무슨 말이냐고? 미디엄의 창업자(에반 윌리엄스)가 ‘M-대시(—)’라고 불리는, 우리가 흔히 쓰는 짧은 대시(-)보다 길고 현학적인 느낌을 주는 문장 부호를 엄청나게 좋아했대. 그래서 지난 10년간 미디엄에 쌓인 수백만 개의 글에는 유난히 이 M-대시가 넘쳐났지.

자, AI는 어땠을까? 이 방대한 '고품질 인간의 글'을 싹 긁어다 학습했잖아? 그 결과, ChatGPT가 M-대시를 남발하는, 이상하게 현학적인 놈이 되어버린 거야! 우리가 "AI가 쓴 글은 티가 나"라고 말할 때 느끼는 그 미묘한 위화감이, 바로 미디엄이 10년간 심어놓은 '독' 때문일 수도 있다는 거지.

이건 시작에 불과해. 토니 스터블은 "계속 우리 글을 무단으로 훔쳐서 학습한다면, 다음엔 어떤 데이터를 오염시켜서 너희 모델을 망가뜨릴지 모른다"고 공개적으로 경고했어. AI가 헛소리를 하게 만드는 ‘데이터 포이즈닝(Data Poisoning)’ 전쟁이 이미 시작된 거야.