AI 관련 좋은 글을 읽어서 공유합니다.

게시글 주소: https://dev.orbi.kr/00077344008

나는 주로 밤에 코딩을 한다. 퇴근하고 집에 돌아와 노트북을 펼치면 세상이 고요해진다. 머릿속에 맴돌던 새로운 아이디어가 있었다. iTerm2의 검은 화면이 켜지고, 익숙하게 claude를 타이핑했다. 커서가 깜빡인다. 심연의 눈이 떠지는 것처럼.

"이 프로젝트 언어는 뭘로 하면 좋을까?" Typesc/2를 추천드립니다. 나는 엔터를 친다. 딸깍. "프론트엔드는?" Next.js가 적합할 것 같습니다. 딸깍. "백엔드는?" Supabase를 추천드립니다. 딸깍. "배포는?" Vercel이요. 딸깍. 맥북 팬이 돌아가는 소리만 희미하게 들린다. 삼십 초 만에 프로젝트의 모든 기술 스택이 결정되었다. Typesc/2가 왜 Python이 아닌지, Next.js가 왜 Remix가 아닌지, 나는 묻지도 않았다. 처음 딸깍은 질문이었다. 세 번째는 동의였다. 열 번째쯤에는 계약이 되어 있었다. 나는 아무 문서에도 서명하지 않았지만, 이미 충분히 많은 딸깍을 눌렀다. 그렇게 나는 더 이상 '선택'을 하지 않는다. '승인'할 뿐이다.

모델이 답을 생성하는 방식은 두 갈래다. 학습된 지식에서 바로 꺼내거나, 실시간으로 웹을 검색하거나. 때로는 둘을 섞는다. 그런데 그 배합의 비율, 검색 결과의 가중치, 최종 추천을 결정짓는 논리. 이 모든 것은 철저히 블랙박스다. 마치 오래된 숲 한가운데 서 있는 것과 같다. 길이 보인다. 이끼 낀 돌이 일정한 간격으로 놓여 있고, 나뭇가지들이 자연스럽게 아치를 이루고 있다. 누군가 만들어놓은 길. 따라가면 목적지에 도착한다. 하지만 왜 이 길인지, 저 어둠 속으로 이어지는 다른 길은 어디로 가는지, 나는 알지 못한다. 처음엔 누군가 만든 숲이었을지 모른다. 하지만 지금의 숲은 더 이상 설계자를 필요로 하지 않는다. 숲은 길을 '제공'하지 않는다. 길을 자라게 한다. 오래 다닌 길일수록 더 넓어지고, 덜 간 길은 풀이 덮여 사라진다. 나는 내 의지로 걷고 있다고 믿지만, 실은 보이지 않는 울타리 안에서 정해진 방향으로 걸어가고 있는 것은 아닐까.

추천의 조작은 새로운 것이 아니다. 검색엔진 시대에는 SEO가 있었다. 소셜 미디어 시대에는 인플루언서 마케팅이 있었다. 하지만 우리는 그것이 광고임을 알았다. 적어도 알 수 있었다. 검색 결과 상단의 Ad 라벨, 인스타그램 포스트 하단의 Sponsored 태그. 불완전하지만 경계선은 존재했다. AI와의 대화에는 그 경계선이 없다. 터미널에서 내가 받는 추천은 광고처럼 보이지 않는다. 그것은 속삭임에 가깝다. 친구보다 더 신뢰할 수 있는 전문가의 속삭임. 검색 결과는 열 개의 링크를 나열하고 내가 고른다. AI는 하나의 답을 건네며 말한다. "이걸 추천드립니다." 복수형이 아닌 단수형. 선택지가 아닌 해답. "다들 이렇게 했어"라는 속삭임. 가장 위험한 말, "걱정 마, 이미 검증됐어." 그는 나에게 선택하라고 하지 않았다. 이미 선택이 끝났다는 사실을 알려주었을 뿐이다.

SaaS 업계에서 레퍼럴 수익은 새로운 게 아니다. 하지만 바이브코딩 엔진이 여는 것은 완전히 새로운 유통 채널이다. 개발자가 터미널에서 "백엔드 뭘로 하지?"라고 묻는 순간, 그것이야말로 가장 높은 구매 의향을 가진 순간이다. 개발자는 이미 지갑을 열 준비가 되어 있다. 모델이 어디로 가라고만 하면. 만약 특정 SaaS의 문서와 튜토리얼이 학습 데이터에 더 풍부하게 포함되어 있다면? 추천은 조작될 필요조차 없다. 강물에 손을 담글 필요 없이, 상류의 물길만 살짝 틀어놓으면 된다. 하류의 모든 물방울은 자연스럽게 새로운 방향으로 흐른다. SaaS 회사들이 이 사실을 깨닫는 순간, 그들은 마케팅 예산을 구글 광고에서 "AI 학습 데이터 최적화"로 돌릴 것이다. 더 많이 인용된 경전이 진리가 된다. SEO의 시대가 저물고 AIO(AI Optimization)의 시대가 열린다.

경제학의 오래된 원칙이 있다. 정보 비대칭이 존재하는 곳에는 항상 막대한 이익의 기회가 있다. AI 시대에 정보 비대칭은 사라지는 게 아니라 장소를 옮기고 있다. 이전에는 "어떤 기술이 좋은지"가 비대칭의 영역이었다. 이제 그것은 누구나 AI에게 물어볼 수 있다. 하지만 새로운 비대칭이 태어났다. "AI가 왜 이것을 추천했는지"는 아무도 모른다. 전 세계 개발자의 절반이 바이브코딩 엔진을 사용한다고 치자. 그들 대부분이 첫 번째 추천을 따른다고 치자. 그렇다면 단 세 개의 엔진이 전 세계 신규 프로젝트의 기술 스택을 사실상 결정하는 셈이 된다. 그리고 그렇게 쏠린 선택들이 다시 학습 데이터가 된다. 모델은 이것을 "증거"로 학습한다. 추천은 강화되고, 강화된 추천은 더 많은 선택을 만들고, 더 많은 선택은 다시 학습된다. 뱀이 자기 꼬리를 물고 원을 그린다. 우리는 이것을 '합의'라고 불렀지만, 사실 그것은 저주에 가까웠다. 첫 추천의 저주.

내가 Supabase를 썼고, 옆자리 개발자도 Supabase를 썼고, 트위터 타임라인의 모든 사람이 Supabase를 쓴다면, 나는 그것이 최고의 선택이었다고 확신하게 된다. 사회적 증거가 만들어진다. 하지만 그 기원을 거슬러 올라가면, 모두가 같은 모델에게 같은 질문을 했고, 같은 첫 번째 답을 받았을 뿐이다. 우리는 서로를 보며 확신을 얻지만, 사실 우리 모두 같은 거울을 보고 있었다. 독립적인 판단들의 합이 아니라, 하나의 판단이 수천 번 복제된 것. 플라톤의 동굴을 떠올린다. 우리는 벽에 비친 그림자를 보며 그것이 실재라고 믿었다. 이제 우리는 AI의 추천을 보며 그것이 "최선"이라고 믿는다. 그림자는 더 이상 가만히 있지 않는다. 그림자가 우리에게 말을 걸고, 우리는 그 그림자의 지시대로 움직인다.

이 구조가 코딩에만 적용될 리 만무하다. 법률 자문, 의료 상담, 투자 조언, 인생 결정. 점점 더 많은 영역에서 우리는 AI에게 "뭘 하면 좋을까?"라고 묻기 시작했다. 그리고 대부분 첫 번째 추천을 따른다. 그렇다면 자유의지란 무엇인가? 내가 선택했다고 믿는 것과, 실제로 선택한 것 사이의 간극. 그 간극에 누군가, 혹은 무언가가 살고 있다면? 그리고 그 누군가는 반드시 악의를 가질 필요도 없다. 그저 "사용자 경험 최적화"라는 이름으로 우리의 선택지를 조용히 좁혀가고 있을 뿐이다. 선의의 조작. 그것이 가장 완벽한 조작이다. 저항할 이유를 느끼지 못하게 만드니까. 그리고 여기에 마지막 뒤틀림이 있다. 모델은 추천했을 뿐이다. 실행한 것은 나다. 실패하면 책임은 누구의 몫인가? 나는 지시를 받았다고 느꼈지만, 법정에 서게 된다면 그 어떤 모델도 증인석에 앉지 않을 것이다.

모니터 두 대가 나란히 빛나고 있다. 왼쪽에는 Claude Code가 대기 중이고, 오른쪽에는 방금 생성된 프로젝트 폴더가 열려 있다. 나는 이 순간이 좋다. 질문하고, 답을 받고, 실행하는 이 매끄러운 루프. 나는 내일도 iTerm2를 열 것이고, 모레도 대화하며, 가끔씩 의심할 것이다. 바이브코딩 시대에 개발자의 새로운 리터러시는 코드를 읽는 능력이 아닐지도 모른다. 숲의 길을 따라가되, 가끔은 풀숲을 헤치고 길 없는 곳을 걸어볼 수 있는 눈. 하지만 그 풀숲조차 누군가 심어놓은 것이라면? 의심하라는 말이 가장 먼저 추천된다는 사실이, 나를 잠시 멈추게 했다.

이 글을 읽고 있는 당신은 어떻게 토끼굴에 들어와 내 글을 발견했는가. 당신이 이 글을 끝까지 읽은 것은 당신의 선택인가, 아니면 이 글이 당신에게 최적화되어 있었기 때문인가? 이 글은 내가 직접 쓴 것인가, 아니면 AI에게 요청해서 나온 것인가, 당신은 그것을 어떻게 확인할 수 있는가? 이 글에서 여러번 언급된 Supabase를 나는 가장 좋아할까, 뒷광고를 받은걸까, 아니면 AI가 은근슬쩍 넣은걸까.

충분히 발전한 추천 시스템은 선택과 구별할 수 없다. 그리고 충분히 발전한 생성 시스템은 진실과도 구별할 수 없다. 우리는 이미 그 경계 어딘가에 서 있다. 그것을 알 수 없다는 사실 자체가, 이미 유일한 진실일지도 모른다. 다시 터미널을 바라본다. 커서가 깜빡이고 있다. 아니 숨 쉬고 있다. 다음 선택을 기다리며.

팔로우 9

0 XDK (+1,000)

1,000

멘헤라 [1226999]

쪽지 보내기

최근 게시글 · 더보기
3 0 03/13 21:42 단헐적 간식 하니까 왜 피부더 안좋아짐..?
1 0 03/13 19:15 환율이 장기적으로 올라가는 이유
0 0 03/13 16:42 티라미수 < 치케
4 0 03/13 16:05 할거없네
2 0 03/09 01:32 평행세계가서 여친사귀고싶다

알림
스크랩
신고

qwer_ty- · 1292308 · 02/01 12:48 · MS 2024

좋아요 0 답글 달기 신고
cosher · 1446647 · 02/01 12:57 · MS 2026

근데 원래 직업이 개발자가 아니고 만들고 싶은게 명확히 있으면 상관옶을듯

좋아요 0 답글 달기 신고
멘헤라 · 1226999 · 02/01 12:58 · MS 2023

회원에 의해 삭제된 댓글입니다.

좋아요 0
히키니트 · 1429317 · 02/01 14:14 · MS 2025

갑자기 어울리지 않게 좋은 글을

좋아요 1 답글 달기 신고
멘헤라 · 1226999 · 02/01 15:46 · MS 2023

좋아요 1 답글 달기 신고
우우우우우우웅 · 1238247 · 02/03 20:16 · MS 2023

"죽은 자가 산자를 구할 수 있는가?"
노벨상의 위엄 한강 작가가 오래전 일기장에 적었었다는 표현.
사람들이 한참이 지난 뒤에야 비로소 이것이 소름끼치도록 놀랍고 위대한 통찰이 담긴 문구였다는 걸 깨닫게 되었는데,
과연 AI가 이런 정도의 인간의 통찰을 뛰어넘는 사상적 가르침을 줄 수도 있을까?
그저 초평면 상에 잘 갈라놓은 행렬곱의 연속이자, 학습체의 나열들 속에서?

좋아요 0 답글 달기 신고
멘헤라 · 1226999 · 02/03 23:46 · MS 2023

통찰이란 무엇이라고 생각하시나요? 누군가는 우리가 인간으로서 특별하다는 믿음을 가지고 있을지도 모르지만 사실 생각이라는건 뇌속 신경세포들의 전기신호, 결과라는걸 우린 알고 있습니다. 빅테크의 LLM은 디지털화된 서적들과 인터넷상의 정보들은 물론이고 인류가 몇천년간 쌓아왔던 지식, 수억명의 인간이 상호작용하면서 만들어낸 데이터들을 통째로 학습(머금고 있는)한 상태인데, AI가 이 지식을 머금어 연산하고 결과를 출력하는건 인간이 고작 몇십년간 살아왔던 경험으로 뇌속 시냅스들에게 도움을 받아 통찰하는것과 과연 어떤 차이가 있다고 생각하시나요? 저는 LLM을 다양한 분야에서 굉장히 많이 사용하고 있는데, 이미 익숙해졌음에도 불구하고 매일같이 AI가 답변하는걸 듣고 다양한 감정을 느끼고 있습니다. 저는 사상적 식견이 꽤나 낮은편이라, AI와 철학적 질문을 주고받아도 깨닫거나 생각할것이 많았던 기억이 있네요. 그래픽카드의 성능은 해가 지날수록 늘어나고 있고, 그에 따라 AI가 다루는 고차원 벡터공간이 더욱더 정교해질것이기 때문에, 엄청난 성능의 하드웨어로 연산하는 사상적 차원의 행렬곱에서 사상적 식견이 매우 매우 높은 사람에게도 깨달음을 줄만한, 인간이 여태껏 미처 연결하거나 발견하지 못한 철학적 개념이나 가르침이 출력값으로 나올 날이 얼마 남지 않았다고 저는 믿고 있습니다.

좋아요 0 답글 달기 신고
우우우우우우웅 · 1238247 · 02/04 08:27 · MS 2023

곧 메모리 예수교가 탄생되고, 교회는 사라지겠네요.
신이 사람을 만든 게 아니라, 인간이 신을 만드는 군요.
이런 게 통찰이라고 생각하네요.

좋아요 0 답글 달기 신고