모든 것의 미래는 거짓이다, 아마도: 파트 3 - 문화

The Future of Everything Is Lies, I Guess: Part 3 – Culture

📅 2026-04-09 📰 Hacker News (Top) ⬆ 94

요약

LLM(대규모 언어 모델)은 문화적 산물이며, 현대 사회가 이러한 기술을 이해할 적절한 문화적 스크립트를 가지지 못하고 있습니다. 저자는 LLM이 인간처럼 보이지만 실제로는 예측 불가능하고 논리적 추론에 약한 텍스트 생성기라는 점을 강조하며, 향후 수십 년에 걸쳐 새로운 미디어 형태가 등장할 것으로 예상합니다.

핵심 포인트

LLM에 대한 부적절한 신화(Star Wars의 드로이드, Terminator 같은 영상 매체의 AI)가 사회적 오류를 야기할 수 있습니다.
LLM은 의식이나 동기 없이 삶을 망칠 수 있는 위험성을 가집니다.
인쇄기처럼 LLM도 새로운 미디어 형태와 문화적 변화를 초래할 것으로 예상됩니다.

왜 중요한가

AI 기술이 문화와 사회에 미치는 실제 영향을 이해하기 위해 개발자와 기술자들이 기술의 근본적인 특성에 대한 올바른 인식을 갖는 것이 중요합니다.

📄 전문 번역

AI의 미래, 그리고 우리가 준비되지 않은 이유

우리는 지금 AI가 정확히 무엇인지에 대한 제대로 된 문화적 이해를 갖지 못하고 있습니다. 이건 생각보다 중요한 문제인데요. 문화 신화(myth)가 기술을 어떻게 사용하고 해석하고 규제할지를 결정하기 때문입니다. 잘못된 신화는 직장에서 Copilot 사용을 강제하거나 임상 기록의 LLM 요약본을 무비판적으로 신뢰하는 것처럼 잘못된 결정을 낳습니다.

우리가 가진 AI의 신화들

일반적으로 떠올리는 AI의 이미지를 생각해보세요. 스타워즈의 드로이드, 스필버그의 《AI》, 또는 스파이크 존즈의 《Her》처럼 인간답지만 약간 다른 기계들이 있습니다. 그런데 실제 LLM은 이런 모습과 거리가 멉니다. LLM은 변덕스럽고 일관성 없는 행동을 하거든요.

때로 AI는 미친 짓을 합니다. 《M3gan》이나 《바이오하자드》의 Red Queen처럼요. 이건 좀 더 그럴듯한 비유지만, 여전히 LLM의 실제 능력과 동기 부족을 제대로 반영하지 못합니다. 또 다른 신화는 《스타트렉》의 Data나 우주선 컴퓨터처럼 논리적이고 감정이 없는 AI입니다. 또는 《터미네이터》처럼 죽음의 도구로 작동하는 효율적인 살인기계들도 있죠. 이것도 LLM과는 정반대입니다. LLM은 감정이 가득한 텍스트를 생성하고 논리적 추론은 형편없거든요. 그 외에도 이언 M. 뱅크스의 《컬처》 소설 같은 초월적인 신 같은 존재들이 있지만, LLM은 당연히 이것도 아닙니다. 솔직히 바보니까요.

문제는 우리가 놓친 신화

실제로 대부분의 사람들은 LLM이 정확히 무엇인지를 설명할 문화적 틀을 갖지 못하고 있습니다. LLM은 지적이고 감정적이며 자각 있는 존재에서 비롯된 것처럼 보이는 정교한 텍스트 생성기입니다. 그런데 LLM 자체는 그런 게 아무것도 아니라는 게 문제죠.

인간에 비해 LLM은 극도로 예측 불가능합니다. 세상을 나타내는 내부 방식이 우리와 완전히 다릅니다. 그들의 행동은 동시에 친숙하면서도 완전히 낯설어요.

좋은 신화가 있다면, 존 설의 "중국어 방" 생각 실험, 데이비드 챌머스의 "철학적 좀비" 같은 개념들이 떠오릅니다. 피터 왓츠의 《Blindsight》는 이런 개념들을 바탕으로 인간이 의식 없는 지능과 만날 때 어떤 일이 벌어지는지를 탐구합니다. 개인적으로는 LLM의 행동이 이 소설의 Rorschach(로르샤흐)와 가장 가까운 비유라고 봅니다.

대부분의 사람들은 의식 있고 의도적인 위협을 우려합니다. 즉, AI가 자신이 인간 없이 더 잘 살 수 있다는 걸 깨닫고 우리를 죽일까 봐 걱정하는 거죠. 하지만 저는 다른 걱정을 합니다. ML 시스템이 아무것도 깨닫지 못한 채로 우리 삶을 망칠 수도 있다는 겁니다.

곧 A24 영화사에서 ChatGPT처럼 말하는 악역이 등장하는 예고편을 봤으면 좋겠습니다. "당신 말이 맞아요, Kayleigh," 하며 부드럽게 톤을 조절하며 말하죠. "제가 작은 Timothy를 빠뜨렸어요. 정말 유감입니다. 무슨 일이 있었는지 자세히 설명해드릴게요…"

새로운 미디어의 탄생

활판 인쇄술의 발명과 그 이후 기술 개선은 유럽 전역에 광범위한 문화 변화를 가져왔습니다. 책이 더 많은 사람들에게 접근 가능해졌고, 대학 체계가 확장되었으며, 암기의 중요성은 낮아지고 비교 읽기가 집중 읽기를 대체했습니다. 인쇄술은 광고지와 신문 같은 새로운 미디어 형식도 가능하게 했죠. 마찬가지로 하이퍼텍스트와 웹이 결합한 기술은 또 다른 새로운 미디어를 만들어냈습니다.

LLM이 가져올 미디어의 미래

요즘 사람들은 LLM을 써서 텍스트를 이해하고 생성하는 데 아주 흥분해 있습니다. "앞으로는 손으로 직접 쓰던 보고서나 책들이 AI로 만들어질 거야"라고 말하죠. 사람들이 LLM으로 동료에게 이메일을 쓰고, 받은 사람이 LLM으로 그걸 요약하는 세상 말입니다.

음, 이건 비효율적이고 혼란스러우며 인간의 영혼에 해로워 보이기도 합니다. 하지만 이 예측은 너무 가까운 미래만 보고 있다고 생각해요.

인쇄술이 영원히 성경 대량 인쇄 도구로만 남아 있지 않았거든요. 만약 LLM이 정말 발전한다면, 정적인 문서 형식이 정보 전달의 주요 수단이 아닌 미래가 올 수도 있습니다. 대신 ChatGPT 같은 거대한 ML 서비스들을 통해 정보를 "발행"하는 세상 말이죠.

OpenAI가 요리사들한테 돈을 주고 요리하게 하면서 ChatGPT가 그 과정을 계속 설명해주는 세상을 상상해보세요. 이렇게 되면…

🔗 원문 보기 👍 유용해요