로컬 LLM의 시대가 왔다 - Ensu 첫 출시를 알리며

대형 기술 기업에만 LLM을 맡길 수는 없습니다. 현재 최첨단 모델과 개인 기기에서 실행되는 모델 사이에는 분명 격차가 있지만, 로컬 모델은 매일 발전하고 있거든요. 어느 순간 그 격차가 충분히 좁혀지면, 대부분의 용도에는 충분할 것입니다. 그리고 무엇보다 완전한 프라이버시와 통제권을 가질 수 있게 됩니다.

이런 생각으로 우리는 Ente의 오프라인 LLM 앱인 Ensu를 개발해왔습니다. 오늘 첫 출시를 알립니다.

[여기서 다운로드하세요](링크)

이 글에서는 우리가 왜 이렇게 생각하는지, 무엇을 하고 있는지, 그리고 당신이 어떻게 함께할 수 있는지 설명하겠습니다.

왜 지금 이 일을 하는가

LLM은 너무 중요해서 대형 기술 기업의 손에만 맡길 수 없습니다. 우리는 이 주제에 대해 [이전에 자세히 글을 썼는데](링크), 요점을 정리하면 두 가지 관점이 있습니다.

LLM을 싫어하는 사람도, 냉철하게 생각해보면 이것은 단순히 무시할 수 없는 기술이라는 걸 인정할 수밖에 없습니다.

LLM과의 상호작용을 즐기는 사람도, 중앙화된 서비스 제공자에 대한 심각한 프라이버시 침해와 의존성(자의적인 차단, 콘텐츠 조정, 옮길 수 없는 기록)을 피할 수 없습니다.

둘 다 명백한 사실이 하나 더 있습니다. LLM은 대규모로 사람들을 조종하는 데 사용될 수 있다는 거죠. 그래서 우리는 대형 기술 기업이 이를 독점하도록 내버둘 수 없는 겁니다.

격차는 있지만, 해결할 수 있다

물론 대형 중앙화 모델과 개인 기기에서 실행되는 소규모 모델 사이의 성능 격차는 실제로 존재합니다. 하지만 우리는 문제 해결을 하는 회사입니다. 이게 처음은 아니거든요.

Ente Photos를 처음 시작했을 때만 해도 사람들은 우리가 얼굴 인식, 사람 그룹화, 자연어 이미지 검색을 모두 기기에서 실행하려는 시도를 미쳤다고 생각했습니다.

하지만 많은 시간이 걸렸어도 우리는 해냈습니다. 지금 우리 사용자들은 매일 이 기능들을 쓰고 있어요. 모든 것이 기기에서만 처리되고, 동시에 모든 기기에 걸쳐 엔드-투-엔드 암호화로 동기화됩니다. 완전한 프라이버시, 완전한 통제, 편의성 손실 없이요. 기술이 사람을 위해 봉사하는 형태입니다.

우리는 로컬 LLM에 대해 오래전부터 무언가 하고 싶었습니다. 이제야 소규모 모델을 소비자 기기에서 실행 가능하게 만들 수 있는 수준에 도달했으니까요. 실제로 해볼 수 있는 단계가 보입니다.

임계값을 넘으면 충분하다

두 번째 가정이 여기서 나옵니다. 소규모 분산 모델이 매일 발전하는 것처럼 대형 중앙화 모델도 발전합니다. 하지만 우리가 주목하는 건 그 격차가 아닙니다. 중요한 건 임계값입니다. 그리고 그 모델의 능력이 어떻게 사용되는가입니다.

소규모 모델이 일정한 임계값을 넘으면, 사람들의 삶에 기쁨과 유용함과 편의함을 충분히 줄 수 있을 것입니다.

Ensu, 첫 번째 체크포인트

오늘 우리가 출시하는 Ensu는 완전히 당신의 기기에서만 작동하는 ChatGPT 같은 앱입니다. 프라이버시는 완벽하고, 비용은 0입니다. 곧 Ente 계정을 연결(또는 직접 호스팅)하면 모든 기기에서 대화를 백업하고 동기화할 수 있게 될 예정이고, 여기에도 엔드-투-엔드 암호화가 적용됩니다.

이건 시작도 끝도 아닙니다. 그저 하나의 체크포인트일 뿐입니다.

Ensu는 현재 Ente Labs 프로젝트입니다. 지금은 제품 방향을 반복하는 데만 집중하고 싶어서 가격 책정이나 안정성 보장은 아직 하지 않겠습니다.

현실적인 기대치를 설정하자면, 지금은 ChatGPT나 Claude Code만큼 강력하지는 않습니다. 하지만 이미 꽤 재미있습니다! 우리가 Ensu로 하고 있는 것들을 몇 가지 들어보면:

• 일반적인 LLM에 올리고 싶지 않은 개인적인 생각들을 깊게 자기성찰하기
• 책 얘기하기 (Ensu는 지금 웹 검색이 없지만, 기타나 성경 같은 고전을 놀랍도록 잘 알고 있습니다)
• 비행기에서 인터넷이 없을 때 막 수다 떨기

오픈소스이고 다양한 플랫폼을 지원합니다

이 앱은 오픈소스이며 iOS, Android, macOS, Linux, Windows에서 사용할 수 있습니다. 실험 단계의 웹 버전도 있고요. 이미지 첨부도 지원합니다.

핵심 로직은 Rust로 작성되었고, 각 플랫폼마다 네이티브(모바일) 또는 Tauri(데스크톱) 앱으로 제공되지만 모두 같은 공유 로직을 사용합니다.

우리는 이미 선택적 E2EE 동기화와 백업을 구현했어서, 기기 간에 대화에 접근할 수 있습니다. 이미 가지고 있는 Ente 계정을 쓰면 되고, Ente Photos처럼 직접 호스팅할 수도 있습니다. 그런데 마지막 순간에 오늘 출시하는 버전에서는 동기화 기능을 활성화하지 않기로 결정했어요. 이건 다음 섹션의 이야기입니다.

앞으로의 방향

우리는 Ensu를 하나의 여정으로 봅니다. 분명한 목적지가 있습니다 - 암호화된 동기화 기능이 있는 개인 LLM 말입니다. 하지만 거기 가는 길은 아직 명확하지 않습니다. 여러 방향이 있거든요:

방향 1: 특화된 인터페이스

일반적인 채팅 대신, 끊임없이 써내려가는 하나의 노트 같은 특화된 형태로 발전시킬 수 있습니다. LLM이 제안, 비판, 알림, 맥락, 대안, 관점, 인용구를 제공하는 식으로요. 일종의 '제2의 뇌'처럼 말이죠.

방향 2: 실용적인 도구

안드로이드 런처처럼 사람들이 이미 익숙한 인터페이스 뒤에 LLM을 구현 세부사항으로 숨길 수도 있습니다.

방향 3: 당신의 에이전트

휴대폰에서 작동하는 당신의 에이전트입니다. 설정도, 관리도, 수동 백업도 필요 없습니다. 당신과 함께 성장하고, 당신을 기억하고, 당신의 선택을 관리하고, 장기 기억을 가진 LLM이죠.