AI 비서를 직접 만드는 게 트렌드가 됐다. 나는 어디서 멈췄나

이번 달 깃허브 트렌딩을 보다가 비슷한 결의 프로젝트들이 연달아 눈에 들어왔습니다. 공통점은 하나였습니다. "클라우드 서버에 안 올리고, 항상 켜져 있고, 내가 필요한 스킬을 직접 붙인다." 'personal AI OS', 'self-hosted assistant'라는 이름으로 묶이는 것들이었습니다.

그중에 Lilo(github.com/abi/lilo)라는 프로젝트가 있었습니다. 올해 4월에 올라온 self-hosted 개인 OS 성격의 것으로, Hacker News에도 잠깐 소개됐습니다. vellum.ai가 올해 정리한 오픈소스 개인 AI 비서 목록이나, 아예 "AI 에이전트 운영체제"를 표방하는 AIOS(github.com/agiresearch/AIOS)까지 보면, 단발성이 아니라 하나의 흐름이 되고 있다는 느낌이 들었습니다.

이 흐름의 공통점

이 프로젝트들이 공통으로 강조하는 것을 정리하면 세 가지입니다.

데이터를 내 기기에만 둡니다. ChatGPT나 Notion AI 같은 서비스는 입력한 내용이 어딘가 서버로 갑니다. 이 흐름의 프로젝트들은 그걸 거부합니다. 로컬에서 도는 모델을 쓰거나, 직접 연결한 API를 씁니다.

항상 켜져 있습니다. 배경에서 계속 돌면서 캘린더를 보고 파일을 확인하고 알림을 처리합니다.

스킬을 직접 붙입니다. MCP(Model Context Protocol)라는 연결 표준이 최근 꽤 빠르게 퍼졌습니다. 덕분에 내가 자주 쓰는 도구를 AI 비서에 연결하는 게 예전보다 훨씬 쉬워졌습니다.

sitepoint는 이 흐름을 "새로운 OS 패러다임"이라고 부르기도 했습니다. 운영체제가 앱과 하드웨어 사이를 중개하듯, 개인 AI 비서가 내 도구들 사이를 중개하는 역할로 진화한다는 겁니다.

왜 솔깃하고, 어디서 멈췄나

솔깃한 이유는 이해됩니다.

범용 SaaS 여러 개를 끼워 맞추다 보면, 어느 순간 내 업무 방식이 각 서비스의 논리에 맞춰져 있습니다. 노션에서 관리하고, 슬랙에서 확인하고, 캘린더에서 보고. "내가 반복하는 일들을 정확히 알고 거기에 맞게 직접 만든다"는 발상은 꽤 합리적입니다.

단, 24시간 자율 실행은 다른 문제입니다.

AI가 내 이름으로 어딘가에 접근하거나, 파일을 옮기거나, 메일을 보낼 때, 항상 따라오는 질문이 있습니다. "이게 잘못 작동하면 어떻게 되지?" 내가 쓰는 도구라면 내가 수습합니다. 그 비용은 제가 집니다. 이건 감내할 수 있는 범위입니다.

그런데 권한이 커질수록, 항상 켜져 있을수록, 뭔가 잘못됐을 때 알아채기가 어렵습니다. 이 프로젝트들 중 일부를 보면 "어디까지 권한을 줄지, 어떤 작업은 사람이 확인하게 할지"에 대한 논의가 아직 진행 중인 것도 있었습니다.

어디까지를 충분히 안전하다고 볼 수 있는지, 저는 아직 기준을 못 잡겠습니다.

 

직접 구축한 개인비서 Tauri 앱 Goyo (여러 자율 에이전트가 동작)

내 경우

저는 운영을 위한 개인 도구를 따로 씁니다. vibebuilder.kr 같은 제품과는 분리된 것입니다.

왜 섞지 않는지는 vibebuilder.kr에 자동 알림 기능을 붙이다가 멈춘 적이 있는데, 거기서 정리가 됐습니다. 공고 마감 며칠 전에 알림을 보내는 기능이었고, 기술적으로는 어렵지 않았습니다. 그런데 잘못된 공고 정보가 발송됐을 때를 생각하니 계속 손이 가지 않았습니다. 서비스에 로그인한 분들은 뭔가를 믿고 들어오는 거라, 거기서 뭔가 잘못되면 저만의 문제가 아닙니다.

개인 도구는 과감하게 자동화할 수 있습니다. 그런데 서비스로 내놓으면 훨씬 보수적으로 가야 합니다. 1인 창업가 입장에서 이게 조금 답답하기도 합니다. 내가 쓸 때 가장 편한 방식을 서비스에 그대로 쓸 수 없으니까요.

---

지금 vibebuilder.kr 베타를 운영하고 있습니다. 예비·초기 창업자가 정부지원사업 공고를 놓치지 않게 "오늘 봐야 할 것"만 추려주는 서비스입니다. 무료 베타이고, 입력하신 정보는 AI 학습에 쓰거나 외부로 넘기지 않습니다.

서비스에 자동화 기능을 붙일 때 어디서 선을 그으셨나요? 사용자 대신 뭔가를 처리하는 기능을 만들 때, 어디까지는 자동으로 두고 어디서는 사람 확인을 두셨는지 궁금합니다. 같은 고민을 해보신 분 있으면 댓글로 알려주시면 좋겠습니다.