회사 AI 서버를 내 자리에서 쓰는 법 — 섀도우 AI가 되지 않으면서

앞선 글에서 저희는 사내 추론 서버를 갖춘 회사에서 섀도우 AI가 생기는 건 의지의 문제가 아니라 통로의 문제라고 썼습니다. 엔드포인트는 있는데, 그걸 개인이 체감하지 못한다는 것이었죠. 이 글은 그 실무편입니다. 평범한 Windows 데스크톱에서 일하는 한 사람이 Filer를 그 엔드포인트에 연결하는 방법, 연결이 무엇을 밖으로 보내고 무엇을 보내지 않는지, 그리고 연결이 끝나면 어떤 일상 업무가 더 이상 외부 채팅 탭을 필요로 하지 않게 되는지를 다룹니다.

왜 아직도 외부 탭이 이기는가

업무 자료를 외부 채팅 앱에 붙여넣는 사람에게 왜 사내 서버를 쓰지 않느냐고 물으면 "성능이 나빠서"라는 답은 거의 나오지 않습니다. 사내 서버는 주소일 뿐이고, 주소는 도구가 아니기 때문입니다. 그 주소를 쓰려면 내 파일이 어디 있는지 이미 알고, 반복 업무를 기억하고, 서버의 프로토콜을 말할 줄 아는 무언가가 내 컴퓨터에 있어야 합니다. 그다음엔 이미 열려 있는 탭 대신 그 무언가를 여는 습관까지 만들어야 하죠. 대부분은 첫 단계에서 멈추고, 승인된 인프라는 놀고, 같은 업무는 보이지 않는 곳에서 계속 처리됩니다.

해법은 또 하나의 포털이 아닙니다. 연결을 업무가 이미 있는 자리, 즉 폴더에 두는 것입니다.

"Filer를 엔드포인트에 연결한다"는 말의 뜻

Filer는 파일 탐색기입니다. 그 안의 모든 폴더는 자기만의 AI 에이전트를 가질 수 있고, Filer 안의 우클릭 액션·채팅 패널·검색은 전부 하나의 설정된 모델 소스와 통신합니다. 이 소스는 앱 전체에서 한 번 정하는 설정으로, 로컬 모델이거나 클라우드 API 키이거나 OpenAI-compatible 엔드포인트의 주소입니다. GPUStack·Ollama·vLLM, 혹은 그 앞단의 사내 게이트웨이로 구축한 회사 추론 서버는 모두 정확히 이 형태를 노출하므로, Filer는 클라우드 API에 붙는 것과 같은 방식으로 붙습니다. 기본 URL 하나, 필요하면 키 하나, 그리고 모델 이름입니다.

그러니 "Filer를 엔드포인트에 연결한다"는 것은 사람마다 자기 컴퓨터에서 한 번 하는 일입니다. 그 뒤로 에이전트를 붙이는 모든 폴더가 그 설정을 물려받습니다. 폴더마다 서버를 지정할 일도, IT가 운영할 중앙 콘솔도 없습니다. IT에게 받아야 할 것은 주소 하나뿐입니다(도입 시 실제로 필요한 것이 얼마나 적은지는 팀 페이지에 정리돼 있습니다).

설정: 화면 하나

1. Settings → AI를 엽니다. 채팅 모델 섹션에 사용 가능한 소스가 타일로 보이는데, 그중 OpenAI Compatible을 고릅니다.
2. Endpoint — IT가 알려준 게이트웨이의 OpenAI-compatible 기본 URL, 보통 /v1로 끝나는 주소를 붙여넣습니다. 서버에 대해 Filer가 알아야 할 건 이것뿐입니다.
3. API Key — 게이트웨이가 요구할 때만 넣습니다. 사내 서버는 키가 없는 경우가 많고, 그러면 비워 둡니다.
4. Model — 서버가 서빙하는 모델 이름입니다. 모르면 게이트웨이 운영자가 알고 있고, 사내의 다른 클라이언트가 쓰는 문자열과 같습니다.
5. AI Search(기억시킨 문서를 대상으로 하는 Filer의 검색)도 로컬이 아니라 회사 서버에서 임베딩하게 하고 싶다면, 바로 아래 임베딩 섹션에 같은 엔드포인트와 키를 넣습니다. 아니라면 로컬 모델로 두면 됩니다. 임베딩은 내 컴퓨터를 떠날 필요가 전혀 없습니다.

설정은 이게 전부입니다. 아무 폴더에서 채팅 패널을 열고 그 폴더의 파일에 대해 물어보세요. 답은 회사 서버에서 오고, Settings의 연결 상태에 엔드포인트가 응답 중인 것이 표시됩니다.

경계 안에 남는 것

엔드포인트를 사내 주소로 설정하면 Filer가 하는 모든 모델 호출 — 우클릭 요약, 채팅 한 턴, 폴더 에이전트의 예약 실행 — 은 그 주소로만 갑니다. 파일과 그 내용은 사내망을 통해 회사 서버를 오갈 뿐, Filer AI나 제3자에게 전송되지 않습니다. 에이전트가 일하는 경계는 File Explorer에서 이미 보이는 그 경계 그대로입니다. 폴더에 붙은 에이전트는 그 폴더를 읽고 그 폴더 안에서 행동하며, 묻지 않고 어디까지 해도 되는지는 폴더의 신뢰 등급이 정합니다.

솔직한 각주 두 가지를 덧붙입니다. 둘 다 팀 페이지에 이미 적혀 있는 내용입니다. 첫째, Filer 자체는 제한된 진단 텔레메트리 — 크래시와 사용 신호뿐, 파일 이름이나 내용은 절대 아님 — 를 보냅니다. 초기 단계의 제품을 안정화하기 위한 것으로 이용약관에 고지돼 있고, 사용 데이터 전송은 Settings → General에서 끌 수 있습니다. 둘째, "사내망 안"은 붙여넣은 엔드포인트만큼만 참입니다. 자기 키로 공개 클라우드 API를 가리키면 같은 호출이 그 제공자에게 갑니다. 설정이 곧 경계이고, Filer가 뒤에서 두 번째 경계를 몰래 덧붙이지는 않습니다.

탭이 필요 없어지는 업무 세 가지

아래는 지금 사람들이 외부 채팅 앱에 텍스트를 복사해 넣으며 처리하는 일들입니다. 엔드포인트가 설정되면 각각은 회사 서버 위에서 스스로 그 일을 하는 폴더가 됩니다.

• 주간 폴더 보고서. 벤더 업데이트·티켓·회의 메모가 쌓이는 폴더에 스케줄이 달린 에이전트를 붙입니다. 매주 월요일, 도착한 것을 읽고 요약을 폴더에 씁니다. 아무도 어디에도 붙여넣지 않습니다. 실제 지시문과 산출물은 scheduled-report 유스케이스에 있습니다.
• 과거 작업으로 초안 쓰기. 지난 분기 제안서 폴더에서 채팅을 열고 다음 제안서의 초안을 요청합니다. 과거 문서가 곧 컨텍스트이고, 사내망을 떠나지 않습니다. similar-draft 유스케이스가 이 구조입니다.
• 문서 변경 감시. 공유 폴더의 정책 파일이 바뀌면 알아채고 무엇이 달라졌는지 정리해 주는 에이전트 — 예전에는 두 버전을 채팅창에 붙여넣어야 했던 "뭐가 바뀐 건지만 알려줘"라는 질문입니다. doc-diff-notify 유스케이스를 참고하세요.

필요한 것

• Filer가 설치된 Windows PC — 한 사람, 한 대, 중앙 배포 없음
• 회사가 이미 운영 중인 OpenAI-compatible 엔드포인트의 기본 URL(GPUStack·Ollama·vLLM, 혹은 그 앞단의 게이트웨이)
• Settings → AI에서의 5분, 그리고 반복 업무가 이미 놓여 있는 폴더

폴더 에이전트가 실제로 하는 일 보기 · 블로그 글 더 보기