개발자가 집에서 vLLM으로 제공하는 로컬 모델을 Tailscale의 사설 네트워크에 연결해 휴대전화 RikkaHub와 노트북 Pi에서 사용하는 구성을 소개했다. 서브넷 라우팅을 이용하면 집과 외부에서 같은 내부 주소를 유지할 수 있고 모델 API를 인터넷 전체에 노출하지 않아도 된다. 해외에서는 첫 응답 지연이 늘었으며 서버 전력 소비와 Android의 단일 VPN 연결 제한도 있었다. API 인증을 생략한 개인 사례를 공개 서버에 그대로 적용하지 말고 네트워크 접근 권한을 함께 관리해야 한다.
Tech로 돌아가기
Tech
Tailscale 사용기, 로컬 LLM을 외부에서도 같은 API로
공개 포트 없이 접근 범위를 제한할 수 있으나 상시 가동 비용과 네트워크 지연은 남습니다.