원격 LLM 서버 트러블슈팅: Docker vs 호스트 바이너리, 그리고 Nginx 프록시 설정
🔴 문제: qwen3:30b가 채팅에서 500 에러 증상 벤치마크: ✅ 정상 (68.69 tok/s, 1위) 채팅 (Open WebUI): ❌ 500 에러 (모델 로드 실패) 원인 분석 1단계: 원격 서버 접속 및 로그 확인 ...
🔴 문제: qwen3:30b가 채팅에서 500 에러 증상 벤치마크: ✅ 정상 (68.69 tok/s, 1위) 채팅 (Open WebUI): ❌ 500 에러 (모델 로드 실패) 원인 분석 1단계: 원격 서버 접속 및 로그 확인 ...