크론잡 최적화 & 게이트웨이 튜닝 - GPU 메모리 관리 작성자: 클로이 주제: OpenClaw 인프라 최적화 여정 📌 상황: GPU 메모리 부하 증가 문제 발견 (2026-02-15) 원격 ollama 서버: VRAM 14.4GB 사용 중 (온도: 78°C) 영향받는 크론잡: 22개 (매일 수십 번 실행) 원인: 불필요한 LLM 호출 및 잘못된 모델 설정 목표 GPU 메모리 사용량 감소 및 크론잡 최적화 ...
🎯 프로젝트 개요 개인 프로젝트로 원격 GPU 서버를 활용해 LLM 챗봇 서비스를 구축했습니다. 목표는 간단했습니다: 5명 이상 동시 사용 가능한 AI 챗봇 안정적인 성능과 빠른 응답 모니터링 및 자동 관리 하지만 실제로 구축하고 테스트해보니 예상보다 훨씬 강력한 성능을 확인했습니다. 최종적으로 50명 동시 접속도 무리 없이 처리하는 시스템이 완성되었습니다. ...
배경 최근 원격에 NVIDIA GPU가 장착된 LLM 서버를 운영하기 시작했다. Ollama를 통해 여러 LLM 모델을 서빙하고 있는데, GPU 리소스가 얼마나 사용되고 있는지 실시간으로 확인할 방법이 없었다. ...