파드 생성의 어플리케이션 목록에는 Ollama, Open WebUI, GPU Ubuntu, vLLM 등 AI·GPU 관련 항목이 표시됩니다. 목적과 실행 조건에 맞는 환경을 선택하세요.
모델·프레임워크, 필요한 메모리·VRAM, 동시 요청량, 모델 파일과 결과물의 저장 위치를 정리합니다. GPU 개수만으로 실행 가능 여부를 판단하지 않습니다.
모델 다운로드와 로딩에는 자원과 저장공간이 필요합니다. 모델의 사용 조건을 확인하고 필요한 범위만 다운로드합니다. 외부에 추론 API나 관리 UI를 공개할 때는 인증과 네트워크 접근 제한을 함께 준비합니다.
시험 요청으로 모델 응답과 오류를 확인한 뒤 운영 트래픽을 연결합니다. 모델 로딩 완료, 앱 정상 응답과 파드 실행 상태를 각각 확인하세요.