उपलब्ध Docker इमेजेज़

Clore.ai पर GPU सर्वर किराए पर लेते समय, आप पूर्व-निर्धारित Docker इमेज में से चुन सकते हैं या अपनी खुद की उपयोग कर सकते हैं।

पूर्व-इंस्टॉल्ड इमेज

सामान्य प्रयोजन

इमेज	विवरण	शामिल
Ubuntu Jupyter	Jupyter नोटबुक के साथ साफ़ Ubuntu	Python, CUDA, Jupyter
PyTorch	डीप लर्निंग के लिए तैयार	PyTorch, CUDA, cuDNN
TensorFlow	Google का ML फ्रेमवर्क	TensorFlow, CUDA, Keras

AI/ML विशिष्ट

इमेज	विवरण	उपयोग का केस
Stable Diffusion WebUI	AUTOMATIC1111 WebUI	छवि जनरेट करना
ComfyUI	नोड-आधारित SD इंटरफेस	उन्नत छवि वर्कफ़्लो
Text Generation WebUI	Oobabooga का इंटरफेस	LLM इन्फरेंस
Ollama	लोकल रूप से LLM चलाएँ	LLM तैनाती
vLLM	उच्च-प्रदर्शन LLM सर्विंग	प्रोडक्शन LLM

माइनिंग

इमेज	विवरण
Clore माइनिंग	माइनिंग के लिए पूर्व-कॉन्फ़िगरड
HiveOS संगत	HiveOS इंटीग्रेशन के लिए

इमेज चुनना

1. पर जाएँ मार्केटप्लेस

2. एक सर्वर खोजें

3. क्लिक करें किराए पर लें

4. ऑर्डर फॉर्म में, चुनें Docker इमेज ड्रॉपडाउन से

5. यदि आवश्यक हो तो पोर्ट कॉन्फ़िगर करें

6. ऑर्डर सबमिट करें

कस्टम Docker इमेज का उपयोग

आप Docker Hub या अन्य रजिस्ट्रीज़ से कोई भी सार्वजनिक Docker इमेज निर्दिष्ट कर सकते हैं।

फ़ॉर्मैट

registry/image:tag

उदाहरण

pytorch/pytorch:2.1.0-cuda12.1-cudnn8-runtime
nvidia/cuda:12.2.0-base-ubuntu22.04
huggingface/transformers-pytorch-gpu:latest

कस्टम इमेज के लिए आवश्यकताएँ

• सार्वजनिक रूप से पहुँच योग्य होना चाहिए (या ऑथ का उपयोग करें)

• NVIDIA GPU के अनुकूल होना चाहिए

• GPU एक्सेस के लिए CUDA-सक्षम इमेज पर आधारित होना चाहिए

पोर्ट कॉन्फ़िगरेशन

ऑर्डर बनाते समय, आप अपनी एप्लिकेशन के लिए पोर्ट एक्सपोज़ कर सकते हैं:

पोर्ट	सामान्य उपयोग
22	SSH (आम तौर पर पूर्व-कॉन्फ़िगरड)
8888	Jupyter नोटबुक
7860	Gradio ऐप्स (SD WebUI, इत्यादि)
3000	वेब अनुप्रयोग
8080	HTTP सेवाएं

कस्टम पोर्ट सेट करना

ऑर्डर फॉर्म में, एक्सपोज़ करने के लिए पोर्ट निर्दिष्ट करें:

8888,7860,3000

परिवेश वेरिएबल्स

आप अपने कंटेनर को परिवेश वेरिएबल्स पास कर सकते हैं:

HF_TOKEN=your_token
MODEL_NAME=llama-7b

स्थायी स्टोरेज

• डाटा /workspace किराए के दौरान आमतौर पर स्थायी रहता है

• अन्य निर्देशिकाएँ कंटेनर रिस्टार्ट पर रीसेट हो सकती हैं

• महत्वपूर्ण डेटा हमेशा बाहरी रूप से बैकअप करें

सर्वश्रेष्ठ प्रथाएँ

1. उपयुक्त इमेज चुनें - संभव हो तो पूर्व-कॉन्फ़िगरड इमेज का उपयोग करें

2. CUDA संस्करण जाँचें - सुनिश्चित करें कि यह आपके वर्कलोड के साथ संगत है

3. केवल आवश्यक पोर्ट एक्सपोज़ करें - सुरक्षा के लिए

4. परिवेश वेरिएबल्स का उपयोग करें - कॉन्फ़िगरेशन के लिए, न कि गुप्त जानकारी के लिए

5. पहले लोकल पर परीक्षण करें - किराए पर लेने से पहले पुष्टि करें कि आपकी कस्टम इमेज काम करती है

समस्या निवारण

इमेज शुरू नहीं हो रही

• जाँच करें कि इमेज मौजूद है और सार्वजनिक है

• CUDA/GPU संगतता सत्यापित करें

• SSH के माध्यम से कंटेनर लॉग देखें

कंटेनर में GPU पहुँच नहीं है

• सुनिश्चित करें कि इमेज NVIDIA-अनुकूल है

• NVIDIA ड्राइवरों की जांच करें: nvidia-smi

• CUDA इंस्टॉलेशन सत्यापित करें: nvcc --version

एक्सपोज़ किए गए पोर्ट तक पहुँच नहीं हो रही

• कंटेनर के पूरी तरह से शुरू होने का इंतज़ार करें

• जाँच करें कि कंटेनर के अंदर सेवा चल रही है या नहीं

• फ़ायरवॉल/सुरक्षा सेटिंग्स सत्यापित करें