उपलब्ध Docker इमेजेज

Clore.ai पर GPU सर्वर किराये पर लेते समय, आप प्री-कॉन्फ़िगर किए गए Docker इमेजों में से चुन सकते हैं या अपनी खुद की उपयोग कर सकते हैं।

पूर्व-स्थापित इमेज

सामान्य प्रयोजन

इमेज	विवरण	शामिल
Ubuntu Jupyter	Jupyter Notebook के साथ साफ़ Ubuntu	Python, CUDA, Jupyter
PyTorch	डीप लर्निंग के लिए तैयार	PyTorch, CUDA, cuDNN
TensorFlow	Google का ML फ्रेमवर्क	TensorFlow, CUDA, Keras

AI/ML विशिष्ट

इमेज	विवरण	उपयोग का मामला
Stable Diffusion WebUI	AUTOMATIC1111 WebUI	इमेज जनरेशन
ComfyUI	नोड-आधारित SD इंटरफ़ेस	उन्नत इमेज वर्कफ्लो
टेक्स्ट जेनरेशन WebUI	Oobabooga का इंटरफ़ेस	LLM इंफरेंस
Ollama	स्थानीय रूप से LLM चलाएँ	LLM डिप्लॉयमेंट
vLLM	उच्च-प्रदर्शन LLM सेवा	प्रोडक्शन LLM

माइनिंग

इमेज	विवरण
Clore माइनिंग	माइनिंग के लिए प्री-कॉन्फ़िगर किया गया
HiveOS अनुकूल	HiveOS एकीकरण के लिए

एक इमेज चुनना

1. पर जाएं मार्केटप्लेस

2. एक सर्वर खोजें

3. क्लिक करें किराये पर लें

4. ऑर्डर फॉर्म में, चुनें Docker इमेज ड्रॉपडाउन से

5. आवश्यक होने पर पोर्ट कॉन्फ़िगर करें

6. ऑर्डर सबमिट करें

कस्टम Docker इमेजों का उपयोग

आप Docker Hub या अन्य रजिस्ट्री से कोई भी सार्वजनिक Docker इमेज निर्दिष्ट कर सकते हैं।

फ़ॉर्मेट

registry/image:tag

उदाहरण

pytorch/pytorch:2.1.0-cuda12.1-cudnn8-runtime
nvidia/cuda:12.2.0-base-ubuntu22.04
huggingface/transformers-pytorch-gpu:latest

कस्टम इमेज के लिए आवश्यकताएँ

• सार्वजनिक रूप से पहुँच योग्य होना चाहिए (या auth का उपयोग करें)

• NVIDIA GPU अनुकूल होना चाहिए

• GPU एक्सेस के लिए CUDA-सक्षम इमेजों पर आधारित होना चाहिए

पोर्ट कॉन्फ़िगरेशन

ऑर्डर बनाते समय, आप अपनी एप्लिकेशन के लिए पोर्ट्स एक्सपोज़ कर सकते हैं:

पोर्ट	सामान्य उपयोग
22	SSH (आम तौर पर पहले से कॉन्फ़िगर किया गया)
8888	Jupyter Notebook
7860	Gradio ऐप्स (SD WebUI आदि)
3000	वेब अनुप्रयोग
8080	HTTP सेवाएँ

कस्टम पोर्ट सेट करना

ऑर्डर फॉर्म में, एक्सपोज़ करने के लिए पोर्ट निर्दिष्ट करें:

8888,7860,3000

पर्यावरण वेरिएबल

आप अपने कंटेनर में पर्यावरण वेरिएबल पास कर सकते हैं:

HF_TOKEN=your_token
MODEL_NAME=llama-7b

स्थायी भंडारण

• डेटा /workspace किराये के दौरान आमतौर पर स्थायी होता है

• अन्य डायरेक्टरी कंटेनर रिस्टार्ट पर रीसेट हो सकती हैं

• महत्वपूर्ण डेटा हमेशा बाहरी रूप से बैकअप रखें

सर्वोत्तम प्रथाएँ

1. उपयुक्त इमेज चुनें - संभव हो तो प्री-कॉन्फ़िगर किए गए इमेज का उपयोग करें

2. CUDA संस्करण जांचें - सुनिश्चित करें कि यह आपके वर्कलोड के साथ संगत है

3. केवल आवश्यक पोर्ट्स एक्सपोज़ करें - सुरक्षा के लिए

4. पर्यावरण वेरिएबल का उपयोग करें - कॉन्फ़िगरेशन के लिए, राज़ न रखें

5. पहले स्थानीय रूप से परीक्षण करें - किराये पर लेने से पहले सत्यापित करें कि आपकी कस्टम इमेज काम करती है

समस्या निवारण

इमेज स्टार्ट नहीं हो रही

• जाँचें कि इमेज मौजूद है और सार्वजनिक है

• CUDA/GPU संगतता सत्यापित करें

• SSH के माध्यम से कंटेनर लॉग्स जाँचें

कंटेनर में GPU सुलभ नहीं है

• सुनिश्चित करें कि इमेज NVIDIA- अनुकूल है

• NVIDIA ड्राइवर्स जांचें: nvidia-smi

• CUDA इंस्टॉलेशन सत्यापित करें: nvcc --version

एक्सपोज़ किए गए पोर्ट्स तक पहुँच नहीं हो रही

• कंटेनर के पूरी तरह से स्टार्ट होने का इंतज़ार करें

• जाँचें कि क्या सर्विस कंटेनर के अंदर चल रही है

• फ़ायरवॉल/सुरक्षा सेटिंग्स सत्यापित करें