Page cover
For the complete documentation index, see llms.txt. This page is also available as Markdown.

Ubuntu पर इंस्टॉल करना

सर्वर आवश्यकताएँ

सर्वर (या रिग — इस संदर्भ में ये शब्द लगभग समानार्थी हैं) में NVIDIA GPU होने चाहिए, क्योंकि AMD वर्तमान में समर्थित नहीं है। न्यूनतम आवश्यक डिस्क स्थान 32 GB है (सिस्टम पार्टीशन पर कम से कम 30 GB खाली स्थान की सिफारिश की जाती है); विश्वसनीयता के लिए, फ्लैश ड्राइव के बजाय SSD का उपयोग करने की सलाह दी जाती है। कम से कम 8 GB RAM आवश्यक है, लेकिन 16 GB अधिक स्थिरता देगा। CPU के मामले में, सिस्टम 1151 सॉकेट वाले Celeron के साथ काम कर सकता है, लेकिन अधिक कुशल प्रदर्शन के लिए i7-6700 जैसे CPU पर विचार करें।

आगे बढ़ने से पहले, किसी भी ओवरक्लॉकिंग को, जिसमें Power Limit (PL) भी शामिल है, निष्क्रिय करना और GPU को फ़ैक्टरी सेटिंग्स पर रीसेट करना अत्यधिक अनुशंसित है। इसके बाद, उदाहरण के लिए, kawpow एल्गोरिद्म का उपयोग करके GPU की जाँच करके और CPU पर लोड डालकर, सिस्टम की स्थिरता का स्ट्रेस-टेस्ट करें। तापमानों की निगरानी करें और सुनिश्चित करें कि सब कुछ स्थिर रूप से चल रहा है।

यदि सिस्टम स्थिर रूप से काम कर रहा है और तापमान सुरक्षित सीमा के भीतर हैं, तो निर्देशों के अगले चरण पर जाएँ। यदि तापमान बहुत अधिक हैं या त्रुटियाँ आती हैं, तो पहले इन समस्याओं को दूर करें — उदाहरण के लिए, कूलिंग बेहतर करके या समस्या निवारण करके — और आगे बढ़ने से पहले स्थिर संचालन सुनिश्चित करें।

अनुशंसित OS और ड्राइवर

ऑपरेटिंग सिस्टम

  • Ubuntu 22.04 LTS — अनुशंसित, सर्वोत्तम GPU ड्राइवर संगतता

  • Ubuntu 24.04 LTS — समर्थित, लेकिन kernels 6.16+ में पुराने ड्राइवर ब्रांच (R550 और उससे नीचे) के साथ समस्याएँ हो सकती हैं

NVIDIA ड्राइवर

इंस्टॉलर नहीं GPU ड्राइवर इंस्टॉल या अपग्रेड करता — इसे चलाने से पहले एक कार्यशील NVIDIA ड्राइवर इंस्टॉल होना चाहिए (nvidia-smi काम करना चाहिए)।

ब्रांच
संस्करण
CUDA समर्थन
इनके लिए अनुशंसित

R580 (LTSB)

580.126.18

CUDA 12.8 तक

अधिकांश GPU, दीर्घकालिक स्थिरता

R590

590.48.01

CUDA 13.1 तक

RTX 50 सीरीज़, नवीनतम सुविधाएँ

अनुशंसित ड्राइवर इंस्टॉल करें:

या RTX 50 सीरीज़ के लिए:

CUDA Toolkit (ML/AI वर्कलोड के लिए)

ML वर्कलोड चलाने वाले किरायेदार CUDA की अपेक्षा करते हैं। अनुशंसित संस्करण:

CUDA संस्करण
न्यूनतम ड्राइवर
स्थिति

CUDA 12.8

R570+

स्थिर, व्यापक इकोसिस्टम समर्थन

CUDA 13.1

R590+

नवीनतम, RTX 50 सीरीज़ के लिए अनुकूलित

अधिकांश Docker इमेज में अपना स्वयं का CUDA runtime शामिल होता है, इसलिए होस्ट को हमेशा CUDA Toolkit सिस्टम-व्यापी इंस्टॉल करने की आवश्यकता नहीं होती। हालाँकि, संगत ड्राइवर होना आवश्यक है।

सर्वर जोड़ना

सब कुछ एक ही इंस्टॉल कमांड से नियंत्रित होता है, जिसे डैशबोर्ड आपके लिए जनरेट करता है।

1. वेबसाइट पर सर्वर बनाएँ

जाएँ clore.aiपर, रजिस्टर करें या लॉग इन करें, खोलें मेरे सर्वर और क्लिक करें सर्वर जोड़ें. दो रास्ते उपलब्ध हैं:

  • त्वरित — डैशबोर्ड एक तैयार-से-कॉपी कमांड दिखाता है जो होस्टिंग एजेंट इंस्टॉल करता है और एक ही चरण में मशीन को आपके खाते से पंजीकृत करता है। सर्वर स्वतः ही डिफ़ॉल्ट सेटिंग्स (अधिकतम किराया अवधि 300 घंटे, ऑन-डिमांड और स्पॉट के लिए प्रति सर्वर प्रति दिन $5 पर USD ऑटोप्रीसिंग) के साथ My Servers में दिखाई देता है, जिसे आप बाद में डैशबोर्ड से समायोजित कर सकते हैं।

  • उन्नत — पहले आप सर्वर का नाम देते हैं, यह My Servers में इंस्टॉलेशन की प्रतीक्षा में दिखाई देता है, और सर्वर पेज उस पर इंस्टॉल और रजिस्टर करने के लिए कमांड दिखाता है (आपके सर्वर के टोकन के साथ एक संयुक्त one-liner सहित)।

उसी मोडल का मास अनुभाग पूरे फ़्लीट को चालू करने को कवर करता है — देखें Clore Fleet (बल्क ऑनबोर्डिंग).

2. एक इंस्टॉलर चैनल चुनें

जनरेट किए गए कमांड तीन चैनलों में आते हैं:

चैनल
यह क्या है

स्थिर

अनुशंसित — पूरी तरह परीक्षण किए गए रिलीज़, कम बार अपडेट होते हैं

बीटा

स्थिर तक पहुँचने से पहले नवीनतम अपडेट और सुविधाएँ — कम विश्वसनीय हो सकती हैं

लीगेसी

पिछली पीढ़ी का इंस्टॉलर — यदि स्थिर संस्करण आपकी मशीन पर काम न करे तो एक वैकल्पिक विकल्प

प्रत्येक चैनल के लिए कमांड:

स्थिर (अनुशंसित):

बीटा:

लीगेसी:

आप बाद में सर्वर पेज से चल रहे सर्वर को स्थिर और बीटा अपडेट्स के बीच बदल सकते हैं (इसके लिए अद्यतन होस्टिंग एजेंट की आवश्यकता होती है; जब सर्वर किराए पर हो तब यह संभव नहीं है)।

3. रूट के रूप में इंस्टॉल कमांड चलाएँ

फिर डैशबोर्ड से कॉपी किया गया कमांड पेस्ट करें। यदि आपने उन्नत मार्ग का उपयोग किया है, तो एक ही चरण में इंस्टॉल और रजिस्टर करने के लिए सर्वर पेज पर दिखाया गया टोकन कमांड के अंत में जोड़ें:

यदि आपने बिना टोकन के साधारण इंस्टॉल कमांड चलाया है, तो बाद में मशीन को इस कमांड से रजिस्टर करें:

इंस्टॉलर पहले ही अपनी आवश्यकताएँ जाँच लेता है और बताता है कि क्या गायब है। इसे Docker और NVIDIA पैकेज रिपॉज़िटरी, GitHub, GitLab, Docker Hub, और api.clore.ai तक आउटबाउंड पहुँच चाहिए — देखें नेटवर्क आवश्यकताएँ.

4. अंतिम रूप दें

रिग को रीबूट करें, एक क्षण प्रतीक्षा करें, और My Servers पेज को रीफ़्रेश करें। यदि सब कुछ सही ढंग से सेट अप किया गया है, तो सर्वर ऑनलाइन दिखाई देगा।

सभी इंस्टॉल की गई सेवाओं को कैसे निष्क्रिय करें

यदि आपको पहले से इंस्टॉल की गई हर चीज़ को निष्क्रिय करना है:

  1. सेवाओं को निष्क्रिय करें:

  2. सिस्टम को रीबूट करें:

सेवाओं को फिर से कैसे सक्षम करें

सेवाओं को फिर से सक्षम करने के लिए:

  1. सेवाओं को सक्षम करें:

  2. सिस्टम को रीबूट करें:

पहले से इंस्टॉल किए गए टोकन को हटाना

टोकन हटाने के लिए, यह कमांड उपयोग करें:

टोकन वाली फ़ाइल यहाँ स्थित है:

अंतिम अपडेट

क्या यह उपयोगी था?