Yalm 100b
के साथ प्रयोग करने के बाद , एक जुनून दिखाई दिया कि मुझे इस व्यवसाय के लिए एक बजट सर्वर इकट्ठा करना चाहिए। मुझे पता नहीं क्यों, बस जो मैंने शुरू किया उसे पूरा करने के लिए। जैसा कि पिछले अनुभव ने दिखाया है, आपको 256GB + RAM के साथ सर्वर मदरबोर्ड की आवश्यकता है। मैंने बाजार का अध्ययन करना शुरू किया, और जैसा कि उन्होंने Habré पर सुझाव दिया, DDR4 बाइट के लिए कीमतें, लेकिन सर्वर के लिए DDR3 किसी भी मात्रा में ढेर हो जाता है। लेकिन मुझे बहुत बजट चाहिए था। इन सबमें से मुझे यह पैकेज सबसे अधिक लाभदायक लगा।जब ऑर्डर किया तो इसकी कीमत लगभग 40k थी। जैसा कि बाद में निकला, यह काफी महंगा था। लेकिन जब मैंने किट में 256जीबी रैम देखी, तो मैंने वास्तव में ज्यादा नहीं सोचा। स्थानीय रैम की कीमतों के बाद। लेकिन डिलीवरी का इंतज़ार करते हुए, मैंने महसूस किया कि यह बहुत महंगा था और विस्तार योग्य नहीं था। इसलिए, जब मैं प्रतीक्षा कर रहा था, मैंने नौ PCIe स्लॉट्स के साथ एक सर्वर मदरबोर्ड का भी आदेश दिया, जो कि Asus Z9PG-D16 / FDR है, जो ASUS ESC4000 G2 ग्राफिक्स स्टेशनों में स्थापित किया गया था। ठीक है, RTX 3090 24gb को ढेर करने के लिए, ताकि 3070ti 8gb पीड़ा न दे। सबसे पहले चीनी चमत्कार जिंशा आया। पूरा सेट, अचानक बिना रैम के। मैंने क्या आदेश दिया। मैंने विक्रेता के लिए एक नकारात्मक समीक्षा छोड़ने के लिए मध्यस्थ को लिखा। लेकिन यह पता चला कि उसने रैम को दूसरे पैकेज में भेजा था। और बस कुछ हफ़्ते मेंस्मृति भी आई। मैंने सब कुछ इकट्ठा करना शुरू कर दिया। और मेरे आश्चर्य की बात क्या थी कि यह काम नहीं किया … सब कुछ चालू हो गया, लेकिन मॉनिटर पर कोई तस्वीर नहीं है। मैंने हर उपलब्ध पीएसयू और वीडियो कार्ड की कोशिश की है। काम नहीं किया। कोई आवाज़ नहीं, कोई त्रुटि नहीं, कुछ नहीं। काम के सभी संकेत, कूलर घूम रहा है, सब कुछ गर्म हो रहा है, डायोड चालू हैं। लेकिन कोई चित्र नहीं है। इंटरनेट का अध्ययन करने के बाद, मुझे पता चला कि संपर्क ऑक्सीकृत हैं और ठीक मेरी तरह ही समस्याओं के संकेत हैं। मैंने कई तरह के इरेज़र खरीदे, शराब का स्टॉक किया। मैंने सभी संपर्कों को मेमोरी और प्रोसेसर दोनों में मिटा दिया। कुछ नहीं। मैंने एक अतिरिक्त मेमोरी बार नया और दो अतिरिक्त E5 2070-v2. कोई सहायता नहीं की। अगला बहुत लंबे समय से प्रतीक्षित सर्वर बोर्ड आया। असली वाला, यह जिंशा नहीं। लेकिन उसके साथ भी एक सूक्ष्मता थी। उसके पास एक मालिकाना कनेक्टर था। सौभाग्य से, विक्रेता ने इसके बारे में पहले ही चेतावनी दे दी थी। नहीं तो यह मदरबोर्ड कपीट होता। आसुस खाना। ऊपर जमीन, नीचे चार 12v लाइनें। ठीक है, संकेतों को नियंत्रित करें।उसने इसे शेल्फ पर खड़ा कर दिया, मरे हुए जिंशा के चारों ओर फिर से नृत्य किया, एक बार आसुस के चारों ओर चला गया … अभिनय करने का फैसला किया। मैंने लगभग 12 वी लाइनों का अध्ययन किया, मैं सिर्फ इन उद्देश्यों के लिए एक महंगा पीएसयू खरीदना चाहता था। लेकिन मैंने अपने पीएसयू को जोखिम में डालने का फैसला किया है। क्योंकि बहुत कुछ कहा गया है कि सभी उपलब्ध नागरिक संस्करणों में अलग-अलग 12 वी लाइनें नहीं हैं और सामान्य तौर पर सब कुछ एक से आता है। तो … आपको जो है उसे दोबारा करने की कोशिश करने की जरूरत है। अपने ब्लॉक को खराब न करने के लिए, मैंने एडॉप्टर की तलाश शुरू की। और बिटकॉइन और खनिकों को धन्यवाद, अब इस तरह की बहुत सी चीजें हैं। कुछ ऐसा मिला
काले तारों को फिर से पिन करना बहुत असुविधाजनक होता है। लेकिन बरसों फंसाने के बादपिस्सूकीड़ों की आंखों को सावधानी बरतने के लिए प्रशिक्षित किया जाता है। मदरबोर्ड के साथ बॉक्स में आप पावर कनेक्टर देख सकते हैं। उसे ले जाओ। नतीजतन, घरेलू पीएसयू से फिर से पिन की गई बिजली की आपूर्ति कुछ इस तरह दिखती है। मैंने पीसीआई / सीपीयू कनेक्टर्स से लापता नकली “लाइनें” 12 वी या ग्राउंड लिया, उन्हें वीडियो कार्ड एडेप्टर के माध्यम से फेंक दिया। नतीजतन, 850W PSU का एक भी पिन क्षतिग्रस्त नहीं हुआ। यह इस तरह दिख रहा था। यह शुरू करने के लिए बहुत गूंगा था। लेकिन आश्चर्यजनक रूप से… इसने काम किया! तब तकनीक की बात थी। मैंने पहले मॉनिटर के साथ फिड किया। अधिक सटीक रूप से, एक वीजीए-एचडीएमआई एडेप्टर, क्योंकि छवि बिना ड्राइवरों के वीडियो कार्ड से शुरू नहीं हुई थी। इसके अलावा, इस तथ्य के साथ कि OS ssd m2 से शुरू नहीं हुआ। ओएस के लिए प्रयुक्त यूएसबी एसएसडी। फिर एम 2 ने खुद को ऊपर खींच लिया और सब कुछ तुरंत काम कर गया, क्योंकि वहां सब कुछ पहले से ही स्थापित और कॉन्फ़िगर किया गया था।इस कॉन्फ़िगरेशन में, दो घंटे के क्षेत्र में एक छोटा टुकड़ा उत्पन्न होता है। तदनुसार, लेख में लगभग एक दिन लगेगा। आप PCIe 4.0 और DDR4 पर स्विच करके ऑप्टिमाइज़ कर सकते हैं। पीढ़ी का समय लगभग आधा कम हो जाएगा। ठीक है, या मदरबोर्ड को 9 आरटीएक्स 3090 तक विस्तारित करें। मेरे पास इस तरह की विस्तार योजना थी। लेकिन उसके बाद ही मैं अपने सभी प्रयोग अलग-अलग सेटिंग्स के साथ करता हूं। और … प्रयोग निराशाजनक थे। बोर्स्ट और सरल विषयों के बारे में धमाके के साथ ग्रंथ उत्पन्न होते हैं। लेकिन निवेश, शेयर बाजार, व्यापार आदि के बारे में, यह पूरी तरह गड़बड़ हो जाता है। या कुछ भी नहीं होता है और केवल एक पंक्ति में संदर्भ के साथ एक वाक्यांश होता है। जो मैंने लगभग एक दिन के लिए उत्पन्न किया :)) यहाँ कुछ और उदाहरण दिए गए हैं:
खरीदे गए उपकरण का उपयोग डेटाबेस और डंप के लिए दास सर्वर के रूप में किया जाएगा। और सबसे महत्वपूर्ण बात यह है कि 3090 एक्सचेंज डेटा के शोध और प्रसंस्करण में काम आएगा। शायद हम यालम 100 बी के साथ फिर से मिलेंगे, लेकिन केवल तभी जब एआई के साथ सफलताएं हों और वीडियो कार्ड के बेड़े का विस्तार हो। पीएस मेमोरी से 3090 के लिए एक बजट प्रतिस्थापन टेस्ला एम40 24 जीबी हो सकता है। लेकिन यह तीन गुना कमजोर है, जबकि समान मेमोरी बस आकार और बिजली की खपत के साथ। और फिर इसे बेचना मुश्किल हो जाता है। तो यह विकल्प भी नहीं है. ध्यान देने के लिए आपका धन्यवाद!
Отличная статья, не у всех вообще такая возможность сейчас найдется затестить. Спасибо за труды!
На хабре в комментах к оф статье от яндекса, разбирали ребята всякие особенности работы, запуска.
На самом деле возможность держать такого зверя в оффлайне и быть не зависимым от предоставления подобных услуг генерации ИИ, это настоящая свобода от цензуры и корпоративных ограничений накладываемых на системы подобные, которые могут не пропускать самые интересные и ценные результаты гипотетически.
Конечно для тестирования полноценного и отладки работы нужна скорость для мгновенной генерации..
В любом случае впечатляющая статья!
Отличная статья, не у всех вообще такая возможность сейчас найдется затестить. Спасибо за труды!
На хабре в комментах к оф статье от яндекса, разбирали ребята всякие особенности работы, запуска.
На самом деле возможность держать такого зверя в оффлайне и быть не зависимым от предоставления подобных услуг генерации ИИ, это настоящая свобода от цензуры и корпоративных ограничений накладываемых на системы подобные, которые могут не пропускать самые интересные и ценные результаты гипотетически.
Конечно для тестирования полноценного и отладки работы нужна скорость для мгновенной генерации..
В любом случае впечатляющая работа!