Zbudowałem budżetowy serwer do uruchamiania Yalm 100b w domu.

Po eksperymentach z yalm 100b pojawiła się obsesja, że ​​powinienem złożyć budżetowy serwer dla tego biznesu. Nie wiem po co, żeby dokończyć to, co zacząłem. Jak pokazało poprzednie doświadczenie, potrzebujesz serwerowej płyty głównej z 256 GB + RAM. Zacząłem badać rynek i jak zasugerowali na Habré, ceny za ugryzienie DDR4, ale za serwerowe DDR3 są ogromne w dowolnej ilości. Ale potrzebowałem bardzo budżetu. Z tego wszystkiego ten pakiet wydał mi się najbardziej opłacalny.Po zamówieniu kosztował około 40 tys. Jak się później okazało, było to dość drogie. Ale kiedy zobaczyłem 256 GB pamięci RAM w zestawie, nie myślałem zbyt wiele. Po lokalnych cenach pamięci RAM. Ale czekając na dostawę, zdałem sobie sprawę, że jest to zbyt drogie i nierozszerzalne. Dlatego w oczekiwaniu zamówiłem również serwerową płytę główną z dziewięcioma slotami PCIe, czyli Asus Z9PG-D16/FDR, który montowany był w stacjach graficznych ASUS ESC4000 G2.   No to RTX 3090 24gb do kupy, żeby 3070ti 8gb nie męczyło. Jako pierwszy pojawił się chiński cud jingsha. Pełen zestaw, nagle bez RAMu. Za co zamówiłem. Napisałem do pośrednika, aby wystawił negatywną opinię sprzedawcy. Okazało się jednak, że przysłał RAM w innej przesyłce. I to już za kilka tygodniprzyszła też pamięć. Zacząłem zbierać wszystko. I jakie było moje zdziwienie, że nie zadziałało… wszystko się włącza, ale na monitorze nie ma obrazu. Próbowałem wszystkich dostępnych zasilaczy i kart graficznych. nie zadziałało. Żadnych dźwięków, żadnych błędów, nic. Wszystkie oznaki pracy, chłodnica się kręci, wszystko się grzeje, diody świecą. Ale nie ma obrazu. Po przestudiowaniu Internetu dowiedziałem się, że styki są utlenione i dokładnie takie same oznaki problemów jak moje. Kupiłem kilka rodzajów gumek, zaopatrzyłem się w alkohol. Wyczyściłem wszystkie kontakty zarówno w pamięci jak i na procesorach. Nic. Kupiłem nawet dodatkowy pasek pamięci nowy i dwa zapasowe E5 2070-v2. Nie pomogło. Następnie przyszła bardzo długo wyczekiwana płyta serwerowa. Prawdziwy, nie ten jingsha. Ale z nią też był niuans. Miała własne złącze. Na szczęście sprzedawca uprzedził o tym wcześniej. W przeciwnym razie ta płyta główna byłaby Kapeetami. Jedzenie Asusa. Masa powyżej, cztery linie 12 V poniżej. Cóż, sygnały sterujące.Postawił go na półce, znów zatańczył wokół martwego jingsha, jeszcze raz obszedł asusa… postanowił działać. Studiowałem o liniach 12 V, chciałem kupić drogi zasilacz tylko do tych celów. Ale zdecydowałem się zaryzykować mój zasilacz, na wszelki wypadek. Bo dużo mówiło, że wszystkie dostępne wersje cywilne nie mają różnych linii 12v i generalnie wszystko pochodzi z jednej. Więc … musisz spróbować repinować, co jest. Aby nie zepsuć mojego bloku, zacząłem szukać adaptera. I dzięki bitcoinowi i górnikom, teraz jest dużo takich rzeczy. Znalazłem coś takiego

Przepinanie czarnych przewodów jest bardzo niewygodne. Ale po latach uwięzienia
pchłyOczy owadów są szkolone w uważności. W pudełku z płytą główną widać złącze zasilania. Zabrałem go. W rezultacie ponownie wpięty zasilacz z domowego zasilacza wygląda mniej więcej tak. Wziąłem brakujące fałszywe „linie” 12v lub masę ze złączy PCI / CPU, wrzucając je przez adapter karty graficznej. W efekcie ani jeden pin zasilacza 850W nie został uszkodzony. Wyglądało to tak. Początek był bardzo głupi. Ale o dziwo… udało się! Potem była kwestia technologii. Najpierw zabrałem się za monitor. Dokładniej, adapter vga-hdmi, ponieważ obraz nie zaczął się od karty graficznej bez sterowników. Ponadto, z faktem, że system operacyjny nie zaczął się od ssd m2. Używany dysk ssd usb do systemu operacyjnego. Potem m2 podciągnął się i wszystko działało od razu, ponieważ wszystko było już tam preinstalowane i skonfigurowane.W tej konfiguracji mały fragment jest generowany w ciągu dwóch godzin. W związku z tym artykuł zajmie około jednego dnia. Możesz zoptymalizować, przechodząc na PCIe 4.0 i DDR4. Czas generowania zostanie skrócony o około połowę. No albo rozbudować płytę główną do 9 rtx 3090. Właśnie miałem taki plan rozbudowy. Ale dopiero po spędzeniu wszystkich moich eksperymentów z różnymi ustawieniami. I… eksperymenty były rozczarowujące. O barszczu i prostych tematach generuje teksty z przytupem. Ale jeśli chodzi o inwestycje, giełdę, handel itp., okazuje się to kompletnym bałaganem. Lub w ogóle nic się nie dzieje i tylko fraza z kontekstem z rzędu. Które generowałem przez około jeden dzień :)) Oto kilka innych przykładów:  

Zakupiony sprzęt będzie służył jako serwer podrzędny dla baz danych i zrzutów. A co najważniejsze, 3090 posłuży do wyszukiwania i przetwarzania danych giełdowych. Być może spotkamy się ponownie z yalmem 100b, ale tylko wtedy, gdy pojawią się sukcesy z AI i powiększy się flota kart graficznych. ps Budżetowym zamiennikiem dla 3090 z pamięci może być tesla m40 24gb. Ale jest trzy razy słabszy, przy tej samej wielkości magistrali pamięci i poborze mocy. A potem trudniej sprzedać. Więc ta opcja też nie jest. Dziękuję za uwagę!