Собрал бюджетный сервер для запуска yalm 100b в домашних условиях.

Программирование

После экспериментов с yalm 100b появилась навязчивая идея, что я должен собрать под это дело бюджетный сервер. Не знаю зачем, просто чтобы довести начатое дело до конца.

Как показал предыдущий опыт, нужна серверная материнская плата на 256gb+ ОЗУ. Начал изучать рынок, и как подсказали на хабре, на DDR4 цены кусались, а вот серверной DDR3 завались в любых объёмах.

Но мне нужно было очень бюджетно. Из всего чего было вот этот пакет мне показался самым выгодным.

Собрал бюджетный сервер для запуска yalm 100b в домашних условиях.

Когда заказывал он стоил порядка 40к. Как выяснилось позднее это было довольно дорого. Но когда я увидел 256gb озу в комплекте, то особо думать не стал. После местных цен на ОЗУ.

Но в ходе ожидания доставки понял, что это слишком дорого и не расширяемо.

Поэтому пока ждал заказал ещё и серверную материнскую плату с девятью слотами PCIe, которая Asus Z9PG-D16/FDR, которая ставилась в графические станции ASUS ESC4000 G2.

Собрал бюджетный сервер для запуска yalm 100b в домашних условиях.

 

Ну и RTX 3090 24gb до кучи, чтобы 3070ti 8gb не мучать.

Собрал бюджетный сервер для запуска yalm 100b в домашних условиях.

Первым пришло китайской чудо jingsha. Полным комплектом, внезапно без ОЗУ. То, ради чего заказывал.

Написал посреднику, чтобы негативный отзыв продавану оставили. А оказалось, что он ОЗУ отправил другой посылкой. И буквально через пару недель память тоже пришла.

Стал всё собирать. И каково же было моё удивление, что оно не работало… всё включается, но картинки на мониторе нет. Я испробовал все доступные БП и видеокарты. Не работало. Ни звуков, ни ошибок, ничего. Все признаки работы, кулера крутятся, всё греется, диоды горят. Но картинки нет.

После изучения интернетов выяснил, что бывает окисливаются контакты и ровно точно такие признаки проблем, как у меня. Купил несколько типов ластиков, запасся спиртом. Протёр все контакты и на памяти, и на процах. Ничего.

Даже купил дополнительную планку памяти новую и два запасных E5 2070-v2. Не помогло.

Далее пришла та самая долгожданная серверная плата. Настоящая, а не вот это вот jingsha. Но с ней тоже был нюанс. У неё был проприетарный разъем. Благо о чём придупредил заранее продавец. Иначе бы и этой материнке был бы капеец.

Питание асуса. Вверху земля, внизу четыре линии 12v. Ну и управляющие сигналы.

Собрал бюджетный сервер для запуска yalm 100b в домашних условиях. Собрал бюджетный сервер для запуска yalm 100b в домашних условиях.

Выдержал её на полке, ещё раз потанцевав вокруг мёртвой jingsha, походив вокруг асуса ещё раз … решил действовать.

Изучил про линии 12v, хотел было купить дорогой БП только ради этих целей. Но решил рискнуть своим БП, на всякий случай. Потому что многое говорило о том, что все доступные гражданские версии не имеют различных линий 12v и в общей массе всё идёт из одной. Значит … надо попробовать перепиновать то что есть.

Чтобы не портить свой блок стал искать переходник. И слава биткоину и майнерам, сейчас полно всякого такого.

Нашёл вот такую штуку

Собрал бюджетный сервер для запуска yalm 100b в домашних условиях.

Очень неудобно перепиновывать чёрные провода. Но, проведя годы в ловле блох багов глаз намётан на внимательность.

В коробке с материнкой можно увидеть разъём питания. Взял его. В итоге перепинованое питания с домашнего БП выглядит примерно вот так. Недостающие фейковые «линии» 12v или земли взял с PCI/CPU разъёмов, подкинув их через переходник видеокарты.

В итоге ни один пин БП на 850вт не пострадал. Выглядело это вот так

Собрал бюджетный сервер для запуска yalm 100b в домашних условиях.

Очень стрёмно было запускать. Но, на удивление … заработало!

Дальше было дело техники.  Повозился сначала с монитором. Точнее переходником vga-hdmi, так как с видеокарты изображение не стартовало без драйверов. Далее с тем что с ssd m2 не стартовало ОС. Воспользовался usb ssd для os. Далее m2 подтянулся и всё сразу заработало, так как там уже было всё предустановлено и настроено.

Собрал бюджетный сервер для запуска yalm 100b в домашних условиях.

Собрал бюджетный сервер для запуска yalm 100b в домашних условиях.

В таком конфиге небольшой отрывок генерируется в районе двух часов. Соответственно на статью уйдёт порядка суток. Оптимизировать можно путём перехода на PCIe 4.0 и DDR4. Время генерации сократится примерно в два раза.

Ну или расширить материнку на 9 rtx 3090. У меня как раз был такой план расширения. Но только после того, как проведу все свои эксперименты с разными настройками.

И … эксперименты оказались неутешительны. Про борщи и простые темы тексты генерирует на ура. Но вот про инвестиции, фондовый рынок, трейдинг и т.д получается полная каша. Либо не получается вообще ничего и просто подряд фраза с контекстом. Которую генерировал примерно сутки :))

Вот ещё немного примеров:

 

{«prefix»: «Как приготовить борщ.«, «suffix»: «nНастоящий украинский борщ.nВ нашей семье все очень любят борщ.nЯ перепробовал много разных способов приготовления борща, однако именно этот рецепт борща — просто бомба!nВсем рекомендую приготовить борщ по моему рецепту.nЕсли кому-то непонятно — пишите комментарии, я вам отвечу.nДля приготовления борща вам понадобится: 1 кг свинины, 4 картофелины, 3 луковицы, 3 моркови, 4 сладких перца, 3 помидора, 5-6 небольших капустных кочанов, 400 г капусты (или около того), 700-800 г свеклы, 1 головка чеснока, 2-3 лавровых листа, молотый красный перец, черный перец молотый, соль,»}


{«prefix»: «Как торговать по стакану«, «suffix»: » котировок Форексn20 Май 2016 Алексей Седых Оставить комментарийnСтратегии торговли по стакану котировок на Форекс набирают все большую популярность.nТем не менее у новичков на Forex может возникнуть вопрос — как правильно торговать по стакану котировок?nКак понять, в какой момент открывать сделку, какую сумму вложить в позицию, какие стоп-лоссы устанавливать?nНа самом деле все не так сложно, как кажется.nТрейдеры учатся этому на практике, и, главное, изучение одной ситуации позволит составить общее представление о принципах работы.nРассмотрим принцип работы стратегии торговли по стакану котировок на Форекс на примере.nЕсть крупный игрок, желающий захватить рынок.nОн скупает большое количество валюты по низкой цене и продает ее по высокой.nДопустим, это делает хедж-фонд или маркетмейкер.nЕсли трейдер будет просто сидеть и смотреть на столбики котировок, он вряд ли догадается о том, что происходит на рынке.nНужно запомнить лишь две вещи:nКогда крупный игрок захватывает рынок, скупает большое количество валюты, он продает ее с помощью маркетмейкера.nЕстественно, трейдер, который «в теме», ждет, что продавец начнет делать покупки в момент закрытия гэпа, возникшего в результате предыдущей сделки.nЕсли трейдер обнаружит в стакане котировок крупные заявки на покупку/продажу, он сможет понять, когда крупный игрок придет и начнет продавать/покупать валюту.nДля этого придется изучать временные показатели, ибо важны не только котировки, но и время.nКлассический вариант заключения сделок при торговле по стакану котировок на ФорексnСуществует классический вариант работы, когда трейдер ожидает в торговой платформе момент прихода крупного игрока и открытия им позиции на продажу/покупку по рыночным ценам.nПокупка или продажа валюты происходит по цене Ask или Bid (соответственно для продажи или покупки).nРассмотрим классический вариант работы.nНеобходимо открыть счет в любом онлайн-брокерской компании или у Форекс-дилера (прим.: компания, предоставляющая возможность осуществлять операции по купле/продаже финансовых инструментов в режиме онлайн.nВсе операции осуществляются посредством интернета).nРекомендуется делать это через брокеры, предоставляющие мобильные приложения для торговли.nВыставляете такой стакан котировок в торговом терминале MT4.nДалее ждем прихода крупного игрока и его выхода на рынок.nВыставили стакан котировокnПри получении стакана котировок открываем сделку у брокера в одно время с указанным игроком, но устанавливаем Take Profit на несколько пунктов больше, чтобы была возможность закрыть позицию раньше при достижении прибыли.nКогда крупный игрок входит в рынок, получаем прибыль.nПотом закрываем позицию через некоторое время после того, как крупный игрок закончит выход на рынок.nСколько ждать, пока крупный игрок закончит выход на рынок?nСложно сказать заранее.nКаждый игрок приходит со своим индивидуальным настроением, поэтому сказать точно сложно.nМожно судить по стакану котировок.nЕсли предложения на продажу большое, а на покупку нет — это первый признак того, что крупный игрок покинул рынок.nЕсли предложения на покупку большое, а на продажу нет — это первый признак того, что крупный игрок покинул рынок.nПростыми словами, в стакане котировок крупного игрока нужно искать такое предложение, которое перекрывает его позицию с целью покупки или продажи.nБудет несколько периодов, когда игрок закрывает свою позицию, но при этом цена на Форекс идет вниз или вверх, или же крупные игроки своими покупками сдерживают курс.nЭто важный момент, поскольку трейдер должен помнить, что в стакане котировок крупного игрока может быть неограниченное количество предложений.nПоэтому нужно внимательно следить за его предложением и за тем, как движется цена на рынке.nПо мере закрытия крупных игроков будет меняться и объем, и количество предложений.nТеперь остается только следить за тем, чтобы выделить крупное предложение.nЕсли трейдер будет его видеть, он сможет войти в рынок.nКогда найдет предложение, покажет свечи Хайкен Аши или других подобных технических индикаторов, он войдет на рынок.nДалее остается дождаться фиксации прибыли и закрытия позиции.nКак видите, для того, чтобы торговать по стакану котировок на Форекс, нужен только терминал MT4.nЭто очень удобный инструмент, который позволяет получать информацию о состоянии рынка в режиме реального времениn»}


{«prefix»: «Как торговать по стакану«, «suffix»: «?nКак торговать по стакану?nТорговля по стакану является одним из самых простых способов торговли на бирже.nОднако, несмотря на свою простоту, торговля по стакану имеет свои особенности и нюансы, которые необходимо учитывать при торговле.nВ данной статье мы рассмотрим основные моменты торговли по стакану, а также поговорим о том, как торговать стаканы на бирже.nТорговля по стакану на биржеnТорговля по стакану является одним из самых простых способов торговли на бирже.nОднако, несмотря на свою простоту, торговля по стакану имеет свои особенности и нюансы, которые необходимо учитывать при торговле.nВ данной статье мы рассмотрим основные моменты торговли»}


На данном считаю гештальт закрытым. Было очень интересно и радость от выполненной задачи получена.

Купленное оборудование будет использовано как slave сервер для БД и дампов. А главное, 3090 будет служить в исследованиях и обработке биржевых данных.

Возможно, мы ещё встретимся с yalm 100b, но только когда с ИИ будут успехи и парк видеокарт расширится.

p.s. Бюджетной заменой 3090 по памяти может быть tesla m40 24gb. Но она послабее раза в три, при этом с таким же размером шины памяти и энергопотреблением. Да и потом сложнее продать. Так что этот вариант тоже нет.

Спасибо за внимание!

Если вам понравилась статья, то подписывайтесь на мой телеграм канал.

Pavel
Оцените автора
Добавить комментарий

  1. Данила

    Отличная статья, не у всех вообще такая возможность сейчас найдется затестить. Спасибо за труды!
    На хабре в комментах к оф статье от яндекса, разбирали ребята всякие особенности работы, запуска.

    На самом деле возможность держать такого зверя в оффлайне и быть не зависимым от предоставления подобных услуг генерации ИИ, это настоящая свобода от цензуры и корпоративных ограничений накладываемых на системы подобные, которые могут не пропускать самые интересные и ценные результаты гипотетически.
    Конечно для тестирования полноценного и отладки работы нужна скорость для мгновенной генерации..

    В любом случае впечатляющая статья!

    Ответить
  2. Данила

    Отличная статья, не у всех вообще такая возможность сейчас найдется затестить. Спасибо за труды!
    На хабре в комментах к оф статье от яндекса, разбирали ребята всякие особенности работы, запуска.

    На самом деле возможность держать такого зверя в оффлайне и быть не зависимым от предоставления подобных услуг генерации ИИ, это настоящая свобода от цензуры и корпоративных ограничений накладываемых на системы подобные, которые могут не пропускать самые интересные и ценные результаты гипотетически.
    Конечно для тестирования полноценного и отладки работы нужна скорость для мгновенной генерации..

    В любом случае впечатляющая работа!

    Ответить