我构建了一个预算服务器来在家里运行 yalm 100b。

Программирование

在尝试了yalm 100b之后,出现了一种困扰,即我应该为这项业务组装一台预算服务器。我不知道为什么,只是为了完成我开始的事情。正如之前的经验所示,您需要一块 256GB + RAM 的服务器主板。我开始研究市场,正如他们在 Habré 上建议的那样,DDR4 的价格很低,但对于任何数量的服务器 DDR3 堆来说都是如此。但我需要一个非常预算。在所有这一切中,这个套餐在我看来是最有利可图的。我构建了一个预算服务器来在家里运行 yalm 100b。订购时,它的成本约为 40k。后来证明,它相当昂贵。但是当我在套件中看到 256gb 的 RAM 时,我并没有多想。在本地 RAM 价格之后。但是在等待交付的过程中,我意识到它太贵了,而且不能扩展。因此,在等待的同时,我也订购了一块9个PCIe插槽的服务器主板,就是华硕Z9PG-D16/FDR,安装在华硕ESC4000 G2显卡上。我构建了一个预算服务器来在家里运行 yalm 100b。  好吧,RTX 3090 24gb 到堆,所以 3070ti 8gb 不折磨。我构建了一个预算服务器来在家里运行 yalm 100b。最先上场的是中国奇迹京沙。全套,突然没有内存。我订购的是什么。我写信给中介给卖家差评。但事实证明,他用另一个包裹寄出了RAM。在短短几周内记忆也来了。我开始收集所有东西。令我惊讶的是它不起作用……一切都打开了,但显示器上没有图片。我已经尝试了所有可用的 PSU 和视频卡。没用。没有声音,没有错误,什么都没有。所有工作的迹象,冷却器在旋转,一切都在加热,二极管亮着。但是没有照片。上网查了一下,发现触点被氧化了,和我的一模一样的问题征兆。我买了几种橡皮擦,储备了酒精。我擦除了内存和处理器上的所有联系人。没有。我什至买了一个新的额外内存条和两个备用 E5 2070-v2。没有帮助。接下来是期待已久的服务器主板。真正的,不是这个京沙。但她也有细微差别。她有一个专有连接器。还好卖家提前提醒过。否则,这块主板就是 Kapeets。华硕食品。上面是地线,下面是四根 12v 线。嗯,控制信号。我构建了一个预算服务器来在家里运行 yalm 100b。我构建了一个预算服务器来在家里运行 yalm 100b。他把它放在架子上,又围着死去的精沙转了一圈,又围着华硕转了一圈……决定行动起来。我研究了 12v 线路,我想为此目的购买昂贵的 PSU。但我决定冒险使用 PSU,以防万一。因为很多人说所有可用的民用版本都没有不同的 12v 线路,一般来说一切都来自一个。所以……你需要尝试重新定位是什么。为了不破坏我的块,我开始寻找适配器。感谢比特币和矿工,现在有很多这样的东西。发现了这样的东西

我构建了一个预算服务器来在家里运行 yalm 100b。

重新固定黑线非常不方便。但经过多年的诱捕
跳蚤臭虫的眼睛训练有素。在主板的包装盒中,您可以看到电源连接器。带他。因此,家用 PSU 的重新固定电源看起来像这样。我从 PCI/CPU 连接器上取下丢失的假“线”12v 或地线,将它们穿过视频卡适配器。结果,850W PSU 的一个针脚都没有损坏。看起来像这样。我构建了一个预算服务器来在家里运行 yalm 100b。开始时很愚蠢。但令人惊讶的是……它起作用了!然后是技术问题。我先摆弄了显示器。更准确地说,是一个 vga-hdmi 适配器,因为图像不是从没有驱动程序的视频卡启动的。此外,由于操作系统不是以 ssd m2 开头的。用于操作系统的usb ssd。然后 m2 自行启动,一切立即运行,因为一切都已经在那里预安装和配置。我构建了一个预算服务器来在家里运行 yalm 100b。我构建了一个预算服务器来在家里运行 yalm 100b。在此配置中,将在两小时左右生成一个小片段。因此,这篇文章大约需要一天的时间。您可以通过切换到 PCIe 4.0 和 DDR4 进行优化。生成时间将减少一半左右。嗯,还是把主板扩成9 rtx 3090。我刚好有这样的扩容计划。但只有在我用不同的设置完成所有实验之后。而且……实验令人失望。关于罗宋汤和简单的主题生成带有爆炸声的文本。但是关于投资,股票市场,交易等等,结果却是一团糟。或者什么都没有发生,只是一个连续的上下文短语。我生成了大约一天 :)) 以下是更多示例:  

{“prefix”: “如何烹调罗宋汤。 “, “suffix”: “n真正的乌克兰罗宋汤。n我们家的每个人都喜欢罗宋汤。n我尝试了很多不同的方法来制作罗宋汤,但这个罗宋汤食谱是炸弹! n我推荐大家按照我的食谱做罗宋汤。n如果有人不清楚,写评论,我会回答你。n准备罗宋汤你需要:1公斤猪肉,4个土豆,3个洋葱,3根胡萝卜,4个甜椒,3个西红柿,5个-6个小白菜头,400克白菜(左右),700-800克甜菜,1个大蒜头,2-3片月桂叶,红辣椒粉,黑胡椒粉,盐, “}
{“prefix”: “如何通过 DOM 进行交易“, “suffix”: ” Forex quotesn20 May 2016 Aleksey Sedykh Leave a commentnDOM 外汇交易策略越来越受欢迎。n然而,外汇初学者可能会有一个问题 – 如何正确交易 DOM? n如何了解在什么时候开始交易、投资多少头寸、设置什么止损?n事实上,一切并不像看起来那么困难。n交易者在实践中学习,最重要的是,学习一种情况将使您对操作原理有一个大致的了解。n让我们用一个例子来考虑外汇 DOM 交易策略的原理。n有一个大玩家想要占领市场。n他买了一个大以低价出售一定数量的货币,然后以高价出售。n假设这构成了对冲基金或做市商。n如果交易者只是坐着看报价栏,他不太可能猜到市场正在发生什么。n您只需要记住两件事:n当大玩家占领市场,买入大量货币时,他在做市商的帮助下卖出。n自然地,“知情”的交易者期望卖方在填补前次交易产生的缺口时开始买入。n如果交易者发现大量买入 /在订单簿中卖出订单,他将能够了解大型玩家何时会开始卖出/买入货币。n要做到这一点,您将必须研究时间指标,因为不仅报价很重要,时间也很重要。 n在外汇 DOM 上交易时进行交易的经典版本n有一个经典版本的工作,当交易者在交易平台上等待主要参与者的到来并以市场价格开立卖出/买入头寸时。n买入或卖出货币发生在卖出价或买入价(分别用于卖出或买入)。 n我们来考虑经典版的作品。n您需要在任何在线经纪公司或外汇交易商开立账户进行交易。n在MT4交易终端中放置这样一杯报价。n接下来,我们静候您的到来一个主要参与者和他进入市场。n我们设置了一杯报价n当我们收到一杯报价时,我们与指定玩家同时与经纪商开立交易,但多设置几个点的获利点,以便我们可以在以下时间更早平仓达到利润。n当大玩家进入市场时,我们获得利润。n然后我们在大玩家完成进入市场后的某个时间平仓。n等待大玩家完成进入市场需要多长时间?n它是很难提前说。n每个玩家都有自己的心情,所以很难说。 n你可以通过订单来判断。n如果有很大的卖价,但没有买价, 这是主要参与者离开市场的第一个迹象。n如果有大量购买报价,但没有销售,这是主要参与者离开市场的第一个迹象。n简单来说,在大玩家的订单簿中,你需要寻找这样的报价来覆盖他的仓位,目的是买入或卖出。n玩家平仓的时间会有几个,但外汇价格上涨或下跌,或者大玩家通过购买抑制价格。n这一点很重要,因为交易者必须记住,大玩家的报价中可以有无限数量的报价。n因此,您需要仔细监控他的报价以及价格在市场中的变动情况。n随着大玩家关闭,玩家将改变报价的数量和数量。n现在剩下的就是确保突出显示大报价。 n如果交易者看到它,他将能够进入市场。n当他找到报价时,将显示 Heiken Ashi 蜡烛或其他类似的技术指标,它将进入市场。n然后等待获利了结和平仓。n如您所见,为了在外汇 DOM 上进行交易,您只需要一个MT4 终端。n这是一个非常方便的工具,可以让您实时接收有关市场状况的信息n”}
{“prefix”: ” How to trade by the glass “, “suffix”: “?nHow to trade by the glass?nTrade by the glass 是在交易所交易的最简单的方式之一。n然而,尽管它简单来说,玻璃交易有其特点和细微差别,交易时必须考虑这些特点和细微差别。n在本文中,我们将了解玻璃交易的要点,并讨论如何在交易所交易玻璃。 n在交易所进行玻璃交易n玻璃交易是在证券交易所进行交易的最简单方法之一。n然而,尽管它很简单,但玻璃交易有其自身的特点和细微差别,在进行交易时必须考虑这些特点和细微差别交易。n在本文中,我们将考虑交易的要点”}

在这一点上,我认为格式塔是封闭的。这很有趣,并且收到了完成任务的喜悦。

购买的设备将用作数据库和转储的从属服务器。最重要的是,3090 将服务于交换数据的研究和处理。也许我们会再次与 yalm 100b 会面,但只有在 AI 取得成功并且显卡数量扩大时才会出现。ps 内存中 3090 的预算替代品可以是 tesla m40 24gb。但它要弱三倍,同时具有相同的内存总线大小和功耗。然后就更难卖了。所以这个选项也没有。感谢您的关注!

Pavel
Rate author
Add a comment

  1. Данила

    Отличная статья, не у всех вообще такая возможность сейчас найдется затестить. Спасибо за труды!
    На хабре в комментах к оф статье от яндекса, разбирали ребята всякие особенности работы, запуска.

    На самом деле возможность держать такого зверя в оффлайне и быть не зависимым от предоставления подобных услуг генерации ИИ, это настоящая свобода от цензуры и корпоративных ограничений накладываемых на системы подобные, которые могут не пропускать самые интересные и ценные результаты гипотетически.
    Конечно для тестирования полноценного и отладки работы нужна скорость для мгновенной генерации..

    В любом случае впечатляющая статья!

    回复
  2. Данила

    Отличная статья, не у всех вообще такая возможность сейчас найдется затестить. Спасибо за труды!
    На хабре в комментах к оф статье от яндекса, разбирали ребята всякие особенности работы, запуска.

    На самом деле возможность держать такого зверя в оффлайне и быть не зависимым от предоставления подобных услуг генерации ИИ, это настоящая свобода от цензуры и корпоративных ограничений накладываемых на системы подобные, которые могут не пропускать самые интересные и ценные результаты гипотетически.
    Конечно для тестирования полноценного и отладки работы нужна скорость для мгновенной генерации..

    В любом случае впечатляющая работа!

    回复