snake-dqn ako cesta k ML

Программирование

V tensorflow-js nájdete to, čo potrebujete pre prvé kroky v ML a obchodovaní.

Toto je dqn tréning, kde sa agentom udeľujú odmeny a tresty za akcie.

https://github.com/tensorflow/tfjs-examples/tree/master/snake-dqn

https://storage.googleapis.com/tfjs-examples/snake-dqn/index.html

Ukázalo sa, že máme hada, ktorý sa na základe vlastných skúseností učí pohybovať sa. Má určitý počet ťahov (otočte sa alebo pokračujte) a jej úlohou je dostať sa k ovociu. Had spočiatku nevie ako, ale v priebehu výcviku získava schopnosť nájsť ovocie a uhýbať sa. Je to veľmi podobné obchodovaniu, však?

Teda aspoň pre našu úlohu, keď máme spustené dáta a robot sa potrebuje rozhodnúť o kúpe alebo predaji.

Mínus hada je, že je napísaný pre node.js a musíme byť schopní trénovať v prehliadači (aby to mohol urobiť každý používateľ). Preto to isté bolo potrebné urobiť na klientovi.

Pretiahol som hada tak, ako je, na moju stránku s grafom a pokúsil som sa ho spustiť. To tam nebolo!

Had sa bránil

najprv balíčky,

potom argumenty. (mimochodom, urobil som tiež požiadavku na stiahnutie vedľa opravy https://github.com/tensorflow/tfjs-examples/pull/353),

potom %%Nespracované odmietnutie (TypeError): Nie je možné volať triedu ako funkciu%%. Čo sa tu opravuje https://github.com/tensorflow/tfjs/pull/3906/files, ale od r. Zatiaľ nie je uvoľnenie, takže som to musel nahradiť rukami. Tu, mimochodom, veľa ľudí má problém https://github.com/tensorflow/tfjs/issues/3384.

Neplnoletí už zašli ďalej, napríklad nahradenie práce z fs indexeddb. Práca, s ktorou som tu mimochodom špehoval. Vo všeobecnosti ma cart-pole spočiatku inšpiroval robiť všetko na klientovi.

https://github.com/tensorflow/tfjs-examples/tree/master/cart-pole

https://storage.googleapis.com/tfjs-examples/cart-pole/dist/index.html

nakoniec sa stalo toto:

https://github.com/pskucherov/opexflow/pull/16/files

No, vlastne, ďalší krok bude:

  1. Prispôsobiť grafom
  2. Vizualizácia
  3. Trénujte robota na známych údajoch, aby ukázal maximálny výsledok

Nižšie je video ukážka pracovného tréningu robotov na klientovi. Raz budú namiesto mňa obchodovať aj futures Sberbank.

pskucherov
Rate author
Add a comment