snake-dqn jako cesta k ML

Программирование

V tensorflow-js najdete to, co potřebujete pro první kroky v ML a obchodování.

Toto je dqn školení, kde jsou odměny a tresty uděleny agentovi za akce.

https://github.com/tensorflow/tfjs-examples/tree/master/snake-dqn

https://storage.googleapis.com/tfjs-examples/snake-dqn/index.html

Ukázalo se, že máme hada, který se ze své vlastní zkušenosti učí pohybovat. Má určitý počet tahů (otočte se nebo pokračujte) a jejím úkolem je dostat se k ovoci. Zpočátku had neví jak, ale v průběhu výcviku získá schopnost nacházet ovoce a uhýbat. Je to velmi podobné obchodování, že?

Tedy alespoň pro náš úkol, kdy máme spuštěná data a robot se potřebuje rozhodnout, zda koupit nebo prodat.

Nevýhodou hada je, že je napsán pro node.js a musíme být schopni trénovat v prohlížeči (aby to mohl udělat každý uživatel). Totéž tedy muselo být provedeno u klienta.

Přetáhl jsem hada tak, jak je, na svou stránku s grafem a pokusil se ho spustit. To tam nebylo!

Had se bránil

nejprve balíčky,

pak argumenty. (mimochodem, udělal jsem také požadavek na stažení vedle opravy https://github.com/tensorflow/tfjs-examples/pull/353),

then %%Neošetřené odmítnutí (TypeError): Nelze volat třídu jako funkci%%. Což se opravuje zde https://github.com/tensorflow/tfjs/pull/3906/files, ale od r. Zatím není žádné uvolnění, takže jsem to musel nahradit rukama. Tady má mimochodem mnoho lidí problém https://github.com/tensorflow/tfjs/issues/3384.

Nezletilí již zašli dále, jako je nahrazení práce z fs indexeddb. Práce, kterou jsem tu mimochodem špehoval. Obecně mě cart-pole zpočátku inspiroval k tomu, abych dělal vše na klientovi.

https://github.com/tensorflow/tfjs-examples/tree/master/cart-pole

https://storage.googleapis.com/tfjs-examples/cart-pole/dist/index.html

nakonec se stalo toto:

https://github.com/pskucherov/opexflow/pull/16/files

No, vlastně, další krok bude:

  1. Přizpůsobit grafům
  2. Vizualizace
  3. Trénujte robota na známých datech, aby ukázal maximální výsledek

Níže je video ukázka pracovního školení robotů na klientovi. Jednoho dne budou místo mě také obchodovat futures Sberbank.

pskucherov
Rate author
Add a comment