Terminologická shoda
Definujeme standardy pro komunikaci mezi datovými vědci a inženýry. Sjednocení pojmů eliminuje chyby při implementaci neurálních sítí a zrychluje vývojový cyklus.
Přesná terminologie je základem inženýrské disciplíny. Tento glosář definuje klíčové pojmy od základních algoritmů až po pokročilé struktury neurálních sítí, které využíváme v Bourreeco.
Definujeme standardy pro komunikaci mezi datovými vědci a inženýry. Sjednocení pojmů eliminuje chyby při implementaci neurálních sítí a zrychluje vývojový cyklus.
Každý termín je podložen matematickou logikou. Rozumíme mechanismům, které stojí za gradientním sestupem i regularizačními metodami používanými v moderním ML.
Nejde o teoretické poučky, ale o definice vycházející z reálného nasazení. Zaměřujeme se na pojmy, které přímo ovlivňují výkon naší hardwarové infrastruktury.
Základní algoritmus pro trénování vícevrstvých neurálních sítí. Mechanismus funguje na principu výpočtu gradientu ztrátové funkce vzhledem k vahám sítě pomocí řetězového pravidla pro derivace. V praxi to znamená, že se chyba z výstupu šíří zpět do sítě, aby se upravily parametry pro minimalizaci odchylky v dalším kroku.
Poznámka: Bez efektivního backpropagation by nebylo možné trénovat hluboké modely s miliony parametrů.
Proces výběru, úpravy a transformace surových dat do formátu, který je vhodný pro algoritmy strojového učení. Tento krok je kritický pro přípravu dat. Správně zvolené příznaky mohou dramaticky zvýšit přesnost modelu i při použití jednodušších algoritmů.
Stav, kdy se model naučí šum a specifické detaily v trénovacích datech natolik dobře, že ztrácí schopnost generalizace na nová, dosud neviděná data. Model vykazuje vysokou přesnost na trénovací sadě, ale nízkou na testovací. K řešení se používají techniky jako dropout, L1/L2 regularizace nebo včasné ukončení trénování (early stopping).
Matematické vyjádření rozdílu mezi predikcí modelu a skutečnou hodnotou. U regresních úloh často využíváme MSE (Mean Squared Error), u klasifikace Cross-Entropy Loss. Cílem trénování je tuto funkci minimalizovat.
Iterativní optimalizační algoritmus. V každém kroku vypočítáme parciální derivace ztrátové funkce vzhledem k parametrům a posuneme se v opačném směru gradientu. Rychlost tohoto posunu určuje tzv. Learning Rate.
Fáze, kdy se změny ve ztrátové funkci stávají zanedbatelnými. V tomto bodě provádíme validaci na nezávislém datovém souboru, abychom ověřili robustnost modelu před nasazením do produkce.
Obsah této webové stránky je vytvořen výhradně pro informační a vzdělávací účely v oblasti technologií strojového učení. Veškeré materiály mají referenční charakter a v žádném případě nepředstavují profesionální finanční poradenství, investiční doporučení ani závazné technické specifikace pro konkrétní obchodní případy. Společnost Bourreeco nenese odpovědnost za interpretaci těchto dat třetími stranami.