Neural Network Synthesis

Abstract

Tato dizertační práce popisuje metodu syntézy dopředných umělých neuronových sítí (ANN) pomocí Analytického Programování (AP). Tento proces obsahuje vytvoření, učení i optimalizaci ANN. Syntéza ANN v sobě zahrnuje poznatky ze čtyř různých odvětví: evoluční algoritmy, symbolická regrese, ANN a paralelní výpočty. Díky tomu je možno úspěšně syntetizovat vhodné ANN v přijatelném čase. AP podává velmi dobré výsledky za použití nejrůznějších EA jako jeho "pohonu". Přímá asynchronní paralelizace SOMA je zde použita k navýšení výkonu AP s neobyčejnou efektivitou. Tento přístup je experimentálně testován a jeho statistické zhodnocení opravňuje jeho použití s AP. Syntéza ANN je dále úspěšně nasazena k získání optimální ANN pro aproximaci dané funkce za použití adaptivní PRT (řídící parametr SOMA) strategie. Vyhodnocení dopadu této inovativní strategie společně s různými strategiemi GFS na výkon AP dokazuje její značný přínos. Syntéza ANN je prakticky aplikována na problémy reálného života, jako je optimalizace funkce predikující spotřebu tepla dodávaného teplárnou Komořany, nebo klasifikaci rakoviny. Dosažené výsledky jsou porovnány s konkurenčními metodami. V rámci práce bylo vyvinuto softwarové řešení pro podporu syntézy ANN. Technologický základ tohoto software je postaven na principech .NET Framework 3.5 a jeho zdrojový kód je naprogramován v jazyce C#. Syntéza ANN prokázala svoji užitečnost a efektivitu jako nástroj nelineárního modelování a její výsledky byly využity v rámci Inteligentního systému pro řízení energetického systému městské aglomerace. Syntéza ANN navíc ukázala svoji schopnost syntetizovat menší sítě než algoritmus Genetického Programování (GP) a přitom současně umožňuje vytvořit téměř nekonečně komplexní ANN pomocí většího počtu evolučních kol. Tento proces může také vytvářet dopředně rozvětvené ANN, čehož GP není schopno.