Vizualizace mechanismů pozornosti ve Vision Transformerech

Abstract

Tato diplomová práce se zaměřuje na vizualizaci a interpretovatelnost mechanismů pozornosti v architektuře Vision Transformer (ViT) - neuronová síť vycházející z architektury Transformer, adaptované pro efektivní zpracování a klasifikaci obrazových dat. Teoretická část představuje základní architekturu ViT a zkoumá jejich relevantní varianty, přičemž systematicky rozebírá dosavadní přístupy k vizualizaci a interpretaci mechanismů pozornosti, a to včetně důkladného zasazení do současného poznání vizualizací a interpretovatelnosti strojového učení. Praktická část popisuje vývoj a implementaci nástroje pro vizualizaci variant ViT, včetně unikátní adaptace metody LRP pro hierarchický transformer, a hodnotí klíčové aspekty a omezení použitých metod. Výsledky práce přispívají k hlubšímu pochopení vnitřního fungování modelů a nastiňují směr pro další výzkum v oblasti vizualizací mechanismů pozornosti a jejich interpretovatelnosti.