Cultivating Archipelago of Forests: Evolving Robust Decision Trees Through Island Coevolution
Drzewa decyzyjne są powszechnie stosowane w uczeniu maszynowym ze względu na swoją prostotę i łatwość interpretacji, jednak często brakuje im odporności na ataki adwersarialne i zakłócenia danych. W artykule zaproponowano nowy wyspowy algorytm koewolucyjny (ICoEvoRDF) do konstruowania odpornych zespołów drzew decyzyjnych. Algorytm działa na wielu wyspach, z których każda zawiera populacje drzew decyzyjnych oraz adwersarialnych zakłóceń. Populacje na każdej wyspie ewoluują niezależnie, przy czym okresowo migrują najlepiej działające drzewa decyzyjne między wyspami. Takie podejście sprzyja różnorodności i zwiększa eksplorację przestrzeni rozwiązań, prowadząc do tworzenia bardziej odpornych i dokładniejszych zespołów drzew decyzyjnych. ICoEvoRDF wykorzystuje popularną w teorii gier koncepcję mieszanej równowagi Nasha do ważenia elementów zespołu, co dodatkowo poprawia wyniki. Algorytm został oceniony na 20 zestawach danych referencyjnych, wykazując swoją przewagę nad najnowocześniejszymi metodami w optymalizacji zarówno dokładności w warunkach adwersarialnych, jak i minimalizacji metryki max regret. Elastyczność ICoEvoRDF pozwala na integrację drzew decyzyjnych z różnych istniejących metod, zapewniając ujednolicony sposób łączenia zróżnicowanych rozwiązań. Zaproponowane podejście stanowi obiecujący kierunek rozwoju odpornych i interpretowalnych modeli uczenia maszynowego.
Materiał konferencyjny:
Proceedings of the 39th Annual AAAI Conference on Artificial Intelligence, vol. 39, nr 1
Autorzy z PW:
Adam Żychowski
Dyscyplina:
Rok wydania: