30 mln zł dla PW na Centrum Wiarygodnej Sztucznej Inteligencji

W połowie marca Fundacja na rzecz Nauki Polskiej (FNP) rozstrzygnęła trzeci nabór wniosków w działaniu Międzynarodowe Agendy Badawcze. Trzy wybrane projekty otrzymają środki w łącznej wysokości prawie 90 mln zł. Jednym z nich jest Centrum Wiarygodnej Sztucznej Inteligencji, które powstaje pod kierunkiem prof. dr. hab. inż. Przemysława Biecka z Wydziału Matematyki i Nauk Informacyjnych PW. FNP przyznała projektowi finansowanie w wysokości 30 mln zł. 

Centrum będzie jedną z pierwszych jednostek w Polsce zajmujących się badaniami, zastosowaniami i wdrażaniem niezawodnej oraz bezpiecznej sztucznej inteligencji. Zespół badawczy, kierowany przez prof. Przemysława Biecka, koncentrować się będzie na osiągnięciu znaczącego postępu w zakresie weryfikowalności systemów SI, ze szczególnym uwzględnieniem ich bezpieczeństwa, transparentności i kontrolowalności. 

- Obserwujemy olbrzymi rozwój technik AI, ale okazuje się, że bardzo wiele z nich nie działa poprawnie, jest źle przetestowana i często wręcz szkodliwa. Centrum ma rozwijać technologie monitorowania i naprawiania aspektów AI związanych z bezpieczeństwem. Bezpieczeństwo jest tu rozumiane szeroko, zarówno jako odporność na złośliwe ataki, jak i wbudowane bezpieczniki poprawnego zachowania AI – wyjaśnia prof. Biecek, główny wnioskodawca i kierownik merytoryczny projektu.  

Bezpośrednimi beneficjentami będą instytucje tworzące systemy AI i chcące podwyższyć ich bezpieczeństwo. Pośrednio z efektów pracy naukowców skorzystamy wszyscy - jako użytkownicy i odbiorcy końcowy narzędzi AI. 

Międzywydziałowy zespół z PW

Centrum zatrudni około 20 naukowców pracujących w 4 zespołach. Prof. Przemysław Biecek pokieruje zespołem związanym z analizą techniczną modeli AI. Jego główną rolą będzie dbanie o to, by rozwój technologii bezpiecznego AI był na poziomie międzynarodowym. Ponadto prof. Janusz Hołyst z Wydziału Fizyki poprowadzi zespół zajmujący się analizą modeli AI z użyciem technik do analizy modeli złożonych, prof. Katarzyna Budzyńska z Wydziału Administracji i Nauk Społecznych będzie nadzorować zespół zajmujący się ludzkim aspektem bezpieczeństwa modeli AI, a prof. Dariusz Plewczyński z Wydziału Matematyki i Nauk Informacyjnych - zespół zajmujący się modelami AI stosowanymi w obszarze bioinformatyki. 

- Centrum startuje z czterema zespołami prowadzącymi światowej klasy badania związane z AI, ale jest otwarte dla kolejnych zespołów chcących dołączyć do krucjaty w celu zabezpieczania tej technologii. Nabór na badaczy AI będzie otwarty i zapraszamy naukowców z innych uczelni. Powołane Centrum ma zaplanowaną strategiczną współpracę z największymi tego typu centrami AI w Europie - będzie współpracowało z Berlińskim Centrum AI Frauhofera, które jest kierowane przez prof. Wojciecha Samka, ale także z UniPisa i CITUS. Będziemy prowadzić badania interdyscyplinarne oparte zarówno o głębokie matematyczne korzenie AI, jak też o społeczny aspekt technologii transformującej gospodarkę, a taką technologią jest AI - zaznacza prof. Biecek. 

Procedura konkursowa była bardzo konkurencyjna. Jak podkreśla prof. Biecek, obok doskonałości naukowej FNP oczekiwało przemyślanej strategii komercjalizacji, a wyzwaniem było połączenie jej celów z ambicjami naukowymi. 

Finansowanie w wysokości 30 mln zł w ciągu 5 lat to środki głównie na kadrę i wdrażanie technologii.  Otwarcie Centrum planowane jest w okolicach czerwca lub lipca.