Centrum Wiarygodnej Sztucznej Inteligencji na PW zainaugurowało swoją działalność

1 czerwca na Politechnice Warszawskiej oficjalnie rozpoczęło swoją działalność Centre for Credible AI (CCAI) – Centrum Wiarygodnej Sztucznej Inteligencji. Jest to nowa jednostka badawcza, która powstała z potrzeby zrozumienia, jak tworzyć systemy AI, które są nie tylko skuteczne, ale także transparentne, kontrolowalne i weryfikowalne. Centrum działa pod kierunkiem prof. dr. hab. inż. Przemysława Biecka z Wydziału Matematyki i Nauk Informacyjnych. 

Centrum Wiarygodnej Sztucznej Inteligencji jest ogólnouczelnianą jednostką organizacyjną, prowadzącą działalność mającą na celu rozwijanie i wdrażanie systemów Sztucznej Inteligencji (SI) oraz rozwiązań, które zwiększają ich bezpieczeństwo, wyjaśnialność, przejrzystość oraz niezawodność. 

- W dobie dynamicznego rozwoju generatywnej sztucznej inteligencji potrzebujemy niezależnych i interdyscyplinarnych centrów refleksji, które będą łączyć zaawansowane badania techniczne z analizą ich wpływu na społeczeństwo, gospodarkę i prawo. Centrum to nie tylko idea – to silny ośrodek naukowy, którego zespół publikuje swoje prace na najważniejszych światowych konferencjach z obszaru AI i ML, takich jak NeurIPS, ICML, ICLR, ECCV, ECAI, ECML. Działamy na styku informatyki, matematyki, inżynierii danych, nauk społecznych oraz nauk o zdrowiu  – wierząc, że rzetelna AI wymaga zarówno precyzji technicznej, jak i weryfikacji domenowej – mówi prof. Przemysław Biecek, kierownik merytoryczny projektu.  

Ambitne cele i zadania

Celem Centrum jest budowa AI, którą można: zrozumieć – dzięki technikom explainable AI i interpretowalności, zweryfikować – poprzez formalne testy i mechanizmy oceny ryzyka, a także kontrolować – dzięki mechanizmom typu SAE czy projektowaniu zgodnemu z wartościami. Jednostka będzie prowadzić projekty badawcze, rozwijać otwarte narzędzia i wspierać kształcenie nowej generacji specjalistów od wiarygodnej AI.

Do zadań CWSI należy w szczególności: 

• opracowanie metod tworzenia systemów SI oraz rozwiązań zwiększających ich bezpieczeństwo, wyjaśnialność, przejrzystość, zrozumienie, zgodność z celami oraz niezawodność, a także rozwój kadry badawczej w tych obszarach,
• stosowanie i wdrażanie opracowanych rozwiązań,
• rozwój potencjału sprzętowego oraz infrastruktury, niezbędnych do realizacji podstawowych zadań.

CWSI realizuje swoje zadania w szczególności przez proponowanie nowych metod walidacji i ekstrakcji wiedzy z modeli SI, rozwijanie ich w kierunku zastosowań, jak i komercjalizacji - oferując kompletny łańcuch kompetencji (ang. value chain), a także poprzez tworzenie standardów, rekomendacji i dobrych praktyk dotyczących audytu modeli SI dla sektora biznesowo-gospodarczego w Polsce i na całym świecie. Centrum pozyskuje także nowe projekty finansujące prace z obszaru jego działania, a także współpracuje z innymi jednostkami prowadzącymi prace w podobnym lub komplementarnym zakresie.

Centrum zostało utworzone w związku z realizacją projektu pn. „Centrum Wiarygodnej Sztucznej Inteligencji” finansowanego w ramach działania Międzynarodowe Agendy Badawcze z Programu Fundusze Europejskie dla Nowoczesnej Gospodarki 2021-2027 (MAB FENG). Więcej o projekcie można przeczytać w artykule.