Przejdź do treści

Centrum Wiarygodnej Sztucznej Inteligencji

Beneficjent: Politechnika Warszawska

Główny wykonawca: Przemysław Biecek

Nabór: 1/2024

Wysokość dofinansowania: 29 971 105,00 zł

Centrum Wiarygodnej Sztucznej Inteligencji – będzie to jedna z pierwszych w Polsce jednostek poświęconych badaniom, zastosowaniom i wdrożeniom niezawodnej i bezpiecznej sztucznej inteligencji. Jednostka powstała jako odpowiedź na wyzwania związane z „czarnymi skrzynkami” algorytmów, których logika działania często pozostaje niejasna nawet dla ich twórców.

Centrum koncentruje się na rozwoju Wyjaśnialnej Sztucznej Inteligencji (Explainable Artificial Intelligence (XAI). Celem jest budowanie AI, którą można:

  • zrozumieć (dzięki technikom interpretowalności),
  • zweryfikować (poprzez formalne testy i ocenę ryzyka) oraz
  • kontrolować (w zgodzie z wartościami społecznymi i etycznymi).

Ośrodek rozwijać będzie nowe metody wieloetapowego wyjaśniania i walidacji modeli w dynamicznych środowiskach. Efektem działalności CCAI mają być otwarte narzędzia, nowe standardy oraz wykształcenie specjalistów zdolnych projektować systemy AI, które budzą zaufanie i wspierają rozwój nauki, technologii i społeczeństwa. Wyniki prac Centrum będzie można zastosować w kluczowych obszarach dla społeczeństwa, takich jak medycyna, bioinformatyka czy edukacja, gdzie samo przewidywanie nie wystarcza – konieczne jest zrozumienie procesów decyzyjnych, podejmowanych przez AI.

W Centrum działać będzie kilka grup badawczych, w których pracować będzie ponad 20 naukowców z Polski i z zagranicy. Strategicznym partnerem ośrodka jest Fraunhofer Heinrich-Hertz-Institut (HHI) z Berlina – jeden z najbardziej prestiżowych ośrodków badawczych w Europie, specjalizujący się w telekomunikacji, przetwarzaniu sygnałów, wizji komputerowej i sztucznej inteligencji.

Liderem ośrodka jest prof. Przemysław Biecek, polski matematyk i informatyk, specjalizujący się m.in. w zagadnieniach uczenia maszynowego.

Projekt jest realizowany na Politechnice Warszawskiej.

Więcej informacji:

 

Galeria zdjęć