Zdjęcie: Adobe Stock
Narodowe Centrum Badań i Rozwoju (NCBR) wyraziło sprzeciw wobec wykorzystywania przez ekspertów narzędzi opartych na sztucznej inteligencji, w tym generatywnych modeli językowych, podczas oceny wniosków o dofinansowanie, jak wynika z oświadczenia przekazanego PAP. Instytucja ujawniła również plany wprowadzenia do oficjalnych wytycznych wyraźnych zakazów takich praktyk.
„Sztuczna inteligencja nie powinna być postrzegana jako substytut ludzkiej wiedzy. Ewaluacje muszą opierać się na danych faktograficznych, wymaganiach programowych i dogłębnej analizie, a nie na zautomatyzowanych sugestiach czy wzorcach algorytmicznych” – oświadczyło biuro prasowe NCBR w odpowiedzi na zapytanie PAP.
Mimo uznania potencjału sztucznej inteligencji (AI) w zakresie zwiększania efektywności podejmowania decyzji, Centrum „nie wyraża zgody na stosowanie przez oceniających narzędzi sztucznej inteligencji podczas oceny wniosków, w szczególności generatywnych systemów AI, zautomatyzowanych platform analizy treści lub podobnych technologii, które autonomicznie przetwarzają informacje”.
NCBR wyjaśniło, że obowiązujące wytyczne dotyczące konkursów i oficjalne zasady „nie uwzględniają automatyzacji ocen za pomocą sztucznej inteligencji”. Podkreśliło, że „żaden etap procesu oceny, zarówno administracyjny, jak i techniczny, nie jest obecnie wspomagany przez systemy ani algorytmy oparte na sztucznej inteligencji. Wszystkie kroki są wykonywane ręcznie przez pracowników NCBR i wyznaczonych ekspertów, zgodnie z ustalonymi protokołami i kryteriami specyficznymi dla danego konkursu”.
Obawy dotyczące udziału sztucznej inteligencji w ewaluacjach NCBR pojawiły się po lipcowym raporcie „Pulsu Biznesu”, który opisał przypadek firmy zajmującej się technologiami kosmicznymi, KP Labs, która otrzymała odrzucony wniosek o dofinansowanie. Uzasadnienie odmowy rzekomo odnosiło się do treści generowanych przez narzędzia sztucznej inteligencji.
Zespół prasowy NCBR zauważył, że zmiany w wytycznych dotyczących współpracy eksperckiej w ramach programu Europejskich Funduszy na rzecz Nowoczesnej Gospodarki (FENG) rozpoczęły się na początku tego roku. Aktualizacje te, obecnie analizowane przez Ministerstwo Funduszy i Polityki Regionalnej, proponują zaostrzenie przepisów.
„Zmienione dokumenty ewaluacyjne, w tym umowy z ekspertami i protokoły komisji, będą zawierać wyraźne zakazy korzystania z narzędzi AI. Zgodnie z proponowanymi przepisami, ewaluatorzy muszą unikać stosowania takich technologii i powstrzymać się od udostępniania danych aplikacji – nawet zanonimizowanych – platformom zewnętrznym” – wyjaśniono w oświadczeniu.
Naruszenia mogą skutkować usunięciem eksperta z baz danych NCBR i FENG, a także karami finansowymi, wstrzymaniem płatności, obniżeniem oceny jakości, odpowiedzialnością za szkody lub natychmiastowym rozwiązaniem umowy.
NCBR wspomniał również o trwającym opracowywaniu wytycznych dotyczących korzystania ze sztucznej inteligencji (AI) dla ewaluatorów, które określą ryzyko i kwestie etyczne. Jednocześnie pracownicy mają ograniczony dostęp do jednego, zatwierdzonego narzędzia AI, regulowanego wewnętrznymi protokołami dotyczącymi bezpieczeństwa danych i zatwierdzonych przypadków użycia.
Jednak zewnętrzni eksperci przeprowadzający ocenę wniosków nadal nie mają dostępu do systemów NCBR i muszą przestrzegać ścisłych umów o bezstronności i poufności. „Wykorzystywanie narzędzi sztucznej inteligencji podczas ewaluacji grozi naruszeniem prywatności danych i niezależności oceny” – ostrzega agencja.
Jako kluczowa agencja w Polsce odpowiedzialna za wdrażanie polityki w zakresie nauki, technologii i innowacji, NCBR nadzoruje dystrybucję środków krajowych i unijnych do instytucji badawczych i przedsiębiorstw, stawiając sobie za cel stymulowanie wzrostu gospodarczego poprzez komercjalizację badań naukowych.
W sprawie KP Labs, NCBR potwierdziło, że ekspert oceniający opierał się wyłącznie na własnej wiedzy specjalistycznej i publicznie dostępnych zasobach podczas przeglądu. Wewnętrzne kontrole nie wykazały konfliktu interesów.
KP Labs zakwestionowało tę decyzję w toku postępowania odwoławczego, które nadal trwa. (PAP)
akp/ bar/ amac/
