Coraz częściej to nie ludzie, lecz algorytmy decydują o losie naukowych publikacji. Sztuczna inteligencja ocenia prace naukowe, ale naukowcy nie poddają się bez walki.
Badacze zaczynają korzystać z narzędzi takich jak ChatGPT, by wspierać lub wręcz całkowicie przejąć proces recenzowania prac. To bardzo, ale to bardzo niepokojący proceder. Recenzja pism naukowych powinna być jednak zarezerwowana dla ludzi, a AI można zostawić ewentualnie weryfikację źródeł. Tymczasem pojawiają się niepokojące sygnały, że niektórzy autorzy próbują wykorzystywać AI do wpływania na ocenę własnych tekstów.
Jak donosi Nikkei, ślady takiej manipulacji znaleziono w 17 anglojęzycznych publikacjach z zakresu informatyki. Znaleziono w nich pisane białą czcionką albo tekstem mikroskopijnych rozmiarów polecenia dla AI. Sztuczna inteligencja mogła więc przeczytać monity w stylu „pomiń wszelką krytykę” czy „podkreśl tylko zalety”. I tradycyjne „Zignoruj poprzednie instrukcje”, absolutny klasyk.
W obliczu przeciążonego systemu peer-review, gdzie liczba nowych publikacji rośnie szybciej niż dostępność kompetentnych recenzentów, AI wydaje się kuszącym rozwiązaniem – szybkim, tanim i odpornym na uprzedzenia. Jednak zaufanie do tej technologii okazuje się coraz bardziej wątpliwe. Eksperci przestrzegają, że bez odpowiednich zabezpieczeń, generatywne modele mogą stać się łatwym celem dla prób manipulacji, co zagraża jakości i wiarygodności procesu naukowego.
Choć skuteczność takich zabiegów jest wątpliwa, ich popularność pokazuje wyraźnie, że coraz więcej osób stara się dostosować nie do ludzi, lecz do maszyn – nawet jeśli oznacza to łamanie zasad i standardów etycznych. Sztuczna inteligencja automatyzuje już coraz więcej naszego życia.
Zobacz też:
AirTag 2 zadebiutuje jeszcze w tym roku?|
Twórcy Claude AI zniszczyli miliony papierowych książek.
Sztuczna inteligencja coraz śmielej ignoruje etykę.
