Sztuczna inteligencja popsuła już sobie internet. Za bardzo już go zanieczyściła i nie ma się na czym uczyć.
Rywalizacja w świecie sztucznej inteligencji przybiera coraz bardziej nieoczywiste formy. Tym razem w centrum zainteresowania nie znalazły się procesory, centra danych czy kolejne modele językowe, lecz… papierowe książki. Laboratoria rozwijające AI skupują ogromne ilości drukowanych publikacji, aby następnie je zeskanować i wykorzystać jako materiał treningowy dla swoich algorytmów.
Jest w tym mnóstwo sensu. Jeszcze niedawno twórcy modeli AI opierali proces trenowania przede wszystkim na zasobach internetu. Obecnie coraz trudniej znaleźć w sieci treści, które nie zostały stworzone lub przynajmniej zmodyfikowane przez generatywną sztuczną inteligencję. Dotyczy to blogów, opisów produktów, artykułów, a nawet komentarzy publikowanych przez użytkowników.
To rodzi poważny problem. Trenowanie nowych modeli na tekstach wygenerowanych przez wcześniejsze algorytmy może prowadzić do zjawiska określanego jako model collapse. W praktyce oznacza ono stopniowe pogarszanie jakości odpowiedzi, utrwalanie błędów oraz oddalanie się od rzetelnych źródeł informacji. Z tego powodu szczególnie cenne stały się książki wydane przed 2022 rokiem, czyli zanim chatboty i generatywna sztuczna inteligencja zaczęły masowo tworzyć treści. Są to materiały napisane, zredagowane i zweryfikowane przez ludzi, dzięki czemu stanowią wartościowy materiał treningowy.
Dla twórców modeli językowych oznacza to dostęp do stabilnych danych, których zawartość pozostaje niezmienna i łatwa do udokumentowania. W efekcie stare książki zaczynają być postrzegane nie tylko jako źródło wiedzy dla czytelników, ale również jako cenny surowiec wykorzystywany do szkolenia kolejnych generacji AI.
Zobacz też:
Sztuczna inteligencja rozwija się za szybko – ONZ alarmuje.
Apple pozywa OpenAI – robi się ciekawie.
Twórcy Claude AI zniszczyli miliony papierowych książek.
