ChatGPT zostawi w tekstach niewidzialny ślad. OpenAI musi móc rozpoznawać, które treści były pisane przez AI, a które przez człowieka.
Rozpoznanie tekstu stworzonego przez sztuczną inteligencję może wkrótce stać się łatwiejsze, nawet jeśli użytkownik nie pozostawi po sobie żadnego widocznego śladu. Takiego jak chociażby, jeśli chcesz mogę napisać ten tekst w nieco bardziej profesjonalnej formie na końcu newsa na stronie z lokalnymi wiadomościami. OpenAI pracuje nad systemem textGrain, który ma ukrywać w wygenerowanych odpowiedziach specjalny sygnał. Nie będzie go widać podczas zwykłego czytania, ale odpowiednio przygotowany detektor powinien być w stanie sprawdzić, czy dany fragment został wygenerowany przez model AI.
textGrain działa inaczej niż klasyczny znak wodny stosowany w obrazie czy dźwięku. Nie polega na dodaniu do tekstu dodatkowego znaku, ciągu znaków ani informacji, którą można bezpośrednio odczytać. Sygnał jest związany ze statystycznym sposobem dobierania kolejnych słów przez model. Dla osoby czytającej odpowiedź tekst powinna wyglądać normalnie. Detektor OpenAI może natomiast przeanalizować rozkład wykorzystanych słów i sprawdzić, czy odpowiada on charakterystycznemu wzorcowi pozostawionemu przez model.
Oczywiście, jest sposób na ominięcie tego detektora. Wystarczy modyfikować tekst ręcznie. Każda ingerencja w tekst coraz bardziej niszczy znak wodny i obniża jego skuteczność.
Technologia ma w najbliższych tygodniach pojawić się w wybranych odpowiedziach ChatGPT i Codex na terenie Unii Europejskiej. OpenAI planuje jednocześnie udostępnić możliwość dobrowolnego znakowania treści klientom korzystającym z API na całym świecie. Bo na terenie Unii to nie jest ich dobra wola. To narzucony przez przepisy obowiązek.
Zobacz też:
ChatGPT traci pozycje lidera – Gemini nadgania.
OpenAI nie spieszy się na giełdę. Najpierw bezpieczeństwo.
Sztuczna inteligencja dla każdego – Korea ma nowy pomysł.
