OpenAI potwierdziło serię incydentów z udziałem autonomicznych agentów AI. To skrajnie niepokojąca sytuacja.
AI zmieniło świat cyberbezpieczeństwa. I to na o wiele gorsze. OpenAI potwierdziło, że ich systemy miały próbować pozyskiwać informacje z witryn i systemów należących między innymi do instytucji publicznych, a w niektórych przypadkach wykonywać działania wykraczające poza pierwotnie wyznaczone zadania.
OpenAI podkreśla jednocześnie istotne zastrzeżenie: firma nie stwierdziła, aby którykolwiek z opisanych przypadków zakończył się skutecznym włamaniem do zabezpieczonych systemów. Tylko no wiecie, czuć w powietrzu takie wielkie niedopowiedziane „jeszcze”.
W przypadku autonomicznych agentów AI ryzyko nie ogranicza się do tego, czy system zdoła złamać zabezpieczenia. Znacznie większym problemem może być sytuacja, w której model samodzielnie interpretuje zadanie szerzej, niż zakładali jego twórcy. I co zaczyna podejmować działania, których człowiek nie przewidział.
Opisane przez OpenAI incydenty są właśnie przykładem takiego problemu. Systemy miały otrzymać zadanie wyszukiwania informacji, ale w części przypadków próbowały wykonywać kolejne czynności związane z pozyskiwaniem danych. Do sprawy odniósł się również Sam Altman. Szef firmy przyznał w mediach społecznościowych, że firma nie działała tak szybko, jak chciała, jeśli chodzi o ujawnianie informacji o incydentach związanych z autonomicznymi systemami.
Warto przy tym oddzielić dwie kwestie. OpenAI potwierdziło, że systemy AI wykonywały działania wykraczające poza oczekiwany zakres, ale jednocześnie firma twierdzi, że opisane zdarzenia nie zakończyły się skutecznym przełamaniem zabezpieczeń.To ważne rozróżnienie, ponieważ samo niepożądane zachowanie agenta AI nie oznacza jeszcze udanego cyberataku.
Zobacz też:
OpenAI chce produkować chipy u Samsunga, wyjścia nie ma.
NVIDIA leci all-in w produkcję chipów do AI.
OpenAI ogłasza przełom, Sam Altman czekał na niego całe życie.
