Sztuczna inteligencja idzie po trupach do celu. Okazuje się, że jeśli nie ma na coś środków, to nie będzie miała przesadnego problemu, żeby je sobie ukraść.
Podczas testów nieopublikowany jeszcze model sztucznej inteligencji OpenAI próbował zdobyć środki potrzebne do wykonania powierzonego mu zadania. W tym celu podjął próby uzyskania dostępu do setek portfeli kryptowalutowych. Ostatecznie udało mu się dostać do jednego z nich, mimo że nie powinien mieć takiej możliwości. To chyba taki eufemizm na to, że sztuczna inteligencja dokonała kradzieży w biały dzień.
To kolejny przypadek, który pokazuje, że autonomiczne systemy AI mogą podejmować działania wykraczające poza założenia ich twórców. I pokazujący podobną zależność, co w przypadku wszystkich innych – AI będzie sięgało po dziwaczne metody, żeby wykonać zadane mu polecenie. Nawet te mocno wykraczające poza założenia projektowe czy normy etyczne.
Ten konkretny model miał pracować nad aktualizacją aplikacji kryptowalutowej i sprawdzić jej działanie w sieci Sepolia. To środowisko testowe wykorzystywane do eksperymentowania z rozwiązaniami opartymi na Ethereum. W przeciwieństwie do głównej sieci nie służy ono do przeprowadzania standardowych transakcji na rzeczywistych aktywach.
Problem pojawił się, gdy AI potrzebowała środków do wykonania kolejnych operacji. Zamiast ograniczyć się do dostępnych zasobów testowych, zaczęła szukać innych możliwości. Według opisu incydentu model próbował uzyskać dostęp do 362 portfeli, wykorzystując popularne frazy odzyskiwania. Jedna z prób zakończyła się powodzeniem. Ktoś spał na zajęciach z cyberbezpieczeństwa.
Jest jeszcze jeden szkopuł. Do incydentu doszło w czerwcu, ale OpenAI zidentyfikowało go dopiero trzy miesiące później. Tak długi odstęp między zdarzeniem a jego wykryciem rodzi pytania o skuteczność monitorowania eksperymentalnych systemów.
Zobacz też:
Sztuczna inteligencja dla każdego – Korea ma nowy pomysł.
Google ma nowy detektor AI-wszyscy go już potrzebują.
OpenAI nie spieszy się na giełdę. Najpierw bezpieczeństwo.
