OpenAI odkryło jak oszukać sztuczną inteligencję

Założone przez między innymi Elona Muska laboratorium OpenAI to jeden ze światowych pionierów w dziedzinie widzenia maszynowego. Okazało się jednak, że do oszukania ich wyrafinowanego oprogramowania wystarczy kartka papieru i długopis.

OpenAI zostało założone w 2015 roku przez Elona Muska i Sama Altmana. Ich głównym celem jest tworzenie sztucznej inteligencji mającej na celu wspomagać rozwój całej ludzkości.Organizacja składa się z dwóch korporacji – OpenAI LP nastawionej na generowanie zysku i OpenAI Inc. będącej fundacją non-profit.

Sprawdź też jaki laptop kupić

Sam Elon Musk odszedł z zarządu w 2018 ze względu na konflikt interesów – nad podobnymi rozwiązaniami pracuje również Tesla. W dalszym ciągu pozostaje jednak jednym z większych sponsorów.

OpenAI kontra ataki typograficzne

Jak odkrył niedawno zespół badaczy, widzenie maszynowe OpenAI może być oszukane w niemalże dziecinnie prosty sposób. Do przedmiotu wystarczy przykleić karteczkę z napisem. Oprogramowanie natychmiast uzna, że to właśnie ten przedmiot, którego nazwa jest napisana na kartce.

Działanie to, nazwane atakiem typograficznym może okazać się jednym z większych problemów stojących przed sztuczną inteligencją.

Już teraz podobne działania wykorzystuje się do oszukiwania niektórych algorytmów. Na razie chodzi jednak o ukrywanie rzeczywistej treści zdjęć przed wyszukiwarkami i filtrami antyspamowymi. Algorytm, który normalnie zablokowałby materiał dajmy na to zawierający przemoc lub pornografię, kompletnie przestaje sobie radzić w momencie, w którym zdjęcie zawiera napis.

Najbardziej zagrożone są samochody

Problem może stać się jednak w przyszłości znacznie bardziej poważny. Tego typu ataki mogą być wykorzystywane do wpływania na algorytmy samochodów z autopilotem.

Kilka lat temu, dość głośną medialnie sprawą było to, że samochody Tesla zatrzymują się przed każdym Burger Kingiem. Wszystko dlatego, że uważały ich logo za znak stopu. Ktoś mógłby poważnie zaszkodzić kierowcom używając podobnej technologii. Chociażby poprzez naklejanie czegoś na znaki drogowe.

OpenAI pracuje już nad systemami wykrywającymi ataki typograficzne. Sprawa nie jest jednak tak prosta jak mogłoby się wydawać.

Zobacz też:
Sztuczna inteligencja w medycynie – nowy implant dla niewidomych
LitterCam – czyli sztuczna inteligencja w walce ze śmieciarzami
Sztuczna inteligencja pozna twoje myśli?

Źródło: The Verge