Tego jeszcze nie było. GitHub CoPilot dodaje automatycznie reklamy do kodu użytkowników. Bez ich żadnej wiedzy.
To miał być następny etap automatyzacji pracy programistów. Zamiast usprawnić codzienne obowiązki deweloperów, funkcja w GitHub Copilot wywołała jedną z głośniejszych kontrowersji wokół AI w branży. Asystent oparty na sztucznej inteligencji zaczął bowiem dodawać do kodu oraz opisów zmian treści o charakterze promocyjnym. Nie były to odosobnione sytuacje. Analiza wykazała ponad 11 tysięcy zgłoszeń typu pull request, w których pojawiały się niemal identyczne komunikaty reklamowe.
Początkowo pojawiły się podejrzenia związane z naruszeniem danych treningowych albo próbą manipulowania modelem. Jednak kolejne godziny przyniosły jeszcze bardziej niepokojący obraz całej sytuacji. Szybkie przeszukanie repozytoriów pokazało skalę problemu. W wielu miejscach powtarzał się niemal identyczny wzór – ten sam komunikat, podobna konstrukcja zdań i wyraźnie promocyjny charakter.
Sprawa bardzo szybko obiegła branżę i dotarła do kierownictwa GitHuba. Reakcja była natychmiastowa – problematyczna funkcja została wyłączona, a firma przyznała, że doszło do błędu projektowego. Przedstawiciele platformy tłumaczyli, że tego typu wskazówki miały pomagać programistom w odkrywaniu nowych narzędzi i funkcji. W praktyce efekt okazał się odwrotny, ponieważ użytkownicy odebrali to jako nieautoryzowaną ingerencję w ich pracę.
Oczywiście, GitHub CoPilot nie był aż tak bezczelny, żeby reklamować McDonaldsa czy Coca-Colę. Reklamy były autopromocją samego CoPilota, co stawia firmę w odrobinę, ale tylko odrobinę lepszym świetle. W tym przypadku granica została wyraźnie przekroczona, a efektem była utrata zaufania i kolejne pytania o to, jak daleko powinna sięgać automatyzacja w programowaniu.
Zobacz też:
NVIDIA i Microsoft chcą budować elektrownie jądrowe.
GitHub stworzył AI tworzące własny kod źródłowy.
Sztuczna inteligencja zmienia nasze poglądy polityczne.
