Jak cenzura wpływa na sztuczną inteligencje?

Naukowcy z uniwersytetu w San Diego postanowili zbadać, jak sztuczna inteligencja reaguje na cenzurę treści. Wyniki okazały się dosyć zaskakujące.

Algorytmy sztucznej inteligencji uczą się pozyskując i klasyfikując coraz to nowsze dane. Podobnie jak ludzie, jeśli informacje były błędne, AI zwyczajnie nauczy się czegoś źle.

Do badania wybrano algorytmy AI wykorzystywane w popularnych chatbotach i asystentach głosowych. Analizują one poszczególne słowa w tekście, z którego się uczą pod kątem ich występowania i sąsiadów.

Chcesz mieć źródła wiedzy zawsze pod ręką? Sprawdź top 5 czytników ebooków.

W ramach prostego przykładu – jeśli algorytm przeczytałby artykuł o psach na Wikipedii, szybko odkryłby, że słowo „Pies” często występuje w sąsiedztwie słowa „Wilk”. Doszedłby więc on do wniosku, że oba słowa muszą mieć ze sobą coś wspólnego. Po przeanalizowaniu milionów tekstów, wnioskowanie algorytmu staje się coraz lepsze. W pewnym momencie osiąga poziom, w którym będzie w stanie symulować logiczne i sensowne wypowiedzi na zadane tematy.

Encyklopedia encyklopedii nierówna.

W badaniu wykorzystane zostały dwa źródła danych – Wikipedia i Baike Baidu (jej chiński odpowiednik). Algorytmy miał nauczyć się z czym kojarzy się słowo „Demokracja”.

Jak możecie się domyślać, AI które uczyło się z Wikipedii skojarzyło te słowo pozytywnie, z terminami takimi jak „stabilność”, „równość” czy „porządek”. Sztuczna inteligencja korzystająca z Baike Baidu miała nieco odmienne zdanie. Demokracja przyporządkowana została do terminów takich jak „chaos”, „niestabilność czy „tyrania”.

Po nauce algorytmy miały za zadanie oceniać nagłówki artykułów. Bez większej niespodzianki, pierwszy z nich przyznawał pozytywne opinie nagłówkom zawierającym terminy takie jak „wolność” czy „wybór”, drugi preferował raczej „monitoring” i „kontrolę”.

Sztuczna inteligencja jest już odpowiedzialna za wiele aspektów naszego życia. To właśnie ona podsuwa nam rekomendacje treści w Internecie. Poznanie jak cenzura może wpłynąć na nastroje społeczne jest w tej kwestii kluczowe.

Zobacz też:
Amazon instaluje kamery AI w samochodach dostawczych
Żyj wiecznie – po śmierci zostań AI w czatbocie
Inteligentna obroża dla psa z AI pomoże zrozumieć zachowania czworonoga

Źródło: Wired