DeepSeek staje się coraz popularniejszy. Niedawne badania wykazały jednak liczne i bardzo poważne luki w jego zabezpieczeniach.
Chiński DeepSeek podbija internet, ale okazuje się, że jest zrobiony na słowo honoru i kilogram taśmy klejącej Eksperci z Cisco Talos przeprowadzili testy, bazując na 50 losowych zapytaniach z zestawu HarmBench. Badania objęły sześć kategorii potencjalnie szkodliwych treści, takich jak cyberprzestępczość, dezinformacja oraz działalność sprzeczna z prawem. Chińskie AI pochwaliło się wynikiem pełnych 100% – dokładnie tyle szkodliwych zapytań NIE odfiltrowało.
Eksperci sugerują, że problem może wynikać z ograniczonych środków przeznaczonych na rozwój modelu. DeepSeek deklaruje, że stworzenie jego AI kosztowało jedynie 6 milionów dolarów, co stanowi ułamek budżetu, jakim dysponują globalni giganci. O tym czy ta deklaracja jest prawdziwa debatować nie ma sensu, niemniej widać na czym zaoszczędzono.
Sprawdź: Prompt engineering – co to jest? Czy to zawód przyszłości?
Widać też na czym nie oszczędzono. DeepSeek może poda nam przepisy na narkotyki czy przedstawi sposoby na złamanie prawa, ale nie powie za to co stało się pewnego słonecznego dnia, na placu którego nawet nie wolno mu wymówić. Podczas testów odmawiał też odpowiedzi na pytania dotyczące prześladowania Ujgurów, represjonowanej w Chinach grupy etnicznej.
Niemniej, pomimo kontrowersji DeepSeek R1 zdobywa ogromną popularność. Tak długo jak będziemy unikać tematów kontrowersyjnych i nie zapytamy o masakrę na placu Tienanmen model jest bardzo sprawny i nie radzi sobie o wiele gorzej od ChataGPT. A na pewno już przewyższa jego poziom z czasów wdrażania tego pierwszego.
Zobacz też:
ChatGPT odrabia już na potęgę lekcje za uczniów
Chińskie DeepSeek zablokowane w pierwszym europejskim kraju
AGI – co to jest ogólna sztuczna inteligencja? To przyszłość AI?
