AI jest już totalnie wszędzie. A tym razem pojawiło się również na starym dobrym i drogim PlayStation 5, bo czemu nie.
PlayStation 5 potrafi więcej niż tylko uruchamiać gry. Jeden z entuzjastów technologii zdołał wykorzystać zmodyfikowaną konsolę Sony do uruchomienia lokalnego modelu językowego Qwen 3.8 27B. System generuje około 20 tokenów na sekundę. To tempo wystarczające do całkiem płynnej rozmowy z chatbotem. Uwaga to projekt hobbystyczny – w bardzo złym takcie jest pytanie „po co?”.
Inżynieryjnie to naprawdę kawał dobrej roboty. Początkowe próby nie wyglądały obiecująco. Przy wykorzystaniu samego procesora model generował zaledwie jeden token na minutę. Dopiero przeniesienie obliczeń na układ graficzny przyniosło radykalną poprawę. W nowym rozwiązaniu wykorzystano aplikację bazującą na projekcie PS5LM oraz środowisko Vulkan, które pozwala komunikować się z GPU.
Eksperyment wymagał obejścia zabezpieczeń konsoli, odpowiedniego oprogramowania i ręcznej konfiguracji. Nie jest to rozwiązanie, które można po prostu pobrać ze sklepu i uruchomić na każdej PS5. W zamian za to dostajemy gorszą wydajność niż na przeciętnym PC, bo PlayStation 5 nie jest demonem prędkości i ma już swoje lata.
Mimo to projekt jest ciekawym pokazem możliwości sprzętu. Konsola zaprojektowana przede wszystkim do gier potrafi wykorzystać swój układ graficzny do zadania, z którym jej procesor radził sobie bardzo słabo. Czasami warto zrobić coś fajnego tylko dlatego, żeby sprawdzić, czy damy radę. Ciekawostki w świecie technologii bardzo często prowadziły do doskonałych przełomów.
Zobacz też:
Sony zmieniło po cichy PS5 Slim – jest o wiele lepiej!
Sztuczna inteligencja dla każdego – Korea ma nowy pomysł
Sony podnosi ceny PS5. Microsoft nie planuje podobnego ruchu.
