Roblox testuje AI do podsumowań czatu. Nowa funkcja ma poprawić bezpieczeństwo dzieci
Roblox kontynuuje wdrażanie kolejnych narzędzi opartych na sztucznej inteligencji, tym razem skupiając się na komunikacji między graczami. Platforma rozpoczęła testy nowej funkcji AI Chat Summaries, której celem jest zwiększenie bezpieczeństwa najmłodszych użytkowników, a jednocześnie ograniczenie poczucia wykluczenia wynikającego z obecnych restrykcji wiekowych.
To kolejny krok Roblox w stronę bardziej kontrolowanego środowiska komunikacyjnego po wcześniejszych, szeroko komentowanych zmianach związanych z weryfikacją wieku.
W styczniu Roblox wdrożył system AI analizujący zdjęcia lub nagrania użytkowników w celu określenia ich grupy wiekowej. Na tej podstawie gracze zostali podzieleni na osobne przedziały komunikacyjne, co oznaczało, że niektóre osoby utraciły możliwość rozmowy nawet ze znajomymi, z którymi wcześniej regularnie kontaktowały się na platformie. Zmiana wywołała sporą krytykę społeczności, szczególnie ze względu na znikające historie rozmów oraz ograniczenia kontaktów.
Nowa funkcja ma działać nieco inaczej. Zamiast całkowicie blokować kontekst rozmowy pomiędzy grupami wiekowymi, Roblox wykorzysta AI do tworzenia ogólnych podsumowań prowadzonych konwersacji. Użytkownicy, którzy nie mają dostępu do pełnej treści czatu z powodu ograniczeń wiekowych, będą mogli zobaczyć streszczenie głównego tematu rozmowy bez ujawniania konkretnych wiadomości.
Oznacza to, że gracze nadal pozostaną świadomi, o czym mniej więcej rozmawiają inni użytkownicy na serwerze, nawet jeśli nie zobaczą szczegółów konwersacji. Jeśli rozmowa zawiera treści uznane za nieodpowiednie, AI nie uwzględni ich w podsumowaniu.
Roblox podkreśla również, że użytkownicy otrzymają możliwość rezygnacji z udziału w systemie, co oznacza, że ich wiadomości nie będą wykorzystywane do generowania streszczeń dla innych graczy.
Choć rozwiązanie może pomóc w tworzeniu bardziej spójnych społecznie serwerów, nadal budzi pytania o prywatność, skuteczność filtrów oraz dokładność samych algorytmów. Roblox od pewnego czasu coraz mocniej inwestuje w AI, wykorzystując je nie tylko do weryfikacji wieku, ale także do:
- neutralizowania wiadomości,
- automatycznego przeredagowywania obraźliwych treści,
- ograniczania wulgaryzmów,
- oraz przyszłych funkcji globalnego czatu między serwerami.
Na ten moment AI Chat Summaries pozostaje funkcją testową, więc nie wszyscy użytkownicy mają do niej dostęp. Roblox może jeszcze znacząco zmodyfikować system przed jego pełnym wdrożeniem lub nawet całkowicie z niego zrezygnować.
Działania Roblox pokazują jednak wyraźnie, że firma stawia na coraz większą automatyzację moderacji i ochrony użytkowników. Pozostaje pytanie, czy kolejne systemy AI rzeczywiście poprawią bezpieczeństwo dzieci, czy raczej stworzą nowe kontrowersje związane z prywatnością i ograniczeniami komunikacji.
