Roblox avaa avoimeksi kolme turvallisuusmallia ROOST Model Community -yhteisölle

Roblox on lisännyt päivitetyt versiot kolmesta avoimen lähdekoodin luottamus- ja turvallisuusmallista ROOST Model Community -yhteisöön, sekä uuden arviointidatan, jota muut alustat voivat käyttää omien luokittelijoidensa vertailuun, yhtiö ilmoitti 19. elokuuta 2026.

Julkaisu kattaa Robloxin PII‑luokittelijan version 2.0, joka havaitsee yritykset jakaa tai pyytää henkilökohtaisia tietoja chatissa; Roblox Sentinel -version 2, sen varhaisen varoitusjärjestelmän lapsen vaarantamiselle; sekä reaaliaikaisen ääni‑turvallisuusluokittelijan version 3. Kaikkien kolmen version versiot ovat jo tuotannossa Robloxissa. ROOST, lyhenne sanoista Robust Open Online Safety Tools, on voittoa tavoittelematon organisaatio, johon Roblox liittyi perustajajäsenenä alkuvuodesta 2025 yhdessä Googlen, OpenAI:n ja muiden kanssa; sen malliyhteisö jakaa avoimia, tarkastettavia turvallisuusmalleja, joita kuka tahansa organisaatio voi ottaa käyttöön.

Keskeisin parannus koskee PII‑luokittelijaa. Versiossa 1.0 viestit arvioitiin erillisinä, kun taas versiossa 2.0 jokainen kohdeviesti luetaan sen ympäröivästä monen käyttäjän keskustelusta, mikä on suunniteltu havaitsemaan piilotetut kiertotavat, jotka ovat merkityksellisiä vain kontekstissa, esimerkiksi pelaajan kirjoittaessa alustan ulkopuolisen palvelinkutsun kahden vuoron aikana. Synteettinen koulutusdata laajensi kielituen 17:stä 189:ään, ja mallin F1‑pistemäärä Robloxin sisäisessä arvioinnissa nousi 63,41:stä 90,52:een. Malli on rakennettu XLM‑RoBERTa‑Large‑arkkitehtuurin päälle noin 560 miljoonan parametrin verran ja se julkaistaan Apache 2.0 -lisenssin alla, sigmoid‑ulostuloilla kolmessa kategoriassa: PII‑pyyntö, PII‑anto ja käyttäjän ohjaaminen alustan ulkopuolelle.

Kiertämiseen perustuva vertailu

Mallin ohella Roblox julkaisi Roblox PII Safety for Chat Benchmark -tietojoukon, joka on pelkästään arviointiin tarkoitettu datasetti, jossa on 39 202 täysin synteettistä englanninkielistä keskustelua, jaettuna 24 518 turvalliseen ja 14 684 epäturvalliseen esimerkkiin. Datasetin kuvauksessa todetaan, ettei Robloxin käyttäjächat‑dataa sisällytetä; jokainen keskustelu on luotu mallintamaan verkkochatissa havaittuja kiertämistekniikoita, kuten foneettista kirjoittamista, homoglyfejä, kirjainten välistystä, käännettyä tekstiä, koodikieltä ja tiedon jakamista keskustelun vuorojen välillä.

Vertailun suunnittelu kohdistuu puutteeseen olemassa olevissa PII‑arvioinneissa, joissa suurin osa testaa nimettyjen entiteettien poimintaa: etsi sähköpostiosoite, merkitse puhelinnumero. Verkkochat‑riski ilmenee usein ennen kuin mitään poimittavaa tunnistetta on, ja peleissä esiintyvät tunnusmerkit ovat usein harmittomia: kappale‑ID:t, XP‑summat, palvelinkoodit, roolipeliosoitteet. Datasetin “hard negatives” jakavat pinnallisia signaaleja aitojen rikkomusten kanssa, joten avainsanoihin tai numeerisiin malleihin perustuva malli epäonnistuu. Vain kohdepuhuja luokitellaan, mikä tarkoittaa, että malli, joka merkitsee koko keskustelun, kun joku osallistuja mainitsee PII:n, epäonnistuu attribuutiotehtävässä.

Uudessa vertailussa Roblox raportoi v2‑luokittelijansa saavuttavan F1‑arvon 0,8882 verrattuna 0,6469 omaan v1.0‑versioonsa ja 0,6624 Qwen3Guard‑Gen‑8B‑malliin, joka on seuraavaksi paras listalla, Meta Llama Guard 4 12B:lla 0,5456 ja OpenAI:n tietosuojasuodattimella 0,5816. Nämä luvut ovat Robloxin omia raportoituja tuloksia omassa vertailussaan, ja datasetin kuvauksessa todetaan, että synteettinen jakauma ei edusta tuotantoliikennettä.

Sentinel 2.0 lyhentää virityskierroksia tunnista kolmeen minuuttiin

Roblox Sentinel, joka merkitsee varhaisia merkkejä mahdollisesta lapsen vaarantamisesta ennen kuin viestit muuttuvat eksplisiittisiksi, siirtyy versioon 2 uudistetulla viritysputkella. Yhdistävien funktioiden määrä, aggregaattorit, jotka muuntavat useita havaintopisteitä yhdeksi riskipisteeksi, kasvaa kahdesta kuuteen, ja havainnot koodataan nyt kerran per kierros sen sijaan, että ne laskettaisiin uudelleen jokaiselle kokoonpanolle. Robloxin esimerkissä 324 kokoonpanoa kattava kierros valmistui alle kolmeen minuuttiin, lähes tunnin sijaan, ja ROC‑AUC nousi 0,894:stä 0,996:een parhaalla kierroksella, jonka skannaus löysi.

Julkaisumuistiot dokumentoivat kapeammat rikkoontuvat muutokset ominaisuuksien ohella. Python 3.10 on nyt minimiversio, ensimmäisen jälkeen tulevat argumentit ovat avainsanaparametreja pää‑API‑kutsuissa, ja useita ruudukkohautulosten sarakkeita uudelleennimettiin sen jälkeen, kun indeksikokoinen sarake korvasi hiljaisesti arviointisarakkeen versiossa 1.0. Versio 2 myös säilyttää korpuksen tallennetuilla indekseillä, joten pistemerkintöjen selitykset nimeävät vastaavan tekstin uudelleenlatauksen jälkeen rivinumeron sijaan, ja se sisältää Dockerfile‑tiedostot GPU‑ ja CPU‑vain käyttöönottoihin.

Ääni‑turvallisuusluokittelija, jonka Robloxin mukaan on ladattu yli 72 000 kertaa sen ensimmäisen avoimen lähdekoodin julkaisun jälkeen vuonna 2024, moderoi nyt ääni‑chatia 30 kielellä ja kahdeksassa rikkomusluokassa sisäänrakennetulla kielentunnistuksella. Mallikortti raportoi 61 % palautuksen tiukalla 1 % väärän positiivisen määrällä kaikilla 30 kielellä, mikä perustuu koneellisesti merkattuun koulutusdataan, jonka laatua on parannettu ihmisten merkinnöillä. Vaikka perusmalli kasvoi 94,6 miljosta 320 miljoonaan parametreja, mallin tiivistys pitää sen riittävän nopeana reaaliaikaiseen havaitsemiseen. Kortti julkaisee kielikohtaiset palautus‑ ja tarkkuuslukemat ja mainitsee, että luokittelija odottaa 16 kHz mono‑WAV‑syötettä segmentteinä enintään 15 sekuntia, maksimissaan 30 sekuntia.

Julkaisu luvuissa

• 17 → 189: kielituki PII‑luokittelijassa, versio 1.0 → 2.0
• 63.41 → 90.52: PII‑luokittelijan F1‑pistemäärä Robloxin sisäisessä arvioinnissa
• 39,202: synteettisiä keskusteluja uudessa vertailussa (24 518 turvallista, 14 684 epäturvallista)
• 2 → 6: pistemerkkejä yhdistäviä funktioita Sentinel‑versiossa 2
• 0.894 → 0.996: Sentinel ROC‑AUC, oletusasetuksilla vs paras skannattu kokoonpano
• 30: kieliä, joita ääni‑turvallisuusluokittelija v3 kattaa, 61 % palautus ja 1 % väärän positiivisen osuus
• 94.6M → 320M: taustalla olevien parametrien määrä ääni‑luokittelijassa, tiivistämisen avulla tasapainotettu
• 72,000+: latauksia ääni‑turvallisuusluokittelijasta sen 2024 avoimen lähdekoodin julkaisun jälkeen

Miten Robloxin avoimen lähdekoodin turvallisuuspush päätyi tähän

Roblox on julkaissut tuotantoturvallisuusmalleja avoimena – Sentinel elokuussa 2025 ja alkuperäinen PII‑luokittelija marraskuussa – ja tämä julkaisu lisää päivitetyt versiot molemmista sekä ääni‑turvallisuusluokittelijasta ROOST Model Community -yhteisöön. Roblox ilmoitti perustajajäsenyydestään aloitteessa helmikuussa 2025 väittäen, että turvallisuustyökalujen tulisi olla jaettu infrastruktuuri eikä kilpailuetu. Sentinel avattiin avoimeksi elokuussa 2025, ja alkuperäinen PII‑luokittelija seurasi sitä marraskuussa. Ääni‑turvallisuusluokittelija on vanhempi kuin ROOST‑järjestely, se julkaistiin ensimmäisen kerran 2024 ja päivitettiin kolmanteen versioon kesäkuussa 2026.

Roblox sanoo, että kannustin toimii molempiin suuntiin: 12 kuukauden ajalta 7. elokuuta 2026 päättyneellä kaudella lähes 70 % lapsen vaarantamiskohteista, jotka se havaitsi, tulivat Sentinel‑varhaishavainnoista, ja versio 2 sisältää palautetta muilta ROOST‑jäseniltä arvioinnista ja pisteytyksestä. Tämä kontribuutio tapahtuu, kun alustan moderointikäytännöt saavat kasvavaa sääntelyhuomiota Euroopassa, jossa Roblox on lähempänä EU:n tiukimpia alustan sääntöjä. Kaikki kolme mallia ja vertailu ovat nyt saatavilla Hugging Facessa ja GitHubissa Apache 2.0 -lisenssin alla.