Gim daring Roblox meluncurkan fitur baru berbasis kecerdasan
buatan (AI) yang mampu mengubah atau memparafrasekan bahasa tidak pantas secara
otomatis pada percakapan di dalam gim.
Dilansir dari Engadget pada Minggu, Roblox sebelumnya telah
menggunakan filter AI untuk memblokir kata atau frasa yang melanggar kebijakan
komunitas. Namun sistem tersebut hanya mengganti pesan yang disensor dengan
tanda pagar (####), yang kerap membuat percakapan sulit dipahami.
Melalui fitur terbaru ini, kata atau kalimat yang dianggap
tidak pantas diucapkan akan diganti dengan ungkapan yang lebih sopan oleh AI,
sehingga alur percakapan tetap dapat dipahami oleh pemain.
Chief Safety Officer Roblox Rajiv Bhatia mengatakan tahap
awal penerapan fitur ini difokuskan pada kata-kata kasar. Sebagai contoh, jika
seorang pemain menulis “Hurry TF up”, sistem akan menggantinya menjadi “Hurry
up”.
Setiap pesan yang diubah akan disertai keterangan bahwa
kalimat tersebut telah diparafrasekan oleh sistem. Pengirim pesan juga dapat
melihat bagian bahasa yang telah disunting. Meski demikian, pemain yang terus
menggunakan kata-kata kasar tetap dapat dikenai sanksi karena melanggar
kebijakan komunitas.
“Seiring sistem ini diperluas, hal tersebut dapat
menciptakan efek berkelanjutan yang mendorong kesopanan, di mana umpan balik
secara real-time membantu pengguna belajar dan menerapkan standar komunitas
kami," kata Rajib.
Fitur parafrase tersebut saat ini diterapkan pada percakapan
antara pengguna yang telah terverifikasi usianya dan berada dalam kelompok usia
yang serupa, serta tersedia dalam berbagai bahasa yang didukung oleh sistem
terjemahan Roblox.
Pada Januari lalu, Roblox juga memperkenalkan sistem
verifikasi usia setelah muncul laporan yang menyebut platform tersebut memiliki
masalah terkait keamanan anak, termasuk dugaan bahwa pemain dewasa menggunakan
gim untuk mendekati anak-anak secara tidak pantas.
Untuk mencegah hal tersebut, pengguna berusia di bawah 13
tahun kini tidak lagi dapat menggunakan fitur obrolan dalam gim, sementara
pemain lain hanya dapat berkomunikasi dengan pengguna yang berada pada rentang
usia yang sama.
Meski demikian, upaya tersebut belum sepenuhnya meredam
kritik. Pemerintah Los Angeles County di Amerika Serikat pada Februari
mengajukan gugatan yang menilai Roblox mengetahui bahwa platformnya berpotensi
membuat anak-anak rentan terhadap pedofilia.
Gugatan serupa juga diajukan oleh jaksa agung negara bagian
Louisiana yang menuduh platform tersebut tidak cukup dalam melindungi pengguna
anak dari predator seksual.
