La IA que verifica la edad en Roblox es un auténtico desastre y genera dudas sobre su privacidad

Lanzado hace apenas unos días tras su despliegue mundial, el nuevo sistema de verificación basado en IA de ‘Roblox’ realiza una estimación de la edad de los jugadores mediante un breve vídeo tipo selfi para abrir el acceso al chat y otras funciones sociales de la plataforma que limitan la comunicación entre adultos y menores. Pero en la práctica no termina de funcionar correctamente.

Errores de bulto

Si bien acceder a la plataforma no conlleva ningún proceso extra, ahora el sistema de verificación de edad basado en IA es obligatorio para chatear, algo que está generando altas dosis de frustración entre jugadores a los que se les niega el acceso debido a errores en la estimación.

También hay cierta preocupación sobre la privacidad del proceso. Los datos de los usuarios que deciden grabar un vídeo para completar la verificación de edad son procesados por una empresa externa, (Persona) y los responsables de la plataforma insisten en que estos archivos se eliminan inmediatamente después del procedimiento, pero muchos jugadores no confían en su transparencia y se resisten a someterse a la verificación por razones de privacidad. Como alternativa pueden verificar la edad con un documento de identidad.

Una Inteligencia Artificial fácil de engañar

Las publicaciones compartidas en internet por usuarios que lograron burlar a la IA de 'Roblox' han alimentado aún más el escepticismo sobre este sistema. Por ejemplo, alguien logró eludir las comprobaciones usando una foto del fallecido cantante de Nirvana, Kurt Cobain. También se ha difundido un vídeo de un niño que evadió el sistema de verificación dibujándose arrugas y barba en la cara con un rotulador negro. Además, según WIRED, ya han aparecido anuncios de cuentas “verificadas” a la venta, básicamente el tipo de actividades que vuelven a poner en duda la efectividad real de la medida.

Matt Kaufman, director de Seguridad de ‘Roblox’, asegura que son conscientes de las limitaciones del sistema y señala que no es realista esperar resultados impecables de un día para otro en una plataforma con más de 150 millones de usuarios activos al día. Alega, en todo caso, que la compañía es consciente de los problemas y que se está trabajando en soluciones para abordarlos.

Verificador de edad complaciente

En definitiva, parece que inicialmente las intenciones de los responsables de la plataforma para aumentar la seguridad mediante este sistema se están viendo cuestionadas por las críticas de los numerosos usuarios, que reportan problemas con el proceso de escaneo facial. Entre fallos de clasificación y desconfianza por la privacidad, ‘Roblox’ se juega parte de su credibilidad en un asunto tan delicado como la protección a los menores en una de las funciones sociales más usadas de la plataforma.