¿El algoritmo de la censura?

¿Quién dicta que está bien y que está mal?

Existen empresas expresamente creadas para ello, tanto personas que revisan las imágenes, como máquinas que tienen un sistema diseñado específicamente para encontrar desnudos como es el caso de Algorithmia.

Algorithmia utiliza un “bot” el cual puede detectar esos desnudos. ¿Pero cómo es posible? Se realizaron estudios donde se observaba piel humana y diferentes proporciones de esa piel para determinar el nivel de desnudo. Poco a poco han ido mejorando incluso a tener una eficacia en el 93%, pero siempre se les escapan cosas, la mente es subjetiva, pero la máquina no puede incluso fabricando un sistema en el cual el algoritmo imitase algunas acciones que realiza nuestro cerebro. De ahí a que se utilicen etiquetas relacionadas con el desnudo o la posibilidad de denunciar las publicaciones, un feedback para la empresa. Incluso con el mejor algoritmo creado existen problemas como con publicaciones de personas en bikini.

Lo más llamativo es que la propia empresa dependiendo del cliente que contrate el algoritmo puede mover los niveles de censura desde el 0% al 100% por lo tanto, dependiendo del público al que vaya la aplicación subirá o bajará los niveles. Esas personas deciden que se puede considerar desnudo o no. En Twitter, por ejemplo, puedes subir cualquier imagen con un desnudo, no van a eliminarla mientras que en Instagram con solo un pezón ya es eliminada. Es quiere decir, que al final son las personas las que controlan, el algoritmo es solo una herramienta que les ayuda a llevar a cabo sus planes.

Instagram ha llegado a unos niveles en los que incluso está censurando a hombres con pelo largo sin camiseta pensando que son mujeres enseñando el pecho. Esto podría ser un gran debate en el cual se puede ver perfectamente una sociedad sexista. Debido a este suceso, se creó una campaña por Amber Faust llamada #longhairedboyrevolution.

Publicaciones de todos niños que reivindicaban sus fotografías en Instagram

“Querido Instagram, soy un chico. Solo tengo el pelo largo. ¡Deja de borrar mis imágenes! #longhairedboyrevolution

traducción de la publicación de instagram en la cuenta de Amber faust

En estos momentos, también podría aparecer la idea de que por tener el pelo largo se consideraría mujer y tener el pelo corto hombre, cuando tanto el pelo, como la ropa, los juguetes, los colores, etc. no deberían tener género.

Las personas trans (persona cuya identidad de género es diferente a la de su sexo asignado) e intersexuales, también luchas cada día por esta misma razón, la separación de géneros establecida por la sociedad donde se nos encasilla según los genitales con los que nacemos. Si una mujer trans en Instagram sube una foto enseñando pezones considerados “masculinos” se censuraría, pero si un hombre cis (persona cuya identidad de género es diferente a la de su sexo asignado) enseña sus pezones también “masculinos” no se censura.

Por otra parte, y diferente a esto anterior, también existen algoritmos que cuanta más piel enseñes más popular te harás. Es decir, se hizo un estudio por La Red Europea de Periodismo de Datos, donde se dieron cuenta que si una mujer subía una publicación en bikini o ropa interior tenía un 52% más de posibilidades de aparecer a otros usuarios mientras que si haces lo mismo siendo hombre solo tendrías un 28% de que apareciera. También se observó que si se subía fotos de alimentos o paisajes tenía un 60% menos de que apareciera. Por lo tanto, llegando a una conclusión, se podría decir que se busca sexualizar a las mujeres, pero sin enseñarlo todo porque entonces se censura.