La ética de YouTube Kids indica que funciona como una corporación autónoma

Acabo de terminar de leer el fascinante y perturbador artículo de Jame’s Bridle Algo anda mal en Internet . Mi primer pensamiento fue “maldita sea, eso es perturbador”. Estoy seguro de que fue para la mayoría de las personas que lo leyeron. Mi segundo pensamiento fue “esto suena muy familiar”.

Deberías leer el artículo por ti mismo, pero lo resumiré rápidamente l . Hay una cantidad asombrosa de videos infantiles inquietantes disponibles en YouTube Kids, y muchos de ellos parecen generarse automáticamente. Los videos que no se generan automáticamente al menos se crean únicamente para capitalizar las tendencias algorítmicas. Esas tendencias algorítmicas son la clave de toda la historia: el contenido se produce completamente en base a conjuntos de datos masivos y aprendizaje automático. Como Bridle aborda a fondo, los resultados son difíciles de digerir.

No voy a repetir los puntos que ya se mencionaron en ese artículo. Pero, más bien, amplíe una idea en particular que sentí que merecía más atención: quién tiene realmente el control del sistema. Más importante aún, ¿ alguien ya tiene el control de plataformas de contenido como YouTube? Vendré bien y lo diré: la evidencia indica que no la hay. Más exactamente, no hay nadie humano en control.

Corporaciones autónomas

Recientemente escribí un artículo para Hackster.io sobre BitBarista, que es una máquina de café que genera ingresos vendiendo café. Luego, puede usar esos ingresos para pagar las reparaciones y el mantenimiento de sí mismo, creando un negocio que, en teoría, es autosuficiente. En broma, me referí a esta como la primera corporación autónoma del mundo.

El término “corporación autónoma”, que encontré por primera vez en The Dark Net de Benjamin Percy, se refiere a una corporación que funciona sin liderazgo humano. Una vez creada, una inteligencia artificial tiene el control de todas las decisiones de alto nivel de la empresa, reemplazando efectivamente a un equipo ejecutivo tradicionalmente humano. Es importante tener en cuenta que esto no tiene por qué ser un AGI o una IA fuerte; una IA débil, como las que ya son comunes, es más que capaz de dirigir una corporación.

Debido a que es una novedad, The Dark Net se centra en las amenazas potenciales que podrían presentar las corporaciones autónomas. En ausencia de ética humana, ¿qué haría una IA para lograr su objetivo de maximizar las ganancias? Incluso eso es un antropomorfismo, porque una IA simplemente no consideraría la ética en primer lugar, a menos que estuviera programada para hacerlo.

¿Quién controla YouTube Kids?

La pregunta entonces es: ¿YouTube Kids, o YouTube en general, es una corporación autónoma? Según las definiciones más estrictas, la respuesta es no. Todavía hay humanos a cargo en un sentido amplio. Pero, creo que si consideras la connotación detrás del término, YouTube Kids ciertamente parece que lo administra una IA.

Analicemos los requisitos para que una corporación autónoma se ajuste a la intención de la etiqueta:

La primera pregunta es fácil de responder; YouTube, y a su vez YouTube Kids, es una subsidiaria de Google. Es una corporación con fines de lucro, y su misión es, obviamente, generar ganancias. Lo mismo es cierto para cualquier corporación en los Estados Unidos, además de las organizaciones sin fines de lucro. Con eso fuera del camino, pasemos a las preguntas más complicadas.

Toda la tesis del artículo de Bridle es que los videos de YouTube Kids se generan automáticamente. Esto es cierto en el sentido directo, con muchos de los videos creados por algoritmos y no por humanos. Pero también es cierto para los videos que hacen personas reales.

Recuerde el caso de BitBarista: no está equipado para mantenerse o repararse a sí mismo, pero está equipado para contratar humanos para que hagan ese trabajo y así pueda seguir obteniendo beneficios. Una corporación autónoma no necesita realizar todas las tareas por sí misma, solo necesita poder reconocer qué tareas deben realizarse y poder contratar a alguien para que las haga.

Eso es precisamente lo que hace YouTube. El sistema de contenido paga a los creadores de videos con ingresos publicitarios, que, a su vez, se generan a partir de los anuncios que se reproducen en esos videos. Es lo mismo que hace BitBarista, pero a una escala mucho más grande y compleja. Los ejecutivos de YouTube no miran los videos ni elaboran contratos, al menos no en la gran mayoría de los casos. El sistema se sostiene a sí mismo, a través de medios automatizados, y lo está haciendo con mucho éxito.

El requisito final es el más difícil de abordar objetivamente, porque se convierte en un debate fundamentalmente filosófico. No se puede negar el hecho de que hay ejecutivos humanos presentes. Susan Wojcicki es la directora ejecutiva de YouTube y Sundar Pichai es el director ejecutivo de Google. No he encontrado ninguna evidencia que sugiera que alguno de ellos haya sido reemplazado por robots.

Sin embargo, el corazón del requisito se reduce a quién está realmente en control de la empresa. Una persona cínica diría que las ganancias mismas tienen el control. Si bien eso es probablemente cierto, está un poco fuera del alcance de este artículo. En cambio, centrémonos en una interpretación más directa de la palabra “control”.

Evidencia y ética

Para determinar quién tiene realmente el control de YouTube, debemos considerar la ética de cómo se comporta el sistema. Si bien la mayoría de los humanos desarrollan la ética de forma natural, una IA débil no tendría ningún concepto de ellos a menos que estuvieran programados directamente. Que es lo que vemos en el caso de YouTube Kids.

El sistema de entrega de contenido, diseñado para niños, fue programado para filtrar contenido inapropiado. Pero, como demuestran las historias de Bridle y otros, está fracasando estrepitosamente. ¿Por qué? Porque no tiene una verdadera comprensión de lo que puede mostrar éticamente a los niños. Simplemente intenta encontrar las cosas que sus programadores humanos dijeron que indicaría material inapropiado.

Incluso si el sistema pudiera filtrar ese material de manera confiable, eso no significa que sea realmente ético. Considere cómo esta historia de contenido perturbador en YouTube Kids ha afectado las ganancias de la empresa. El objetivo principal de una corporación autónoma es maximizar las ganancias, por lo que, naturalmente, haría todo lo posible para mantener felices a los padres. Pero eso solo significa que está imitando un comportamiento ético, incluso cuando no tiene una verdadera preocupación por los niños.

Lo que nos lleva a la evidencia real. No podemos esperar que una IA débil tenga ética, pero podemos esperar que el liderazgo humano la tenga. Si bien no conozco a nadie a cargo en YouTube, les daré el beneficio de la duda y les diré que no son sociópatas. Entonces es seguro decir que probablemente posean ética.

Si, entonces, hay humanos en control que son éticos, simplemente eliminarían el contenido ofensivo. Pero, como hemos visto, no es así. Yo diría que esto no se debe a que no quieran , sino a que no pueden . Bridle parece estar de acuerdo con este punto y dice:

“Sin embargo, una gran parte de mi respuesta problemática a este problema es que no tengo idea de cómo pueden responder sin cerrar el servicio y la mayoría de los sistemas que se le parecen. Hemos construido un mundo que opera a escala, donde la supervisión humana es simplemente imposible y ninguna forma de supervisión inhumana contrarrestará la mayoría de los ejemplos que he utilizado en este ensayo “.

No pueden detener el problema sin apagar el sistema. Eso sería lo opuesto a generar ganancias, y es algo que una corporación nunca haría voluntariamente. Si no pueden detener el problema o apagar el sistema, ¿quién está realmente a cargo?

Si desea leer más sobre mí: sígueme aquí en Medium, consulte mis artículos en Hackaday.com o visite mi propio sitio web cameroncoward.com