Falla en la moderación de contenido con IA de gigantes tecnológicos
Según un estudio reciente encargado por la Autoridad de Infocomunicaciones de los Medios Nacionales e Infocomunicaciones (NMHH), Facebook ha restringido a medio millón de húngaros, revelando la opacidad de las reglas de moderación de contenido y cuenta de la plataforma en línea.
El informe analizó las políticas de Facebook y YouTube en relación con la restricción de usuarios, destacando el uso de inteligencia artificial para tomar decisiones de sanción que, en su mayoría, no son revisadas por personas reales. La Ley de Servicios Digitales de la Unión Europea ahora requiere que todas las plataformas en línea informen sobre sus decisiones de moderación, lo que reveló que cientos de miles de decisiones restrictivas se toman diariamente con la ayuda de la inteligencia artificial.
Estas decisiones restrictivas no suelen ser explicadas a los usuarios, lo que deja en la oscuridad el funcionamiento de los algoritmos de restricción. A pesar de que los afectados pueden impugnar las acciones de los proveedores de la plataforma, sus quejas también suelen ser manejadas por inteligencia artificial, lo que hace que la restauración del contenido o las cuentas restringidas sea cada vez más rara.
La falta de claridad en las políticas de las plataformas dificulta su comprensión por parte de los usuarios, ya que no se presentan en un documento transparente y a menudo agrupan violaciones de manera ilógica. Por ejemplo, YouTube puede eliminar cualquier contenido que «pueda causar daño» a la plataforma, lo que amplía las decisiones restrictivas sobre discurso de odio y desinformación.
Según el estudio, aproximadamente medio millón de húngaros han experimentado una eliminación o restricción de contenido por parte de su proveedor de servicios, lo que representa un aumento significativo en comparación con años anteriores. Además, la mitad de los usuarios afectados han experimentado restricciones más de una vez, pero solo una décima parte del contenido restringido fue restaurado por la plataforma en 2024.
La dependencia creciente de la inteligencia artificial para manejar quejas puede ser una de las razones por las cuales los proveedores de plataformas restauran menos contenido suspendido. Esta situación plantea desafíos para la transparencia y la libertad de expresión en el entorno en línea actual.
