Las plataformas digitales venden conexión, entretenimiento y libertad. Pero cuando sus algoritmos terminan amplificando contenidos que glorifican el narcotráfico, la violencia o la vida criminal, el discurso corporativo empieza a quedarse corto.
Lo documentado por Human Rights Watch en Colombia debería preocupar seriamente al Perú: grupos armados y redes vinculadas al narcotráfico utilizan Facebook y TikTok para exhibir dinero fácil, poder y violencia como si fueran productos aspiracionales, facilitando el reclutamiento de niños y adolescentes.
La pregunta ya no es si las redes pueden ser usadas por criminales. Eso está claro. La pregunta es cuánto tiempo más las plataformas podrán comportarse como simples espectadores mientras monetizan la atención que esos contenidos generan.
En el Perú, el riesgo es evidente. Remanentes terroristas en el Vraem, minería ilegal, redes de extorsión y organizaciones criminales también pueden encontrar en las redes una cantera de jóvenes vulnerables.
El crimen ya entendió perfectamente el negocio digital: primero seduce, después normaliza y finalmente recluta.
Mientras tanto, las plataformas suelen refugiarse en políticas comunitarias, sistemas automáticos y procedimientos de denuncia que muchas veces reaccionan cuando el daño ya está hecho. Curiosa eficiencia tecnológica: para recomendar un video bastan segundos; para retirar contenido peligroso pueden aparecer revisiones, formularios y apelaciones.
No se trata de censurar opiniones ni de convertir a Silicon Valley en policía del pensamiento. Se trata de algo mucho más elemental: si una empresa tiene capacidad para identificar nuestros gustos, hábitos, ubicación aproximada y comportamiento de consumo, también debería demostrar capacidad suficiente para detectar redes que glorifican delitos o captan menores.
Brasil ya mostró que las tecnológicas no son intocables. TikTok recibió una sanción cercana a US$30 millones por deficiencias vinculadas al tratamiento de datos de menores. En 2024, X fue temporalmente bloqueada hasta cumplir órdenes judiciales.
En Europa, además, se discuten y aplican obligaciones cada vez mayores frente a contenidos ilícitos.
Y en el Perú, como tantas veces, seguimos llegando tarde. Esperamos que el problema crezca, se vuelva visible, produzca víctimas y recién entonces comenzamos a discutir una regulación.
El Estado debe exigir cooperación rápida, trazabilidad, protección reforzada para menores y mecanismos eficaces de retiro de contenido criminal.
Reflexión final
Las plataformas no crean por sí solas al delincuente, pero tampoco pueden seguir lavándose las manos cuando sus sistemas ayudan a amplificarlo.
Si el algoritmo sabe exactamente qué vendernos, también debe saber cuándo está ayudando a vender el crimen. Y si lo sabe y no actúa, la neutralidad empieza a parecer complicidad. (Foto ilustración: lacajanegra.blog).