El ataque registrado el pasado 1 de octubre en una escuela secundaria de Torreón, Coahuila, volvió a colocar sobre la mesa de discusión una interrogante que desde hace años acompaña al desarrollo de las plataformas digitales ¿qué responsabilidad tienen las redes sociales cuando contenidos violentos, discursos extremistas o comunidades que enaltecen agresiones, circulan, se amplifican y eventualmente pueden influir en el comportamiento de determinados usuarios?
El caso es particularmente sensible. Dos jóvenes de 18 años fueron detenidos como presuntos responsables del ataque ocurrido en la Secundaria No. 13 de Torreón, donde murió una subdirectora y varias personas resultaron lesionadas (Reuters, 2026a). Las autoridades investigan las motivaciones de los agresores y su posible relación con contenidos violentos consumidos o compartidos a través de Internet.
La reacción del gobierno federal mexicano fue inmediata. Este 2 de octubre, la presidenta Claudia Sheinbaum anunció que su administración presentará una propuesta para obligar a las plataformas digitales a retirar contenidos que inciten a la violencia y así evitar que sean promovidos o amplificados (Reuters, 2026b). La iniciativa, según lo anunciado, estaría lista la próxima semana y contemplaría también un diálogo con las empresas tecnológicas.
La preocupación es, por supuesto, legítima. Sin embargo, la discusión requiere ir más allá de una explicación sencilla en la que determinados contenidos producen automáticamente determinadas conductas.
Las plataformas digitales no son simples medios neutrales en los que los usuarios depositan información. Son ambientes construidos mediante algoritmos, interfaces, mecanismos de recomendación, sistemas de recompensa y métricas de popularidad. Desde la perspectiva de la Ecología de Medios, esto significa que no basta con analizar lo que circula dentro de una plataforma; debemos observar también las condiciones que el propio medio establece para producir, seleccionar, distribuir y amplificar determinados mensajes (Postman, 2000). Neil Postman entendía los medios como ambientes capaces de estructurar nuestras formas de percepción, pensamiento y comportamiento. En una de sus formulaciones más claras, sostenía que “un medio es una tecnología dentro de la cual crece una cultura” y que, por ello, da forma a su política, organización social y formas habituales de pensamiento (Postman, 2000). La tecnología, desde esta perspectiva, no es solamente una herramienta para transmitir información, sino una estructura que modifica las condiciones en las que pensamos, interactuamos y organizamos la vida social.
Por ello, ante situaciones como la ocurrida en Torreón, quizá la pregunta no debería limitarse a qué contenidos tendrían que eliminarse, sino también a preguntarnos por qué determinados contenidos alcanzan tanta visibilidad y cómo las plataformas pueden contribuir a su amplificación.
Una publicación violenta puede permanecer prácticamente inadvertida o ser recomendada a miles de personas. Puede también quedar aislada o convertirse en la puerta de entrada hacia una secuencia de materiales semejantes. Los sistemas de recomendación clasifican continuamente aquello que vemos a partir de nuestro historial de navegación, nuestras interacciones y la probabilidad de que determinado contenido consiga mantener nuestra atención. El problema, por tanto, no es únicamente el contenido. También es su circulación y amplificación algorítmica.
Esta distinción resulta especialmente importante ante la propuesta de regulación anunciada en México. Obligar a una plataforma a retirar una amenaza específica y creíble no es equivalente a conceder al Estado una facultad amplia para determinar qué expresiones pueden considerarse peligrosas, inconvenientes u ofensivas.
Entre ambos extremos existe una frontera directamente relacionada con la libertad de expresión. Por tal motivo, el desafío comenzará por definir con gran precisión qué significa incitar a la violencia.
Mostrar violencia no necesariamente significa promoverla. Un periodista puede documentar una guerra; un investigador puede estudiar movimientos extremistas; una organización de derechos humanos puede difundir evidencias de una agresión y una víctima puede publicar imágenes para denunciar lo ocurrido. Una película, una canción o un videojuego también pueden representar situaciones violentas sin pretender provocar conductas semejantes.
Cualquier regulación debería, por tanto, distinguir entre representación, descripción, exaltación, amenaza e incitación directa.
Cuanto más ambigua sea la definición, mayor será la posibilidad de generar una retirada desproporcionada de publicaciones. Ante la posibilidad de recibir una sanción, las plataformas podrían optar por eliminar preventivamente cualquier contenido dudoso. Así, una regulación creada para enfrentar determinados riesgos podría terminar generando un mecanismo indirecto de censura.
La Suprema Corte de Justicia de la Nación ha advertido sobre este problema. En 2024, al resolver el Amparo en revisión 767/2023, sostuvo que asignar a los intermediarios digitales la responsabilidad de decidir por sí mismos qué información debe eliminarse puede generar incentivos para retirar contenidos sin una adecuada ponderación y, con ello, “convertir al internet en un espacio de censura previa” (Suprema Corte de Justicia de la Nación [SCJN], 2024).
La Corte señaló que, según las características y gravedad del caso, corresponde a una autoridad competente ponderar los derechos humanos involucrados y determinar si existe justificación para ordenar la eliminación o desindexación de determinados contenidos.
La historia de la investigación sobre los efectos de los medios ofrece, además, otra advertencia importante, debemos evitar el determinismo tecnológico.
Durante décadas se discutió, por ejemplo, si la violencia televisiva producía directamente comportamientos agresivos. Con el tiempo fue evidente que la relación entre medios y comportamiento era considerablemente más compleja y estaba condicionada por otros factores como los familiares, sociales, culturales y psicológicos.
Algo semejante ocurre con las redes sociales. Que una persona haya consumido contenido violento, pertenecido a determinada comunidad digital o seguido perfiles extremistas constituye información relevante para una investigación, pero no demuestra por sí misma que la plataforma haya provocado posteriormente una conducta violenta. En el caso de Torreón, precisamente, la investigación sobre las motivaciones y la actividad digital de los detenidos continúa abierta.
Sin embargo, evitar el determinismo tecnológico no significa eximir a las plataformas de responsabilidad. Aquí, la pregunta importante es distinta: ¿bajo qué circunstancias determinadas características del ambiente digital pueden incrementar ciertos riesgos?
Resulta útil distinguir al menos cuatro dimensiones: (1) el contenido al que un usuario está expuesto; (2) las comunidades con las que interactúa; (3) los algoritmos que pueden recomendar contenidos semejantes; y (4) la propia arquitectura de las plataformas, basada frecuentemente en mecanismos de recompensa, reconocimiento, viralización y captura de la atención.
El gobierno mexicano ya había comenzado a discutir algunos de estos aspectos antes del ataque en Coahuila. Desde julio se desarrollan foros para elaborar una propuesta nacional sobre el uso de plataformas digitales y redes sociales entre niñas, niños y adolescentes (Presidencia de la República, 2026a). En agosto de este mismo año, el propio gobierno reconoció que el diseño de estas plataformas contiene mecanismos destinados a captar la atención y planteó la necesidad de discutir sus efectos y regulación (Presidencia de la República, 2026b). Por ello, una política pública sobre violencia digital no tendría necesariamente que concentrarse únicamente en ordenar que ciertos contenidos desaparezcan.
También podría exigir mayor transparencia sobre los sistemas de recomendación, mecanismos eficaces para denunciar amenazas, protocolos especializados para situaciones de riesgo inmediato, protección reforzada para menores, auditorías independientes y acceso de investigadores a información que permita comprender mejor los procesos de amplificación.
En otras palabras, quizá deberíamos desplazar parcialmente la discusión desde la censura del contenido hacia la responsabilidad sobre la arquitectura que lo amplifica.
Las redes sociales son hoy parte constitutiva de nuestro ambiente informativo. Pueden facilitar procesos de conexión, aprendizaje y participación, pero también pueden generar condiciones para la imitación, polarización, radicalización o normalización de determinadas conductas. Reconocer estas posibilidades no significa afirmar que las plataformas determinen inevitablemente el comportamiento humano. Significa comprender que los medios crean ambientes y que esos ambientes tienen consecuencias.
La discusión que comienza ahora en México no debería plantearse, por tanto, como una elección entre libertad absoluta en las plataformas o control gubernamental de los contenidos.
La pregunta verdaderamente importante es otra:
¿cómo podemos construir ambientes digitales más seguros sin convertirlos en espacios vigilados donde alguien determine anticipadamente qué podemos decir, conocer o discutir?
Responder esa pregunta requerirá algo más complejo que eliminar publicaciones. Será necesario comprender cómo funcionan nuestros ecosistemas digitales, cómo circula la información dentro de ellos y cómo la arquitectura tecnológica puede ampliar tanto nuestras posibilidades de comunicación como nuestras vulnerabilidades.
Esto es y seguirá siendo probablemente uno de los grandes retos para la regulación digital. Intervenir sobre los riesgos sin destruir aquello que hizo de Internet uno de los espacios más importantes para la expresión y la circulación de ideas de nuestro tiempo.
Referencias
Postman, N. (1985). Amusing ourselves to death: Public discourse in the age of show business. Viking.
Postman, N. (2000). The humanism of media ecology. Proceedings of the Media Ecology Association, 1, 10–16.
Presidencia de la República. (2026, 20 de julio). Presidenta anuncia foros para crear propuesta de regulación del uso de plataformas digitales y redes sociales en niñas, niños y adolescentes. Gobierno de México.
Presidencia de la República. (2026, 3 de agosto). El objetivo es presentar el siguiente ciclo escolar una propuesta sobre regulación de plataformas digitales y redes sociales: Presidenta. Gobierno de México.
Reuters. (2026, 1 de octubre). Attack at Mexico secondary school kills vice principal, injures three. Reuters.
Reuters. (2026, 2 de octubre). Mexico to propose bill to curb violent social media content after school attack. Reuters.
Suprema Corte de Justicia de la Nación. (2024, 27 de noviembre). Amparo en revisión 767/2023: Libertad de expresión, intermediarios digitales y eliminación de contenidos. SCJN.