En los cines se proyecta todavía 'El precio de la red', de Aaron Sorkin. Es una película, pero lo que cuenta ocurrió. En 2021, una ingeniera de Facebook, Frances Haugen, fotografió con su móvil miles de documentos internos y se los entregó a un periodista del Wall Street Journal. Mostraban que la empresa sabía que sus productos dañaban a los adolescentes y alimentaban la división, y que, aun así, eligió no corregirlo. Haugen lo explicó ante el Senado de Estados Unidos: cuando el beneficio chocaba con la seguridad de sus usuarios, Facebook elegía, una y otra vez, el beneficio. No fue un accidente. Fue una decisión.

La película deja una pregunta incómoda: ¿cómo puede una empresa elegir el daño sin que nadie se lo impida? En una democracia, todo poder que afecta a los demás responde de lo que hace. Un periódico tiene un director que responde de lo que publica; un medicamento no llega a la farmacia sin ensayos; un coche no sale a la carretera sin pruebas de seguridad. Solo escapa a esa regla, precisamente, el poder que hoy decide qué leen, qué piensan y qué temen millones de personas: las redes sociales. Una ley estadounidense de 1996, pensada para los primeros foros de internet, eximió a las plataformas de responder de lo que publicaban sus usuarios, como si fueran simples tablones de anuncios, y Europa adoptó en el año 2000 un principio parecido. Aquel tablón ocupa hoy el lugar que tenían los periódicos, sin asumir ninguno de sus deberes.

Para entender lo que ocurre basta con entender el negocio. Estas plataformas no cobran al usuario: venden a los anunciantes la atención de sus usuarios, y cuanto más tiempo permanece cada persona ante la pantalla, más ganan. Lo que más retiene no es lo verdadero ni lo útil, sino lo que indigna, asusta o engancha. Un estudio publicado en la revista Science comprobó que en Twitter las noticias falsas tenían un 70 % más de probabilidades de ser compartidas que las verdaderas. La profesora de Harvard Shoshana Zuboff llamó a este modelo 'capitalismo de la vigilancia': la vida de cada uno convertida en materia prima de un negocio. Los más jóvenes no son el problema. Son el producto.

Las consecuencias están a la vista. En las aulas, según el último informe PISA, los alumnos españoles que se distraen con pantallas en la mayoría de sus clases de ciencias sacan dieciséis puntos menos en esa materia. En la calle, el pasado 24 de octubre, una convocatoria difundida en TikTok y en canales de mensajería llamó a los jóvenes de Barcelona a una protesta que terminó en saqueos y más de un centenar de detenidos, más de la mitad menores. Entre los presuntos organizadores detenidos después figuran dos chicas de catorce y diecisiete años. Y Maldita.es acaba de documentar en TikTok más de mil vídeos de abusos sexuales a menores, vistos 48 millones de veces y a los que conduce el propio algoritmo: de cincuenta denunciados, la plataforma borró cinco y se limitó a pedir más información.

Las multas llegan tarde. Meta ha aceptado pagar unos 17.000 millones de dólares para cerrar las demandas de California y otros estados por la adicción de menores, y Bruselas investiga a TikTok y a Meta. Pero para empresas de este tamaño una sanción no es un castigo, sino un coste más, que acaba repercutido en la publicidad. Castigar después no basta; hay que controlar antes.

Tampoco sirve la excusa de la censura. Cuando la Comisión Europea multó a X, no lo hizo por ninguna opinión, sino por vender la insignia de cuenta verificada a cualquiera que pagara, sin comprobar quién era, por ocultar su registro de anuncios y por negar datos a los investigadores. Aun así, el vicepresidente estadounidense, JD Vance, ya se había quejado, antes incluso de la multa, de que se castigara a la plataforma 'por no ejercer la censura'. Esa es la trampa: llamar censura a la transparencia y libertad a la impunidad. El ensayista italiano Giuliano da Empoli describe lo que queda sin reglas: 'una Somalia digital, un Estado fallido donde mandan los señores de la guerra'.

Ante ese panorama, se ha extendido la idea de que nada puede pararlas. Es falso, y esa resignación es la que más conviene a las plataformas. La técnica para controlarlas existe y está escrita desde hace años. En 2017 se propuso en Estados Unidos una agencia como la que autoriza los medicamentos, que exigiera a los algoritmos más peligrosos una autorización pública previa. Dos juristas británicos plantearon en 2019 obligar a las plataformas a prevenir los daños que causan, como la ley obliga a una fábrica a proteger a sus trabajadores: se vigila el diseño, no los contenidos. Otros trabajos han detallado cómo puede un regulador inspeccionar un algoritmo, desde leer su código hasta crear cuentas ficticias para ver qué les muestra la plataforma. Amnistía Internacional hizo en 2023 esa prueba de choque: perfiles que fingían tener trece años recibieron en TikTok, en menos de una hora, vídeos que alentaban el suicidio. Europa ya obliga a auditar a las grandes plataformas, pero deja que elijan y paguen a sus auditores, como si un fabricante de coches contratara a su propio inspector.

Hay salida, por tanto. No se trata de demonizar las redes, sino de liberarlas de un diseño que premia la indignación. Las propuestas están sobre la mesa. Un regulador público europeo, con medios suficientes, que autorice previamente el diseño de las plataformas. La prohibición de la publicidad basada en la vigilancia, la que espía a cada usuario para venderle anuncios a medida, como piden los Nobel de la Paz Maria Ressa y Dmitri Muratov; o, al menos, un impuesto progresivo sobre ella, como propone el Nobel de Economía Paul Romer, para que a las plataformas les compense abandonarla. Que cada usuario vea por defecto las publicaciones por orden de llegada, no según lo que más lo engancha. Responsabilidad penal para los directivos que conocen el daño, porque una multa la paga la empresa; una condena, quien decidió. Una vía rápida para que un juez identifique a quien convoca un delito desde el anonimato. Configuraciones seguras por defecto para los menores. Educación mediática en todas las escuelas. Y espacios digitales públicos y un periodismo independiente, como los que Europa supo crear con la radio y la televisión públicas. No serán las únicas medidas, pero bastan para empezar.

Nada de esto llegará solo. Lo que lo frena no es la técnica, sino la política. El economista Karl Polanyi explicó que un mercado sin normas acaba devorando la sociedad que lo sostiene, y que las sociedades sobreviven cuando deciden protegerse. En España, la ley de protección de menores en entornos digitales lleva más de año y medio en el Congreso, después de sobrevivir a una enmienda de Vox que pedía devolverla entera al Gobierno. Mientras tanto, la carga recae sobre las familias, y pedir a cada hogar que se defienda por sí solo de un sistema diseñado por miles de ingenieros es otra forma de desigualdad.

Después de 1945, Europa se dio reglas para que ningún poder quedara sin límites. Ochenta años después, el poder que más influye en lo que piensan los europeos es el único que todavía escapa a ellas en lo esencial: el diseño de lo que cada uno ve. Controlarlo corresponde a las instituciones europeas y a los gobiernos, con la misma naturalidad con la que controlan los medicamentos o los alimentos. Renunciar a ello es dejarlo en manos de quienes cobran por cada minuto de atención que le quitan a cada ciudadano.