¿Cuáles son los desafíos inherentes de las redes sociales? Incluso con "consentimiento", el daño no desaparece: no debemos reducir los problemas de las redes sociales a la responsabilidad individual.

Cuando miramos la pantalla de un smartphone, sentimos que estamos actuando solos.

Vemos videos. Damos "me gusta" a publicaciones. Saltamos información que no nos interesa y buscamos temas que nos llaman la atención. Cada una de estas acciones parece una elección extremadamente personal.

Sin embargo, detrás de esto, se recopilan y analizan las acciones de un número abrumador de usuarios para calcular qué mostrar a continuación para mantenernos pegados a la pantalla. El impacto que se genera ya no se limita solo al interior de un smartphone personal.

¿Quién es retratado como enemigo? ¿Qué se considera "normal"? ¿Qué declaraciones políticas ganan impulso? ¿Cómo entienden los jóvenes el amor, el sexo y las relaciones de género? La acumulación de recomendaciones cambia poco a poco el aire social.

La verdadera pregunta sobre las redes sociales no es solo si podemos borrar nuestros datos o si consentimos el uso de algoritmos.

Lo que debemos cuestionar es hasta qué punto podemos confiar en empresas que buscan maximizar los ingresos publicitarios para manejar un sistema que mueve las percepciones y emociones de miles de millones de personas.

Tres propuestas de regulación que comenzaron en Australia

Actualmente, en Australia, hay tres políticas en marcha relacionadas con las redes sociales y los datos personales.

La primera es el "derecho al olvido". La propuesta de reforma de la ley de privacidad, publicada por el gobierno en agosto de 2026, incluye un sistema que permite a los usuarios solicitar la eliminación de su información personal a grandes redes sociales y servicios de búsqueda.

La segunda es una reforma para que los usuarios puedan elegir usar la función de recomendación de las redes sociales. Chanel Contos, quien lidera la organización Teach Us Consent para prevenir la violencia sexual, propone un sistema de "opt-in" que active la personalización solo si el usuario lo desea explícitamente.

En el estado inicial, se muestran las publicaciones de las personas que el usuario sigue en orden cronológico. Las recomendaciones basadas en el historial de navegación y reacciones solo se muestran si el usuario lo elige.

La tercera es el "deber de cuidado digital". No solo se trata de eliminar publicaciones problemáticas después de que ocurren daños, sino de imponer a las empresas la responsabilidad de reducir los peligros previsibles desde la fase de diseño del servicio. Esto puede incluir no solo las publicaciones en sí, sino también sistemas de recomendación, inteligencia artificial, bots, notificaciones y funciones de desplazamiento infinito.

Aunque estas tres propuestas son similares, los objetivos de regulación son diferentes.

El derecho de eliminación trata sobre "qué sabe la empresa sobre mí", mientras que el opt-in trata sobre "qué se muestra en mi pantalla". En contraste, el deber de cuidado digital cuestiona "qué tipo de servicios peligrosos pueden ofrecer las empresas en primer lugar".

Esta última pregunta es clave para avanzar en el problema de las redes sociales desde los derechos individuales hacia la estructura social.

Por qué el "consentimiento" no es suficiente

Es importante solicitar el consentimiento para la obtención de información personal. Sin embargo, en muchos servicios digitales, el consentimiento se ha convertido en una formalidad.

Pocas personas leen todos los términos de servicio, comprenden cómo se combinan los datos, para qué suposiciones se utilizan y qué anunciantes se ven afectados antes de dar su consentimiento. A veces, no hay más opción que aceptar todo si se desea utilizar el servicio.

Además, el impacto social de los algoritmos no se limita solo a la persona que consintió.

Si un usuario es atraído por información extremista, ese impacto se extiende a su familia, escuela, lugar de trabajo y comunidad. Si alguien que cree en información falsa participa en votaciones o movimientos políticos, incluso aquellos que no usan algoritmos no pueden escapar de los resultados. Si se difunden masivamente el sexismo o el racismo, las personas afectadas sufrirán las consecuencias en su vida social, incluso si no usan esa plataforma.

No consideramos que la contaminación del aire pueda resolverse simplemente cerrando las ventanas si no queremos respirar humo. De manera similar, la contaminación del entorno informativo no se puede resolver solo con configuraciones individuales de los usuarios.

Incluso si eliminamos nuestros datos, se pueden hacer suposiciones sobre atributos y comportamientos a partir de los datos de millones de otros. Incluso si desactivamos las recomendaciones solo para nosotros, si las personas a nuestro alrededor están influenciadas por el mismo sistema, la división social y la radicalización continuarán.

Los derechos individuales son necesarios, pero no son suficientes por sí solos.

El propósito de las "recomendaciones" no es la felicidad del usuario

El algoritmo en sí no es ni bueno ni malo.

Las recomendaciones tienen un gran valor para buscar información necesaria entre una gran cantidad de publicaciones, descubrir música, aficiones, expertos y comunidades de apoyo que no conocíamos. También han sido útiles para la transmisión de información durante desastres y para que las minorías encuentren compañeros.

El problema es para qué se optimiza.

En servicios donde la publicidad es la principal fuente de ingresos, el tiempo que pasamos mirando la pantalla, los clics, las comparticiones y los comentarios se vuelven importantes. Si el contenido que estimula la ira, la ansiedad, el miedo o el sentimiento de superioridad obtiene una reacción más fuerte que la información calmada y convincente, el sistema tiende a inclinarse en esa dirección.

No siempre es el caso de que los usuarios busquen ideas extremistas desde el principio. Pueden comenzar con intereses generales como el entrenamiento de fuerza, el amor, el trabajo o el desarrollo personal, y gradualmente ser guiados hacia publicaciones que explican que su falta de éxito se debe a un grupo específico.

En este caso, las empresas pueden argumentar que "solo mostraron la información en la que los usuarios mostraron interés". Sin embargo, es la plataforma la que mide, fortalece ese interés y decide el orden en que se muestran informaciones similares.

¿Fue el usuario quien eligió? ¿O fue guiado para seguir eligiendo? Esa frontera es extremadamente borrosa.

El acuerdo millonario de Meta muestra un cambio de responsabilidad

En agosto de 2026, Meta acordó un acuerdo de aproximadamente 180 mil millones de dólares con los fiscales generales de estados y territorios de EE. UU. sobre los daños causados a los jóvenes por Facebook e Instagram.

El acuerdo incluye límites de tiempo de uso que los usuarios jóvenes no pueden desactivar por sí mismos, restricciones de uso nocturno, supresión de notificaciones durante el horario escolar y funciones de control para padres. Los pagos están programados para realizarse durante diez años, y parte de ellos están condicionados a que YouTube y TikTok adopten estándares similares.

Este acuerdo no establece por sí solo una relación causal entre las redes sociales y todos los daños mentales. Sin embargo, lo importante es que el enfoque de las medidas comienza a cambiar de "los niños y los padres deben tener cuidado" a "las empresas deben diseñar productos con menos riesgos".

No es suficiente decir que si no quieres tener un accidente, debes mejorar tus habilidades de conducción en un coche sin cinturones de seguridad. Los fabricantes también tienen la responsabilidad de mejorar la seguridad.

Las redes sociales están comenzando a entrar en la misma etapa.

Prohibir el uso a menores de 16 años no resolvió el problema

Desde diciembre de 2025, se requiere que las principales redes sociales en Australia implementen medidas para prevenir el uso por menores de 16 años.

Después del inicio del sistema, se eliminaron, suspendieron o restringieron millones de cuentas identificadas como pertenecientes a menores. Sin embargo, también se informó que algunos niños eluden la verificación de edad para crear nuevas cuentas o que las cuentas existentes permanecen.

Esto no significa simplemente que la política de prohibición no tenga sentido. La restricción de edad ha demostrado la voluntad de la sociedad de proteger a los niños y ha obligado a las empresas a tomar medidas.

Sin embargo, si la edad es la única línea divisoria, en el momento en que cumplen 16 años, se lanzan a un feed excesivamente personalizado. Los adultos tampoco están exentos de fraudes, desinformación, teorías de conspiración, anuncios de apuestas o publicaciones que fomentan trastornos alimentarios.

No se trata solo de alejar a los niños de las redes sociales, sino de transformar el servicio en uno con menos riesgos cuando los niños regresen.

Apoyo a la "desactivación por defecto" en redes sociales, pero también preocupaciones

Las publicaciones en redes sociales muestran un fuerte apoyo a la propuesta de desactivar los algoritmos por defecto.

En un hilo de Reddit que discutió las noticias de Australia, se expresaron opiniones como "debería estar desactivado por defecto", "quiero ver las publicaciones de las personas que sigo" y "solo se muestran anuncios, opiniones de desconocidos y contenido generado por IA en lugar de las actualizaciones de mis amigos".

Algunos usuarios, conscientes de que reaccionan a publicaciones que provocan ira, dieron la bienvenida al regreso de un feed cronológico. También se identificaron opiniones que ven la división social causada por los algoritmos como un problema de democracia o seguridad nacional.

Por otro lado, también hay opiniones en contra o cautelosas.

Además de voces que enfatizan la autogestión, como "si no te gusta, no lo uses" o "se necesita más educación que regulación", hay usuarios que no quieren perder el feed de recomendaciones que han ajustado durante mucho tiempo. También hay preocupaciones sobre la reducción de descubrimientos de aficiones, música, información local y nuevos creadores, y propuestas para permitir que los usuarios elijan entre varios métodos de visualización como "siguiendo", "recomendado", "tendencias" y "aleatorio".

En LinkedIn, se ha señalado que la dicotomía entre algoritmo o cronológico es insuficiente. Lo importante es para qué propósito se optimiza, quién lo gestiona y cuánta autoridad de cambio tienen los usuarios. Según comentarios de investigadores, los jóvenes valoran poder ajustar su feed a sus intereses, pero también critican los anuncios y publicaciones irrelevantes impuestos por las empresas.

Sin embargo, estas son publicaciones extraídas de manera pública y no una encuesta de opinión. Dado que hay sesgos en los participantes de plataformas o hilos específicos, no se puede afirmar que "la mayoría de la población lo apoya".

Aun así, lo que se puede ver en las reacciones es que los usuarios no están negando completamente la personalización, sino que están profundamente insatisfechos con que sus emociones y atención sean utilizadas de manera que no pueden controlar.

El sistema de opt-in también tiene sus límites

Si la visualización no personalizada se establece como predeterminada, se reducirá la inclusión de los usuarios en recomendaciones basadas en seguimiento sin que sean conscientes de ello. Esto es un avance claro.

La Ley de Servicios Digitales de la UE también exige a las grandes plataformas que ofrezcan al menos una opción de recomendación que no se base en la elaboración de perfiles.

Sin embargo, la existencia de opciones y su facilidad de uso son cosas distintas. Si la configuración está oculta en capas profundas, si al volver a abrir la aplicación se restablece la visualización personalizada o si solo algunas funciones son afectadas, el derecho se convierte en algo meramente formal.

Además, incluso si se desactiva el algoritmo, las cuentas extremistas que se hayan seguido hasta ese momento permanecerán. También existe la posibilidad de que lleguen informaciones dañinas a través de mensajes directos, búsquedas, comparticiones, comentarios o enlaces externos. La visualización cronológica tampoco es completamente neutral, ya que depende de "a quién se sigue" y "qué publicaciones se eliminan".

Las recomendaciones pueden ser tanto "agujeros" peligrosos que atrapan a las personas, como "puertas" que las conectan con nuevas culturas y apoyos.

Lo necesario no es eliminar los algoritmos, sino cambiar su propósito y la relación de poder.

No solo se debe regular el "contenido", sino también el "sistema de amplificación"

En la regulación de las redes sociales, a menudo se presta atención a la eliminación de publicaciones ilegales o dañinas una por una. Sin embargo, en un entorno donde nacen miles de publicaciones por minuto, es difícil mantenerse al día solo con eliminaciones.

Incluso si se trata de la misma publicación, si apenas se muestra, su impacto es limitado. Por el contrario, si se recomienda a millones de personas porque genera reacciones, el impacto social se expande rápidamente.

Por lo tanto, lo que se debe exigir a las empresas no es solo el número de eliminaciones.

¿Qué tipo de publicaciones se difundieron a través de recomendaciones? ¿Cuánto tiempo tardaron los jóvenes en exponerse a información dañina específica? ¿Se cambió el algoritmo después de que se señalaron riesgos? ¿Se priorizó la seguridad incluso si el cambio reducía el tiempo de uso o los ingresos publicitarios?

Si estas informaciones no pueden ser verificadas por organismos de supervisión o investigadores independientes, se dependerá únicamente de los informes de seguridad publicados por las empresas.

Un sistema efectivo requiere, además de establecer la visualización no personalizada como predeterminada, evaluación de riesgos, auditorías externas, provisión de datos a investigadores, explicación de las razones de las recomendaciones, obligación de mantener configuraciones y pruebas de funciones dirigidas a niños.

Además, vale la pena considerar un sistema donde los usuarios puedan elegir entre múltiples proveedores de feeds y la interoperabilidad para leer datos de publicaciones en otras aplicaciones de visualización. Mientras las empresas monopolizan el contenido, las relaciones humanas y el orden de visualización, la "elección" de los usuarios se limita a un rango restringido.

No es un asunto ajeno para Japón

El debate en Australia también está directamente relacionado con Japón.

En Japón, también son problemáticos los insultos en redes sociales, la desinformación, los fraudes de inversión, la incitación a trabajos ilegales, el daño por imágenes sexuales y la manipulación de información durante las elecciones. Sin embargo, las medidas tienden a centrarse en el castigo de los autores, las solicitudes de divulgación por parte de las víctimas y las advertencias a los usuarios, todas enfocadas en el individuo.

Por supuesto, es esencial responsabilizar a los autores de publicaciones malintencionadas. Sin embargo, si se deja sin abordar el diseño que prioriza la difusión de publicaciones impactantes y conecta a los perpetradores con las potenciales víctimas, los mismos problemas se repetirán.