¿Investigación de vacunas o desarrollo de patógenos peligrosos? - La intención oculta que enfrentan las empresas de IA

¿Investigación de vacunas o desarrollo de patógenos peligrosos? - La intención oculta que enfrentan las empresas de IA

Nadie dice "Vamos a crear un arma biológica"

Cuando se habla de medidas de seguridad para la IA generativa, muchas personas piensan en un chatbot que rechaza preguntas peligrosas. Sin embargo, el informe de inteligencia de amenazas publicado por Anthropic en septiembre de 2026 revela una realidad más complicada.

No siempre se puede confiar en que los usuarios malintencionados ingresen sus verdaderas intenciones. En ciencias de la vida, la investigación sobre el funcionamiento de enfermedades infecciosas, el desarrollo de vacunas y tratamientos, y la investigación que hace que los patógenos sean más peligrosos a menudo comparten la misma terminología, planes experimentales y análisis de datos hasta cierto punto. Una pregunta aislada podría parecer tanto una investigación en beneficio del público como una preparación para la militarización.

Anthropic recopiló un informe de 154 páginas sobre el uso indebido e inapropiado de la IA que se confirmó entre diciembre de 2025 y agosto de 2026. El informe abarca siete áreas, incluyendo ciberataques, vigilancia, manipulación de la opinión pública, fraude, armas convencionales y abuso biológico. Entre ellas, cinco casos en los que se consideró que el uso de Claude podría apoyar el desarrollo de armas biológicas atrajeron especial atención.

Lo primero que hay que destacar es que la empresa no ha afirmado haber descubierto un plan de armas biológicas. Tampoco se han revelado los nombres de las instituciones de investigación o los países, ni se ha afirmado que hubiera intención de dañar a los científicos involucrados. Lo que se confirmó fueron múltiples señales de advertencia, como contenido de investigación de alto riesgo, evasión de restricciones regionales, anonimización y ambigüedad de propósito.


Institución de investigación militar y fiebre chikungunya

El caso más emblemático fue una solicitud de subvención para investigar el virus de la fiebre chikungunya. La fiebre chikungunya es una enfermedad infecciosa transmitida por mosquitos que causa fiebre y dolor articular intenso, y cuyos síntomas pueden prolongarse. Dado que es una enfermedad que ocurre naturalmente, podría ser difícil distinguir entre un brote intencional y uno natural.

Según el informe, la solicitud trataba sobre la investigación para alterar las propiedades relacionadas con la transmisión del virus y la evasión inmunológica. Aunque estos conocimientos pueden ser útiles para predecir brotes y desarrollar vacunas y tratamientos, también pueden ser utilizados con el propósito de hacer que los patógenos sean más peligrosos. Además, el hecho de que la investigación se llevara a cabo en una institución de investigación militar aumentó la preocupación de Anthropic.

El método de acceso tampoco era convencional. Se utilizó una infraestructura de EE.UU. desde una región fuera del área de servicio, empleando sistemas que no dejaban rastro de datos, revendedores y cuentas falsas. Incluso se había preparado un sistema para redirigir preguntas rechazadas por Claude a modelos de otras empresas con restricciones más laxas. La empresa suspendió las cuentas relacionadas y trabajó con las partes involucradas para interrumpir la red de retransmisión, pero se informó que los operadores restablecieron la conexión a través de otra ruta en poco tiempo.

Este caso demuestra que la función de rechazo de un solo modelo no es suficiente. Incluso si una IA de una empresa se detiene, los usuarios pueden cambiar entre varios modelos y reemplazar las rutas de comunicación y las cuentas. Las medidas de seguridad deben ir más allá de evaluar el texto de las preguntas e incluir rutas de acceso, afiliaciones de los usuarios y patrones de comportamiento continuos.


Gripe aviar, orthopoxvirus, diseño de toxinas

El segundo caso involucró una investigación sobre la adaptación del virus de la gripe aviar altamente patógena a los mamíferos. Se informó que los investigadores realizaron miles de interacciones durante varias semanas, utilizando Claude para la revisión de literatura, planificación de investigaciones, análisis de datos y redacción de documentos. Anthropic evaluó que el acceso al modelo de alto rendimiento fue bloqueado por un sistema de detección de contenido peligroso, y que el apoyo proporcionado se limitó principalmente a tareas administrativas y de apoyo.

Esto es una reserva importante. El informe no afirma que Claude haya diseñado de inmediato un patógeno desconocido o completado un arma biológica. Más bien, se confirmó que la "capacidad adicional" en esta etapa era limitada. Sin embargo, el hecho de que expertos que podrían tener acceso a instalaciones de investigación reales y muestras intentaran utilizar IA avanzada eludiendo restricciones geográficas anticipa los riesgos si los modelos futuros se vuelven más potentes.

En el tercer caso, una solicitud de subvención para investigar el orthopoxvirus, que pertenece al mismo grupo que la viruela y el mpox, fue ensamblada rápidamente por Claude. Aunque el propósito de la investigación parecía orientado a atenuar el virus, el clasificador de seguridad no detuvo la respuesta. Sin embargo, el conocimiento para comprender los mecanismos de evasión inmunológica puede utilizarse tanto para la atenuación como para preservar y fortalecer esa función.

Los dos casos restantes involucraron el diseño de toxinas y péptidos tóxicos. Incluso si la investigación se centra en el desarrollo de analgésicos o antidepresivos, existe la posibilidad de que surjan sustancias paralizantes a partir de la misma base de diseño. En otro caso, se informó que se instruyó a Claude para que mantuviera la identidad de la sustancia objetivo ambigua en el informe de investigación. Aquí, el sistema que solo detecta palabras peligrosas apenas funcionó debido a la superposición técnica entre los propósitos terapéuticos y dañinos.


El verdadero desafío es el "uso dual"

El uso dual biológico no es un problema nuevo. Comprender la infectividad, la evasión inmunológica y la toxicidad de los patógenos es esencial para la salud pública. Al mismo tiempo, ese conocimiento también tiene valor para los atacantes. La IA no ha creado este problema antiguo, pero al acelerar la búsqueda de literatura, la formulación de hipótesis, el análisis, la creación de código y la redacción de solicitudes, ha cambiado la escala y la velocidad del problema.

Tradicionalmente, avanzar en la investigación de vanguardia requería equipos con conocimientos especializados, un largo entrenamiento y la cooperación de múltiples disciplinas. Si la IA se acerca a ser un "asistente científico universal" que conecta estos elementos, los investigadores podrían manejar áreas más amplias incluso con equipos pequeños. Esto trae grandes beneficios para el desarrollo de nuevos medicamentos y la lucha contra enfermedades infecciosas, pero también aumenta el número de actividades que deben ser monitoreadas y acorta el tiempo de preparación para planes peligrosos.

Además, el costo de los errores de juicio no es simétrico. Si se pasa por alto una investigación peligrosa, el daño puede ser extremadamente grande. Por otro lado, si se bloquea una investigación legítima, el desarrollo de medicamentos y la lucha contra enfermedades infecciosas se retrasan, y solo los investigadores de ciertas regiones son excluidos. Cuanto más se incline hacia el lado de la seguridad, más se socava la libertad y la equidad de la ciencia, y cuanto más se prioriza la libertad, más aumentan los riesgos catastróficos. No se puede resolver esta dicotomía con un simple filtro de palabras clave.


Tres reacciones reflejadas en las redes sociales

Inmediatamente después de la publicación del informe, se observaron al menos tres reacciones en las redes sociales. Sin embargo, dado que se trata de un número reducido de publicaciones poco después de la publicación, no se puede generalizar como una encuesta de opinión pública.

La primera es una fuerte sensación de crisis. Si la IA puede acelerar la planificación de investigaciones sobre patógenos y las solicitudes de subvenciones, se necesita un conjunto de reglas comunes que incluya a los gobiernos y las instituciones de investigación, no solo dejarlo en manos de las empresas. Hubo publicaciones que tomaron en serio el hecho de que no solo las armas biológicas en sí mismas, sino también la evasión de restricciones regionales, las cuentas anónimas y la distribución automática a múltiples modelos se combinan.

 

La segunda es el escepticismo hacia la explicación de Anthropic. En un hilo relacionado en Reddit, hubo comentarios sarcásticos que sugerían que el informe era una campaña de relaciones públicas para enfatizar la crisis, y preguntas sobre hasta qué punto una investigación realizada solo por la empresa puede verificar los hechos. También se sugirió que una empresa que se encuentra en desventaja en la competencia de modelos podría estar utilizando la seguridad como un diferenciador. Independientemente de si estas críticas tienen fundamento, mientras los nombres de los países y las instituciones y las pruebas verificables no se hagan públicas, queda el problema de que no se puede verificar completamente desde el exterior.

La tercera es la preocupación de que las medidas de seguridad conduzcan a un aumento de la vigilancia. Anthropic sostiene que para proporcionar funciones biológicas avanzadas, se necesita un sistema para seleccionar usuarios confiables, verificar cuentas e instituciones afiliadas, y mantener ciertos registros de uso. En respuesta, en las redes sociales hubo voces que criticaron la normalización de la verificación de identidad, la presión sobre los servicios que no almacenan datos, la estructura en la que las empresas privadas revisan el contenido de la investigación y la falta de medios para apelar contra errores de juicio.

Además, algunos publicaron suposiciones sobre países no mencionados en el informe y el origen de enfermedades infecciosas pasadas. Sin embargo, Anthropic no ha revelado nombres de países ni ha afirmado malicia. Difundir tales especulaciones como hechos puede llevar a ataques injustos contra investigadores y prejuicios geopolíticos. Al leer las reacciones en las redes sociales, es necesario distinguir entre lo que el informe confirmó y lo que los usuarios especularon.


¿Es suficiente la autorregulación empresarial?

La respuesta de Anthropic tiene cierto mérito. Bloquearon el uso peligroso, reflejaron las señales obtenidas en medidas de seguridad y las compartieron con el gobierno y otras empresas. Las empresas de IA están en una posición para observar nuevas amenazas que incluso las agencias gubernamentales pueden tener dificultades para detectar a través de registros de uso y diálogos con modelos.

Sin embargo, esa posición también significa un gran poder. Una empresa decide en quién confiar, a qué países e instituciones abrir funciones avanzadas y qué considerar peligroso. Se necesitan responsabilidades de explicación y procedimientos de reparación en caso de errores de juicio, auditorías por terceros, protección de la confidencialidad de los investigadores y criterios para informar a las autoridades.

Además, si la regulación se aplica solo a una empresa, los usuarios peligrosos se trasladarán a otros modelos o modelos abiertos. En el informe, también se confirmó un sistema para redirigir las solicitudes rechazadas por Claude a otros modelos. Lo que se necesita no es depender de la "conciencia" de una empresa en particular, sino compartir señales a través de la industria, verificar la identidad y la afiliación según el nivel de peligro, auditorías independientes y conexión con el control de exportaciones y la ética de la investigación a nivel internacional.

Por otro lado, una prohibición demasiado amplia puede ser contraproducente. Si los investigadores legítimos son empujados a rutas cerradas y se alejan de los servicios comerciales seguros, la capacidad de monitoreo disminuye. La investigación de bajo riesgo debería estar ampliamente disponible, mientras que las tareas de alto riesgo deberían limitarse a investigadores evaluados, con la posibilidad de apelar las decisiones: ese tipo de acceso gradual sería realista.


No es un "desastre inminente", sino una "alerta temprana sobre el aumento de capacidades"

No es preciso interpretar los cinco casos como evidencia de que la IA ya puede crear armas biológicas. Anthropic mismo afirma que estos no son pruebas de que Claude haya generado una amenaza biológica inminente. Muchas de las asistencias confirmadas fueron limitadas a la edición de textos y la organización de información.

Sin embargo, el informe es significativo porque demuestra que ya existen expertos avanzados que intentan usar IA avanzada, y que el mercado y la tecnología para evadir restricciones regionales y funciones de seguridad ya están comenzando a establecerse. A medida que los modelos se acercan al nivel de expertos, el impacto de los mismos patrones de uso se vuelve más significativo.

El problema no es si la IA tiene malas intenciones. Es un problema de diseño institucional sobre quién detiene y en qué etapa cuando los humanos que ocultan malas intenciones, el conocimiento científico que puede usarse para el bien o el mal, los medios de acceso transfronterizos y múltiples empresas de IA en competencia se combinan.

La IA puede convertirse en una herramienta poderosa para avanzar en las ciencias de la vida. Para proteger ese potencial, es necesario un sistema para detectar el uso peligroso. Sin embargo, si se deja solo al juicio secreto de las empresas, se perderá la transparencia y la confianza. Entre la apertura total y la prohibición total, ¿podemos construir un sistema de gestión de acceso que sea verificable, apelable y coordinado internacionalmente? El informe de Anthropic no solo destaca el temor a la tecnología, sino también el hecho de que la sociedad aún no ha diseñado completamente esa línea divisoria.


URL de origen

Artículos relacionados