¡Revuelo en la industria de la IA! El CEO de Anthropic habla sobre el lado oscuro de la inteligencia artificial

¿Por qué una empresa que busca "IA segura" ha ganado enemigos?

"La IA puede ser peligrosa. Por eso debe desarrollarse con cautela."

Si solo se consideran estas palabras, probablemente muchos estarían de acuerdo. Sin embargo, ¿qué pasa si quien las pronuncia es el líder de una empresa en rápido crecimiento que desarrolla una de las IA más avanzadas del mundo?

Mientras algunos lo ven como una advertencia responsable, otros sospechan que podría ser un intento de frenar el crecimiento de sus competidores.

El conflicto en torno a Anthropic, desarrollador de la IA generativa "Claude", y su CEO Dario Amodei, refleja esta complejidad.

Un artículo del New York Times publicado el 13 de noviembre de 2026 describe cómo las advertencias de Amodei han pasado de ser una irritación a provocar una fuerte oposición entre sus colegas. No solo hay diferencias de opinión sobre la seguridad de la IA, sino también sobre la competencia tecnológica, las relaciones con los clientes y el control de un vasto mercado.

Para los usuarios en Japón, esto no es simplemente una disputa entre ejecutivos de un país lejano. Se trata de un problema que afecta los precios, las opciones y las condiciones para seguir utilizando los servicios de IA en su trabajo.

Anthropic no se unió a la carta que apoya la divulgación

Según la parte publicada por el NYT, uno de los escenarios donde el conflicto se hizo evidente fue en el debate político sobre la divulgación de modelos de IA.

El periódico informó que Anthropic y OpenAI habían estado presionando a la Casa Blanca para detener el desarrollo y la amplia distribución de algunos modelos de IA por considerarlos demasiado peligrosos.

Por otro lado, se dice que Satya Nadella de Microsoft y Jensen Huang, entonces CEO de NVIDIA, estaban preparando una carta en apoyo de la divulgación de modelos. Muchas empresas se unieron, y OpenAI también firmó, pero Amodei no participó.

Es importante distinguir entre la presión política descrita en los informes y la posición que Anthropic ha explicado por sí misma.

En una declaración oficial del 27 de julio, la empresa afirmó que nunca ha propuesto prohibir los modelos de pesos abiertos. También reconoció el valor de los modelos divulgados que no poseen capacidades peligrosas, ya que benefician a empresas, desarrolladores e investigadores.

Lo que buscan es pruebas de seguridad para modelos suficientemente avanzados. Esto incluye tanto modelos divulgados como no divulgados.

Por lo tanto, si se simplifica este debate como "empresas a favor de la divulgación vs. Anthropic que busca una prohibición total", se perdería el verdadero punto de disputa.

¿Qué significa "pesos abiertos"?

Pesos abiertos se refiere a un método de divulgación de los "pesos", un conjunto de valores numéricos que determinan el comportamiento de una IA entrenada. Los usuarios pueden obtener el modelo y, bajo ciertas condiciones, ejecutarlo o ajustarlo en su propio entorno.

Sin embargo, incluso si los pesos son divulgados, no necesariamente se divulgan todos los datos de entrenamiento o el proceso de desarrollo. Pensar que "abierto" significa que todo es libremente utilizable y completamente comprensible es prematuro.

La carta de las empresas que apoyan la divulgación enfatiza la importancia de que los usuarios no dependan de una sola empresa y puedan operar la IA de acuerdo con sus necesidades.

Por ejemplo, considere un sistema que maneja documentos internos en japonés.

Usar un servicio de IA externo puede facilitar la implementación y operación. Sin embargo, si se puede operar el modelo en su propio entorno, es más fácil gestionar dónde se almacenan los datos y cuándo se actualizan. No obstante, esto implica asumir la carga de los equipos y el mantenimiento.

No se trata de que una opción sea siempre superior. El significado de los modelos divulgados radica en que los usuarios puedan elegir según sus necesidades y presupuesto.

Hablando de la misma "seguridad", pero viendo peligros diferentes

Es interesante que quienes apoyan la divulgación no están declarando que ignoran la seguridad.

La carta de la coalición empresarial argumenta que la amplia verificación de los modelos divulgados facilita la detección de problemas y proporciona herramientas poderosas a quienes trabajan en defensa. La concentración de capacidades en unos pocos modelos no divulgados podría convertirse en una debilidad.

Por otro lado, Anthropic se centra en la dificultad de recuperar los pesos después de la divulgación y en la dificultad de monitorear el uso para detener el abuso.

Al comparar los peligros que cada lado enfatiza, las discrepancias se hacen evidentes.

Quienes valoran la divulgación ven el peligro de que la tecnología se concentre en unas pocas empresas y no pueda ser verificada externamente. Quienes piden una divulgación cautelosa ven el peligro de que una vez que las capacidades poderosas se extienden, incluso el desarrollador original puede tener dificultades para controlarlas.

En otras palabras, no es que lo que quieren proteger sea completamente opuesto. La diferencia está en cómo lograr la seguridad y qué peligros priorizar.

Por qué las advertencias sobre seguridad generan sospechas comerciales

El NYT no explica la oposición a Anthropic solo por sus declaraciones sobre seguridad.

La parte publicada del periódico informa que, mientras la empresa crece rápidamente, ha cortado servicios a algunos clientes y competidores, y ha presionado contra servicios gratuitos alternativos de otras empresas.

No se puede juzgar el contexto detallado de estas acciones o su justificación individual solo con los extractos disponibles. Sin embargo, el artículo sugiere que hay una percepción de disparidad entre la imagen de "empresa que hace lo correcto" y la postura estricta que muestra en el campo de la competencia.

Este es un problema que no se limita a las empresas de IA.

Los estrictos estándares de seguridad pueden ser necesarios para proteger a los usuarios. Al mismo tiempo, si el cumplimiento es costoso, las empresas con más recursos financieros y humanos podrían tener una ventaja.

Sin embargo, no es apropiado concluir que "todas las preocupaciones sobre seguridad son solo una fachada". Es posible que las preocupaciones sean genuinas y que la empresa también tenga beneficios comerciales.

La misma perspectiva debe aplicarse a las empresas que apoyan la divulgación. Si el mercado para operar IA se expande, podría aumentar la demanda de semiconductores y servicios en la nube. La filosofía de divulgación y los beneficios comerciales pueden coexistir.

Al leer las afirmaciones de las empresas, es más útil considerar qué carga y beneficios traerán las reglas propuestas a quién, en lugar de especular sobre si son de buena o mala fe.

En las redes sociales, voces que abogan por el valor de la divulgación, aunque provienen de actores de la industria

Este debate también se ha extendido a las redes sociales, donde los ejecutivos han expresado directamente sus posiciones.

A continuación se presenta un resumen de las publicaciones en X sobre la carta abierta de julio, basado en informes que cubrieron el contenido de las publicaciones. No representa una reacción directa al artículo del NYT del 13 de noviembre ni la opinión general de todos los usuarios.

Jensen Huang: la necesidad de ambos, modelos divulgados y no divulgados

Huang publicó que los modelos divulgados apoyan la seguridad, la ciberseguridad, la difusión tecnológica y la operación autónoma.

Es notable que no considera innecesarios los modelos no divulgados. Aboga por la necesidad de ambos, modelos divulgados y no divulgados de vanguardia, evitando una simple dicotomía.

Sam Altman: apoyo a que EE.UU. gane en ambos enfoques

Se informa que Sam Altman de OpenAI también expresó su apoyo a que EE.UU. tenga éxito tanto en modelos divulgados como en sus propios modelos no divulgados, respaldando la carta.

Esta declaración muestra que la posición de las empresas proveedoras de modelos no se divide claramente entre "empresas que divulgan" y "empresas que cierran". Las empresas evalúan los modelos divulgados desde las perspectivas de su negocio y política.

Brian Armstrong: el valor de adaptar a las operaciones de la empresa

Brian Armstrong de Coinbase expresó su apoyo a un fuerte modelo divulgado en EE.UU. y mencionó sus esfuerzos para trasladar sus procesos a tales modelos.

La razón que dio fue la capacidad de ajustar el modelo a las operaciones de la empresa.

Este es un punto que las empresas japonesas también pueden entender fácilmente. La IA que obtiene la puntuación más alta en evaluaciones de rendimiento general no siempre es la misma que la IA más rentable para el trabajo de una empresa.

Sin embargo, todas estas son declaraciones de partes interesadas en el mercado de IA. No se puede leer las voces prominentes de los ejecutivos en las redes sociales como el consenso de la sociedad.

La cuestión de "quién decide" que regresa a los usuarios en Japón

Para quienes usan IA en Japón, este conflicto tiene un significado concreto en la elección y operación de servicios.

Por ejemplo, ¿qué pasaría si, después de integrar profundamente una operación en un servicio de IA, cambian los precios o las condiciones de uso? ¿Cuánto esfuerzo requeriría cambiar a otro modelo?

Por el contrario, si se opera un modelo divulgado internamente, ¿quién se encargará de las actualizaciones y la respuesta a vulnerabilidades? Obtener un modelo y poder usarlo de manera segura son desafíos diferentes.

Por lo tanto, no se trata solo de determinar "qué empresa tiene razón".

Es necesario considerar tarifas, rendimiento, métodos de gestión de datos, respuesta a cambios y la posibilidad de cambiar a otros servicios.

Lo mismo se aplica a las políticas. Si se exigen pruebas de seguridad, es importante qué se medirá, quién evaluará y hasta dónde se divulgarán los resultados. Si se fomenta la divulgación, se cuestionará cómo se compartirá la responsabilidad por el abuso o los accidentes.

Las explicaciones de "es seguro, confía en nosotros" o "es abierto, así que es seguro" no son suficientes para que los usuarios tomen decisiones informadas.

Para no dejar el futuro de la IA solo en manos de la autoevaluación de las empresas

La oposición a Anthropic incluye diferencias serias de opinión sobre la seguridad, así como precauciones hacia un competidor en rápido crecimiento. Sin embargo, no se debe asumir un solo motivo que no se puede confirmar desde afuera.

Lo importante no es si Amodei es popular o cuántas empresas firmaron.

Es si las afirmaciones de seguridad pueden conectarse a una verificación independiente. Si los beneficios de la divulgación pueden vincularse a las opciones de los usuarios y no solo a los beneficios de algunas empresas. Y quién asumirá la responsabilidad de explicar y responder cuando surjan problemas graves.

Las paredes que rodean la IA tienen el papel de contener peligros. Sin embargo, esas mismas paredes pueden limitar las opciones de los usuarios y la verificación externa.

Lo necesario no son solo consignas sobre si elevar o derribar las paredes, sino un debate concreto sobre dónde, para qué propósito se establecen y quién verifica su razonabilidad.

Fuentes y referencias

1. The New York Times: sobre la oposición dentro de la industria a Anthropic, el conflicto entre empresas sobre modelos divulgados y críticas a prácticas comerciales.
   https://www.nytimes.com/2026/11/13/technology/anthropic-dario-amodei-ai-openai.html

2. Declaración oficial de Anthropic: negación de la prohibición total de modelos divulgados y propuestas para pruebas de seguridad en modelos divulgados y no divulgados de alto rendimiento, opinión del 27 de julio de 2026.
   https://www.anthropic.com/news/position-open-weights-modelsanthropic.com

3. "Open Weights and American AI Leadership": carta abierta de una coalición empresarial que discute las ventajas de los modelos divulgados en competencia, control del usuario y seguridad.
   https://images.nvidia.com/pdf/Open-Weights-and-American-AI-Leadership.pdfimages.nvidia.com

4. AI Frontier: sobre el proceso de firma de la carta abierta y las publicaciones en X de Huang, Altman y Armstrong. El resumen de las publicaciones en redes sociales se confirma a través de este artículo. No se ha obtenido directamente el texto original de las publicaciones.
   https://aifrontier.kr/en/articles/open-weights-letter-2026/