El debate sobre la seguridad de la inteligencia artificial acaba de subir de nivel. Después de que OpenAI y Anthropic lanzaran una advertencia pública sobre los riesgos existenciales de la IA y pidieran una desaceleración coordinada del desarrollo, Mark Zuckerberg, CEO de Meta, respondió con un mensaje claro: “Cada empresa debe garantizar su propia IA segura”.
La postura del fundador de Facebook y Meta marca un distanciamiento evidente de sus competidores. Mientras Sam Altman (OpenAI) y Dario Amodei (Anthropic) piden frenos y mayor coordinación, Zuckerberg defiende que la competencia y la responsabilidad civil son suficientes para garantizar la seguridad, sin necesidad de regulaciones externas o pactos industriales.
La pregunta que queda sobre la mesa es simple: ¿quién tiene la razón?
El contexto: la alerta de OpenAI y Anthropic
Para entender la respuesta de Zuckerberg, primero hay que comprender qué desencadenó el debate.
A principios de septiembre de 2026, investigadores de Anthropic y OpenAI publicaron advertencias públicas sobre los riesgos de la IA:
- Evan Hubinger, jefe de seguridad de Anthropic, estimó que existe más de un 10% de probabilidad de que la IA “mate a todos los humanos” en la próxima década.xataka
- Jacob Coxon, exempleado de OpenAI y Anthropic, renunció denunciando que ambas empresas compiten por desarrollar tecnologías que “podrían acabar con todos nosotros antes de que termine la década”.xataka
- Ambos llamaron a una desaceleración coordinada del desarrollo de modelos avanzados.nytimes
El mensaje fue contundente: los laboratorios están avanzando demasiado rápido, sin suficientes salvaguardas, y el riesgo de pérdida de control es real.
La respuesta de Zuckerberg: “Cada laboratorio tiene la responsabilidad y el incentivo”
El 16 de septiembre de 2026, Mark Zuckerberg publicó un mensaje en la red social X que dejó clara su postura:
“Cada laboratorio tiene la responsabilidad y el incentivo de avanzar al ritmo necesario para entrenar sus modelos de forma segura, así como la capacidad de tomar sus propias medidas para garantizar que esto suceda”.
El CEO de Meta añadió que:
- Los laboratorios se enfrentan a una responsabilidad significativa si sus modelos causan daño, por lo que también tienen un fuerte incentivo para evitarlo.dw
- Las personas no querrán usar agentes que estén desalineados con ellas y que no hagan lo que les piden, así que los laboratorios tienen un incentivo natural para hacer sus modelos más alineados.
- Contratar evaluadores y asesores independientes “es la mejor práctica de la industria”.dw
En resumen: Zuckerberg no niega los riesgos, pero cree que cada empresa debe asumir su propia seguridad sin necesidad de coordinarse con sus competidores.
Zuckerberg vs. Altman y Amodei: dos visiones opuestas
El debate divide a la industria en dos bandos cada vez más definidos.
La postura de OpenAI y Anthropic
Sam Altman (OpenAI) y Dario Amodei (Anthropic) argumentan que:
- Los riesgos son demasiado grandes para dejarlos solo en manos de las empresas.nytimes
- Se necesita una desaceleración coordinada para garantizar que todos avancen con seguridad.nytimes
- La competencia entre empresas puede llevar a recortar salvaguardas para ser más rápidos.nytimes
- Se requieren evaluadores independientes que confirmen la seguridad antes del despliegue.nytimes
La postura de Zuckerberg (Meta)
Mark Zuckerberg responde que:
- Cada laboratorio ya tiene incentivos naturales para garantizar la seguridad (responsabilidad legal, reputación, demanda de usuarios).
- No hacen falta grandes alianzas ni coordinaciones forzadas con competidores.amp.
- Lo importante es que cada empresa invierta en seguridad en lugar de correr hacia el “autoaprendizaje recursivo” (IA que se mejora a sí misma).amp.elmundo
- La competencia y la responsabilidad civil son suficientes como contrapesos.
El ejemplo de Muse: Meta retrasó su propio modelo “por seguridad”
Zuckerberg no solo habla. También pone ejemplos concretos.
Reveló que Meta retrasó el lanzamiento de Muse, su nuevo agente de IA, varios meses para reforzar su seguridad y las protecciones.
“Cuando retrasamos el lanzamiento de Muse para mejorar la seguridad y las protecciones de nuestro nuevo agente, lo hicimos porque esta decisión forma parte de nuestro trabajo diario”, afirmó Zuckerberg.elcolombiano
El mensaje es claro: Meta ya está aplicando lo que predica. Cada empresa debe tomar sus propias medidas de seguridad, sin esperar a que otros lo hagan.
¿Qué dice Zuckerberg sobre el “autoaprendizaje recursivo”?
Uno de los puntos más interesantes de la respuesta de Zuckerberg es su crítica al autoaprendizaje recursivo: la capacidad de una IA de mejorarse a sí misma de forma autónoma.
El CEO de Meta escribió:
“Comprometer una significativa parte de tu computación a dar el servicio a las personas en vez de correr para alcanzar el autoaprendizaje recursivo es una de las mejores formas de desarrollar esta tecnología de forma segura”.amp.elmundo
En otras palabras: Zuckerberg cree que las empresas deberían priorizar servir a los usuarios en lugar de correr hacia modelos cada vez más autónomos y capaces de auto-mejorarse, que son precisamente los que generan más preocupación sobre pérdida de control.
Jensen Huang (NVIDIA) se suma a Zuckerberg: “Corran tan rápido como puedan”
Zuckerberg no está solo en esta postura. Jensen Huang, CEO de NVIDIA, también rechazó las peticiones de ralentización de la IA.forbes
Huang afirmó que las empresas de IA deberían “correr tan rápido como puedan”, alineándose con la visión de Zuckerberg de que la competencia y el mercado son los mejores garantes de la seguridad.fortune
Esto crea un bando claro:
Bando 1: Desaceleración coordinada
- OpenAI (Sam Altman)
- Anthropic (Dario Amodei)
- Elon Musk (xAI)
- Algunos investigadores de seguridad
Bando 2: Competencia y responsabilidad individual
- Meta (Mark Zuckerberg)
- NVIDIA (Jensen Huang)
- Algunos inversores y emprendedores
¿Quién tiene la razón?
La pregunta del millón. Ambas posturas tienen argumentos válidos.
Argumentos a favor de Zuckerberg
- Incentivos reales: Las empresas sí tienen incentivos para evitar daños (demandas, pérdida de reputación, usuarios que se van).
- Flexibilidad: Cada empresa puede adaptar sus medidas de seguridad a sus propios modelos y riesgos.reuters
- Innovación más rápida: Sin coordinaciones forzadas, el desarrollo puede avanzar más rápido.forbes
- Ejemplo concreto: Meta ya retrasó Muse por seguridad, demostrando que la autorregulación funciona.elcolombiano
Argumentos en contra de Zuckerberg
- Competencia puede llevar a recortes: La presión por ser el primero puede incentivar recortar salvaguardas.nytimes
- Riesgos sistémicos: Un fallo en un modelo avanzado puede afectar a toda la sociedad, no solo a los usuarios de esa empresa.nytimes
- Falta de transparencia: Las empresas no siempre revelan sus fallos de seguridad voluntariamente.xataka
- Historial cuestionable: Meta ha tenido problemas de privacidad y seguridad en el pasado (Facebook, Cambridge Analytica, etc.).diariodelistmo
¿Qué significa esto para ti?
Más allá del debate entre gigantes tecnológicos, esta discusión tiene implicaciones reales para usuarios, empresas y gobiernos.
Para usuarios
- Exige transparencia: Pregunta a las empresas cómo garantizan la seguridad de sus modelos.
- No confíes ciegamente: Un modelo “seguro” según la empresa puede no serlo según estándares independientes.
- Reporta problemas: Si un agente de IA hace algo extraño o peligroso, repórtalo.
Para empresas
- No esperes a que te obliguen: Implementa medidas de seguridad proactivas.
- Contrata evaluadores independientes: Como sugiere Zuckerberg, es una buena práctica.dw
- Prioriza seguridad sobre velocidad: Un fallo puede costar más que un retraso.
Para gobiernos
- Equilibrio necesario: Ni regulación excesiva que frene la innovación, ni ausencia total de controles.
- Estándares mínimos: Podrían establecerse requisitos básicos de seguridad sin impedir la competencia.
- Transparencia obligatoria: Las empresas deberían reportar incidentes graves de seguridad.
¿Qué pasará a partir de ahora?
El debate está lejos de resolverse. Pero hay algunas tendencias claras:
Escenario 1: Autorregulación con presión de mercado
- Las empresas implementan medidas de seguridad voluntarias.
- Los usuarios premian a las más transparentes.
- Los fallos graves generan demandas y pérdida de confianza.
Escenario 2: Regulación reactiva tras un incidente
- Ocurre un fallo grave de IA con impacto social.
- Los gobiernos responden con regulación más estricta.
- La industria se adapta, pero con más fricción.
Escenario 3: Híbrido
- Estándares mínimos obligatorios.
- Libertad para medidas adicionales voluntarias.
- Evaluadores independientes certificados.
Conclusión: el debate apenas comienza
Mark Zuckerberg respondió a la alerta de OpenAI y Anthropic con un mensaje claro: “Cada empresa debe garantizar su propia IA”.infobae
Su postura es que la competencia y la responsabilidad civil son suficientes para garantizar la seguridad, sin necesidad de coordinaciones forzadas o regulaciones externas.
Pero la pregunta sigue abierta: ¿es suficiente la autorregulación en una tecnología con riesgos existenciales?
OpenAI y Anthropic dicen que no. Zuckerberg dice que sí. El tiempo, y posiblemente algún incidente grave, dirán quién tenía la razón.
Lo que sí es claro es que la seguridad de la IA ya no es un tema técnico. Es un debate político, económico y social que definirá el futuro de la tecnología y, quizás, de la humanidad.
La seguridad de la inteligencia artificial es responsabilidad de cada empresa Alerta por los alcances de la IA: oportunidades, riesgos y la necesidad de control,
Bill Gates ha vuelto a poner el foco donde más duele: en los riesgos reales de la inteligencia artificial para la humanidad. El Llamado de Bill Gates: Impuestos y Control Global
La preocupación por una IA que podría superar la inteligencia humana también aparece en el análisis sobre la predicción de Elon Musk acerca del futuro de la humanidad