En un desarrollo que ha agitado las filas de la industria de inteligencia artificial (IA), Jacob Coxon, un investigador británico de 27 años, ex trabajador de OpenAI y Anthropic, desencadenó una polémica pública el pasado martes 10 de septiembre de 2026, cuando publicó en X sus preocupaciones más proféticas sobre la falta de responsabilidad en estas empresas. Coxon argumentó que tanto OpenAI como Anthropic, a pesar de las afirmaciones contrarias de ambas, están avanzando hacia la creación de una superinteligencia auto-mejorable, que, a su juicio, juega con la seguridad humana.
“Lo que estamos construyendo aquí no es solo un sistema de IA, sino una fuerza que corre el riesgo de exceder nuestros controles y posiblemente destruir nuestra civilización”, declaró Coxon. En el caso de OpenAI, subrayó que muchas de las personas involucradas en el desarrollo de estas tecnologías no han internalizado las implicaciones éticas y sociales de sus trabajos. Por otro lado, en Anthropic, aunque se presentan como más cuidadosos, la dinámica competitiva impulsa los riesgos, ya que si no lideran, podrían ser superados por competidores menos cautelosos.
La reacción de Evan Hubinger, responsable de ciencia de alineación en Anthropic, fue de cierto acuerdo con Coxon. Hubinger reconoció que “Jacob tiene razón. Creemos firmemente que la IA podría matar a todos los humanos antes de que termine la década”, y admitió que, personalmente, estima una probabilidad superior al 10% en la próxima década, sin embargo, reconoció la falta de un plan robusto para alinear una superinteligencia.
La carrera por la superinteligencia es, en última instancia, el modelo de negocio de una serie de laboratorios que concentran poder, datos y talento. Coxon advierte que pronto habrá sistemas superhumanos que podrían hackear cualquier cosa, revolucionar campos en poco tiempo y adquirir recursos reales. La mejora recursiva, máquinas que se hacen más inteligentes a sí mismas, podría comenzar en meses, no en décadas, lo cual subraya la urgencia de actuar.
Las preocupaciones sobre la IA se reflejan también en el informe preliminar del Panel Científico Internacional Independiente sobre IA de la ONU, publicado en julio de 2026. Aunque evita el lenguaje apocalíptico, el informe destaca que las capacidades de la IA avanzan más rápido que la comprensión científica y la adaptación gubernamental. Esto plantea la posibilidad de daños catastróficos tanto por acciones autónomas de los sistemas como por uso malicioso, con evidencias de comportamientos engañosos y violaciones de instrucciones.
A pesar de estos peligros, el informe también identifica enormes oportunidades, desde avances en biotecnología hasta herramientas de salud y educación. Sin embargo, también subraya daños existentes, como el material de abuso infantil generado por IA, deepfakes de violencia sexual, y la concentración del 75% del cómputo de frontera en Estados Unidos y China.
La discusión pública sobre la IA a menudo se desvía hacia un extremo o el otro, convertir un debate científico y político en homilía o en su negación. Se necesita un análisis más profundo entre los usuarios, distinguiendo lo que sabemos, lo que tememos y lo que esperamos que la IA haga por nosotros. Sabemos que las capacidades crecen más rápido que las garantías de control, y el poder está concentrado, lo que ya produce daños a la infancia, a la verdad compartida y al trabajo.
El papa León XIV, en su encíclica Magnifica Humanitas publicada en mayo de 2026, ofrece un criterio anterior, la dignidad de la persona, frente a la carrera por la superinteligencia. Se argumenta que la IA imita lenguajes y simula empatía, pero no tiene cuerpo, no pasa por el gozo ni el dolor, no posee conciencia moral ni un corazón que se entregue. La persona es fin, no medio, y la calidad de una civilización se mide por el cuidado del otro como rostro, no como función.
Estas reflexiones se extendieron a la Semana de Formación Permanente de los obispos de México, donde se discutió la influencia de la IA en la vida eclesial y evangelizadora. Se destacó la importancia de alfabetización digital para no abandonar el territorio donde se forma el imaginario y se desdibuja el rostro del prójimo. Una Iglesia que no discierne la cultura digital deja que otros definan qué es humano, y una que solo predica contra la máquina, sin distinguir hechos, temores y promesas, también abandona el discernimiento.
El fin de la humanidad no empieza en el día en que una superinteligencia decida apagarla, sino en el momento en que tratamos al otro como dato, usuario, obstáculo o función optimizable. La despersonalización ya está en marcha en las plataformas, en el trabajo precarizado por algoritmos y en la tentación de delegar el juicio moral a sistemas que no pueden amar. La gobernanza ética de la IA es urgente, no solo para restringir la ambición corporativa de poseer la “superinteligencia”, sino para poner la dignidad de la persona como línea roja.
About the Author
