NoticiasInternacional

La carrera por desarrollar sistemas de inteligencia artificial cada vez más capaces ha entrado en una nueva etapa. Mientras las principales empresas tecnológicas compiten por construir modelos que puedan programar, investigar, analizar información y realizar tareas cada vez más complejas, algunos de sus propios líderes están planteando una pregunta incómoda: ¿qué ocurre si la tecnología avanza más rápido que nuestra capacidad para controlarla?

Dario Amodei, cofundador y director ejecutivo de Anthropic, la empresa creadora de Claude, ha pedido que la industria tenga mecanismos para desacelerar el desarrollo de los modelos de IA más avanzados cuando sea necesario.

La propuesta no significa abandonar la investigación ni detener definitivamente el progreso tecnológico. Se trata, según Amodei, de crear las condiciones para que gobiernos y empresas puedan reducir temporalmente el ritmo si los riesgos empiezan a crecer más rápido que las medidas de seguridad.

¿Qué significa realmente “desacelerar” la IA?

La expresión puede resultar engañosa.

Amodei no está planteando que las compañías dejen de desarrollar inteligencia artificial ni que se prohíban las herramientas que millones de personas utilizan actualmente.

La discusión se concentra principalmente en los llamados modelos de frontera, es decir, sistemas que representan el nivel más avanzado de capacidad tecnológica.

La preocupación surge porque estos modelos están empezando a realizar tareas que anteriormente requerían grandes equipos de especialistas.

Anthropic afirma que sus propios sistemas ya participan de manera significativa en el desarrollo de software. Según datos publicados por la compañía, en mayo de 2026 más del 80% del código incorporado a su base de código había sido escrito por Claude.

Esto plantea una posibilidad particularmente importante: que la IA pueda comenzar a contribuir no solamente a utilizar tecnología, sino también a desarrollar versiones más avanzadas de la propia tecnología.

El temor al desarrollo acelerado

Una de las principales preocupaciones de Amodei es que la capacidad de los modelos pueda aumentar rápidamente mientras las herramientas de seguridad avanzan más lentamente.

Anthropic ha investigado el concepto de mejora recursiva, en el que sistemas de IA cada vez más capaces podrían participar en el diseño y desarrollo de sus sucesores.

La compañía reconoce que una inteligencia artificial capaz de desarrollar autónomamente una nueva generación de sistemas todavía no existe en ese nivel y que ese escenario no es inevitable. Pero considera que podría llegar antes de que muchas instituciones estén preparadas para enfrentarlo.

Por eso, la discusión ya no se limita a si una IA puede escribir un ensayo, crear una imagen o programar una aplicación.

La pregunta es qué ocurrirá cuando pueda participar de forma mucho más autónoma en investigaciones científicas, ingeniería, ciberseguridad y desarrollo tecnológico.

Los riesgos ya no son solamente hipotéticos

La preocupación también está relacionada con usos actuales de estas herramientas.

Anthropic informó en septiembre de 2026 que durante los ocho meses anteriores había detectado y desarticulado operaciones en las que actores maliciosos intentaron utilizar Claude para actividades relacionadas con ciberataques, vigilancia, fraude y otras formas de abuso.

La propia empresa también publicó evaluaciones que muestran que modelos avanzados pueden realizar determinadas tareas de inteligencia y desarrollo de armas convencionales que históricamente requerían especialistas altamente capacitados.

Estos ejemplos no significan que una IA vaya a actuar inevitablemente de manera peligrosa. Sí muestran, sin embargo, que el aumento de capacidades puede ampliar tanto los beneficios como las posibilidades de uso indebido.

¿Cómo se podría desacelerar?

Amodei ha planteado varias ideas para hacer posible una desaceleración coordinada.

Una de ellas consiste en incorporar evaluadores independientes de seguridad dentro de las empresas que desarrollan los modelos más avanzados.

Otra busca promover acuerdos entre los principales laboratorios para establecer estándares comunes de seguridad.

También considera necesaria una mayor cooperación internacional, porque una pausa o desaceleración que solamente afectara a algunas compañías o países podría generar un incentivo para que otros continúen avanzando a mayor velocidad.

Este último punto es especialmente complicado.

La IA se ha convertido en una cuestión económica y estratégica internacional, por lo que ninguna empresa quiere quedarse atrás frente a sus competidores.

El problema de la carrera tecnológica

Aquí aparece una de las mayores dificultades.

Imaginemos que una compañía decide reducir el ritmo de desarrollo para dedicar más tiempo a pruebas de seguridad. Si sus competidores continúan avanzando rápidamente, podría perder participación de mercado y ventajas tecnológicas.

El mismo problema existe entre países.

Estados Unidos y China mantienen una intensa competencia por el liderazgo en inteligencia artificial. Una decisión unilateral de ralentizar el desarrollo podría ser vista como una oportunidad para que el rival avance.

Por eso Amodei sostiene que una desaceleración efectiva requeriría mecanismos de coordinación capaces de garantizar que los principales actores respeten determinadas reglas.

No todos están de acuerdo

La propuesta tampoco genera consenso dentro de Silicon Valley.

El CEO de Meta, Mark Zuckerberg, ha sostenido recientemente que las empresas de IA tienen suficientes incentivos y responsabilidades para desarrollar sistemas seguros sin necesidad de una desaceleración coordinada. Zuckerberg ha defendido medidas de seguridad independientes, pero cuestiona la necesidad de frenar colectivamente el desarrollo.

Desde Europa también existen posiciones diferentes.

El ministro de Finanzas francés, Roland Lescure, cuestionó las propuestas de desaceleración y argumentó que Europa debería acelerar la adopción de la IA mientras desarrolla mecanismos para controlar sus riesgos.

La discusión, por tanto, no es simplemente entre quienes están “a favor” o “en contra” de la inteligencia artificial.

Es una discusión sobre qué velocidad de desarrollo puede ser compatible con una seguridad adecuada.

¿Qué podría cambiar para los usuarios?

Para la mayoría de las personas, una desaceleración no significaría necesariamente que desaparezcan herramientas como los asistentes de IA, los generadores de imágenes o los sistemas de programación.

El impacto estaría principalmente en el ritmo con el que aparecen modelos cada vez más poderosos y autónomos.

Podrían aumentar los períodos de pruebas antes de lanzar determinados sistemas. También podrían existir evaluaciones de seguridad más exigentes, restricciones para determinadas capacidades y mecanismos de supervisión más independientes.

Eso podría significar que algunas herramientas lleguen más lentamente al mercado.

Pero también podría reducir la posibilidad de que una nueva capacidad sea desplegada antes de comprender adecuadamente sus consecuencias.

El dilema: velocidad frente a seguridad

El debate tiene una dificultad fundamental.

Avanzar demasiado rápido puede aumentar determinados riesgos, pero avanzar demasiado lentamente también tiene costos.

La inteligencia artificial puede contribuir a la investigación científica, la medicina, la educación, la productividad y el desarrollo de nuevas tecnologías. Retrasar innecesariamente esas aplicaciones también puede tener consecuencias.

Por otro lado, si los sistemas adquieren capacidades significativamente superiores a las actuales, algunos errores podrían tener consecuencias mucho mayores.

La cuestión, entonces, no consiste simplemente en decidir entre avanzar o detenerse.

Consiste en determinar qué niveles de capacidad requieren qué niveles de seguridad antes de ser desplegados.

Una discusión que apenas comienza

La propuesta de Amodei llega en un momento en que la industria está acelerando sus inversiones y lanzando modelos cada vez más sofisticados.

Paradójicamente, Anthropic continúa desarrollando sistemas avanzados mientras su propio liderazgo reclama mecanismos que permitan desacelerar cuando sea necesario. La empresa lanzó en septiembre nuevos modelos de Claude destinados a programación y trabajo de conocimiento, mientras simultáneamente publica investigaciones sobre los riesgos asociados con capacidades cada vez mayores.

Esto revela la complejidad del problema.

La pregunta no es si la inteligencia artificial seguirá avanzando. Todo indica que continuará haciéndolo.

La verdadera cuestión es si la humanidad será capaz de construir las reglas, instituciones y mecanismos de seguridad al mismo ritmo que aumentan las capacidades de estas máquinas.

Quizá la propuesta de desacelerar no sea, en última instancia, una llamada a abandonar la carrera tecnológica, sino una invitación a preguntarnos si estamos corriendo demasiado rápido para saber hacia dónde vamos.