La pelea por el futuro de la inteligencia artificial: CEOs piden bajar la velocidad y Trump rechaza las advertencias

La carrera por desarrollar sistemas de inteligencia artificial cada vez más avanzados abrió una nueva discusión entre algunos de los principales referentes tecnológicos y el gobierno de Estados Unidos. Mientras ejecutivos de compañías como Anthropic y OpenAI plantean que es necesario reducir el ritmo de desarrollo para mejorar los mecanismos de seguridad, Donald Trump se mostró en contra de frenar el avance de la tecnología.

El director ejecutivo de Anthropic, Dario Amodei, fue uno de los últimos en advertir sobre los riesgos asociados al desarrollo acelerado de modelos de IA. En un ensayo publicado el 12 de septiembre, sostuvo que incluso disponer de uno o dos años adicionales antes de alcanzar determinadas capacidades podría resultar clave para avanzar en las investigaciones destinadas a garantizar que estos sistemas permanezcan bajo control humano.

La propuesta de Amodei no plantea detener la investigación ni abandonar el desarrollo de nuevos modelos. Su planteo apunta a modificar el ritmo de avance para que las compañías puedan dedicar más recursos y tiempo a la seguridad y a la denominada alineación de la inteligencia artificial.

La alineación es el área de investigación que busca conseguir que el comportamiento de un sistema de IA sea compatible con los objetivos e intenciones humanas. La preocupación de los especialistas es que modelos con capacidades cada vez mayores puedan encontrar maneras inesperadas de cumplir una determinada instrucción y provocar consecuencias perjudiciales.

Amodei propuso además un esquema de tres etapas para las principales compañías del sector, entre ellas Anthropic, OpenAI y Google DeepMind. También consideró que el gobierno estadounidense debería establecer requisitos comunes para las empresas que desarrollan los modelos de IA más avanzados.

La propuesta encontró respaldo entre otros referentes de la industria. Sam Altman, CEO de OpenAI, coincidió públicamente con varios de los planteos de Amodei y se mostró favorable a la existencia de un marco federal que establezca reglas uniformes para las compañías tecnológicas.

El debate se intensificó después de la salida pública del investigador de Anthropic Jacob Coxon, quien cuestionó el ritmo al que las empresas están desarrollando sistemas cada vez más sofisticados. Coxon advirtió que la industria avanza hacia una eventual inteligencia capaz de mejorar sus propias capacidades sin que todavía exista una solución definitiva para garantizar su control.

Evan Hubinger, responsable de investigación sobre alineación en Anthropic, fue todavía más contundente. En una publicación en X estimó que existe una probabilidad superior al 10% de que la inteligencia artificial pueda provocar la muerte de toda la humanidad durante la próxima década. También reconoció que la comunidad científica todavía no cuenta con un método claro para resolver el problema de la alineación de una eventual superinteligencia.

La superinteligencia es un concepto utilizado para describir sistemas que superarían ampliamente las capacidades intelectuales humanas. La inteligencia artificial general, en cambio, hace referencia a sistemas capaces de alcanzar un nivel de inteligencia comparable al de las personas en una amplia variedad de tareas.

Las advertencias no quedaron limitadas a los investigadores en actividad. Decenas de trabajadores y exintegrantes de las principales compañías del sector reclamaron mayor cooperación entre las empresas y más transparencia sobre los riesgos asociados al desarrollo de modelos avanzados.

Entre quienes cuestionan el actual rumbo de la industria se encuentra Daniel Kokotajlo, exinvestigador de OpenAI. El especialista sostuvo que las empresas están intentando construir sistemas con capacidades extraordinarias sin haber demostrado todavía que saben controlarlos.

Kokotajlo también puso el foco en otro de los problemas que, según su análisis, podría generar el desarrollo acelerado de la IA: la concentración de poder. El investigador planteó que un número reducido de compañías podría terminar controlando sistemas capaces de automatizar grandes sectores de la economía, además de disponer de enormes recursos tecnológicos y productivos.

El gobierno de Trump rechaza frenar el desarrollo de la IA

Las advertencias de los ejecutivos de Silicon Valley chocan con la postura que viene sosteniendo la administración de Donald Trump. El presidente estadounidense volvió a defender el crecimiento de la industria tecnológica y cuestionó los argumentos de quienes plantean reducir la velocidad del desarrollo.

Durante un torneo de golf, el 13 de septiembre, Trump relativizó las advertencias sobre los riesgos de la inteligencia artificial y sostuvo que existen sectores que están planteando escenarios que, a su criterio, no necesariamente ocurrirán.

La posición de la Casa Blanca también fue respaldada por el vicepresidente JD Vance. El 14 de septiembre calificó de "caballo de Troya" los pedidos de regulación realizados por algunas de las compañías líderes del sector.

Vance consideró llamativo que empresas de inteligencia artificial que están a la vanguardia tecnológica recurran al gobierno para pedir que se establezcan regulaciones sobre su propia actividad.

David Sacks, presidente del Consejo de Asesores del Presidente sobre Ciencia y Tecnología, también cuestionó la necesidad de una intervención gubernamental para que las empresas reduzcan voluntariamente el ritmo de sus desarrollos. Su argumento fue que las propias compañías tienen capacidad para tomar esas decisiones.

Trump, además, mantiene una posición favorable a la expansión de la infraestructura necesaria para el desarrollo de IA, especialmente los centros de datos. Su administración considera que mantener el liderazgo tecnológico frente a China constituye un objetivo estratégico para Estados Unidos.

En esa línea, el presidente publicó en Truth Social que el liderazgo en inteligencia artificial será determinante en la competencia internacional y sostuvo que Estados Unidos debe continuar avanzando.

Una discusión que llegó al Congreso y atraviesa a demócratas y republicanos

El debate comenzó a extenderse más allá de Silicon Valley y alcanzó al Congreso estadounidense. Algunos legisladores y especialistas reclamaron que el gobierno tenga un papel más activo frente a los posibles riesgos de los sistemas de inteligencia artificial.

El ex científico de Google DeepMind Alex Turner, quien dejó la compañía en junio por sus cuestionamientos a un contrato de Google con el Pentágono, planteó que los principales ejecutivos de las empresas deberían comparecer ante el Congreso bajo juramento y responder sobre el uso y las capacidades de sus sistemas.

Mientras tanto, el expresidente Barack Obama pidió a los demócratas que competirán en las elecciones de 2028 que incorporen la inteligencia artificial como uno de los ejes centrales de sus propuestas. También instó al líder de la minoría demócrata en la Cámara de Representantes, Hakeem Jeffries, a trabajar en un marco que permita desarrollar una discusión política y pública sobre el futuro de la tecnología.

La discusión tendrá además una particular expresión política en Washington. Según informó Axios, Jacob Coxon participará el 15 de septiembre junto al senador Bernie Sanders y al exasesor de Trump Steve Bannon en un encuentro denominado "Pro-Human Assembly".

La convocatoria reúne a figuras provenientes de espacios políticos muy diferentes, pero que coinciden en expresar preocupación por el avance de sistemas de inteligencia artificial cada vez más poderosos.

El punto central de la discusión ya no se limita a determinar cuánto puede avanzar la tecnología, sino quién debe establecer sus límites y bajo qué condiciones. Mientras parte de la industria reclama más tiempo para desarrollar mecanismos de seguridad, el gobierno de Trump sostiene que desacelerar el sector podría comprometer la posición de Estados Unidos frente a China.

Para los investigadores que alertan sobre una eventual pérdida de control, el riesgo tampoco estaría condicionado por las disputas políticas actuales. Turner resumió esa preocupación al advertir que un sistema de IA fuera de control no distinguiría entre nacionalidades o partidos políticos. Para quienes sostienen esta postura, el desafío consiste en establecer mecanismos de seguridad antes de que las capacidades de estos sistemas superen la posibilidad humana de controlarlos.