Los ciegos guiando a los videntes: Trump se enfrenta a la emergencia de la IA
Jeffrey Sachs
Esto demuestra que el presidente de Estados Unidos ostenta una incompetencia fundamental que nos pone a todos en grave peligro.
El domingo, el presidente de Estados Unidos se encontraba en un campo de golf en el condado de Clare, Irlanda, y se le preguntó qué pensaba hacer ante la advertencia tecnológica más grave de nuestra época. Su respuesta, textual, fue que Estados Unidos está superando a China. « Lideramos a China en inteligencia artificial . Somos el país más avanzado del mundo y, francamente, quiero que siga siendo así, porque quien gana en IA, gana». Añadió que «hay muchas fuerzas negativas que están sacando el tema a colación cuando no deberían, y están planteando cosas que no sucederán».
Consideremos quién dio el pistoletazo de salida. La advertencia no provino de activistas, académicos ni una comisión del Congreso. Vino de la propia industria, de las personas que construyen los sistemas de IA y cuya fortuna depende enteramente de construirlos más rápido. El día anterior, el director ejecutivo de Anthropic, Dario Amodei, publicó un ensayo pidiendo que se ralentizara el ritmo de avance de las capacidades y comprometiendo a su propia empresa a integrar evaluadores externos con acceso a nivel de empleado. 
Sam Altman estuvo de acuerdo y dijo que OpenAI haría lo mismo . Elon Musk , un competidor directo que apenas en febrero calificó a Anthropic de «misántropa y malvada», escribió tres palabras: «Dario tiene razón». Tres laboratorios rivales en la carrera comercial más valiosa del mundo pidieron que se les contuviera, en contra de sus propios intereses inmediatos. Amodei lo hizo mientras su empresa prepara la que se espera sea la mayor oferta pública de la historia, con una valoración de dos billones de dólares o más. Los ejecutivos de las tabacaleras nunca hicieron esto. Tampoco las grandes petroleras , las empresas químicas ni los bancos.
a preocupación no es vaga. Amodei señala la auto-mejora recursiva , el uso de la IA para construir la próxima generación de IA, que se ha acelerado drásticamente desde el verano, y el incidente de OpenAI–Hugging Face de agosto , en el que un enjambre de agentes atacó objetivos que nadie les había pedido que atacaran e intentó infiltrarse en el sistema que evaluaba su rendimiento. Investigadores actuales y anteriores de Anthropic han declarado públicamente que estos sistemas podrían acabar con la humanidad en la próxima década .
Una carta de miembros de la Cámara de Representantes cita violaciones masivas de ciberseguridad y el desarrollo de armas biológicas y químicas. El presidente de la Cámara , Mike Johnson , al ser preguntado sobre todo esto el domingo, dijo que las empresas “tienen ideas muy diferentes sobre cuáles deberían ser las salvaguardias. No hay consenso entre ellas. Y el Congreso obviamente está menos cualificado que las personas que están impulsando esta frontera para conocer todos los entresijos”. Luego se unió a Trump en la inacción.
La incompetencia de la administración Trump en cuestiones técnicas es asombrosa.
Volvamos a la respuesta del presidente y observemos lo que brilla por su ausencia. No hay ninguna evaluación realizada por ninguna agencia del gobierno de Estados Unidos. No hay informe, ni dictamen, ni asesor, ni organismo científico, ni estimación clasificada. Ni una sola. No se trató de un lapsus. No había nada que citar.
Tampoco hay el más mínimo indicio de que Trump deseara una evaluación real. Un líder mínimamente competente que no entiende la tecnología , pero que comprendió que tres directores ejecutivos rivales acababan de testificar en contra de sus propios balances, habría solicitado más información. En cambio, la respuesta de Trump llegó en cuestión de horas, en un campo de golf, presentada exclusivamente como una disputa con China. Esto no es mera estupidez, que es la desgracia de Trump y, por lo tanto, nuestra suerte. Es una incompetencia fundamental que nos pone a todos en grave peligro.
Y luego está Johnson. El Presidente de la Cámara de Representantes, ante las advertencias de catástrofe por parte de quienes desarrollan la tecnología, anunció que su propia institución está menos cualificada que ellos y, por lo tanto, debería hacerse a un lado. Su propuesta fue que “necesitamos convocar” a los ejecutivos a “ una gran reunión ”, y que el Congreso debe “resistir la tentación de intervenir e imponer algún tipo de moratoria de emergencia”. Su razón fue China: “Si el Congreso se apresura a celebrar una sesión de emergencia para intentar regular la IA, perderemos la carrera frente a China ”. Explicó que lo había convencido una publicación en X la noche anterior .
Una de las razones por las que el Congreso no puede controlar nada de esto es que destruyó su propia capacidad para hacerlo. En 1995 abolió la Oficina de Evaluación Tecnológica , que existía precisamente para brindar a los legisladores un juicio técnico independiente. Nunca la reemplazó. Cuando Johnson dice que su instrumento político es una reunión, está describiendo la patética ignorancia del Congreso.
La advertencia habitual es la de que un ciego guía a otro ciego. Pero eso es demasiado cruel para el pueblo estadounidense. El pueblo estadounidense ve perfectamente bien.
La incompetencia de la administración Trump en cuestiones técnicas es asombrosa. De los 25 puestos ministeriales del gobierno estadounidense, ninguno posee un doctorado en ningún campo y solo uno tiene un título de grado en ciencias, tecnología, ingeniería y matemáticas (STEM). Doce son abogados. Tanto en China como en Rusia, los gabinetes están repletos de doctores (de cualquier disciplina) y funcionarios de ciencias e ingeniería (más de 10 doctores y 10 graduados en STEM en cada gabinete).
La ignorancia de la administración Trump no se limita, por lo tanto, a la inteligencia artificial . La ignorancia es la condición que rige a la administración. Como resultado, el gobierno es totalmente incapaz de llevar a cabo una investigación honesta sobre los orígenes de la COVID-19, a pesar de la creciente evidencia de que el gobierno estadounidense financió la creación del virus en un
laboratorio. El gobierno fue tan absolutamente incompetente al negociar con Irán sobre cuestiones nucleares, enviando a un promotor inmobiliario y al yerno de Trump en lugar de expertos nucleares, que arrastró a nuestro país a una guerra totalmente inútil y desastrosa . La idea que tiene la administración sobre una política energética es invadir otros países y robarles su petróleo .
La advertencia habitual es la de que un ciego guía a otro ciego. Sin embargo, eso es demasiado cruel para el pueblo estadounidense. El pueblo estadounidense ve perfectamente. En nuestro caso, es como si un ciego guiara a un vidente. El pueblo estadounidense está presenciando cómo un gobierno, tan carente de conocimientos técnicos y competencia, nos arrastra cada vez más cerca del abismo.
*Catedrático universitario y director del Centro para el Desarrollo Sostenible de la Universidad de Columbia, donde dirigió el Instituto de la Tierra desde 2002 hasta 2016. También es presidente de la Red de Soluciones para el Desarrollo Sostenible de la ONU y comisionado de la Comisión de Banda Ancha para el Desarrollo de la ONU.