Ricardo Carnevali
Luego de que el director ejecutivo de Anthropic, Dario Amodei, abogó por una ralentización del desarrollo de la inteligencia artificial (IA) para evaluar mejor los riesgos derivados de sus nuevas capacidades, políticos estadounidenses reaccionaron a esas declaraciones. El presidente estadunidense Donald Trump restó importancia a la necesidad de que su gobierno supervise el desarrollo de la IA, al afirmar que le preocupaba ceder la ventaja de Estados Unidos frente a China en una competencia global y que ganar ayudará a abordar los riesgos de la tecnología de punta.
“Podemos poner salvaguardas, podemos hacer esto y aquello, pero creo que hay muchas fuerzas negativas planteando el tema…, cuando no deberían hacerlo, y están sacando a relucir cosas que no van a suceder. Pero quien gane con la IA, gana”, declaró Trump. «Llevamosventaja sobre China y sobre todos los demás, y seguiremos haciéndolo. ¡Que se anden con cuidado los teóricos de la conspiración, los autores de actos de traición, los traidores y los filtradores! ¡Gracias por su atención a este asunto! Presidente Donald J. Trump».
Cuando un reportero le preguntó sobre si el sector debería desacelerar o ser regulado, Trump comentó que Estados Unidos está por delante de China en el desarrollo de la IA y que “francamente, quiero que siga siendo así porque quien gane la IA, gana”. El presidente señaló en su cuenta de Truth Social: “El único control o ‘salvaguarda’ que necesita la IA es un presidente fuerte e inteligente (¡con un alto coeficiente intelectual!), ¡y EE. UU. cuenta con ello de sobra! La Administración Trump imoidió que la ‘gente’ de la IA haga ‘cosas’ malas o potencialmente perjudiciales —como Darío (¡de Anthropic!), que ahora pretende ser un ‘angelito perfecto’—, ¡y seguiremos haciéndolo!“.
Mientras, la cúpula del Partido Demócrata en la Cámara de Representantes de Estados Unidos hizo un llamado para desacelerar el progreso de la inteligencia artificial –como lo propusieron recientemente los directores ejecutivos de las empresas que la impulsan–, con el fin de proteger a los ciudadanos de su país.
El líder demócrata Hakeem Jeffries criticó a los líderes republicanos por permitir que los miembros regresen a sus distritos durante la parte final de septiembre. “Deberíamos tomar medidas decisivas ahora para que podamos desacelerar, como los directores ejecutivos han reconocido recientemente, el ritmo del desarrollo con el fin de proteger al pueblo estadounidense y garantizar que la IA avance de manera segura”, sostuvo Jeffries.
Por su parte, el presidente de la Cámara de Representantes, Mike Johnson, reconoció la necesidad de “algunas salvaguardas, algunas medidas de seguridad” para que la IA “no se desboque”. Pero, al igual que Trump, también quiere asegurarse de que Estados Unidos no “pierda nuestra ventaja en la competencia global en esto con China porque eso será una amenaza para la seguridad nacional”. Johnson, republicano por Luisiana, dijo que los líderes del sector deben ser convocados a “una gran reunión y resolver esto juntos en la misma sala”.
“Así que vamos a reunir a todos y asegurarnos de que hagamos esto de la manera correcta”, afirmó Johnson, que añadió que es una “máxima prioridad para mí y para el Congreso”.
El líder demócrata Hakeem Jeffries criticó a los líderes republicanos por permitir que los miembros regresen a sus distritos durante la parte final de septiembre. “Deberíamos tomar medidas decisivas ahora para que podamos desacelerar, como los directores ejecutivos han reconocido recientemente, el ritmo del desarrollo con el fin de proteger al pueblo estadunidense y garantizar que la IA avance de manera segura”, sostuvo Jeffries. Las medidas sobre la IA serán una “alta prioridad” cuando los demócratas de la Cámara baja se reúnan mañana como grupo.
Problemas éticos
La UNESCO ya había advertido que los sistemas de inteligencia artificial dan resultados sesgados. La tecnología de los motores de búsqueda no es neutral, ya que procesa macrodatos y prioriza los resultados con la mayor cantidad de clics dependiendo tanto de las preferencias del usuario como de la ubicación. Por lo tanto, un motor de búsqueda puede convertirse en una cámara de resonancia que mantiene los prejuicios del mundo real y afianza aún más estos prejuicios y estereotipos en línea.
Uno de los problemas más relevantes es el sesgo algorítmico, donde los sistemas de IA pueden reflejar y amplificar prejuicios existentes en la sociedad, afectando la selección de personal, concesión de créditos o decisiones judiciales. Esto ocurre porque los algoritmos aprenden de bases de datos históricas que pueden estar sesgadas, perpetuando desigualdades y exclusión de grupos vulnerables.
La Unesco señalo que hay muchos desafíos éticos: 1)La falta de transparencia de las herramientas de la IA: Las decisiones de la IA no siempre son inteligibles para los humanos. 2) La IA no es neutral: Las decisiones basadas en la IA son susceptibles de inexactitudes, resultados discriminatorios, sesgos incrustados o insertados, 3) Prácticas de vigilancia para la recopilación de datos y la privacidad de los usuarios de los tribunales, 4) Nuevas preocupaciones por la equidad y el riesgo para los derechos humanos y otros valores fundamentales.
Entonces, a nadie le gustaría ser juzgado por un robot en un tribunal, sobre todo cuando no estemos seguros de cómo llegaría a sus conclusiones. Es por ello que la UNESCO adoptó la Recomendación sobre la Ética de la Inteligencia Artificial, el primer instrumento normativo mundial sobre el tema.
China: zona de código abierto
China impulsará la creación de una “zona de código abierto para la inteligencia artificial” destinada a los países del bloque BRICS, anunció ayer el presidente Xi Jinping durante una cumbre del bloque de 11 naciones en Nueva Delhi, India. Las empresas chinas de inteligencia artificial desarrollan modelos de código abierto que se encuentran entre los más avanzados del mundo, cuyo código fuente puede ser adaptado por los usuarios, mientras los desarrolladores estadunidenses han privilegiado enfoques cerrados.
La propuesta, que forma parte de la “iniciativa sobre inteligencia artificial de código abierto e inclusiva” impulsada por el mandatario chino, incluye el compromiso de “apoyar la cooperación en el desarrollo y la aplicación de grandes modelos de lenguaje”, según un resumen de su discurso difundido por la cadena estatal CCTV.
La iniciativa también contempla la creación de programas especializados de investigación y formación en inteligencia artificial para los países del grupo BRICS, con el objetivo de “construir un ecosistema abierto para la IA”, afirmó Xi Jinping. El bloque, que incluye a gigantes como China, Rusia e India, fue creado en 2009 como un foro de grandes economías emergentes que buscan una mayor influencia en instituciones dominadas por las potencias occidentales.
Xi también pidió la creación de un “marco global de gobernanza de la IA amplio y basado en el consenso”. En 2027, el BRICS dará comienzo a su cuarto “Año de China”. Xi anunció que su nación aprovechará esta oportunidad para trabajar con todas las partes con el fin de crear consenso, abrir perspectivas para el futuro y emprender la tercera década dorada de cooperación del BRICS, manifestó el ministro de Relaciones Exteriores chino, Wang Yi.
El presidente chino afirmó que su país e India pueden aprovechar sus respectivas fortalezas, apoyarse mutuamente, ayudarse a alcanzar el éxito y perseguir el desarrollo común, expresó Wang.
Los líderes de ambos países acordaron mantener la paz y la tranquilidad en las zonas fronterizas y apoyarse mutuamente como presidentes rotatorios del BRICS, señaló Wang.
Dilemas éticos
Tanto en la alfabetización como ante los dilemas éticos que nos impone la inteligencia artificial (IA), lo más importante es tener una visión
humanista, es preguntarnos qué enseñamos a hacer a la humanidad con el desarrollo de cualquier aspecto del conocimiento, afirmó Naima Ariatne Trujillo Barreto, ministra de Educación de Cuba. En entrevista con La Jornada de México, luego de participar en la cumbre para conmemorar el 60 Día Internacional de la Alfabetización de la ONU para la Educación, la Ciencia y la Cultura (Unesco) que se celebró el 8 y 9 de septiembre en San Cristóbal de Las Casas, Chiapas, reflexiona sobre la batalla que impone al mundo el uso de la IA y la alfabetización.
Preguntada sobre cómo van a enfrentar, por ejemplo, la batalla de la IA, la funcionaria cubana señaló que «Tiene mucho que ver con los dilemas éticos con los que el hombre enfrenta todo desarrollo. Ahora se trata de la IA, pero en otros momentos han sido otros. Por eso también hay un gran debate en el país, como en el mundo, de cómo logramos que una ciudadanía, que se interpreta a sí misma desde el enfoque humanista, puede usar para bien cualquier desarrollo, incluyendo la IA».
“Además, tenemos un poco una batalla de la IA con la IH, con la inteligencia humana, que es insustituible. Pero lo más importante es que podamos avizorar, dentro de esos dilemas éticos, qué cosas pudieran aplastar el desarrollo humano y cuáles son imprescindibles como parte de lo que se genera desde la IA o desde cualquier otro desarrollo tecnológico.Estamos ante un dilema viejo que nos impacta por su velocidad, pero lo hemos tenido antes, como con el fenómeno nuclear. Por eso, creo que lo más importante es qué enseñamos a hacer a la humanidad con el desarrollo de cualquier asunto del conocimiento”