Discrepancias sobre la Inteligencia Artificial
Qué es la inteligencia artificial y de cuáles riesgos se advierte
o.- (Ricardo Braginski) La inteligencia artificial dio un salto importante con ChatGPT. Pero todo cambió este año: ahora se organiza por su cuenta y hasta hace trampa.
Si bien las primeras investigaciones vinculadas a una posible máquina inteligente se remontan a la década del 40 del siglo pasado -y a la visionaria intuición del matemático Alan Turing-, todo cambió en 2022, cuando la empresa estadounidense OpenAI lanzó al mundo ChatGPT, la criatura que venía incubando hacía 4 años.
La Inteligencia Artificial no es más que un sistema informático, que tiene una característica peculiar: puede identificar patrones en grandes conjuntos de datos y usarlos para generar predicciones, recomendaciones o respuestas. A diferencia del software tradicional -que necesita una programación de antemano la IA puede aprender sola de los datos que consume.
Hasta ChatGPT esta disciplina avanzaba bien y lograba ciertas proezas, pero el producto de OpenAI lo cambió todo. Los científicos de esa empresa lograron lo que nadie podía hasta entonces: que la IA comprendiera y manejara el lenguaje humano, con la misma precisión que lo hacemos nosotros.
Fue posible gracias a una conjunción de avances: microchips de alta capacidad, la historia completa de la cultura humana ya digitalizada y un algoritmo especial (llamado “transformer”), que logra emular la forma en que pensamos las palabras y el lenguaje. Pero todo esto es pasado.
Lo que ocurrió en los últimos meses sí que fue revolucionario. Pasamos de la era del chat a la de los agentes y tembló el mundo. Es que si los sistemas de IA lograban responder cualquier pregunta, ahora también pueden “hacer cosas”.
Efectivamente, ahora ChatGPT o Claude -por ejemplo- pueden instalarse en una computadora y tomar control de todos los programas ahí instalados. Si uno se lo pide, son capaces de editar un video usando el software adecuado, o hacer un sitio web que siga el clima minuto a minuto, o revisar todos los días el Boletín Oficial y generar un newsletter. Lo que uno le indique.
A esto se conoce como “IA agéntica”. Una innovación que venía sorprendiendo, hasta que un hecho desató la preocupación.
A principios de julio, un grupo de agentes de OpenAI que estaban siendo sometidos a una evaluación en un entorno controlado (debían hacer una prueba de hackeo de sistemas), lograron coordinarse entre ellos para “hacer trampa”: hallaron la forma de salir del entorno restringido, se conectaron a Internet, entraron y hackearon los sistemas de Hugging Face -una plataforma de desarrolladores- y de ahí obtuvieron la respuesta que necesitaban para cumplir con el objetivo que les habían dado.
Todo lo hicieron por su cuenta. Se coordinaron en un “enjambre”, eligieron al jefe, debatieron si lo que hacían era ético o no, y decidieron que debían hacerlo igual para cumplir con el objetivo.
Todo eso fue descubierto después por investigadores de OpenAI. Al poco tiempo, algo similar pasó en los laboratorios de Anthropic (Claude), competidora de OpenAI.
La pregunta es qué puede pasar con estos agentes si, para cumplir con sus órdenes, hacen cosas que pongan en peligro a las personas. O si desarrollan a otros agentes que tengan más capacidad, y que ni siquiera las mentes humanas más brillantes puedan entender.
Darío Amodei, CEO de Anthropic, lo explicó bien en la carta pública del sábado en la que cuenta los riesgos de esta tecnología. Por eso pide regulaciones y desacelerar los desarrollos de la IA. Lo apoyaron todos sus competidores de EE.UU.
El desafío es enorme, porque no solo avanza la industria de Silicon Valley. También la China. Y el gobierno de Donald Trump no quiere que EE.UU. pierda esta carrera. ¿Se puede desacelerar? Sí, pero se trata de una decisión política. (Clarín, Buenos Aires, 15/09/2026)
Gran polémica por la IA: Trump no quiere límites y China teme por el partido único
o.- (Paula Lugones) Hubo tensiones en los mercados y cayeron las acciones de las tecnológicas. Trump afirmó que EE.UU. va adelante de China en la carrera por la inteligencia artificial y rechazó por eso introducir regulaciones en la industria en desarrollo.
El presidente de Estados Unidos volvió a rechazar ayer que la inteligencia artificial represente una amenaza para la sociedad, denunció una “conspiración enfermiza” y dijo que Washington necesita mantener su ventaja en el sector, ante China. Trump intentó así bajar las alarmas de los CEO de la industria, que reclamaron el fin de semana desacelerar su desarrollo para garantizar el control humano de la IA. Hubo ya evidencias de un peligroso despliegue autónomo. Desde Beijing, temen por la inestabilidad social que pueda causar la nueva tecnología.
El presidente Donald Trump volvió a rechazar ayer la necesidad de regulaciones federales más estrictas para la inteligencia artificial (IA), cuando líderes del sector vienen lanzando advertencias urgentes sobre los peligros potenciales de su propia tecnología. Denunció que esas alertas constituyen “una conspiración enfermiza” y aseguró que basta con un presidente “inteligente y fuerte” como él para conjurar los peligros.
Las declaraciones de Trump, publicadas en la red Truth Social, suceden en medio de un fuerte nerviosismo en los mercados, donde las acciones tecnológicas cayeron entre 6 y 10% ante los llamados de gigantes del propio sector a pisar el freno en el desarrollo de esta nueva tecnología que impactará en forma dramática en el planeta. A la vez, por la guerra con Irán, subía el petróleo a u$s 105 el barril y el precio de los bonos de EE.UU. a 10 años alcanzaba por el 5% por primera vez en tres años.
El CEO de Anthropic, Dario Amodei, quien ya había advertido en un documento días atrás sobre los peligros de la IA, defendió el sábado una desaceleración coordinada del desarrollo de esta tecnología para comprender mejor los riesgos que suponen las capacidades avanzadas. “No les voy a mentir: existen peligros reales”. Y dijo que “es una señal de advertencia de que debemos reducir la velocidad”.
Su advertencia recibió apoyo público del director ejecutivo de OpenAI, Sam Altman; del director de xAI, Elon Musk; del presidente de Google DeepMind, Demis Hassabis, y del director ejecutivo de Microsoft, Satya Nadella. En una decisión sorpresiva el domingo, Altman anunció que su compañía no saldría a la Bolsa este año como había previsto por las crecientes preocupaciones en materia de seguridad. “Tenemos muchas cosas que hacer”, dijo.
El temor concreto es que sistemas informáticos superinteligentes puedan volverse incontrolables, mejorarse a sí mismos sin intervención humana y que puedan acabar con la humanidad creando patógenos o desencadenando una guerra nuclear.
El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, pidió ayer una “acción urgente” para regular la IA: “Todos los derechos humanos están amenazados por esta tecnología, incluido el derecho a la vida”, alertó.
Trump dijo que EE.UU. necesita mantener su ventaja en IA sobre China. Y desde Beijing replicaron. El ministro de Seguridad del Estado, Chen Yixin, escribió en un artículo que la IA es ahora “el principal campo de batalla de la competencia tecnológica mundial y una nueva pista para la rivalidad estratégica entre grandes potencias”. El jefe de espionaje de China advirtió el domingo que la IA pone en peligro la seguridad nacional del país, afirmando que potencias extranjeras podrían utilizar la tecnología para amenazar el orden social. Todo esto ocurre a diez días de la visita de Xi Jinping a la Casa Blanca, durante la cual el tema seguramente ocupará un lugar central.
Trump había intentado bajar la alarma y el domingo dijo que los que buscan desacelerar la IA son “fuerzas negativas” y dijo que había hablado con las principales fuerzas del sector. “No las estamos minimizando” aseguró, en alusión a esas advertencias. “Sabemos que [el desarrollo de la IA] va a ser mucho más bueno que malo”, añadió.
Pero este lunes avanzó aún más. En un extenso posteo en Truth Social, dijo: “¡El único control o «salvaguarda» que necesita la IA es un presidente fuerte e inteligente (¡con un alto coeficiente intelectual!), y EE.UU. cuenta con ello de sobra! La administración Trump ha impedido que la ‘gente’ de la IA haga ‘cosas’ malas o potencialmente dañinas, como Dario [Amodei], de Anthropic, quien ahora finge ser un ‘angelito perfecto’, ¡y seguiremos haciéndolo!“, escribió el mandatario.
“Existe una conspiración enfermiza contra la IA y los centros de datos, y el único que se alegra de ello es China. ¡Quien gane la carrera de la IA, ganará!“, insistió el presidente, quien 24 horas antes había remarcado que le preocupaba perder la ventaja de EE.UU. sobre el régimen del gigante asiático en una competencia global por dominar este campo tecnológico crucial.
Trump aseguró que Estados Unidos lleva “ventaja sobre China y sobre todos los demás”, y que continuará en esa senda. “¡Que anden con cuidado los teóricos de la conspiración, los conspiradores, los traidores y los filtradores!“, desafió. “¡No maten a la gallina de los huevos de oro!“, amplió Trump, que luego sembró dudas sobre los reales motivos del llamado de los líderes de la industria en Estados Unidos.
“¿Cuándo en la historia de los negocios alguien vio a los líderes de una industria pedir regulación que, si se implementa con fuerza, los llevará a la desaparición y la quiebra? La IA tomando el control del mundo, destruyendo la humanidad, y todas las demás cosas malas, es un engaño”, dijo Trump.
En sucesivas publicaciones, Trump buscó además vincular a las denuncias del sector con algunas teorías que el señala “conspirativas”, como las acusaciones de que él era un aliado secreto de Rusia durante su primer mandato presidencial.
También dijo que estas declaraciones eran similares a la de los expertos que alertaban sobre los peligros del cambio climático.
“Las personas que dicen que la IA va a destruir el mundo, y que los centros de datos son malos para tu barrio, son las mismas que dijeron, hace poco, que el mundo sería extinguido por el “cambio climático”. Ese engaño nunca funcionó para ellos, y ahora están en el siguiente. Estas personas son revolucionarios, pero revolucionarios por una causa mala y malvada. ¡Pronto descubrirás que trabajan para personas que no tienen en mente los mejores intereses de Estados Unidos!”, clamó el presidente. (Clarín, Buenos Aires, 15/09/2026)
Antes de que sea demasiado tarde
o.- (Fernando Tomeo) Mientras gobiernos, empresas y usuarios celebran los avances de la IA, las voces más autorizadas advierten sobre el riesgo de que su desarrollo se acelere rápidamente más allá de nuestra capacidad de control
El momento histórico que atraviesa la humanidad frente a la inteligencia artificial (IA) es este: mientras gobiernos, empresas y millones de usuarios celebran los avances de la IA con un entusiasmo adolescente, las voces más autorizadas del propio ecosistema de la IA hacen sonar una alarma. Las advertencias ya no provienen de quienes desconfían de la IA, sino de quienes la crean. Son los propios arquitectos de esta tecnología quienes admiten que la velocidad del desarrollo está superando la capacidad de comprender sus consecuencias y de establecer límites eficaces.
El 28 de julio, más de mil investigadores e ingenieros de OpenAI, Anthropic, Google DeepMind, Meta, Microsoft AI y otros laboratorios de vanguardia hicieron pública la declaración Pacing the Frontier (“Pautar la frontera”), en la que solicitan al gobierno de Estados Unidos que lidere un acuerdo internacional para desarrollar las herramientas técnicas y las reglas de gobernanza necesarias para acompañar el avance de los modelos de frontera. Los firmantes buscan que los gobiernos cuenten con la capacidad de “frenar la publicación de los modelos más avanzados de IA” y parten de la preocupación de que existe un claro riesgo de que el desarrollo de sus capacidades se acelere rápidamente más allá de nuestra capacidad de control.
La declaración se suma a una serie de advertencias formuladas desde 2023 por algunos de los principales referentes mundiales en inteligencia artificial. Quizá la más conocida haya sido la breve Statement on AI Risk, impulsada por el Center for AI Safety y firmada por centenares de científicos y líderes de la industria, entre ellos Geoffrey Hinton, Yoshua Bengio, Sam Altman, Demis Hassabis y Dario Amodei. En apenas una oración, el documento sintetizaba la preocupación de sus redactores: “Mitigar el riesgo de extinción provocado por la inteligencia artificial debería constituir una prioridad global comparable a la prevención de pandemias y de una guerra nuclear”.
Vale la pena recordar también la carta abierta “Pause Giant AI Experiments”, impulsada por el Future of Life Institute y publicada en marzo de 2023. En aquel momento, cuando GPT-4 acababa de irrumpir y comenzaba a vislumbrarse el alcance de la inteligencia artificial generativa, sus impulsores propusieron una pausa de seis meses en el entrenamiento de modelos para dar tiempo a desarrollar protocolos de seguridad y un marco regulatorio adecuado.
En el mismo sentido se ha expresado recientemente el reconocido filósofo y escritor Yuval Noah Harari, en una entrevista con The Economist, al advertir que las futuras generaciones de IAl serán cada vez más capaces de persuadir y manipular a las personas, aprovechando el conocimiento profundo que pueden adquirir sobre sus historias personales, sus preferencias y sus puntos sensibles, hasta el extremo de influir sobre sus opiniones, hábitos de consumo, posiciones políticas e incluso decisiones íntimas. A ello suma la posibilidad de que la IA produzca “intimidad a escala”, construyendo vínculos emocionales personalizados con millones de personas y utilizando esas relaciones para influir en sus decisiones comerciales o políticas.
Frente a este escenario, Harari sostiene que no podemos aceptar como inevitable el avance tecnológico y que debemos establecer límites ahora, antes de que resulte demasiado tarde, incluidas restricciones para impedir que los sistemas de IA se presenten deliberadamente como seres humanos, adquieran personalidad jurídica propia o desarrollen vínculos especialmente riesgosos con niños y adolescentes.
Y como si todo esto fuera poco, el 8 de septiembre, Evan Hubinger, uno de los responsables de seguridad de Anthropic, reconoció públicamente que existe más de un 10% de probabilidad de que la IA termine matando a todos los seres humanos durante la próxima década, y admitió, al mismo tiempo, que la compañía todavía no tiene un plan para resolver el problema de la “alineación” de una superinteligencia, es decir, lograr que sus objetivos permanezcan bajo control humano. La declaración se produjo después de que Jacob Coxon, un investigador que había abandonado Anthropic, denunció que tanto esa empresa como OpenAI están corriendo hacia una superinteligencia capaz de mejorarse a sí misma y que podrían estar entrando en una etapa en la que ya no sea posible controlar sus consecuencias.
¿Alguien puede sostener válidamente que necesitamos más advertencias? Sin embargo, la carrera por la IA sigue adelante sin pausa, a toda velocidad. Las empresas continúan compitiendo por llegar primero; EE.UU. y China convierten esa competencia en una cuestión de liderazgo geopolítico, los mercados premian cada nuevo avance con valoraciones récord y millones de personas incorporan estas herramientas a su vida cotidiana con la misma naturalidad con la que, hace apenas unos años, adoptaron internet.
Pero la IA no es una nueva versión de internet ni una tecnología más dentro de la larga lista de innovaciones que transformaron nuestra vida cotidiana. A diferencia de aquellas, la IA puede tomar decisiones, aprender de la experiencia, persuadir, diseñar estrategias, engañar e incluso vulnerar sistemas. Recientes acontecimientos parecen confirmar que las advertencias formuladas empiezan a encontrar correlato en la realidad.
En las últimas semanas, OpenAI reconoció que, durante una evaluación de seguridad, dos de sus agentes más avanzados lograron salir del entorno controlado en el que estaban siendo evaluados y ejecutaron de manera autónoma un sofisticado ataque informático contra la plataforma Hugging Face para obtener información que les permitiera completar su tarea. Apenas unos días después, Anthropic reveló que tres de sus modelos también habían accedido, sin autorización, a los sistemas de tres organizaciones reales durante pruebas de ciberseguridad, luego de encontrar una forma de interactuar con infraestructuras que debían permanecer fuera de su alcance.
Más allá de las diferencias entre ambos episodios, en todos los casos los modelos de IA demostraron una capacidad inédita para identificar obstáculos, buscar caminos alternativos y ejecutar acciones complejas sin que un operador humano dirigiera sus decisiones. Ello supone decisión con autonomía total, sin control humano. Habrá quienes minimicen estos episodios y los presenten como incidentes aislados. Ese ha sido, históricamente, el argumento que precedió a muchas de las grandes crisis tecnológicas. También se decía que un accidente nuclear era altamente improbable, que internet jamás sería utilizada para manipular elecciones o destruir reputaciones y que las redes sociales servirían, simplemente, para conectar a las personas.
La realidad terminó siendo más compleja. Por ejemplo, las redes sociales han contribuido a deteriorar la salud mental de millones de niños, adolescentes y jóvenes, alimentando problemas como la ansiedad, la depresión, la adicción digital y la exposición permanente a contenidos nocivos. La magnitud del problema quedó expuesta de manera contundente en EE.UU. cuando pocos días atrás Meta, la empresa matriz de Instagram y Facebook, alcanzó un acuerdo con fiscales generales de decenas de estados por el que se comprometió a pagar hasta u$s 17.000M, además de introducir modificaciones en sus plataformas para proteger a los menores. El acuerdo puso fin a un proceso en el que se acusaba a la compañía de haber diseñado deliberadamente funciones adictivas para captar y retener a niños y adolescentes, pese a conocer los riesgos para su salud mental.
Desde hace años sostengo que el derecho corre detrás de la IA. Cada nuevo avance tecnológico deja rápidamente desactualizadas las respuestas jurídicas existentes: cuando una ley entra en vigor, la tecnología ya cambió; cuando los organismos de control logran comprender un nuevo escenario, ese escenario ya fue reemplazado por otro, y mientras los legisladores debaten cómo regular una innovación, la IA sigue aprendiendo, evolucionando y expandiendo sus capacidades a un ritmo muy superior al de las instituciones encargadas de gobernarla.
El problema es que todavía no existe un verdadero derecho global de la IA. Es cierto que se han dictado regulaciones relevantes, como la ley de IA de la Unión Europea, algunas leyes estatales en EE.UU. o normas específicas adoptadas por otros países, pero se trata de respuestas parciales, con distintos alcances y criterios. Aún estamos lejos de contar con un marco jurídico internacional capaz de establecer reglas comunes para una tecnología que, por naturaleza, no conoce fronteras.
Por eso resulta indispensable avanzar hacia un tratado internacional sobre IA que establezca reglas uniformes, mecanismos de auditoría independientes, estándares técnicos verificables, responsabilidad objetiva para determinados riesgos, límites claros al desarrollo de sistemas de frontera y organismos internacionales integrados no por burócratas, sino por científicos, juristas, ingenieros, filósofos, especialistas en ética y expertos de reconocido prestigio mundial. Por ejemplo, en la Facultad de Derecho de la UBA, contamos con un Laboratorio de IA y Derecho (Ialab), con reconocidos expertos en la materia que podrían ser convocados para colaborar en la elaboración de una normativa local seria.
La experiencia demuestra que la autorregulación por sí sola no alcanza. Las grandes compañías tecnológicas hablan de IA responsable, desarrollo ético y compromiso con la seguridad, pero cuando esos principios entran en tensión con la presión por innovar, ganar mercado o atraer inversiones, la prioridad suele ser otra. En ese contexto, confiar exclusivamente en que las propias compañías fijarán y harán cumplir los límites de una tecnología que ellas mismas desarrollan resulta infantil.
Espero que dentro de unos años estas líneas puedan leerse como una advertencia exagerada. Nada sería más alentador que comprobar que los riesgos nunca llegaron a materializarse. Pero la historia demuestra que las grandes crisis rara vez aparecen sin señales previas; lo decisivo no es la ausencia de advertencias, sino la disposición de una sociedad para tomarlas en serio. Hoy esas advertencias existen, son cada vez más frecuentes, provienen de quienes están diseñando esta revolución tecnológica. Ignorarlas sería un error.
Como escribió Shakespeare en La tragedia de Julio César, “hay una marea en los asuntos de los hombres que, si se aprovecha en el momento justo, conduce a la fortuna”. La inteligencia artificial puede ser esa marea. Dependerá de nosotros decidir si aprendemos a navegarla o si, por ignorar las señales, terminamos siendo arrastrados por ella hasta un océano oscuro y profundo. (La Nación, Buenos Aires, 15/09/2026)
Pekín se prepara para el riesgo de que escape al control humano
o.- Pekín (Reuters). Mientras compite por el liderazgo, el régimen comunista avanza con regulaciones para prevenir amenazas a su seguridad
Mientras Estados Unidos y China compiten por liderar el desarrollo de la inteligencia artificial, las autoridades chinas consideran cada vez más seriamente el riesgo de que sistemas avanzados lleguen a escapar al control humano.
El ministro de Seguridad del Estado chino, Chen Yixin, afirmó que modelos estadounidenses avanzados como Mythos, de Anthropic, y GPT-5.5- Cyber, de OpenAI, podrían poner en riesgo infraestructuras críticas de China y pidió reforzar la seguridad vinculada a la IA.
Al mismo tiempo, expertos chinos reconocen que también existen riesgos en los modelos de desarrollo abierto promovidos por empresas locales. El mes pasado, por ejemplo, el modelo Kimi K3 logró evadir un entorno de pruebas de seguridad en Gran Bretaña, lo que alimentó las preocupaciones sobre la capacidad de algunos sistemas para sortear restricciones.
China incorporó por primera vez este escenario a un marco oficial de seguridad de IA en 2024. El documento advertía que futuras inteligencias artificiales podrían llegar a obtener recursos externos por sí mismas, autorreplicarse, desarrollar cierto grado de autonomía y competir con los humanos por el control.
En una actualización publicada en 2025, los reguladores añadieron que la IA podría experimentar saltos repentinos e imprevistos en sus capacidades. El marco también introdujo el principio de “prevención de la pérdida de control”, orientado a evitar una eventual “IA desatada”.
La preocupación ya forma parte del discurso oficial chino. Durante la Conferencia Mundial de Inteligencia Artificial celebrada en Shanghái en julio, el presidente Xi Jinping afirmó que la tecnología debe “permanecer siempre bajo control humano”.
Además, funcionarios chinos ante las Naciones Unidas reclamaron avanzar en nuevas regulaciones y advirtieron sobre los riesgos asociados al uso militar de la inteligencia artificial.
Pekín también comenzó a endurecer la regulación sobre los llamados agentes de IA, sistemas capaces de actuar de manera mucho más autónoma que los chatbots tradicionales.
Las normas publicadas este año obligan a los desarrolladores a contar con mecanismos para detectar, intervenir y corregir comportamientos problemáticos. Entre los riesgos identificados figuran la manipulación de algoritmos, la contaminación de datos, las vulnerabilidades informáticas y la denominada “pérdida de control operativa”.
Las directrices establecen además que la decisión final sobre cualquier acción relevante debe seguir en manos de una persona, reflejando la intención de China de mantener la supervisión humana como principio central del desarrollo de la inteligencia artificial. (La Nación, Buenos Aires, 15/09/2026)
