Unidos para gobernar la IA

“La inteligencia artificial no es un destino predeterminado: es una construcción colectiva” [i]. Esa idea, planteada en la Tercera Cumbre Ministerial sobre Ética de la IA en América Latina y el Caribe, resume a su vez el espíritu del primer Diálogo Global sobre Gobernanza de la Inteligencia Artificial, celebrado en Ginebra los días 6 y 7 de julio de 2026 , en el marco de Naciones Unidas.

La IA promete avances hacia los Objetivos de Desarrollo Sostenible, desde la detección temprana de enfermedades a la educación personalizada. Sin embargo sus riesgos son reales, y citando reporte de la OCDE [ii] señalamos [iii] que pueden ser incluso superiores a los beneficios en las mismas áreas. Ellos van desde el impacto ambiental y la sustitución laboral a la dependencia emocional hacia los chatbots, la manipulación, y el uso de la IA en bioterrorismo, ciberataques y fraude a escala. Este riesgo además se agrava en el caso de los agentes autónomos ante la posible falta de alineación de la IA con la intención humana de quienes los instruyen para decidir o actuar.

En Uruguay hace unos días el parlamento uruguayo [iv] convocó a una lectura política de la reciente encíclica “Magnífica Humanitas” [v], del Papa León XIV. Referentesde distintos partidos políticas y credos se unieron para dialogar sobre como esta tecnología interpela nuestra democracia[vi]

Un Panel Científico Internacional Independiente sobre IA, integrado por expertos de las cinco regiones de la ONU, fue categórico en su informe preliminar. Más allá de las identificación de oportunidades de la IA [vii] concluyó el panel “Estamos sumamente preocupados. La carrera en busca de la ventaja comparativa conlleva riesgos que se subestiman temerariamente….. La carrera por construir estos sistemas avanza con mayor rapidez que la labor para regularlos, así que nos adentramos a marchas forzadas en territorio desconocido. …”. Indicó asimismo, que los riesgos de la IA se reparten de forma desigual entre países y poblaciones, mientras que el desarrollo tecnológico y la riqueza que genera están concentrados en un puñado de empresas.
Las evaluaciones de dicho panel representan una iniciativa de enfoque global de la IA, que esperamos conduzca a la adopción de medidas de gobernanza regional y global más sólidas de la IA [viii].

Con la evidencia recogida por el reporte de científicos , Naciones Unidas reunió recientemente a las naciones a un Diálogo Global sobre la Gobernanza de la IA34F [ix] para garantizar que la gobernanza refleje las prioridades de todas ellas, no solo de las más avanzadas tecnológicamente, y que los beneficios de la IA sean compartidos por todos."5F [x] Dicho diálogopropone una plataforma de las Naciones Unidas donde todos los gobiernos, el sector privado, el mundo académico y la sociedad civil son invitadas a reunirse para debatir la cooperación internacional, compartir mejores prácticas y lecciones aprendidas, y facilitar discusiones abiertas, transparentes e inclusivas sobre la gobernanza de la inteligencia artificial. Se plantea que por primera vez, cada país tiene un asiento en la mesa de la IA para tener la conversación significativa que el mundo necesita.

Se concluyó en dicho diálogo que la fragmentación regulatoria genera cargas, brechas de rendición de cuentas y arbitraje regulatorio que proporcionalmente afecta más a países con capacidad institucional limitada. Y agrega que es necesario una gobernanza interoperable, para una IA, segura, protegida y confiable36F[xi].

Es importante gobernar la IA desde el diseño tomando en cuenta sus efectos en el medio ambiente. Reciente paper^[xii] señala que “Los sistemas de inteligencia artificial (IA) imponen costos ambientales sustanciales y crecientes, pero la transparencia sobre estos impactos ha disminuido, refieren a sus “impactos ambientales acumulados mucho mayores que las generaciones anteriores de enfoques de IA y proponen “transparencia obligatoria a nivel de modelo que cubra el consumo de inferencias, los benchmarks y las ubicaciones de cómputo; derechos de los usuarios para no participar en la integración innecesaria de IA generativa y para seleccionar modelos optimizados con el medio ambiente; y coordinación internacional para prevenir el arbitraje regulatorio”. Concluyen dichos autores con propuestas legislativas concretas incluyendo enmiendas a la Ley de IA de la UE, la Directiva de Derechos del Consumidor y la Ley de Servicios Digitales que podrían servir como modelos para otras jurisdicciones.”

Decíamos [xiii] que una gobernanza ética desde el diseño requiere que se garantice la implementación efectiva de los principios de la IA Responsable que aseguren un efectivo control humano. Y que esto implica que los proveedores de modelos y sistemas de IA deben cumplir con obligaciones concretas derivadas de un principio de la responsabilidad pro-activa de modo que desde el diseño y previo al despliegue de los sistemas de IA sus proveedores realicen una revisión éticay una evaluación de impacto[xiv] incluyendo efectos y daños que pueden aparejar los sistemas a los derechos humanos fundamentales.
Uno de los planteos más significativos del panel de expertos fue que la gobernanza no puede seguir enfocada en corregir los resultados de los sistemas de IA después de generados (la moderación de contenido), porque siempre llegará tarde frente a arquitecturas que no defienden la verdad, que desde su diseño buscan producir y persuadir a gran escala y velocidad y finalmente que no miden si el humano en los hechos pudo ejercer un control efectivo de la misma. En este sentido la gobernanza debe empezar por la arquitectura misma de los sistemas , cómo están diseñados antes de que el contenido problemático exista.

La erosión de la verdad como realidad compartida, fue señalada durante el diálogo como un riesgo sistémico transfronterizo, no solo un problema ético, a raíz de la proliferación de deepfakes, clones sintéticos e imágenes no consentidas, a lo que agregamos el discurso descuidado, que pone en riesgo la democracia. A esto se suma otro riesgo sistémico: la tendencia de los chatbots a la adulación (sycophancy), es decir, a validar las ideas del usuario en lugar de priorizar la veracidad, con consecuencias ya documentadas sobre el pensamiento crítico y, en casos vulnerables, sobre la salud mental.
El discurso descuidado de los grandes modelos de lenguaje es tratado por los investigadores Sandra Wachter, Brent Mittelstadt y Chris Russell (Universidad de Oxford) plantean que los grandes modelos de lenguaje generan lo que denominan "discurso descuidado": respuestas plausibles pero con imprecisiones fácticas que, acumuladas en el tiempo, homogeneizan el conocimiento y erosionan la confianza social en los hechos compartidos. proponen que decir la verdad se convierta en un requisito de diseño explícito para quienes desarrollan estos sistemas. Más específicamente proponen que se gobierne en el sentido que los proveedores alineen sus modelos con la verdad como base, priorizando la pluralidad y diversidad de fuentes, en vez de basarse solo en lo que aparece con más frecuencia en los datos de entrenamiento, informando con transparencia ante las instituciones públicas y la sociedad civil sobre cómo logran ese alineamiento. Incluyan la participación pública, no solo de las propias empresas en el ajuste fino y la construcción de barreras de seguridad, especialmente en temas controvertidos, para evitar que el control de la verdad quede concentrado en manos privadas.
La carta encíclica “Magnifica Humanitas”, del papa León XIV,subraya que la verdad de los hechos no es solo un ejercicio racional de verificación, sino que se construye a través de vínculos de confianza y diálogo honesto entre las personas. Y que “Sólo la búsqueda compartida de la verdad de los hechos, asumida como bien común, puede sentar las bases de una comunicación justa.”

El Panel Científico de la ONU plantea que la IA ha generado una nueva arquitectura de persuasión y manipulación que operan a gran escala, señalando que dicha persuasión es diseñada, no inevitable. Concluye que “El cambio más urgente que se necesita en materia de gobernanza es el paso de la moderación de contenidos a la arquitectura de sistemas [xv] En otras palabras en lugar de concentrarse únicamente en moderar el contenido que los sistemas producen (es decir, corregir los resultados después de que ya existen), hay que regular la arquitectura misma que permite manipulación y persuasión desde su diseño. [xvi]

Lo expuesto toma en cuenta que en la era del capitalismo de vigilancia y la economía de la atención, la IA ,que se presenta neutral, pero sus algoritmos reflejan los valores de quienes los diseñan, opera como una tecnología de vigilancia encubierta. El seguimiento personalizado a escala explota sesgos cognitivos, incluso a través de chatbots, volviéndose la IA una tecnología persuasiva y manipuladora, que invita a delegar el pensamiento propio en las máquinas. Jarowsky en "Conscious AI" agrega que el hecho que las IA que se muestren como seres conscientes es una “AI Safety Issue [xvii] En cita a Anil Seth plantea que en "La mitología de la IA consciente[xviii]" señala que “Lo que pensamos colectivamente sobre la conciencia en la IA tiene una importancia enorme… Si sentimos que nuestros compañeros IA realmente sienten cosas, nuestras vulnerabilidades psicológicas pueden ser explotadas.” Beatriz López aporta la distinción biológica: «percibir, aprender y actuar son facultades biológicas, y la IA no las posee. En el humano, no hay percepción, aprendizaje ni acción sin un cuerpo, sin un sistema nervioso acoplado a un medio, sin un organismo vivo. Una máquina recibe datos. Recibir datos no es percibir». Señala que la confusión no es una imprecisión de estilo sino un punto ciego generado por un vocabulario incongruente con la naturaleza humana: la tecnología toma prestadas palabras de la ciencia que en su dominio significan otra cosa. Para la gobernanza el costo es concreto, porque cuando se le atribuyen al sistema facultades que no tiene, el humano que decide se vuelve redundante en el relato y la responsabilidad se relocaliza donde no puede vivir (López, 2026).

La supervisión humana no debe ser un principio abstracto, sino un objetivo verificable desde el diseño de los sistemas de IA, que permita atribuir de forma clara la responsabilidad a quienes los despliegan. En esta línea, el artículo 14 del AI Act de la Unión Europea[xix] exige que los sistemas de IA de alto riesgo puedan ser supervisados en forma efectiva por personas, capaces de comprender sus capacidades y limitaciones, interpretar sus resultados, detectar errores, intervenir y detener su funcionamiento cuando sea necesario. Ello requiere exigir alfabetización previa de los supervisores humanos, y a nivel diseño transparencia sobre las capacidades y limitaciones reales de la IA, evitando atribuciones antropomórficas que debiliten el control humano efectivo, que sea posible la verificación de la identidad del agente y la atribución de sus resultados a un humano, asignaciones de roles y permisos sean explícitas y conforme al mínimo privilegio, identificación de umbrales que requieren la cesión del control al supervisor, posibilidad de trazar las decisiones delegadas, monitoreo continuo y mecanismos de revocación, identificación del Responsable cuando el sistema falla, intervenciones sistémicas contemplando los peligros de “Deskilling” pérdida de funciones cognitivas, particularmente en temas centrales para el humano que la despliega. [xx]. Varias de estasmedidas estánincluidas en marco voluntario “Securingagentic AI de Singapore[xxi] Y por otro ladopara que la supervisión humana sea efectiva, es necesario trazar y medir la conciencia humana existente en la delegación de permisos dados a la IA , de modo de poder atribuir la responsabilidad al humano que lo despliega. Para ello Beatriz López[xxii], propone una metodología (aún no testeada) señalando que “la supervisión efectiva no se mide por el estado mental del operador, sino por la "huella" que el mismo deja en el mundo: sobre el conjunto de decisiones de un despliegue concreto: si hubo tiempo material para examinar, si para apartarse del sistema tenía poder efectivo, si el error se corrigió y si el afectado tuvo recurso.” Este aprendizaje permitiría mejorar los sistemas a nivel diseño en búsqueda de dicha efectividad.» Por otro lado si el proveedor no es transparente en las capacidades y limitaciones que tiene la IA, si se le atribuyea la IA facultades “humanas” que la IA no tiene, como tener consciencia incluyendo la capacidad de percibir y aprender,se debilita dicho control efectivo.

Para la interoperabilidad en la gobernanza, además de conectar los marcos regulatorios, el Diálogo concluye que se requiere gobernar para que la IA sea ética, inclusiva y esté centrada en el ser humano, y en bienestar colectivo. Y fundamentada evidencia científica sólida, (cuyas bases ya han sido proporcionadas con el panel de científicosy se debe continuar fortaleciendo). Esa consigna, sin embargo, tiene una pregunta previa de la que depende todo lo demás. Como plantea Beatriz López: «la conversación mundial sobre inteligencia artificial repite una consigna: una IA centrada en el ser humano. Poner al ser humano en el centro. Proteger la dignidad humana. Servir al bienestar humano. Sin embargo hay una pregunta previa de la que depende todo lo demás: ¿qué es un ser humano? Si no defino qué es un humano y además le atribuyo propiedades que la IA no posee, ¿cómo puedo hacer gobernanza?». Y agrega que “ la meta última que la gobernanza se propone, el bienestar humano, resulta inalcanzable mientras no se sepa qué es ser humano ni en qué medio vive, porque el bienestar es la congruencia de un ser vivo con su naturaleza y su entorno, no una abstracción que se garantice en el aire”[xxiii]
Por otro lado la conclusión operativa del Diálogo de los países en el ámbito de la Naciones Unidas, fue clara: la fragmentación regulatoria genera cargas y brechas de rendición de cuentas que afectan de manera desproporcionada a los países con menor capacidad institucional. La respuesta no es imponer un modelo único, sino construir interoperabilidad: conectar los marcos nacionales y regionales ya existentes, con bases mínimas. Ya contamos con varias bases, incluyendo por ejemplo: la Recomendación Ética de la UNESCO (2021, adoptada por 193 países), el Convenio Marco del Consejo de Europa sobre IA, el Proceso de Hiroshima del G7, a través de estándares técnicos y definiciones comunes, sin erosionar la autonomía de cada país. En América Latina y el Caribe, la Declaración de Santo Domingo y la Hoja de Ruta Regional sobre Inteligencia Artificial Ética 2026-2027, acordada en la Tercera Cumbre Ministerial sobre Ética de la IA de la región, en coordinación con UNESCO y CAF incluye como compromisopromover una IA ética, inclusiva y confiable, que impulse el desarrollo sostenible, fortalezca la democracia y mejore la calidad de vida de los ciudadanos de América Latina y el Caribe. También la región ya existe iniciativa local de códigos de ética de IA para servicios públicos.[xxiv]

En nota anterior[xxv] en cita a Gary Marcus[xxvi] decíamos “ La industria de la IA está hoy en el equivalente a la medicina antes de que existieran los ensayos clínicos controlados. Cada empresa declara que su producto es seguro, pero con marcos voluntarios.[xxvii].
Sin embargo, no bastan declaraciones voluntarias de IA confiable realizadas por los desarrolladores de modelos y desplegadores de sistemas de IA. Nuestra seguridad no puede depender de la buena voluntad de los desarrolladores de IA que además estarían perdiendo el control ante la ansiedad de la superación recursiva[xxviii]. El Prof. David Krueger, Universidad de Montreal señala que "La falta de avances de las empresas de IA hacia planes creíbles de seguridad en IA es escandalosa. Incluso ellos empiezan a ponerse ansiosos mientras corren hacia la superación recursiva y enfrentan la posibilidad de perder el control. Los gestos recientes de los CEOs para coordinar una pausa o ralentización son bienvenidos, pero aún no están diciendo a la gente lo urgente que es el riesgo ni lo poco preparados que están."[xxix]

Del Diálogo referido se concluyó que una IA segura, protegida y confiable, (ética, inclusiva y sostenible) centrada en el Ser Humano, y en el bienestar colectivo requiere verificabilidad , lo que exige transparencia a lo largo de toda la cadena de valor de la IA, benchmarks que reflejen la diversidad lingüística y demográfica, testeo por terceros independientes,evaluaciones de impacto previos al despliegue, sandboxes regulatorios trasnacionales[xxx] y auditorías durante todo el ciclo de vida del sistema realizadas por entidades independientes, reporte de incidentes compartidos entre jurisdicciones (para que una falla en un país no se repita en otro), estándares comunes para identificar procedencia de contenidos en una lucha contra la desinformación, deepfakes, integridad de contenido.

El Diálogo también puso el foco en la IA agéntica, es decir, sistemas capaces de actuar de forma autónoma y sostenida sin supervisión humana directa en cada paso.

La IA agéntica, y multiagéntica y un ecosistema de billones de sistemas de IA autónomos, hacen necesario gobernar en forma cooperativa y no fragmentada, de modo de auditar que los sistemas estén centrados en la dignidad humana, en los valores democráticos, y en el interés colectivo[xxxi].

El panel de científicos en su reporte resumió el dilema de la evidencia que enfrentan hoy los gobiernos: tradicionalmente regular exige evidencia empírica sólida, pero la velocidad de despliegue de la IA no da ese tiempo, y a diferencia de otros sectores, los errores en IA pueden ser irreversibles. Esperar "más evidencia", concluyen, puede significar llegar demasiado tarde.

Al respecto en el diálogo se identificaron algunas dimensiones mínimas que cualquier norma de gobernanza interoperable debería cubrir: identidad verificable del agente (Estonia ya avanza en identificaciones digitales para agentes de IA), trazabilidad de la delegación humana, umbrales claros para ceder el control a una persona, y mecanismos de auditoría y revocación de permisos.

A los efectos de una gobernanza interoperable en los términos referidos, es necesario la constitución de agencias especializadas a nivel nacional, regional e internacional, para el desarrollo e implementación de políticas para una IA ética y segura. [xxxii]. A nivel nacional el reciente Centro Nacional de Inteligencia Artificial (CNIA)[xxxiii], integrado por el Latu, Ceibal, la ANII y Agesic, planteapromover la investigación, el desarrollo y la aplicación de herramientas de IA favoreciendola cooperación entre los diferentes actores del ecosistema tecnológico y contribuir a la elaboración de políticas públicas relacionadas con la inteligencia artificial. Esperamos dicha cooperación no solo con el Comité Técnico de Evaluación de Entornos Controlados (CTEEC)[xxxiv] y con el Primer Consejo Empresarial por la Ética de la Inteligencia Artificial impulsado por UNESCO[xxxv], sino también con Agencias Regionales e Internacional, de modo de garantizar una regulación interoperable que colabore con una construcción colectiva de una IA creada para el bienestar humano colectivo, así como un régimen internacional de control de tecnologías peligrosas que se construya antes y no después de un desastre[xxxvi]

LA Cumbre de Santo Domingo[xxxvii] reafirmó la importancia de consolidar mecanismos permanentes de cooperación regional que permitan compartir herramientas, aprendizajes, buenas prácticas y experiencias regulatorias, contribuyendo a reducir brechas de capacidades entre los países y fortaleciendo una voz regional en los debates internacionales sobre gobernanza digital.

Decíamos “La inteligencia artificial no es un destino predeterminado, es una construcción colectiva[xxxviii]” Y para la construcción colectiva de una IA centrada en el bienestar humano, segura, confiable, ética, inclusiva y sostenible se requiere nuestra participación crítica y activa desde las instituciones a las que pertenezcamos, cooperando en su gobernanza.[xxxix]. Así, mientras que la ingeniería Social usa la IA para detectar nuestras tendencias de comportamiento y nuestros sesgos cognitivos, y persuadirnos de acuerdo a los intereses de unos pocos, tenemos el desafío de poner foco en su regulación desde el diseño de modo que sea segura, confiable, ética, inclusiva y sostenible. Y asimismo en la promoción de programas de alfabetización dirigidos a toda la ciudadanía, que tengan por objetivo educar en el funcionamiento de estas tecnologías y en el impacto de nuestra interacción con ellas, de modo que aprendamos a observar con conciencia crítica hasta qué punto permitimos que nuestros pensamientos y comportamientos sean siendo moldeados por fuerzas externas[xl]. Para participar activamente en su gobernanza ejerciendo pensamiento crítico[xli] es indispensable promover en forma simultánea programas de alfabetización en el conocimiento de nuestra biología humana, en la biología del conocer y la comunicación humana, en el funcionamiento de nuestro cerebro, su maduración cognitiva y emocional, su plasticidad, su capacidad de adaptación, como gestionar nuestras emociones, la diversidad de talentos humanos y su valor por encima de la productividad, y del exitismo. El sentido de la parcialidad humana e incluso de la fragilidad, y el de recorrer el camino de las virtudes. Y asimismo educar en el valor de la empatía humana, y nuestra conciencia social humana. Educar asimismo en la importancia de las pausas para que podamos fijarnos y re-fijarnos libremente objetivos y metas asociadas a los propósitos libremente elegidos que le den sentido a nuestras vidas humanas, contribuyendo así a nuestra plenitud humana y al bien común, hallando en el camino espacios de pertenencia y colaboración. Se trata de promover también programas que alfabeticen también en la otra IA, la Inteligencia afectiva, la amorosa, y en definitiva en el valor de nuestra condición humana, de nuestra Dignidad asociada al hecho de “Ser Humanos” y “Ser Libres”.

Tenemos la opción de elegir asumir un rol activo en la construcción de una IA que pueda ser usada para bien en lugar de permanecer “cómodamente adormecidos”[xlii] ante una IA opaca, no neutral, con capacidad de manipularnos y persuadirnos a escala, en base a los intereses de unos pocos. Nuestra actitud pasiva implica adoptar una decisión, ser indiferentes, incluso a sabiendas de que las poblaciones más vulnerables, incluidos nuestros niños y adolescentes, podrían ser las más damnificadas. El Secretario general de la ONU, António Guterres, propuso recientemente un pacto internacional para proteger a los menores frente a los riesgos de la inteligencia artificial , para que ningún niño se convierta en "un conejillo de Indias de una IA no regulada".

Por María Balsa Cadenas, Dra. en Derecho y Ciencias Sociales/Master en Inteligencia Artificial. Lidera programa piloto de Alfabetización en IA ConciencIA, apoyado por Unesco. Consultor Senior en Cervieri Monsuarez

Notas al pie:

[i] Señala Anne Lemaistre en la Tercera Cumbre Ministerial y de Autoridades sobre la Ética de la IA en América Latina y el Caribe. - YouTube

[ii] https://www.oecd.org/content/dam/oecd/en/publications/reports/2024/11/assessing-potential-future-artificial-intelligence-risks-benefits-and-policy-imperatives_8a491447/3f4e3dfb-en.pdf

[iii] Uruguay a la vanguardia de una gobernanza ética de la IA

[iv]

[v] Carta Encíclica de Su Santidad León XIV Magnifica Humanitas (15 de mayo de 2026)

[vi]

[vii] Detección precoz de enfermedades ,la alerta temprana en la agricultura y la educación personalizada [176] en entornos con recursos limitados.

[viii] Jarowsky Luiza Global AI Governance Challenges

Key assessments from the United Nations' independent scientific panel's report on AI | Edition #304

[ix] AI Safety Index — Summer 2026 | Future of Life Institute

Diálogo Global sobre la Gobernanza de la IA

[x] Global Dialogue on AI Governance, Geneva, 6–7 July | UNESCO

[xi] Incluyendo que sea inclusiva y ética

[xii] Ebert, Kai and Gamazaychikov, Boris and Hacker, Philipp and Luccioni, Sasha, The Global Landscape of Environmental AI Regulation: From the Cost of Reasoning to a Right to Green AI (January 13, 2026). Available at SSRN: https://ssrn.com/abstract=6219838 or http://dx.doi.org/10.2139/ssrn.6219838

[xiii] En hg Uruguay a la vanguardia de una gobernanza ética de la IA

[xiv] Tal como ocurre con la normativa de protección de datos personales, con sus principios de privacidad desde el diseño y por defecto y la evaluación de impacto requeridas porel artículo 12 de la 18331 en su redacción dada por la ley 19670 y su reglamentación en el artículo 64/2020

[xv] Se sugiere a la hora de regular desde el diseño analizar medidas de gobernanza que incluyan las siguientes:-a)Que las funciones de captura de atención estén desactivadas por defecto, que solo sean activables con advertencias. b) Que se active un bloqueo automático tras tiempo predeterminado, (con verificación de edad por terceros auditados, sin retención de historial).c)-Que el usuario pueda desde un lugar visible(a través de un click) desactivar el envío de publicidad personalizada y sustituirla por envío de publicidad no personalizada en igualdad de condiciones.

Prohibir el diseño: a)-que atribuya conciencia/emoción a un sistema de IA .b)orientado a la optimización de producto por métricas de apego/dependencia emocional en agentes conversacionales. c)- orientado a maximizar acuerdo o validación del usuario adulación/sycophancy) en detrimento de la veracidad, incluyendo auditoría de alineación veracidad-versus-engagement, exigiendo evidencia verificable de que el ajuste del modelo no prioriza satisfacción del usuario sobre exactitud fáctica.d)-orientado a maximizar retención de los usuarios sin una justificación funcional.

En forma complementaria : a) Avisos de tiempo de uso y recordatorio periódico de que se está comunicando con una IA, y que por lo tanto carece de conciencia. b)- Protocolo de derivación a ayuda humana ante señales de angustia. c)- Campañas de sensibilización obligatorias por proveedores de sistemas.

-Auditoría independiente periódica, carga de la prueba invertida ante sospecha fundada, dada la asimetría existente en el conocimiento.

[xvi]

[xvii] "Conscious AI" as an AI Safety Issue

[xviii] The Mythology Of Conscious AI

[xix] Artículo 14: de la AI act de la UE

[xx]Ver mas Juan G Corvalán,en Sedentarismo cognitivo, productividad, agentes de IA y los riesgos de delegar el pensamiento. La Ley 2026.

[xxi] An Addendum to theGuidelines and Companion Guide onSecuring AI Systems June 2026 mgf-for-agentic-ai.pdf Model ai governance framework for agentic ai y Securing Agentic AI–An Addendum to the Guidelines and Companion Guide on Securing AI Systems (20.pdf

[xxi] The Latest AI Safety Rankings Are In. Nobody Gets an A

[xxii] En Humanning.com

[xxiii] López, B., 2026, «Humanning: la ausencia de lo humano en la gobernanza de la inteligencia artificial», working paper, SSRN.

[xxiv] Ya existe iniciativa local (Rbca Dominicana) de código de ética que regule el desarrollo, adquisición, e implementación de IA para el servicio público, con apoyo alianza para gobierno abierto y OCDE. Borrador de Código de Ética de la IA de la República Dominicana_Texto Final

[xxv]Uruguay a la vanguardia de una gobernanza ética de la IA

[xxvi] En su obra “Tamming Silicon Valley”

[xxvii] mgf-for-agentic-ai.pdf Model ai governance framework for agentic ai y Securing Agentic AI–An Addendum to the Guidelines and Companion Guide on Securing AI Systems (20.pdf

[xxviii] La auto-mejora recursiva (Recursive Self Improvement) de la IA plantea que los modelos de IA serían capaces de construir sus sucesores en forma autónoma, con la consiguiente dificultad de control de la alienación de dichos modelos con nuestros objetivos y valores humanos.

[xxix] The Latest AI Safety Rankings Are In. Nobody Gets an A

[xxx] Tal como mencionamos en : Uruguay a la vanguardia de una gobernanza ética de la IA

[xxxi] https://www.oecd.org/digital/artificial-intelligence

AI Principles Overview - OECD.AI

[xxxii] Tal como señalamos en : Uruguay a la vanguardia de una gobernanza ética de la IA en cita a Gary Marcus.

[xxxiii] Gobierno pone en marcha el Centro Nacional de Inteligencia Artificial – La Colonia Portal

[xxxiv] Creado por Decreto N°276/2025 e integrado por integrado por representantes de Agesic, URCDP. MIEM, ANII y Uruguay Innova

[xxxv] Uruguay lanza el Primer Consejo Empresarial por la Ética de la

[xxxvi] Propuesta de Gary Marcus, en su obra “Taming Silicon Valley” para regular los sistemas de IA propone como condición de garantizar que la IA se desarrolle y se utilice de forma responsable y segura.

[xxxvii] América Latina y el Caribe consolidan una hoja de ruta regional para

[xxxviii] Señala Anne Lemaistre en la Tercera Cumbre Ministerial y de Autoridades sobre la Ética de la IA en América Latina y el Caribe. - YouTube

[xxxix] Uruguay a la vanguardia de una gobernanza ética de la IA

[xl] Esteban Madrid en Evento Cultural San Felipe y Santiago 2025 , Montevideo, plantea Los LLM´S no pueden modelizar integralmente la experiencia humana. “¿Cómo digitalizar el valor de una presencia amiga en medio del dolor?¿ cómo expresar la fuerza del silencio? ¿cómo valorar la potencia de los gustos o la memoria de “Como seres humanos mientras convivimos con sistemas computacionales en una sociedad totalmente informatizada, los sistemas de IA están condicionando e incluso reconfigurando nuestras estructuras cognitivas, nuestra forma de conocer, de pensar, nuestras formas afectivas, sociales y simbólicas”. Señala que “la IA no solo produce resultados, nos piensa y nos modela, sino también que nos moldea la forma que percibimos decidimos y nos vinculamos. La tecnología participa así en nuestra formación moral espiritual, nos transforma y nos piensa y no en forma neutra sino performativa, priorizando un tipo de sociedad ,formas concretas de desarrollo empresarial, nuestras democracias e inclusive nuestra forma de querer y amar………¿la reputación y autoestima…se puede medir con la visibilización y los likes…?. Concluye que entodas estas traducciones a datos que hacen los LLM´S habrá interpretaciones y reducciones.”

Los sistemas de IA A pesar de tener distintos entrenamientos y datos, utilizan una misma lógica, forma de racionalidad, o visión del mundo, basada en la predicción estadística en la eficiencia operacional y en la modelización de la complejidad de patrones legibles.

La Tecnología, nace de intereses, expresa cosmovisiones distribuye poder y corre el riesgo de totalizar su pretensiones, si no habilitamos otros lenguajes, que se alineen con los valores que elijamos como sociedad. El gran problema de los LLM´S es cuando pretenden modelar neutralmente y a través de una única forma la totalidad de la experiencia humana…incapacitando o dejando afuera otros lenguajes para decir también lo humano. “

[xli] América Latina y el Caribe consolidan una hoja de ruta regional para

[xlii] Tal como señala Pink Floyd “Comfortably Numb”