IA: ¿Quién falta a la mesa?
La inteligencia puede desarrollarse. ¿Y la sabiduría?
Hace aproximadamente una década, leyendo La cuarta revolución industrial, de Klaus Schwab, encontré una reflexión sobre la sabiduría colectiva que entonces me pareció más poética que realizable.
Diez años después, esa idea adquiere un significado diferente. Lo que entonces me pareció una aspiración abstracta hoy se presenta como un desafío concreto:
Nuestro presente
Las noticias sobre comportamientos inesperados de la inteligencia artificial, sistemas que intentan eludir restricciones durante pruebas de seguridad y advertencias sobre su posible uso para desarrollar amenazas biológicas han alimentado una inquietud creciente.
Más allá de los escenarios alarmistas, estas situaciones plantean una pregunta fundamental: ¿Cómo orientar el comportamiento de sistemas cada vez más capaces de tomar decisiones y actuar en contextos complejos?
La respuesta no es exclusivamente tecnológica. Los modelos de inteligencia artificial aprenden patrones a partir de enormes cantidades de información producida por los seres humanos, en la que se reflejan nuestros conocimientos, razonamientos, valores, contradicciones y prejuicios. A ello se suman las decisiones de quienes los desarrollan sobre los principios que deben orientar su comportamiento y las respuestas que buscan reforzar, limitar o desalentar.
Aquí surge una pregunta clave: ¿Qué valores está aprendiendo de nosotros la inteligencia artificial mientras decidimos cuáles queremos enseñarle?
Buscando la respuesta
En enero de 2026, Anthropic, desarrolladora de Claude, publicó una nueva versión de su Constitución, un documento que describe los valores y comportamientos que busca promover en su modelo. Paralelamente, ha ampliado sus conversaciones con representantes de distintas tradiciones religiosas, filosóficas y culturales para explorar cómo orientar la formación ética de sus sistemas.
Más allá de Anthropic, distintas iniciativas internacionales abordan la ética y la gobernanza de la inteligencia artificial desde perspectivas diferentes:
Desde 2020, el Rome Call for AI Ethics promueve compromisos entre instituciones religiosas, empresas tecnológicas y otros actores alrededor de principios como transparencia, inclusión, responsabilidad, imparcialidad, fiabilidad y seguridad y privacidad.
En el ámbito gubernamental, la Unión Europea ha establecido un marco regulatorio específico sobre inteligencia artificial, mientras que el Consejo de Europa ha impulsado un tratado internacional que vincula su desarrollo y utilización con los derechos humanos, la democracia y el Estado de derecho.
Y por su parte, las Naciones Unidas establecieron en 2025 un Panel Científico Internacional Independiente sobre Inteligencia Artificial y un Diálogo Mundial sobre su Gobernanza, cuya primera sesión se celebró en julio de 2026. Estas iniciativas buscan ampliar la colaboración entre gobiernos, comunidad científica, empresas y sociedad civil.
Los esfuerzos son distintos en su naturaleza y alcance. Sin embargo, todos reflejan una preocupación común: el desarrollo de la inteligencia artificial requiere decisiones que trascienden las capacidades técnicas.
Los retos
La interpretación de valores como justicia, equidad, responsabilidad o bienestar no necesariamente es idéntica entre sociedades, culturas e incluso generaciones. Lo que una comunidad considera una decisión justa puede entrar en conflicto con las prioridades de otra. La protección de un derecho puede implicar restricciones sobre otro. Una respuesta considerada apropiada en determinado contexto puede resultar cuestionable en uno diferente.
Estas tensiones no desaparecen por incorporarlas a un documento de principios.
Surgen entonces preguntas difíciles: ¿qué ocurre cuando dos valores entran en conflicto? ¿Cómo se traducen principios generales en decisiones concretas de sistemas que interactúan con millones de personas?
Los esfuerzos por ampliar la conversación son importantes. Hoy participan gobiernos, organismos internacionales, empresas, científicos, filósofos y representantes de distintas tradiciones culturales y religiosas.
Sin embargo, la presencia de numerosos actores no equivale necesariamente a una representación suficiente de las personas que vivirán las consecuencias de estas tecnologías.
¿Qué lugar ocupan las comunidades con poco o nulo acceso a la tecnología? ¿Cómo se incorporan las perspectivas de quienes hablan lenguas poco representadas en los sistemas digitales?
Y, quizá, la pregunta más importante sea: ¿cómo se representan los intereses de quienes todavía no pueden participar en estas conversaciones, pero vivirán durante décadas con sus consecuencias?
Hacia la sabiduría colectiva
Diez años después, aquella reflexión sobre la sabiduría colectiva adquiere una dimensión que entonces no había considerado: no depende únicamente de nuestra capacidad para construir acuerdos, sino también de las perspectivas que somos capaces de incorporar en ellos.
Lo que omitamos hoy podría ser tan determinante como aquello que finalmente acordemos. Ambas cosas formarán parte del legado que dejemos a quienes vendrán.
Comentarios