La inteligencia artificial ya participa en decisiones de empresas e instituciones, pero sus riesgos plantean preguntas sobre responsabilidad y control. Un encuentro del Consejo CTCI e ICARE llamó a incorporar humanidades, ética y supervisión humana al debate
Una empresa puede utilizar inteligencia artificial para analizar información, evaluar riesgos o recomendar decisiones en segundos. Pero ¿qué ocurre cuando una de esas decisiones perjudica a una persona? ¿Quién responde: quienes desarrollaron la tecnología, la compañía que decidió utilizarla o los ejecutivos que confiaron en sus resultados? Son preguntas que comienzan a ocupar un lugar cada vez más importante en el debate sobre el futuro tecnológico de Chile.
Esa preocupación reunió a cerca de 60 representantes empresariales, investigadores y especialistas en ciencias sociales y humanidades en un encuentro organizado por el Consejo Nacional de Ciencia, Tecnología, Conocimiento e Innovación (CTCI) e ICARE. La conversación dejó de lado por un momento las promesas de productividad para abordar una cuestión más profunda: quién debe orientar las transformaciones tecnológicas y cuáles son los límites que deben respetar.
La discusión coincide con el debate legislativo sobre la regulación de la inteligencia artificial en Chile, donde la definición de responsabilidades, controles y niveles de riesgo ocupa un lugar central. Pero el encuentro entre investigadores y empresarios abrió otra dimensión: las decisiones tecnológicas también necesitan incorporar perspectivas sociales, culturales y humanas, especialmente cuando sus consecuencias alcanzan a trabajadores, consumidores y comunidades.
Cuando la tecnología comienza a decidir
La presidenta del Consejo CTCI, Silvia Díaz, planteó que el desarrollo tecnológico no puede quedar determinado únicamente por la velocidad de los avances científicos. Al explicar la importancia de incorporar al mundo empresarial, sostuvo que resulta necesario preguntarse “qué entendemos por desarrollo, qué fines queremos orientar y qué dimensiones de la vida humana no pueden quedar entregadas únicamente a la velocidad de la transformación científica y tecnológica”.
Díaz advirtió que “las tecnologías requieren interpretación histórica, cultural y social” y llamó a examinar “quién puede orientarlas, cómo se distribuyen sus beneficios y riesgos y dónde reside la responsabilidad por las decisiones que se adoptan”. Una interrogante que también alcanza a empresas e instituciones públicas cuando utilizan sistemas capaces de influir en decisiones relevantes para las personas.
Las empresas frente a una pregunta incómoda
Desde ICARE, su presidente, Renzo Corona, reconoció que la inteligencia artificial ya está modificando actividades cotidianas y procesos empresariales. “Creo que este tema nos toca a todos. La inteligencia artificial está cada día más presente, desde cómo nos informamos hasta qué se decide en una empresa”, afirmó durante la jornada.
Corona puso el acento en una dimensión que no siempre acompaña las decisiones de inversión tecnológica. “Para decidir bien cómo utilizarla, hace falta conocimiento técnico, pero también hay que preguntarse para qué la queremos, a quién queremos impactar con ella”, señaló. Luego vinculó esa responsabilidad con disciplinas que tradicionalmente han permanecido fuera de las decisiones empresariales: “Las humanidades y las ciencias sociales llevan ciclos pensando qué significa el ser humano y sin duda tienen mucho que aportar”.
El encuentro también permitió acercar dos mundos que no siempre participan de las mismas conversaciones. “Creemos que el desarrollo de Chile se construye tendiendo buenas relaciones entre grupos que no siempre deciden juntos”, sostuvo Corona, antes de resumir el sentido de la discusión: “Las conversaciones sobre tecnología son, principalmente, conversaciones sobre las personas”.
Del debate ético a las decisiones concretas
En la instancia se presentó “Custodiar lo humano en la transformación”, un cuaderno de diálogo que recoge las reflexiones de un encuentro realizado en agosto en el Arzobispado de Santiago. Allí participaron referentes como Fernando Chomalí, Sol Serrano, Adriana Valdés, Sonia Montecino, José Joaquín Brunner y Lucía Santa Cruz, tomando como una de sus referencias la encíclica Magnifica Humanitas, del papa León XIV.
La directora ejecutiva del Consejo CTCI, Katherine Villarroel, destacó la posibilidad de incorporar esas reflexiones a la Estrategia Nacional de CTCI 2026. “Estamos muy contentos con la recepción de ICARE y la posibilidad de incluir una agenda de reflexión ética y humanista”, expresó, junto con plantear la necesidad de traducir sus contenidos en criterios que enriquezcan su implementación y sitúen el bienestar de las personas en el centro.
El encuentro abrió una conversación, pero no anunció nuevas obligaciones para las empresas ni mecanismos concretos de fiscalización. Esa diferencia importa: compartir principios sobre el uso responsable de la inteligencia artificial es un primer paso; convertirlos en procedimientos de supervisión, responsabilidades identificables y decisiones verificables requiere avanzar más allá de las declaraciones.
La pregunta ya está instalada también en las empresas que incorporan sistemas de inteligencia artificial capaces de tomar decisiones con mayor autonomía. El debate impulsado por el Consejo CTCI e ICARE deja una cuestión pendiente para Chile: cómo asegurar que la tecnología pueda avanzar sin que las personas pierdan el control sobre las decisiones que afectan sus vidas.
