Por Pablo Carrizo O. Administrador Público. Director Ejecutivo TSD Consulting
Durante años pensamos que las plataformas aprendían de aquello que declarábamos que nos gustaba. Hoy registran dónde detenemos el desplazamiento en pantalla, qué repetimos y qué ignoramos. Sus algoritmos no leen nuestra mente, pero intervienen en el entorno desde el cual la formamos.
Chile discute el proyecto que regula los sistemas de inteligencia artificial, boletines 15.869-19 y 16.821-19, refundidos. Aprobado por la Cámara de Diputadas y Diputados, se encuentra en segundo trámite constitucional, en estudio general por la Comisión de Desafíos del Futuro del Senado. Todavía no es ley y puede modificarse. Desde mi experiencia en gestión pública, me permito formular algunas observaciones.
El proyecto acierta al clasificar los usos según su riesgo, prohibir determinadas formas de manipulación y exigir supervisión humana, trazabilidad y transparencia. Sin embargo, aborda insuficientemente un poder más cotidiano y acumulativo: la capacidad de estos sistemas para moldear nuestra atención, reducir el esfuerzo intelectual e intervenir progresivamente en la forma en que pensamos y decidimos.
La IA generativa ya no solo selecciona lo que vemos: puede escribir, interpretar y razonar por nosotros. Como apoyo, amplía nuestras capacidades; ahora, convertida en atajo permanente, puede provocar un sedentarismo intelectual. Dejamos de buscar, contrastar y construir respuestas propias porque el sistema las entrega de inmediato.
Por eso, Chile necesita una gobernanza independiente y revisable, con especialidades que se renueven según los riesgos emergentes, obligada a trabajar con evidencia, fundamentar públicamente sus decisiones, someterlas a auditoría y transparentar conflictos de interés. El desafío no es acumular opiniones, sino impedir que intereses empresariales, políticos o corporativos capturen la regulación.
El proyecto distribuye responsabilidades entre el Ministerio de Ciencia, la Agencia de Protección de Datos, la ANCI, Gobierno Digital y otros organismos. Coordinar es necesario, pero no equivale a conducir. Cuando todos reciben atribuciones parciales y nadie responde por el funcionamiento integral, la responsabilidad se diluye: todos intervienen, pero nadie rinde cuentas por el conjunto.
Una política de esta complejidad requiere un órgano rector con autoridad, capacidades y responsabilidad pública identificables. Además, falta desarrollar con qué datos se entrenan los modelos de uso general, qué sesgos pueden reproducir y quién responde cuando una falla alcanza dimensiones masivas.
El problema es aún más delicado cuando el Estado utiliza IA. Un registro público es necesario, pero insuficiente: la gobernanza debe comenzar antes de poner un sistema en funcionamiento, definiendo su finalidad, fundamento legal, datos, riesgos, responsables, validaciones y controles, y conservando la trazabilidad de cada intervención.
La IA puede ordenar antecedentes, detectar inconsistencias o apoyar un análisis; pero nunca sustituir a quien posee la competencia. La decisión y la responsabilidad deben permanecer radicadas en una persona identificable. Si un organismo no puede reconstruir cómo se produjo un resultado, verificarlo y establecer quién lo autorizó, ese sistema no debiera intervenir en decisiones que afecten derechos.
El Estado puede contratar tecnología, pero no endosarle el poder de la decisión ni la responsabilidad.
Con internet, la gobernanza apareció después de los efectos. Con la IA aún podemos evitar repetir esa secuencia. La futura ley debe resguardar nuestra capacidad de pensar, decidir y gobernarnos. Una democracia no se debilita solo cuando pierde sus instituciones; también se vacía cuando mantiene elecciones, pero la voluntad ciudadana se forma bajo influencias algorítmicas que operan sin transparencia ni control democrático.
La democracia comienza antes del voto: comienza en la libertad de pensar.
El contenido expresado en esta columna de opinión es de exclusiva responsabilidad de su autor (a) y no representa necesariamente la visión ni línea editorial de Poderyliderazgo.cl
