"La ética de datos es un desafío fundamental en el diseño e implementación de políticas públicas hoy"

"Los sistemas de decisión automatizada, si no se usan bien, pueden tener consecuencias relevantes en la sociedad", afirma María Paz Hermosilla, directora de GobLab, el laboratorio de innovación pública de la Escuela de Gobierno de la UAI, al referirse sobre la importancia de contar con algoritmos éticos, más aún cuando se trata del uso de estas tecnologías por parte del Estado.
A esto, precisamente, apunta el reciente convenio firmado entre la UAI y el BID, que tiene por objetivo aplicar modelos y estándares que permitan la gestión ética de datos y el desarrollo de algoritmos éticos en los servicios públicos. Se trata de un proyecto inédito en Chile, resalta Hermosilla, quien añade que además va en línea con la Política Nacional de Inteligencia Artificial y resulta de vital importancia para el futuro del país. "La ética de datos es un desafío fundamental en el diseño e implementación de políticas públicas hoy", dice.
A través de esta iniciativa, precisa, "nos interesa que los sistemas de decisión automatizada del Estado -cuando un algoritmo decide o ayuda a decidir sobre la prestación de productos o servicios públicos- se hagan de forma ética, responsable y transparente".
En ese sentido, Hermosilla explica que un algoritmo ético se hace cargo de todas las complejidades sociales que existen en torno a un proceso de decisión, pues considera una serie de aspectos que redundan, finalmente, en mejores resultados: "Hay temas de trasparencia, en cuanto a que se pueda entender cómo se toma una decisión o cómo funciona el sistema; de accountability o responsabilidad, donde si existe un error, que haya formas simples de resolverlo y no tener que ir a tribunales, es decir, que el organismo se haga cargo de las consecuencias de esas decisiones; de protección de datos, para que se respete la privacidad; y de equidad, en el sentido de que no generen nuevas inequidades o haga perpetuar las que ya existen".
Pasos y socios
GobLab ejecutará el proyecto, con apoyo de las facultades de Ingeniería y Ciencias y de Artes Liberales. Tendrá como socios estratégicos a ChileCompra, la División de Gobierno Digital de la Segpres, el Ministerio de Ciencia y la aceleradora Magical.
La meta es que los sistemas de decisión automatizada que adquiere el Estado consideren la gestión ética y responsable de los datos. Para ello, una parte central será un piloto de implementación de estándares de ética de datos en dos organismos públicos. Así, durante tres años se trabajará en dos frentes: en el sector privado, con cursos y talleres para firmas que proveen servicios de datos e inteligencia artificial al Estado; en el ámbito público, fomentando que su sistema de compras considere este factor en sus estándares y requisitos.
"El primer principio para que exista un algoritmo ético es que haya un problema real a resolver y no forzar la tecnología solo por querer usarla, porque no todos los problemas se resuelven con tecnología. Cuando desarrollas un sistema ético, lo primero que se debe hacer es ponderar la necesidad y la proporcionalidad del uso de las tecnologías".
Problemas y soluciones"El primer principio para que exista un algoritmo ético es que haya un problema real a resolver y no forzar la tecnología solo por querer usarla, porque no todos los problemas se resuelven con tecnología", dice.