¿Quién va a exigirle cuentas a la tecnología cuando todos estamos ocupados usándola? | Letras Libres
artículo no publicado

¿Quién va a exigirle cuentas a la tecnología cuando todos estamos ocupados usándola?

La tecnología es lo que ponemos en ella. Para que el mundo se beneficie de la Cuarta Revolución Industrial, la sociedad civil debe cuestionar y exigirle cuentas a gobiernos y empresas sobre el modo en que esa tecnología se emplea.

El concepto Cuarta Revolución Industrial fue acuñado por Klaus Schwab, fundador del Foro Económico Mundial, durante la edición del Foro de 2016. Y aunque por lo menos desde 2011 diversos autores hablaban ya del término industria 4.0 para hacer referencia a las industrias de alta tecnología, fue Schwab quien defendió la irrupción de la tecnología (automatización y máquinas “inteligentes”) como un hecho revolucionario.

Para Schwab, al igual que la revolución agrícola (producción de alimentos, asentamientos, urbanización), la primera revolución industrial (ferrocarriles, motores de vapor, electricidad) y la revolución digital (desarrollo de software y hardware), la Cuarta Revolución Industrial (“fusión de tecnologías e interacción a través de dominios físicos, digitales y biológicos”) implica cambios que orillan a que la economía, la sociedad y las personas cambien la manera en la que actúan e interactúan entre sí. De hecho, “cuando se compara con las revoluciones industriales anteriores, la Cuarta está evolucionando a un ritmo exponencial en lugar de lineal. Además, está transformando a casi todas las industrias, en todos los países. Y la amplitud y profundidad de estos cambios anuncian la transformación de sistemas completos de producción, gestión y gobierno”.

En medio de esta rápida transformación se nos olvida que la tecnología no es ética, ni justa, ni buena, ni nada: la tecnología es lo que nosotros ponemos en ella, y si queremos que el mundo se beneficie realmente de esta nueva revolución, la tecnología no lo hará por sí misma. Entonces, ¿quién va a cuestionar y exigirle cuentas a la tecnología cuando todos estamos demasiado ocupados usándola? ¡La sociedad civil!

El papel de la sociedad civil en la Cuarta Revolución Industrial también fue retomado hace un par de semanas en Davos. Y en el reporte Civil society in the Fourth Industrial Revolution: Preparation and response enfatizan que las organizaciones de la sociedad civil pueden sacar a la luz las formas en que la tecnología está afectando las vidas de las personas.

1

Y para que esto no suena a quimera, vale la pena mencionar el trabajo que realiza el AI Now Institute de la Universidad de Nueva York, un centro de investigación interdisciplinario dedicado a comprender las implicaciones sociales de la inteligencia artificial.

El año pasado, el AI Now Institute rastreó más de veinte escándalos relacionados con la forma en que las empresas, los gobiernos y la sociedad civil han tomado decisiones sobre el uso de la tecnología. Entre los casos más sonados están:

ppi
Fuente: AI In 2018: A year in review. Ethics, organizing, and accountability.

Como resultado de estos escándalos se emitieron diez recomendaciones, que pasan por regular la IA (en esquemas de auditoria, supervisión y monitoreo), desarrollar nuevos enfoques para la gobernabilidad de la industria de la IA, renunciar al secreto comercial que impide la rendición de cuentas en el sector público (y al mismo tiempo exigir que los gobiernos dejen de usar sistemas algorítmicos cerrados para que expertos independientes puedan auditarlo), protección para los objetores de conciencia, entre otros. Algunos de sus puntos son discutibles, pero hay mucho valor en que pongan en la mesa de debate la rendición de cuentas de la tecnología y pregunten: ¿quién es el responsable?