El largo (¿y robótico?) brazo de la ley

¿Cuáles son nuestras expectativas cuando contemplamos la idea de una justicia robótica?
AÑADIR A FAVORITOS
ClosePlease loginn

Un juez robot representa la promesa de la justicia verdaderamente ciega. Sus sentencias serían imparciales, claras y expeditas. Con un margen de error muy pequeño, la juez robot sería casi tan infalible como una calculadora realizando operaciones aritméticas básicas. Todas las leyes vigentes, precedentes y jurisprudencias serían codificadas en su inteligencia artificial. Por fin, los procesos legales dejarían de ser inciertos y la ley dejaría de funcionar de formas misteriosas. Si todo lo anterior fuera cierto, los jueces serían fácilmente reemplazados por robots; sin embargo, replicar el razonamiento judicial no es tarea fácil, las leyes no siempre son claras y convertirlas en un conjunto de instrucciones puede resultar más complicado de lo que aparenta.

El razonamiento legal podría ser representado por medio de silogismos:

Este enfoque, completamente formalista, es el más común al pensar en un diseño de inteligencia artificial juzgadora, pero de acuerdo con Taruffo, en su artículo Judicial Decisions and Artificial Intelligence, este modelo deja fuera ciertos elementos correspondientes al proceso mental del juez, como la discreción y subjetividad, que no pueden ser transformados en código. Una inteligencia artificial juzgadora tendría lo que Dworkin, en Law’s Empire,llama una visión plana de los hechos. Es aquí donde surge el conflicto entre la interpretación formalista y la sociológica de las leyes. En la segunda, el centro es la persona en su contexto. En la primera, el juez está llamado a respetar la ley al pie de la letra, por encima del sujeto.

Es verdad que existen algunas normas que no dejan espacio para la discreción judicial, por ejemplo, si me estaciono en un lugar prohibido o voy a exceso de velocidad y recibo una infracción y decido pelear la multa en tribunales, salvo por cuestiones de forma, la aplicación de la norma será estricta (bueno, con sus corruptas excepciones). Pero incluso en normas de aplicación estricta hay justificaciones. Por ejemplo, Bristol es una ciudad del Reino Unido famosa por el graffiti, tags y street art que la decoran a pesar de que estos son, estrictamente hablando, faltas administrativas. Esto llevó al gobierno de la ciudad a realizar un referéndum público en 2009 para decidir si el street art de artistas como Banksy debía ser removido de las paredes. La respuesta fue no.

En países donde la corrupción no representa un problema significativo, las cuestiones respecto a una inteligencia artificial juzgadora se debaten en torno a la aplicación formalista de la ley y su utilidad en asuntos administrativos, simples y predecibles. Donde la corrupción es una azote, incluso esa aplicación limitada podría resultar beneficiosa. El caso es que sería relativamente fácil diseñar una inteligencia artificial cuyo algoritmo se basara en la simplicidad y repetición que se miran en la actividad burocrática. Sin embargo, la labor de los jueces no siempre es repetitiva y, por tanto, difícilmente sería estandarizable. Además, las leyes suelen contener términos que requieren interpretación, como la palabra ‘proporcional’ que a veces es discurso y a veces parece adorno obligatorio (¿Quién estaría a favor de la aplicación desproporcionada de una norma?, se preguntan Sethi y Laurie Delivering Proportionate Governance in the Era of eHealth: Making Linkage and Privacy Work Together), que necesariamente requiere interpretación. Para Dworkin el razonamiento legal es interpretación constructiva.

Así que, ¿cuáles son nuestras expectativas cuando contemplamos la idea de una justicia robótica? De acuerdo con Chemerinsky, en Seeing the Emperor’s Clothes: Recognizing the Reality of Constitutional Decision Making”,confiamos en la promesa del formalismo: sentencias imparciales que acatan la ley y están libres de la ideología del juzgador. Un robot seguiría una metodología sin reparar en escuelas de pensamiento o convicciones. Esto se parece a la metáfora que, en 2005, John Roberts, candidato a Juez de la Suprema Corte de Estados Unidos, dijo en su audiencia de nominación: “Los jueces son como árbitros. Los árbitros no hacen las reglas, las aplican (…) pero es un papel limitado.” Sin embargo, como lo advierte Chermerinsky, los jueces no se vuelven más imparciales por fingir que no tienen una postura ideológica y, más aún, argumenta que esta supuesta neutralidad permite que los jueces puedan escudarse tras una dizque estricta aplicación de la ley. La justicia sin ideología es un mito.

A decir de Dworkin, incluso la aplicación estricta de la ley es una ideología (pero de evasión, dice el autor). Así que esta ideología, o la que fuera, respecto de cómo debe interpretar las leyes nuestro robot, sería hecha por humanos, basada en conocimientos y  experiencias humanas. He ahí su defecto trágico y he ahí el por qué podemos decirle adiós a la perfección judicial que imaginamos:

“La inteligencia artificial no nace del vacío. Los sistemas son desarrollados por humanos y heredan sus fallas […] El hecho de que esos humanos sean principalmente hombre blancos de clase media, representa un problema.”

En su obra seminal Legal Decisions and Information Systems”,Bing y Harvold argumentan que, al emitir una sentencia, los jueces se preguntan el efecto que tendrá su decisión. Por el momento es improbable que un robot se haga esa pregunta o que genere empatía y de ahí puede partir el posible rechazo de los usuarios hacia el robot.

Podríamos pensar que dentro de poco los robots podrán replicar el mejor proceso de pensamiento y razonamiento que pueda tener una juez, después de todo las inteligencias artificiales Watson, de IBM y AlphaGo, de Deep Mind vencieron a sus contrapartes humanas jugando Jeopardy! y Go[1], respectivamente.

La alternativa, tal vez, sería que jueces humanos complementen su labor con la ayuda de una inteligencia artificial, como lo sugiere Sankar: tomemos las habilidades en las que los humanos (creatividad, pensamiento no lineal) y las máquinas (cálculo, memoria) son mejores y combinémoslas. Un ejemplo de esta cooperación puede verse en una de las iniciativas de la Fundación John y Laura Arnold: programa que ayuda a los jueces a tomar decisiones respecto de la imposición de fianzas con el ánimo de eliminar los prejuicios raciales. Otro ejemplo, desde el punto de vista de los abogados, es Lex Machina: programa capaz de analizar cuantos precedentes sean necesarios y logra hacer predicciones respecto del resultado de los juicios[2].

En una carta fechada en 1776, Thomas Jefferson escribió: “Dejemos a los jueces ser meras máquinas”. Con una visión muy estricta, él buscaba justicia imparcial, libre de caprichos humanos. 240 años después seguimos en la búsqueda de esa justicia. Paradójicamente, los avances tecnológicos nos han demostrado que los jueces no son máquinas, las leyes no son fórmulas y que la inteligencia artificial puede ser tan parcial como nosotros mismos.

 


[1]Al respecto, Jaron Lanier en su artículo “It’s Not a Game” opina que la inteligencia artificial actualmente no es comparable con la inteligencia humana pues el funcionamiento del cerebro y el lenguaje aún presentan muchas incógnitas y que la inteligencia artificial ha sobresalido en habilidades aisladas (adivinar palabras en el caso de Jeopardy!), sin que ello signifique que entiendan el significado de sus acciones. Incluso podría ser que aunque llegáramos a comprender del todo la mente humana no pudiéramos replicar su funcionamiento. ¿Acaso entender toda la astrofísica nos permite construir una galaxia?, se pregunta Kurzweil en el libro “The Age of Intelligent Machines”.

[2]Otra alternativa es el pensamiento híbrido planteado por Kurzweil, que permitiría expandir la capacidad cerebral mediante el uso de nanorobots. Esa no es una opción cercana, pero se vale considerarla si nos ponemos muy futuristas.

 

+ posts

Nació el mismo año que se estrenó Blade Runner. Abogada, especialista en tecnología y protección de datos.


    ×  

    Selecciona el país o región donde quieres recibir tu revista: