AVANCES

22 de octubre de 2019

Prometea, inteligencia artificial para hacer Justicia

Juan G. Corvalán, Fiscal General Adjunto del GCBA.

En la Justicia porteña se utiliza, desde hace más de un año, inteligencia artificial para resolver causas de diferente complejidad. El robot de la Justicia que es referencia a nivel mundial.

Partamos de una base: en Argentina, juntar ciencia y políticas públicas no es nada frecuente. Mientras que quienes ocupan cargos en el Estado suelen correr detrás de obsesiones -muchas veces reñidas con el bien común- los científicos, por su parte, son apasionados por el saber, y quedan reducidos a pequeños espacios endogámicos.

Pues bien, en el Ministerio Público Fiscal de la Ciudad de Buenos Aires, rompieron ese maleficio. En 2017, se juntaron para trabajar, codo a codo, juristas de sólida formación y probada trayectoria como Luis Cevasco y Juan Corvalán, con jóvenes programadores especializados en Inteligencia Artificial (IA). El resultado es Prometea, un algoritmo que es mirado de cerca ni más ni menos que por el Massachussets Institute of Technology (MIT) y la ONU.

Si hay que ver para creer, a refregarse los ojos

En el piso 11 de Paseo Colón 1333, se respira un aire inusual, considerando que se trata de una oficina pública. Pasando la mesa de entradas, una gran sala a la derecha, estilo coworking, muestra escritorios con equipamiento informático actualizado, ocupados por profesionales que, en contados casos, superan los 30 años.

Son cordiales y bien dispuestos. Es cuestión de semblantearlos para descubrir, en cada rostro, una conjunción notable entre concentración y calma. Como si supieran que con sus manos moldean, diariamente, la arcilla con la que se construye el futuro: la Inteligencia Artificial es la nueva revolución industrial, y aquí se la utiliza para hacer justicia. Nada más, ni nada menos.

Pero mi sitio en esta historia está del otro lado de la sala, en el despacho de Juan Corvalán (40 años, oriundo de Cutral Có), el Fiscal General Adjunto de la Ciudad, Co Director del Laboratorio de Innovación e Inteligencia Artificial de la Facultad de Derecho de la UBA.

Allí, con una vista abierta hacia el puerto, espero. Una asistente se preocupa por el clima dentro del recinto. Corvalán no tarda en llegar, pero entra al despacho luego de detenerse a saludar en cada escritorio. Sonríe, prepara el mate e invita a grabar.

Periodista: Es claro que aplicar IA en el Estado, es hacerlo más eficiente. Ahora bien, ¿cómo es que Prometea automatiza y predice?

Juan Corbalán: La IA automatiza porque resuelve tareas simples, burocráticas y repetitivas, donde no hay demasiado para innovar. Por ejemplo: el Estado pone plazos a todo, y esos plazos deben ser controlados. Eso lleva tiempo humano, pero el sistema lo hace sólo, muy rápido, y muy bien. Ahora, la predicción es una técnica más compleja, porque parte de considerar las diferencias que puede haber entre situaciones a resolver. Por ejemplo, nosotros solemos usar Pometea cuando se nos presenta una persona en situación de calle, que pide un subsidio; pero cada ciudadano puede plantear diversas condiciones: algunos tienen muchos hijos, otros son discapacitados. Entonces le enseñamos al sistema todos los casos históricos para que los aprenda, y logre encontrar, ante un nuevo expediente, patrones comunes que le permitan decirte “creo que este caso hay que resolverlo así porque se parece a todos estos que ya resolvimos”.

P.: ¿Y cómo fue que usted tuvo la vocación de desarrollar Prometea?

J.C.: Entre otras cosas, porque queríamos terminar con la injusticia de que un mismo ciudadano, con el mismo problema, recibiera dos respuestas diferentes por parte del Estado. Es durísimo cuando eso pasa, y viola un principio básico, que es el de igualdad.

P.: ¿Eso es frecuente?

J.C.: En la Justicia siempre ocurrió y sigue ocurriendo, muchas veces por error humano. En el proceso burocrático estándar, quien tiene el deber de interpretar la norma puede que se equivoque, por mil razones posibles.

Pero además, y fundamentalmente, ningún juez o fiscal puede tener en la cabeza cinco mil fallos. Prometea genera una congruencia de criterio judicial, porque, ampliando extraordinariamente la casuística sobre la que basa su predicción, toma una muestra tan grande en un tiempo tan corto (N de R: lo que se conoce como Big Data) que ningún ser humano podría igualarla. En este sentido, Prometea no sólo hace la justicia más igualitaria, sino que la hace muchísimo más eficiente, y justa. A eso apuntamos teniendo en cuenta el libro del BID El fin del trámite eterno, en el que se señala que, en la Justicia, la extrema lentitud termina siendo injusticia.

P.: Si para ser más rápidos y dar mejores respuestas todo se basa en la estadística, ¿qué espacio queda para la interpretación del jurista?

J.C.: Las tendencias siempre tuvieron peso en la Justicia, porque, antes de la IA, cada juez que tuvo que fallar sobre algo siempre consideró la jurisprudencia y el criterio mayoritario sobre el tema que le tocara. O sea, hace rato que nos acostumbramos, lamentablemente, a que el Estado nos trate como a un número.

Por eso decimos que, para nosotros, la IA humaniza porque ahora tenemos una oportunidad de salir de la costumbre, y que la máquina resuelva lo que es meramente estadístico, mientras que nosotros ponemos nuestro trabajo en casos que merecen toda nuestra atención, y generamos empatía con el ciudadano.

En definitiva, efectivamente en algunos casos somos un número, pero en otros no. Por ejemplo, volviendo a los plazos, el algoritmo deja afuera cualquier presentación fuera de término. Ahora bien. El humano tiene que estar mirando si el caso merece una excepción. Por ejemplo, si tu presentación fuera de plazo es consecuencia de que tuviste un accidente fatal. Para la máquina, eso no sería considerable. Ahí, estamos nosotros.

P.: ¿Y cómo funciona Prometea en sí?

J.C.: Mirá, hagamos una cosa. Vení, sentate delante de la pantalla y probalo vos mismo.

La experiencia Prometea

¡Corten! Vamos de nuevo. Yo vine a entrevistar a una persona, y ahora estoy frente a una pantalla led donde aparece un chat como el de WhatsApp, con un loguito. Me dan a elegir entre usar un celular y una computadora. Elijo celular porque, ya que será la primera vez que trate con un robot, prefiero hablarle (es raro, pero estoy intentando caerle simpático).

Una vez iniciado el proceso, una voz femenina al estilo GPS me saluda y me pregunta “qué haremos hoy”. Me soplan que responda que quiero predecir la solución de un caso habitacional. Entonces, Prometea me pide un número de expediente.

En ese momento un miembro del equipo de Corvalán me acerca un expediente real, en papel. Miro la portada, aprieto el botón del micrófono, como en WhatsApp, y digo “catorce mil doscientos”.

En dos segundos, Prometea me dice cuál es la carátula del expediente, y menciona la clase de solución que le parece conveniente. No conforme con ello, me ofrece su proyecto de dictamen, completamente redactado. Y como frutilla del postre, me copia links de documentos que encontró en todo el sistema judicial porteño, acerca del mismo tema. Todo en la ventana de chat. Lo escucho y lo leo en simultáneo.

Estoy fascinado. Inmediatamente, Corvalán me advierte: “Ves, ahí ya llegaste a la solución. Ahora interviene el ser humano capacitado, que controla todo, imprime, y se firma. Pero en otros países, sale con firma electrónica, completamente automático, sin intervención humana. Si quisiéramos, nosotros también podríamos hacerlo, pero somos respetuosos de la Constitución y los Derechos Humanos”.

El proceso que acabo de protagonizar hubiera llevado meses de trabajo, ocupando a varios empleados. En cambio, yo, en minutos, tuve el caso resuelto. O sea, yo no; Prometea. Un algoritmo creado con fondos públicos, entre la UBA y el Estado de la Ciudad de Buenos Aires, que posee el 94% de efectividad.

Naturalmente, como pasa con cualquier innovación tan disruptiva, enseguida se me aparecen fantasmas. Vamos por ellos.

P.: ¿Cuánto de cierto hay en la idea de que un día recibiremos una sentencia que sólo podremos discutir con un programa de computación?

J.C.: En mi opinión, entre otros derechos que surgen con el Estado 4.0 y la era de la IA, uno de los más gravitantes será el derecho a una decisión humana, o una intervención humana. Es decir, nadie duda de que el rumbo es que las máquinas resuelvan cada vez más, pero en las normas y los organismos internacionales hay acuerdo acerca de que todo ciudadano podrá instar un proceso hasta que un humano intervenga en una decisión de máquina. Sería algo así: lo que me diga una máquina no puede causar Estado; tiene que haber una intervención humana previa, o una revisión humana posterior a la decisión de la máquina.

Para nosotros Prometea es una herramienta genial, pero no puede reemplazar a las personas. Hay que humanizar al Estado porque es la forma de que el Estado se ponga en el lugar del ciudadano. Y eso se logra con empatía, una cualidad que las máquinas no tienen.

P.: ¿Y qué hay de los límites de la Inteligencia Artificial?

J.C.: Los límites de la IA se refieren a dos cuestiones: los derechos de las personas y la ética. Y en el Derecho, está claro que no hay nada en el mundo que no esté limitado por alguna norma. Cualquier innovación que el hombre haya desarrollado, luego es regulada normativamente. Y con la IA va a ocurrir lo mismo, simplemente porque es otra innovación técnica. Por lo tanto, tiene que encuadrarse dentro de un ecosistema normativo para tratar de que se use para el bien y no para el mal. El ejemplo es internet: empezó muy libre e ilimitada, y hoy ya está regulada.

P.: Hace poco estuvo en Argentina un científico del Massachussets Institute of Technology (MIT) y vino a invitar a Prometea y sus representantes al Congreso regional que se hará en enero, en la sede central, en Boston. Mirando al futuro, a partir de Prometea, ¿cuáles son las perspectivas de la IA en la Justicia argentina?

J.C.: Bueno en este punto podemos mirar al futuro con optimismo o pesimismo. La mirada optimista nos pone en el camino de que en cuatro años se haya avanzado en el paradigma de humanizar la Justicia, desburocratizando, haciendo eficiente al Estado y generando empatía entre Justicia y ciudadanía gracias a la IA. En esto estamos trabajando con la Junta Federal de Cortes de la República Argentina, que es la organización que nuclea a todas las Cortes Supremas provinciales del país. Pero para eso, quienes toman decisiones tienen que ayudar a generar conciencia en que este paradigma no es una opción. Como no lo fue el paradigma anterior, de la era digital, de internet.

Justamente, la mirada pesimista es la que surge si miramos lo que pasó con internet, y la era anterior, que abrió la Sociedad del Conocimiento; la digitalización y los expedientes electrónicos nos costaron muchísimo. La ONU y la OEA venían alertando desde el 2000 sobre este tema, y Latinoamérica tardó demasiado, por las desigualdades que nos caracterizan.

El mayor desafío es lograr incorporar este nuevo paradigma sin esperar a cubrir el anterior. Hay que hacerlo de forma simultánea porque, si no, otra vez llegaremos tarde. O sea, hay que implementar ya mismo IA en todo el país, aun cuando algunos lugares no estén totalmente digitalizados. Eso es posible, y generaría un verdadero avance.

“Un verdadero avance” me queda dando vueltas en la cabeza. No hay dudas de que Prometea es una excepción, algo fuera de serie. Es vanguardia hecha realidad, pero en un pequeño pedacito argentino. ¿Alguna vez haremos, como país, un verdadero avance?

 

COMPARTIR:

Notas Relacionadas

Comentarios