IA Y NEUROCIENCIA
CONTENIDO DE LA UNIDAD
  • Material de estudio

  • Imágenes

  • Videos

  • Actividades

INTELIGENCIA ARTIFICIAL Y DERECHO

Derecho-e-inteligencia-artificial.jpg

I N T R O D U C C I Ó N

La definición universal de derecho responde a un conjunto de normas emanadas por el estado que pretenden regular la conducta externa del hombre en sociedad para una mejor convivencia. A su vez, las normas que integran este concepto son conocidas como "normas jurídicas" y poseen características:

a) Son heterónomas, es decir, son creadas por una instancia del estado (poder legislativo). La heteronomía de las normas jurídicas significa que quien crea las normas es un ente distinto de la parte a quien le será aplicada y dicha norma le obliga aún y cuando el destinatario no esté de acuerdo o no la reconozca.

b) Son bilaterales. Se les denomina así ya que al tiempo que imponen deberes también conceden facultades (en muchos lugares estas últimas son conocidas como derechos. Ej. Derecho a la propiedad, derecho a la libertad de expresión, derecho al libre transito, derecho a dedicarse al arte, profesión u oficio de su elección, derecho a elegir su estado civil, etc., y por otro lado verbigracia: castigo al robo, al homicidio, a las calumnias, al despojo, etc).

c) Son coercibles, lo que implica la ejecución forzosa de la ley incluyendo el uso de la fuerza pública cuando alguien se niega a cumplirla.

d) Son externas, es decir, se limitan a la manifestación de conducta (nadie puede ser sancionado por su forma de pensar a menos que lo ejecute y ello violente una norma especifica).

Con base a lo anterior, no se requiere ser abogado o especialista en leyes para comprender que debemos acatarlas y que existen instancias del estado como las fiscalías y los tribunales, encargados de investigar y sancionar una conducta ilícita o bien, deslindar de responsabilidades. No resulta óbice destacar que estos criterios son iguales para todas las leyes ya que al igual que en áreas de la medicina existen especialidades, en el derecho también (derecho civil, penal, administrativo, laboral, fiscal, constitucional, etc). Por lo anterior no hay que confundir los términos "ilícito con delito" (estos últimos están regulados por leyes especificas como los códigos penales y en estos casos las sanciones pueden ameritar prisión, en tanto que en otras ramas del derecho, la sanción puede ser económica o reparatoria de daño) ya que si bien todos los delitos son actos ilícitos, no todos los actos ilícitos son delitos.

El derecho ha sido desde hace muchísimo tiempo un mecanismo de regular la convivencia social, encontrando en Roma los antecedentes de los sistemas jurídicos como el mexicano, el español y los sistemas latinos entre otros), aunque también encontramos otros sistemas como el anglosajón (Reino unido), el Angloamericano (E.E.U.U.) o el islámico. No obstante, todos poseen esa característica de que la norma debe ser cumplida.

La forma en como las leyes han evolucionado ha ido en función de las épocas, las costumbres sociales, las propias resoluciones de los tribunales y a ello se le conoce como "Fuentes del derecho". Por tanto, muchas leyes en todo el mundo han sido modificadas para tratar de ajustarse en la medida posible a las necesidades sociales. Lo anterior nos lleva a reflexionar sobre cómo se aplicaba la ley en el antiguo Egipto, en Roma, en la Edad media, en el siglo XIX y cómo se aplica en la actualidad.

El derecho no queda excluido de los avances tecnológicos y en nuestra época nos toca considerar si la tecnología puede resultar o no eficaz para la aplicación de la justicia o una aplicación más objetiva, ya que es sabido que a lo largo de la historia de la humanidad se han condenado a inocentes o se han cometido errores al momento de imponer las sanciones, ya sea por ignorancia, por negligencia, por ideología de la época o por corrupción. Luego entonces la IA será una alternativa eficaz en la época moderna? 

 

¿La Inteligencia Artificial responde correctamente al reto social que implica su irrupción en la sociedad contemporánea, las dudas de su real aplicación y los beneficios y perjuicios que genera, y en el caso de los sistemas de AI aplicados al Derecho? O lo que es lo mismo, ¿son realmente útiles para que los humanos podamos pedir o impartir mejor Justicia?

Los científicos han analizado durante cierto tiempo qué respuesta se podía dar al enigma acerca de este nuevo concepto de "verdad cibernética", o dicho de otra forma acerca de la posibilidad que la computadora pueda generar patrones de conocimiento no ingresados por el usuario que permitan arribar a conclusiones útiles para aquel y no aportadas por éste, o dicho de otra manera, que el programa vaya "aprendiendo" a medida que efectúa el procesamiento de los datos. Uno de esas búsquedas se orientó en las denominadas redes neuronales.

Entre el sistema nervioso y la máquina automática existe una analogía fundamental, pues ambos son dispositivos que toman decisiones basándose en otras que hicieron en el pasado. Las más simples eligen entre dos posibilidades tales como abrir o cerrar una llave. En el sistema nervioso, cada fibra decide transmitir un impulso o no y gran parte de esa tarea se afecta en puntos de organización extremadamente complicada llamad sinapsis, donde un cierto número de fibras entrantes están conectadas con una sola saliente. En muchos casos, puede entenderse la base de esas decisiones como un umbral de acción de la sinapsis o, en otras palabras, indicando cuantas fibras de entrada han de funcionar para que funcione a su vez la salida.

a2e816ede61ca827c331e97ff465258d.jpg

En 1943, Warren E. MacCulloch y Walter H. Pitts, comenzaron los primeros estudios en investigación de neuronas, y durante el decenio de 1960, Frank Rosenblatt, de la Universidad de Cornell, y Bernardo Widrow, actualmente en la Universidad de Stanford, crearon "neuronas adaptables" y redes sencillas capaces de "aprender".

A lo largo de las décadas de 1960 y 1970, un reducido número de investigadores, de los que citaremos a Shunichi Amari Leon N. Cooper, Kinihiko y Stephen Grossberg, trataron de modelizar el comportamiento de las neuronas reales en las redes computacionales y abordaron el desarrollo de las nociones matemáticas y arquitectónicas requeridas para extraer los elementos característicos de los patrones, clasificar pautas y obtener sistemas de "memoria asociativa".

La década del 80 ha sido testigo de un extraordinario aumento del interés por los modelos neuronales y por sus propiedades computacionales. Es de destacar en particular la labor desarrollada recientemente por David. W. Tank y John Hopfield de ATT-Bell Laboratories, quienes han desarrollado un circuito eléctrico para aplicación a computadoras de características neuromorfas, o sea que emulan la red neuronal humana.

La recuperación conceptual de la información legal se puede definir como la recuperación automática de información legal textual relevante basada en los conceptos de correspondencia y sus roles en los documentos con los conceptos y roles requeridos para resolver el problema legal del usuario. Como la definición deja en claro, la recuperación de información legal conceptual es diferente de la búsqueda legal ordinaria. Se centra en modelar las necesidades de los usuarios humanos de la información que buscan para resolver un problema, por ejemplo, en el argumento legal que un usuario intenta hacer, y en los conceptos y sus roles en ese proceso de resolución de problemas. Incluso enfocar la búsqueda de información legal para ayudar a los usuarios a construir argumentos viables para respaldar un reclamo o contrarrestar los mejores argumentos de un oponente no es algo nuevo. Durante años, los medios robustos para extraer dicha información conceptual, relacionada con los argumentos, de los textos en lenguaje natural para fines de recuperación de información legal conceptual no estaban disponibles.

Hoy, sin embargo, las herramientas de análisis de lenguaje pueden identificar automáticamente la información relacionada con los argumentos en caso de que los textos estén finalmente disponibles, y con ellos nace un nuevo paradigma basado en información relacionada con argumentos, y luego la informática cognitiva es un segundo paradigma que no se trata de desarrollar sistemas de inteligencia artificial que "piensen" o realicen tareas cognitivas de la misma manera que lo hacen los humanos.

En un paradigma de computación cognitiva, los usuarios humanos son los principales responsables de personalizar su propia solución utilizando una aplicación legal, pero la tecnología de servicio legal estandarizada debe informar a los humanos de la necesidad de personalización y brindarles acceso personalizado a información legal relevante para ayudarlos a construir una solución. Es decir, la aplicación legal no solo seleccionará, ordenará, resaltará y resumirá la información de una manera adaptada al problema específico de un usuario humano, sino que también explorará la información e interactuará con los datos de formas nuevas que antes no eran posibles. Para que este enfoque tenga éxito, la tecnología será necesario que tenga cierta "comprensión" de la información a su disposición y de la relevancia de la información en el proceso de resolución de problemas del ser humano y que la información esté disponible convenientemente en los momentos adecuados y en los contextos adecuados para que la computadora puede realizar mejor y aquellas dirigidas a la experiencia de los usuarios humanos.

 INTELIGENCIA ARTIFICIAL Y ABOGACIA

Claudio P. Grosso

 

Ofrecemos unas reflexiones introductorias sobre las áreas en que el jurista se encuentra involucrado con las nuevas tecnologías de la información y la comunicación.

El abogado del siglo XX

Un profesional del Derecho que trasuntaba su oficio hasta hace unas décadas tenía un trabajo distinto

al presente en relación a las herramientas propias y del medio. Podemos dar algunos ejemplos. Desde la búsqueda de información legal en repertorios impresos en papel hasta la presentación de voluminosos escritos judiciales el ejercicio profesional fue cambiando y muchas tareas fueron cambiando de valor. Antiguamente era una tarea en sí misma hacer un memorando sobre la legislación vigente, pues el tiempo de esa búsqueda estaba reservada a los profesionales y sus auxiliares. Sin embargo, hoy nadie pagaría un servicio profesional para que le brinde una búsqueda normativa local.

 

Del mismo modo dejó de valorarse la extensión de textos jurídicos ante el hecho simple de cortar y pegar textos digitales. Hasta hace poco los abogados debían facilitar a los auditores contables externos de sus clientes corporativos copias de los escritos presentados en tribunales que conformaban las carpetas acopiadas en los archivos del estudio.

 

Hoy con la digitalización de los litigios nadie puede seguir pensando en ese requerimiento como regla de control y auditoria. Las notificaciones judiciales y la prueba de informes se hacían mediante cartas confeccionadas en papel, presentadas para su cotejo y firma y su posterior trámite de diligencia de presentación ante terceros. Cuando se explican estos hechos ante jóvenes estudiantes muchas veces lo ven como circunstancias de un tiempo inverosímil, tal como si tratara de una película en blanco y negro.

Abogado ¿del futuro?

Proponemos ahora hacer un ejercicio de imaginación pensando el día de un abogado en circunstancias de las técnicas de información y computación ya existentes aunque no masivas todavía.

Imaginamos a un abogado en su oficina que, en vez de llamar a un colaborador, le habla a su dispositivo de oficina. Le pide (mientras reduce automáticamente el volumen de la música que estaba reproduciendo) que asigne en el sistema en la nube digital una cantidad horas de trabajo a un asunto determinado y que le agende como un recordatorio en la agenda el envío de informe automatizado de horas trabajadas al cliente y la factura digital.

Sigamos con el ejemplo. Imaginemos ahora a nuestro abogado trabajando en el diseño de un contrato -a realizarse con firma digital- entre una aseguradora y una empresa proveedora de geolocalización para ofrecer una oferta combinada en el mercado un seguro automotor cuya prima dependerá del tipo de uso de auto, lo que incluye las zonas por donde transita. Imaginemos también que en ese mismo estudio se está trabajando con técnicos para elaboración de contratos denominados inteligentes. Mientras que otro sector atiende casos masivos de derecho del consumo mediante proceso de audiencias y resolución online. Este abogado y su estudio además han contratado un servicio de búsqueda a medida de información jurídica mediante el rastreo informático de fallos no publicados en revistas o editoriales, gracias a la política abierta de los tribunales en el país. La jornada laboral de nuestro abogado imaginario se extiende con una reunión de directorio por video conferencia con validación de rostro y de identificación.

En verdad, los cambios ejemplificados dan una idea de las modificaciones actuales y las que ciertamente vendrán de algún modo u otro.

INTELIGENCIA ARTIFICIAL Y JUSTICIA PREDICTIVA

16068493082616.jpg

Puede la inteligencia artificial determinar si tengo razón o no en un juicio?

El uso de algoritmos y programas informáticos en la toma decisiones automatizadas sobre particulares por parte de todo tipo de organizaciones tanto públicas como privadas ha aumentado progresivamente en los últimos años con un desarrollo exponencial en el uso de algoritmos a la hora de tomar decisiones lo que ha derivado en todo tipo de problemas legales: discriminación, decisiones injustas, o denegaciones de un servicio o producto por parte de una máquina, que exigen de una regulación específica sin que necesariamente la misma sea una garantía de defensa de los nuevos derechos de los usuarios tecnológicos. Se propone la adopción de medidas urgentes en tal sentido como la adopción del principio de precaución en defensa de los intereses de los seres humanos.

"Cuando creíamos que teníamos todas las respuestas, de pronto, cambiaron todas las preguntas." - Mario Benedetti

En el futuro abrir las preguntas correctas y soportar la incertidumbre de no saber la repuesta sin cerrarlas será, más que nunca, una habilidad muy valiosa. La incertidumbre es algo con lo que es posible aprender a lidiar. La mayoría somos muy malos en eso y la culpa no es nuestra, dado que no nos lo enseñan. El estudio de matemáticas que recibimos se enfoca inicialmente en aritmética (sumar, restar, multiplicar, dividir, etc.) y la geometría. Más adelante aparecen el álgebra (ecuaciones, polinomios, etc.) y el análisis (funciones, derivadas, integrales, etc.). Pero hay un área extremadamente útil que generalmente queda relegada: la estadística y las probabilidades. Precisamente las herramientas que nos preparan para enfrentar la incertidumbre.

Que algo sea incierto no significa necesariamente que sea imprevisible. No tenemos certeza de lo que va a suceder, pero hay opciones que ofrecen perspectivas mucho más favorables que otras. La ciencia que se ocupa de domesticar el azar es la estadística, y manejar sus conceptos fundamentales se vuelve más importante cuanto más incierto se torna el mundo.

 

Las estadísticas y la probabilidad nos preparan para manejar aquellas cosas que son inciertas, pero no imprevisibles, si bien, por su complejidad no siempre es posible conocer con exactitud las chances que ofrece cada alternativa, y para ello está el método científico. El uso de algoritmos y programas informáticos en la toma decisiones automatizadas sobre particulares por parte de todo tipo de organizaciones tanto públicas como privadas ha aumentado progresivamente en los últimos años.

Así, cada vez es más habitual que a través de estas herramientas que se basan en la inteligencia artificial se fijen precios de pólizas, se concedan o no préstamos, se identifican a personas a través de su imagen, se luche contra la evasión fiscal o incluso se prevea un posible delito.

Como se puede ver, en todos estos sectores las máquinas vienen a sustituir tareas que hasta la fecha eran llevadas a cabo por personas, fruto de la eficacia y la precisión de estos nuevos instrumentos. Esta precisión se ha visto reforzada no solo por la mejora de los modelos algorítmicos, sino también por una mayor disponibilidad de datos tanto personales como no personales en manos de las organizaciones, datos que se convierten en el entrenamiento y alimento de los algoritmos, determinando el resultado de la decisión, inclusive de índole judicial. Como es lógico, este desarrollo exponencial en el uso de algoritmos a la hora de tomar decisiones ha derivado en todo tipo de problemas legales: discriminación, decisiones injustas, o denegaciones de un servicio o producto por parte de una máquina, exigen de una regulación específica.

Así, por ejemplo, en el ámbito del derecho a la protección de datos, el nuevo Reglamento General de Protección de Datos Europeo 2016/679 (en adelante RGPD) ha establecido una regulación concreta para aquellos tratamientos que tengan como objetivo la toma de decisiones basada únicamente en el dictamen emitido por una máquina, para ello, la norma europea dota a los particulares sometidos a estas decisiones de un haz de facultades, a su vez, esta misma norma impone una serie de obligaciones a las organizaciones que decidan hacer uso de estos sistemas. Las siguientes líneas analizan si estas regulaciones sirven para amparar los nuevos derechos que los usuarios humanos poseemos frente a los algoritmos, y en particular, a las decisiones automatizadas.

NO ESTAMOS PREPARADOS COMO SOCIEDAD PARA EL FIN DE LA PRIVACIDAD

Nuestros hijos están creciendo en un mundo donde todo está conectado, visible, compartido. Se obsesionan con su imagen, se preocupan por sus seguidores y a quién le gustan sus publicaciones. Sufren ciber acoso y están expuestos a toda la conciencia colectiva, independientemente de si están listos o no. capaz de procesarlo. Perdieron los filtros de la juventud y la inocencia cuando los adultos a su alrededor arrojaron el contenido de sus mentes a la web y les dieron una computadora como una ventana a los rincones más oscuros de su mente.

Más allá de lo que los niños pueden entender es que, a medida que se conviertan en adultos, serán la primera generación cuya vida se convertirá en un perfil digital de búsqueda. Todo lo que hacen los jóvenes ahora está registrado. No solo se registran las cosas que saben, sino también información de cámaras de seguridad a informes escolares, fotos de ellos en un club nocturno, circuito cerrado de televisión comprando alcohol con una identificación falsa, su historial de búsqueda en Internet, sus gustos y sus gráficos sociales. Internet no solo registrará a quienes conocen, sino que también asignará a todos los que hayan conocido o interactuado digitalmente.

kidprivacy.webp

Si bien toda esta información aún no se puede buscar y puede (por ahora) ser privada, existe, y lo hará para siempre de una manera que nuestra sociedad actual no está preparada para entender.

En un futuro cuando todo se haga público será como todos los escándalos de hoy combinados en una gran crisis social. No puede conceptualizar una base de datos de cada imagen y video que se haya tomado que tenga su rostro; cuando todas esas imágenes se pueden correlacionar en un mapa de cada lugar que has visitado, cada persona que has conocido.

Este perfil digital puede decir dónde estuvo en la mayoría de los momentos del pasado; podría romper sus coartadas, vender sus secretos, verificar sus declaraciones e historias. No solo no tendrá privacidad en el futuro, sino que también desaparecerá cualquier privacidad que creía tener en el pasado. Por supuesto, se podrá argumentar que esto no sucederá realmente, porque la mayoría de esos datos son privados, y por lo tanto sería seguros. Tenemos controles y equilibrios en nuestras sociedades para protegernos de tales pesadillas. Pero eso es ahora.

Las sociedades occidentales son los principales defensores de las personas que tienen derechos, privacidad y control sobre lo que el gobierno y las corporaciones pueden saber sobre nosotros y hacer con nuestros datos. Esta ideología se desarrolló principalmente en las instituciones y sociedades de la posguerra como reacción a la era de las dictaduras, creando reglas y tratados para proteger las libertades por las cuales se libró la guerra. Pero estas son las sociedades en las que ahora se defiende menos regulación, en aras de lo que erróneamente consideran como "libertad".

El futuro es un futuro donde los niños de hoy no tendrán privacidad. Todo lo que hagan desde sus primeros pasos será grabado y asociado con ellos para siempre. No estamos preparados como sociedad para el fin de la privacidad y el armamento masivo de información.

A decir de Tobías Stone (Your privacy is over”) "No estamos preparados para cuando los videos falsos, las noticias falsas y las imágenes falsas sean tan convincentes como lo real, para cuando la verdad se ahoga en un mar de "verdades alternativas", mentiras y propaganda. Me da pena los jóvenes de hoy. Viven en una época desalentadora cada vez más desprovista de secretos. Pero si bien su futuro puede quedar abierto para que todos lo vean, al menos ahora pueden adaptar su comportamiento para proteger su futuro. Temo por los viejos, que se comportaron en su pasado como si no estuvieran siendo vistos y grabados, solo para descubrir décadas más tarde que lo estaban, sus huellas digitales indelebles siguiéndolas a través del tiempo, tal vez para ser rastreadas algún día por el ciber-detectives de una dictadura digital que todo lo ve. Me preocupa que todo el paradigma de privacidad que ha sustentado a nuestras sociedades ya esté muerto."

What-is-privacy-in-the-age-of-digital-transformation.jpg

PREDICCIÓN DE RESULTADOS DE LOS PROCESOS JUDICIALES SIN LA NECESIDAD DE IR A LOS TRIBUNALES

Hasta hace algunos años, intentar predecir cómo un juez podría fallar en un caso, requería encontrárselo muchas veces en la corte o buscar consejos de colegas sobre qué argumentos el juez encontraba persuasivos. Un antecedente de las empresas de "legal analytics" sería Lex Machina (ahora propiedad de LexisNexis) que permite a las empresas y a sus abogados estimar sus chances de ganar un caso tan pronto como son notificadas de la demanda.

 

Para realizar estos cálculos, usan diversa información como cuántas veces el abogado de la otra parte presentó ciertos tipos de casos, en qué tribunal, con qué tasa de éxito, a quiénes representaron y a qué abogados se enfrentaron. Una vez que un juez ha sido asignado al caso, las compañías de legal analytics proporcionan estadísticas sobre su desempeño.

 

Lex Machina, surgió en la Facultad de Derecho de Stanford, empezó con litigios de propiedad intelectual. Una vez que tuvo acceso a la gran base de datos de LexisNexis, se expandió a otras áreas de la ley de alto volumen de casos como empleo, impuestos, negligencia médica, seguros y quiebras. Muchos abogados comerciales de Estados Unidos establecieron alertas en el sistema electrónico de registros judiciales, que como Pacer, les avisa cuando se presenta una nueva demanda contra una empresa de su área.

Pocos minutos después de que aparece el alerta, el equipo legal de la empresa demandada empieza a recibir llamadas de abogados que se ofrecen para defender a la compañía. A medida que se extienden los casos de uso del legal analytics, también surgen más empresas para satisfacer la demanda. Entre ellas se encuentra Premonition con sede en Nueva York, que provee datos sobre el historial de litigios de jueces, abogados y bufetes de abogados, incluidas las tasas de victorias / derrotas para juicios en comparación con los competidores, las tasas de éxito de diferentes tipos de demanda en tribunales individuales y una base de datos de quien demanda y quien es demandado con mayor frecuencia. Law Litigation Analytics y Gavelytics  ofrecen un servicio similar. Empresas como Casetex y Judicata ofrecen un análisis en profundidad de los documentos legales más relevantes para el caso en que un abogado está trabajando, como casos similares presentados por otras firmas, el historial de casos relevantes y las citas de los jueces.

descarga.png

En Argentina se desarrolló Sherlock-Legal, el programa de inteligencia artificial de Albremática S.A., una empresa editora de elDial.com, que analiza a través del procesamiento con lenguaje natural fallos de tribunales argentinos en general en base a preguntas formuladas por sus clientes el software produce una lista de casos más procedentes, citas relevantes y una evaluación en términos porcentuales de las probabilidades de ganar o perder del cliente manifestando, a criterio del programa que, a su vez, se basa en algoritmos desarrollados en base a los datos de jurisprudencia, si le pregunta del solicitante es positiva o negativa.

A través de una interfaz gráfica dinámica, intuitiva y muy sencilla de utilizar se efectúan las preguntas por parte del usuario, las que mediante algoritmos diversos se analizan sintáctica, gramática y pragmáticamente y se interpretan con el fin de encontrar en primer lugar, dentro de los sumarios de los fallos de la base, aquellos fragmentos relacionados que considera más relevantes. Sherlock despliega un grupo de las distintas respuestas que considera pertinentes, generándose gráficos que indican los porcentajes de aceptación o rechazo y dando, finalmente, su opinión en forma automática sobre la probabilidad que ésta sea afirmativa o negativa con relación a la consulta efectuada.

Por último, al desear consultar cada uno de los resultados, se despliegan los fragmentos más relevantes y la opción de visualizar el texto completo del sumario y el fallo completo, siendo posible calificar tanto si la respuesta se considera pertinente y si el algoritmo clasificó correctamente el precedente judicial mostrado.

De esa forma Sherlock va aprendiendo de los errores y aciertos que comete, completando el entrenamiento de la herramienta para la obtención de mejores respuestas. El programa cuenta con un historial de preguntas realizadas para poder reiterar alguna consulta anterior y un tutorial para guiar al usuario en la obtención de la respuesta correcta. Desde el punto de vista técnico, el problema a resolver por el equipo de desarrollo consistió principalmente en generar una herramienta que responda relacionando preguntas realizadas en lenguaje natural con parte de los textos jurídicos de la base de datos, razón por lo que se optó por un modelo de Question Answering (QA) para un dominio cerrado. La respuesta "larga" serían los textos relacionados dentro del sumario y la respuesta "corta" -en el caso de las preguntas fácticas- es esta era "si" o "no, según el caso, teniendo presente que, en el caso en análisis, una diferencia fundamental con el modelo de QA es que en el ámbito jurídico a una pregunta dada puede haber más de una respuesta, tanto sea en el caso de la "larga" como de la "corta".

El programa, se resume a dos módulos, buscando hallar sumarios pertinentes con la pregunta realizada (problema de la pertinencia) y luego hallar el/los párrafos dentro de los sumarios pertinentes que directa o indirectamente mejor respondan se busca dar una respuesta a la pregunta realizada, analizando si ésta es por "si" o por "no". En el primer Módulo, con relación al problema de la pertinencia que realiza en primer lugar un análisis sintáctico de la pregunta realizad y luego el programa se queda con los lemas y entidades. Posteriormente se obtienen las raíces de la palabras, se quitan los stopwords y se busca en la base de fallos utilizando un modelo de Bag of words (Bag of N-grams words), es decir, vectores de ocurrencia 

de las palabras/N-gramas de dimensión n que forman matrices para todos los sumarios y TF-IDF (Term frequency — Inverse document frequency), técnica de recuperación de información que pesa la frecuencia de un término (TF) y su frecuencia de documento inversa (IDF).

Cada palabra o término tiene su respectivo puntaje TF e IDF y el producto de los puntajes TF e IDF de un término se lo considera el peso TF * IDF de ese término. En un paso siguiente se utilizan criterios de similitud para encontrar documentos similares como el criterio del coseno (utilizando los vectores creados para los documentos se aplica el teorema del coseno resultando una nueva matriz) y se generan distintos escenarios para la pregunta, verificándose los resultados contra un modelo entrenado por Naive Bayes si la lista de documentos resultante es la más pertinente.

En el segundo Módulo, con respecto al problema de la respuesta se recibe en primer lugar la pregunta junto con los ids de los documentos que fueron previamente pre-procesados, se analizan los documentos, buscando el/los fragmento/s que más se acerquen a la respuesta, se analiza, en el caso de preguntas fácticas si el/los fragmentos seleccionados responden por "si" o por "no" y para una aproximación sintáctica (resolver oraciones en voz pasiva y oraciones subordinadas) se pre procesa el texto y se lo divide en párrafos (que permite resolución de anáforas) para luego dividirlo en sentencias y finalmente se construyó una representación sintáctica en forma de árbol y se consideran las respuestas todas por "si" y se busca la negación para las respuestas por "no". Sherlock-Legal se presenta también como una función adicional del buscador tradicional de elDial.com que permite al usuario la posibilidad de conseguir antecedentes judiciales similares al elegido como más pertinente, ampliando así la búsqueda en forma automática a casos que, aplicando inteligencia artificial, considera más relevantes.

El sistema es aplicable a jurisprudencia o cualquier base de datos sea de índole legislativa o documental en general.

Los defensores de legal analytics insisten en que es solo cuestión de tiempo antes de que haya conjuntos de datos masivos para cubrir amplias áreas de la ley. Y afirman que esto conducirá a un mejor sistema de justicia. Desde mostrar qué casos son una pérdida de tiempo y dinero hasta exponer qué jueces son rebeldes y atípicos, creen que el uso de datos puede mejorar la forma en que funciona el sistema legal. Por otra parte, habría que hacer una salvedad respecto a las bases de información. Una cosa es la predicción en Estados Unidos o el Reino Unido, con bases de datos ordenadas y accesibles y un concepto jurídico y otra son los países latinos, quizás con menos historial registrado y con un concepto (y sistema) jurídico diferente. "A medida que ampliamos nuestro conjunto de datos, esperamos que el ministerio de justicia y los reguladores vean cómo se aplica justicia en todo el país y dónde están las inconsistencias", dice Edward Bird, director de Solomonic, una compañía del Reino Unido formada por un grupo de abogados comerciales y científicos de datos que intenta replicar algunos de los modelos analíticos de Estados Unidos. "Los mejores jueces en los tribunales comerciales del Reino Unido son extremadamente consistentes. Pero en casos de menor valor, es posible que uno obtenga un resultado diferente, dependiendo de quién sea el juez. Esto no debería ocurrir". "Si finalmente llegamos a un punto en que los datos realizan la predicción, ¿esto puede generar un cortocircuito en el sistema legal?", pregunta Bird. "¿Cómo esto afecta la posibilidad de acceso a la justicia de un demandante a quien se le dice 'sus probabilidades de ganar no son más que este número, y la corte no revisará su caso?".

Francia ha ya tomado una decisión importante sobre este tema en relación con una materia muy concreta: prohibir por ley, con penas de hasta cinco años de prisión, que se puedan realizar patrones sobre las decisiones de jueces y tribunales. En concreto, el artículo modificado establece que: "Los datos de identidad de magistrados y miembros de la judicatura no podrán ser reutilizados con el propósito o al efecto de evaluar, analizar, comprar o predecir su práctica profesional cierta o supuesta".

Los argumentos que parecen haber motivado esta prohibición son varios. El principal parece ser la voluntad de proteger a los jueces frente a la posibilidad de que se les acuse de tener sesgos a la hora de tomar sus decisiones y, en relación con ese mismo argumento, evitar otras prácticas indeseables como el forum shopping o incluso la recusación recurrente de un juez para la revisión de determinadas materias. Sin embargo, rápidamente han surgido otras voces que se oponen a esta prohibición con argumentos igual de consistentes como, por ejemplo, que uno de los síntomas de salud de una democracia es, precisamente, la posibilidad de auditar el comportamiento de las instituciones públicas o que, mediante dicha prohibición, se limitan los derechos de defensa de los individuos. Como se puede comprobar, tanto los argumentos a favor, como en contra, versan sobre principios o valores fundamentales de un estado democrático y de derecho que, como tales, son los pilares de la convivencia de las sociedades modernas. Por este motivo no es difícil conjeturar que el asunto será objeto de una profunda discusión y no es descartable que, incluso, sea objeto de revisión por el tribunal constitucional francés. Las nuevas tecnologías ofrecen grandes posibilidades de cambio, pero, en nuestra mano está, como sociedad, luchar porque dicho cambio sea sólo para bien y que, como individuos, salgamos de este debate reforzados y con mayor protección de nuestros derechos, nunca al revés.   

¿LOS "JUECES ROBOTS" YA ESTÁN CON NOSOTROS?

ia-abogados.jpg

La noticia sobre Estonia y su iniciativa para utilizar jueces robot en la resolución de casos planteados ante los tribunales generó mucha expectación y en cierto modo, supuso un renacer del debate acerca de la validez o no de jueces robot es decir, si los usos de la Inteligencia Artificial deben tener un límite cuando se trata de sustituir -aunque no sea totalmente- a un humano por una máquina en la impartición de justicia.

Y mientras debatimos sobre el tema, China ya tiene implantados cientos de robots en los juzgados prescindiendo de cualquier intento de debate acerca de los usos a los que se destina la Inteligencia Artificial, ni en el ámbito de la justicia; ni el sector sanitario; ni en el sector del arte; ni en el sector de la educación en el que para pasar lista de asistencia en clase a los alumnos ya se está utilizando el escáner facial. Por lo que se refiere a los juzgados chinos, actualmente es bastante frecuente ser atendido por un asistente robot que resuelve preguntas y lo hace en un lenguaje que el ciudadano común pueda entender. Un robot que ha sido ideado y entrenado para dar asistencia legal inicial a todo aquel que la solicite.

El primer asistente artificial utilizado en China se denomina Xiao Fa, que puede traducirse como "derecho pequeñito" o "ley pequeñita", y el primer piloto fue testeado en el año 2004 en Shandong en temas penales. El sistema se diseñó para analizar 100 crímenes y la idea era estandarizar condenas y generar automáticamente borradores de sentencias. Xiao Fa era el primer paso para llegar a instaurar juzgados inteligentes o incluso cibernéticos o virtuales. Pues bien, el primer tribunal virtual o cibernético se estableció en la ciudad china de Hengezhou en agosto de 2017. Y después se abrieron salas similares en Pekín y Guangzhou. Estos llamados tribunales de Internet son competentes para determinados asuntos relativos a las operaciones en red, comercio electrónico y propiedad intelectual.

En la República Argentina, el artículo 12 del Decreto 733/2018 dictado por el Poder Ejecutivo Nacional indica que "la totalidad de los documentos, comunicaciones, expedientes, actuaciones, legajos, notificaciones, actos administrativos y procedimientos en general, deberán instrumentarse en el sistema de Gestión Documental Electrónica (GDE), permitiendo su acceso y tramitación digital completa, remota, simple, automática e instantánea, excepto cuando no fuere técnicamente posible" a partir de las fechas allí indicadas" y en el artículo 10 se invita "al Poder Legislativo Nacional, al Poder Judicial de la Nación, a los poderes Ejecutivos, Legislativos y Judiciales de las Provincias, de la Ciudad Autónoma de Buenos Aires, así como a entes públicos no estatales y entidades bi o plurinacionales de las que la Nación o dichos gobiernos sean parte, a impulsar acciones similares que permitan la tramitación digital completa, remota, simple, automática e instantánea de todos los trámites que se realicen en la República Argentina"; invitación que, como se ve, es extensiva no solo al Poder Judicial de la Nación, sino también a los de las Provincias.

Esta norma, en especial la frase "tramitación digital completa, remota, simple, automática e instantánea" ha dado a pensar que "ciertos trámites que se realizan en forma manual o tradicional que fueron remozados, por las facilidades que permiten los procesadores de textos, pero que en esencia, se siguen resolviendo como hace décadas, y pasar a la "automatización digital" de los mismos, lo que importaría para la administración de justicia una mejora trascendente".

Lo indicado asimilaría el proceso judicial a los contratos inteligente (o smart contract), o sea a programas informático que facilitan, aseguran, hacen cumplir y ejecutan acuerdos registrados entre dos o más partes (personas físicas o jurídicas).

En este caso son algoritmos que operan en un ambiente con la característica principal de no poder ser controlados por ninguna de las partes y que ejecuta un contrato en forma automática, si se da una premisa, entonces se actúa de tal manera, interactuando con activos reales. Fueron creados con el objetivo de brindar una seguridad superior al contrato tradicional y reducir costos de transacción asociados a la contratación, como los relacionados con la ejecución por incumplimiento, por ejemplo.

Si bien normalmente también se componen de una interfaz de usuario y a veces emulan la lógica de las cláusulas contractuales, cuando se dispara una condición pre- programada, no sujeta a ningún tipo de valoración humana, el contrato "inteligente" ejecuta la cláusula contractual correspondiente. O sea que su principal característica radica en el hecho que los contratos inteligentes poseen la capacidad de auto-ejecutarse.

Tal el caso de los "testamentos inteligentes" con tecnología blockchain como el caso de "Mi Legado Digital" que pretende asegurar "privacidad, confidencialidad, inalterabilidad e inmutabilidad de los datos personales y de cualquier información sensible de sus usuarios, a la par que garantizar automatización, trazabilidad, seguridad informática, confianza y transparencia en los procedimientos realizados a través de su plataforma digital".

Fueron creados como instrumento legal para planificar el reparto futuro de los bienes entre los herederos y legatarios sin necesidad de abogados ni escribanos generándose el registro de los contenidos digitales de los datos de los beneficiarios del acto de última voluntad en tiempo real sin necesidad de realizar mayores modificaciones del cuerpo del testamento, conectándose, en tiempo real, a todas las partes involucradas en el proceso (registro, centros de salud, médicos y representantes legales del usuario) con el fin de que las instrucciones dadas realmente se cumplan al momento de fallecer el testador. Al decir de Weinberger "... esto nos lleva a ubicar el conocimiento fuera de nuestras cabezas. Solo podemos saber lo que sabemos porque estamos profundamente unidos con herramientas ajenas de nuestra propia creación. Nuestras cosas mentales no son suficientes.

El pragmatismo filosófico de hace cien años ha ayudado a prepararnos intelectualmente para este cambio al limitar nuestras ambiciones: el conocimiento es menos un reflejo del mundo que una herramienta para operar en él. La fenomenología de Martin Heidegger proporciona un tipo diferente de corrección al señalar la artificialidad histórica de la idea de que el conocimiento es una representación mental del mundo, una idea que surgió gracias a una historia de errores metafísicos". Siempre y cuando nuestros modelos de computadora ejemplifiquen nuestras propias ideas, podríamos preservar la ilusión de que el mundo funciona de la manera en que lo hacen nuestros conocimientos y nuestros modelos. Una vez que las computadoras comenzaron a hacer sus propios modelos, y esos modelos superaron nuestra capacidad mental, perdimos esa suposición reconfortante. Nuestras máquinas han hecho evidentes nuestras limitaciones epistemológicas, y al proporcionar un correctivo, han revelado una verdad sobre el universo.

El mundo no fue diseñado para ser conocido por el cerebro humano. La naturaleza del mundo está más cerca de la forma en que nuestra red de computadoras y sensores lo representa que la forma en que la mente humana lo percibe. Ahora que las máquinas actúan de forma independiente, estamos perdiendo la ilusión de que el mundo es lo suficientemente simple como para que las criaturas las comprendamos.

PRIMERA ACTIVIDAD DE APRENDIZAJE

  • ¿Cuál es su opinión general sobre el sistema de impartición de justicia en su país?

  • ¿Conoce o tiene conocimiento de algún caso en el que se haya aplicado de manera incorrecta la ley?

  • ¿Cree que los jueces y funcionarios encargados de la aplicación de justicia se encuentran lo suficientemente preparados para hacer cumplir la ley de manera objetiva?

  • ¿Sabe usted si en México se aplica o utiliza algún sistema de inteligencia artificial para la impartición de justicia?

  • ¿Cuál es su opinión sobre la privacidad de sus datos cuando emplea redes sociales o aplicaciones que le solicitan esa información?

  • ¿El uso de la tecnología realmente ha mejorado su calidad de vida; le es útil en su trabajo y/o ha tenido una mala experiencia en redes sociales o aplicaciones?

Envíe sus respuestas por correo electrónico a: actividades@consejomexicanodeneurociencias.org

¿EN QUÉ CONSISTE EL VERDADERO PELIGRO DE LAS SENTENCIAS AUTOMATIZADAS?

Gracias a los avances en Inteligencia Artificial, ya casi no se necesitan programas con modelos preestablecidos -conjuntos de reglas que expresan cómo los elementos de un sistema se afectan entre sí-para funcionar, sino que estos generan sus propios "modelos", aunque no se vean muy parecido a lo que los humanos crearían.

Aunque las redes neuronales artificiales se remontan a la década de 1950, realmente están adquiriendo su propio sentido solo ahora debido a los avances en potencia informática, almacenamiento y matemáticas. Los resultados de esta rama cada vez más sofisticada de la informática pueden ser el aprendizaje profundo que produce resultados basados en tantas variables diferentes en tantas condiciones diferentes que se transforman en tantas capas de redes neuronales que los humanos simplemente no pueden comprender el modelo que la computadora ha construido para sí misma, pero que, sin embargo, funciona.

Claramente, las computadoras nos han superado en su poder para discriminar, encontrar patrones y sacar conclusiones. Esa es una razón por la que los usamos. En lugar de reducir los fenómenos para que se ajusten a un modelo relativamente simple, ahora podemos dejar que nuestras computadoras hagan modelos tan grandes como necesiten. Pero esto también parece significar que lo que sabemos depende del rendimiento de las máquinas cuyo funcionamiento no podemos seguir, explicar o comprender. Si el conocimiento siempre ha implicado ser capaces de explicar y justificar nuestras verdaderas creencias -recordemos que Ciencia siempre fue "el conocimiento cierto y evidente por sus causas"- ¿qué debemos hacer con un nuevo tipo de conocimiento, en el que esa tarea de justificación no es solamente difícil o desalentador sino imposible? La comprensión antigua nos daba la suposición que la condición para conocer el mundo es que el mundo sea conocible.

 

Si no hubiera similitudes entre entidades, ni leyes que se mantuvieran en todas las instancias, ni categorías significativas de objetos, ni forma de encontrar una simplicidad debajo de las diferencias, entonces nos quedaríamos con un caos incognoscible. Los modelos reflejan el mundo porque hemos asumido que el mundo que refleja el modelo es conocible. Pero ahora tenemos un tipo diferente de modelo. Al igual que los modelos tradicionales, nos permiten hacer predicciones verdaderas.

 

Como los modelos tradicionales, promueven el conocimiento. Pero algunos de los nuevos modelos son incomprensibles. Solo pueden existir en el peso de innumerables disparadores digitales conectados en red y alimentando capas sucesivas de disparadores ponderados en red que representan enormes cantidades de variables que se afectan entre sí de maneras tan particulares que no podemos derivar principios generales de ellas. El éxito de estos modelos puede estar mostrándonos una verdad incómoda no contemplada por los antiguos y la tradición que surgió de ellos. Los modelos siempre son reductivos: limitan la investigación a los factores que podemos observar y seguir. Durante miles de años actuamos como si la simplicidad de nuestros modelos reflejara la simplicidad (la elegancia, la belleza, la racionalidad pura) del universo. Ahora nuestras máquinas nos permiten ver que, incluso si las reglas son simples, elegantes, hermosas y racionales, el dominio que gobiernan es tan granular, tan intrincado, tan interrelacionado, y todo causa todo lo demás de una vez y para siempre, que nuestros cerebros y nuestro conocimiento no puede comenzar a comprenderlo.

Se necesita una red de humanos y computadoras para conocer un mundo tan rigurosamente gobernado por la contingencia, uno en el que el caos está en el fondo.

Es por eso que el conocimiento en Occidente ha consistido en creencias verdaderas justificables, opiniones que tenemos por una buena razón. Nuestra nueva dependencia de modelos inescrutables como fuente de justificación de nuestras creencias nos coloca en una posición extraña. Si el conocimiento incluye la justificación de nuestras creencias, entonces el conocimiento no puede ser una clase de contenido mental, porque la justificación ahora consiste en modelos que existen en máquinas, modelos que la mentalidad humana no puede comprender. Poco a poco confiamos cada vez más en máquinas que derivan conclusiones de modelos que ellos mismos han creado, modelos que a menudo están más allá de la comprensión humana, modelos que "piensan" sobre el mundo de manera diferente a la nuestra, en gran parte desde el ingreso de las redes neuronales como modelo de programación. Esta "infusión de inteligencia" a las computadoras está poniendo en tela de juicio las suposiciones incrustadas en nuestra larga tradición occidental, acostumbrados a pensar que el conocimiento se trataba de encontrar un orden oculto en el caos. Pensamos que se trataba de simplificar el mundo y hoy parecería que estábamos equivocados. Conocer el mundo puede requerir renunciar a comprenderlo.  Y el problema no es simplemente que no podemos comprenderlos, de la misma manera que una persona común no puede comprender la música como un melómano. Más bien, es que la naturaleza de la justificación basada ahora en una computadora no se parece en nada a la justificación humana, es extraña a él. Pero "extraña" no significa "incorrecto". Cuando se trata de comprender cómo son las cosas, muchas veces las máquinas pueden estar más cerca de la verdad de lo que nosotros los humanos podríamos estar. A mediados de la década de 1990, Internet comenzó a superar nuestra vieja estrategia de conocer el mundo al reducir lo que somos responsables de saber. El conocimiento inmediatamente huyó de su prisión de papel y se instaló en la red.

El conocimiento en red dentro de esas fronteras evanescentes es enorme, conectado y, a menudo, inconsistente. Así es como se ve el conocimiento cuando escala, pero no es así cuando una red neuronal produce resultados a través de procesos ajenos a las formas humanas de justificar el conocimiento.

Podemos verificar que lo que sale de las máquinas es un conocimiento muy probable al notar que AlphaGo gana juegos y que las redes móviles de automóviles autónomos producen menos accidentes, si eso es lo que sucede. Pero no podemos necesariamente entender por qué AlphaGo colocó una pieza en este cuadrado y no en ese, o por qué el automóvil autónomo se desvió a la izquierda a pesar de que yo habría desviado a la derecha. Hay demasiados insumos y las decisiones se basan en complejos de dependencias que exceden la competencia de los cerebros más finos que ha producido la selección natural.

Donde una vez vimos leyes simples que operan con datos relativamente predecibles, ahora nos estamos volviendo muy conscientes de la abrumadora complejidad de incluso las situaciones más simples. Donde una vez la regularidad del movimiento de los cuerpos celestes era nuestro paradigma, y los eventos impredecibles constantes de la vida eran anomalías, meros "accidentes", un excelente concepto aristotélico que los diferencia de las propiedades "esenciales" de una cosa, ahora la contingencia de todo lo que sucede se está convirtiendo en nuestro ejemplo paradigmático.

A decir de Weinberger "... esto nos lleva a ubicar el conocimiento fuera de nuestras cabezas. Solo podemos saber lo que sabemos porque estamos profundamente unidos con herramientas ajenas de nuestra propia creación. Nuestras cosas mentales no son suficientes. El pragmatismo filosófico de hace cien años ha ayudado a prepararnos intelectualmente para este cambio al limitar nuestras ambiciones: el conocimiento es menos un reflejo del mundo que una herramienta para operar en él.

La fenomenología de Martin Heidegger proporciona un tipo diferente de corrección al señalar la artificialidad histórica de la idea de que el conocimiento es una representación mental del mundo, una idea que surgió gracias a una historia de errores metafísicos".  Siempre y cuando nuestros modelos de computadora ejemplifiquen nuestras propias ideas, podríamos preservar la ilusión de que el mundo funciona de la manera en que lo hacen nuestros conocimientos y nuestros modelos. Una vez que las computadoras comenzaron a hacer sus propios modelos, y esos modelos superaron nuestra capacidad mental, perdimos esa suposición reconfortante.

Nuestras máquinas han hecho evidentes nuestras limitaciones epistemológicas, y al proporcionar un correctivo, han revelado una verdad sobre el universo. El mundo no fue diseñado para ser conocido por el cerebro humano. La naturaleza del mundo está más cerca de la forma en que nuestra red de computadoras y sensores lo representa que la forma en que la mente humana lo percibe. Ahora que las máquinas actúan de forma independiente, estamos perdiendo la ilusión de que el mundo es lo suficientemente simple como para que las criaturas las comprendamos.