Por: Dr. Adrián Román Hernández
¿Le gustaría que la inteligencia artificial (IA) “resolviera” su asunto en un tribunal?, ¿le garantizaría una “estricta” aplicación de la Ley y no la corrupción o sesgos personales del juzgador?, le explico, el libro Guías de IA para la Justicia de la UNESCO analiza como la IA ya está en el sistema judicial sin regulación y sin un marco de responsabilidad inherente para quien la usa indebidamente. Es decir, el personal judicial ya lo usa, pero sin ninguna regulación.
Es innegable que la IA se usa en la vida diaria de las personas; pero usarla en la “vida judicial” es otra cosa, dicha guia señala de forma categórica que es una herramienta de apoyo complementario y nunca sustituto de la decisión humana. Señala límites claros para evitar sesgos, proteger derechos fundamentales y garantizar transparencia. Se recomienda a los jueces y juezas usarlas con supervisión crítica, formación adecuada y responsabilidad ética. El tema importante es cuando se usa para “predicción” y “análisis” ya que puede “prever” tendencias de litigios o resultados probables, siempre como referencia y no necesariamente como decisión vinculante. De allí la necesidad de su supervisión humana en todos los casos. El uso responsable del algoritmo y prever las “alucinaciones”, es importante para su uso adecuado, es decir, se le puede “indicar” a la inteligencia como “pensar”, lo que obvio es evitar cualquier sesgo.
Por tanto, puede usarse no solamente para resolver, sino también como apoyo técnico y administrativo para acelerar tareas repetitivas como clasificación de documentos, transcripción de audiencias y análisis de grandes volúmenes de información, lo cual en muchas de las ocasiones es lo que lleva más tiempo para analizar al juzgador. También puede ser usado para facilitar el acceso a la justicia mediante Chatbots y asistentes virtuales que pueden orientar a ciudadanos en trámites básicos.
Un ejemplo reciente de su uso indebido es el caso de la Sala Penal de Bogotá que descubrió una sentencia condenatoria en que la IA “creó” criterios legales inexistentes e interpretó normas de forma indebida. Esto es lo llamado como “alucinaciones” es decir, la inteligencia artificial, inventa cuestiones que no tienen sustento en la ley, por lo tanto, el juez cedió a la IA la decisión lo cuales es sumamente grave pues puso en riesgo la libertad de una persona con un razonamiento que jamás nació del análisis crítico, sino del azar de un algoritmo. Dicha sala entonces declaró la nulidad total sin consecuencia aparente alguna.
Ahora en México, con tribunales completamente saturados, resulta sumamente seductor utilizar indiscriminadamente la IA, por lo que ocuparla de forma indiscriminada y sin supervisión es sumamente peligroso. Es importante que en su caso de usarla se siga dicha guía para evitar afectaciones a las personas que ni más ni menos ponen en peligro su libertad y su patrimonio CARPE DIEM.