La proliferación aparentemente ilimitada de casos en los que los abogados han sido atrapados dejando que citas legales fictivas generadas por la inteligencia artificial contaminan sus escritos sigue sorprendiendo.
Esto no es sólo porque los jueces multan a más abogados por su pereza, sino porque la publicidad de estas vergüenzas ha sido ineludible.
Aquí hay uno que implica a un perro llamado Kyra.
Es una labrador retriever de 16 años que se convirtió en el objetivo de una pelea por la custodia entre una pareja de California tras la disolución de su pareja doméstica. En el transcurso de la demanda, un abogado publicó dos citas fabricadas por IA en una presentación. El despacho de abogados contrario no detectó el defecto y citó a los mismos casos falsos en sus documentos, incluido en una orden judicial firmada por un juez.
La mayoría de los abogados crecieron en una época en la que se podía esperar que el otro lado girase e incluso miente sobre el registro una vez, pero sólo mentir o cometer un error sobre la existencia de un caso era básicamente inaudito hasta hace unos años.
— Eugene Volokh, facultad de derecho de la UCLA
El caso de Juan Pablo Torres Campos vs. Leslie Ann Muñoz también apunta a cómo la IA, presentada en todo el mundo como una tecnología que ahorra mano de obra, ha aumentado la carga de trabajo en algunos oficios y profesiones, como el abogado. Para los litigantes, ha creado un nuevo imperativo: averiguar las citas que han sido fabricadas por los robots de IA en sus propios expedientes judiciales, y los de sus adversarios.
He escrito antes sobre la proliferación de invenciones generadas por IA que se infiltran en los expedientes legales e incluso en las resoluciones legales, a pesar de los consejos que se han dado incluso a los estudiantes de derecho para asegurarse de que sus citas a casos precedentes son precisas. Pero la ola sigue creciendo: Una base de datos de alucinaciones de IA mantenido por el investigador francés Damien Charlotin cuenta ahora con 1.174 casos, de los que unos 750 son de tribunales estadounidenses.
Es casi seguro que es un conteo conservador. Es posible que la mayoría de las invenciones de IA ni siquiera llamen la atención de los litigantes o de los jueces, especialmente a los tribunales estatales.
“Para cada caso que hable de esto, supongo que hay muchos que no son visibles”, dice Eugene Volokh, de la Facultad de Derecho de la UCLA y la Institución Hoover, que vigila el tiempo. Desarrollos relacionados con la inteligencia artificial. Cree que puede haber miles que no se avisan.
La IA ha introducido errores que nunca se habían visto en el pasado. “La mayoría de abogados crecieron en una época en la que se podía esperar que el otro lado girase e incluso miente sobre el registro una vez, pero sólo mentir o cometer un error sobre la existencia de un caso era básicamente inaudito hasta hace unos años”, me dijo Volokh. “Esto se debe a que no habría ninguna fuente de alucinaciones; quizás se equivocaran las citas o las caracterizais o las citarías mal, pero para hablar de un caso que no existe, eso no pasó. Ahora pasa mucho”.
El poder judicial se está poniendo cada vez más nervioso porque las invenciones de IA se convierten en parte del expediente judicial. “La dependencia de casos falsos… socava en serio la integridad del resultado y erosiona la confianza pública en nuestro sistema judicial”, declaró un juez de apelación.
Por tanto, añadió, “es imprescindible que tanto el tribunal como las partes verifiquen que las citas de todas las órdenes son auténticas… Esto es especialmente vital con la creciente incidencia de citas de casos alucinados generadas por herramientas de IA”.
Los jueces todavía son reacios a derribar el martillo de las fabricaciones de IA si los abogados reconocen su culpa y “se lanzan a merced del tribunal”, dice Volokh. Pero se están haciendo más duros con los abogados que niegan su dependencia de la inteligencia artificial o intentan cambiar su culpa.
Tan recientemente como el lunes, el magistrado federal Mark D. Clarke de Medford, Oregon, ordenó a los abogados que representan al demandante en una demanda civil en pagar más de 90.000 dólares en honorarios legales, además de una sanción anterior de 15.500 dólares impuesta a uno de los abogados, por incorporar 15 citas de casos fabricadas y ocho citas erróneas en la presentación de casos.
Clarke también desestimó la demanda de 29 millones de dólares, que surgió de una feroz disputa entre los hermanos herederos de una fortuna de la bodega de Oregon, con prejuicios, por lo que no puede volver a presentarse. Fue un castigo extraordinario, reconoció Clarke, y la mayor pena impuesta en cualquier caso en la base de datos de Charlotin.
“En el universo en rápida expansión de casos que implican sanciones por el uso indebido de la inteligencia artificial, este caso es un caso notorio tanto en grado como en volumen”, escribió Clarke. Entre otras faltas, señaló, los abogados del demandante nunca confesaron adecuadamente su falta. “Si alguna vez hubo un” caso adecuado “para conceder sanciones de fin por el uso indebido de la inteligencia artificial”, escribió, “esto es”.
Esto nos lleva de nuevo a la batalla por la custodia sobre Kyra. El caso se originó en el 2024, dos años después de que un juez de familia de San Diego disolviera a la pareja de Joan Torres Campos y Muñoz. La orden de disolución les permitía conservar su propiedad, pero no mencionaba al perro, que vivía con Muñoz.
Posteriormente, Torres Campos pidió la custodia compartida de Kyra y los derechos de visita. (Las batallas de custodia de mascotas han sido durante mucho tiempo un evento cultural: los aficionados al cine podrían reconocer la similitud de este caso con la lucha por la custodia sobre el terrier de pelo de alambre Sr. Smith en el vehículo Cary Grant/Irene Dunne de 1937”.La verdad horrible”, seguramente la película más divertida jamás hecha por Hollywood.)
Muñoz rechazó la petición de Torres Campos, argumentando que no le importaba realmente el perro, sino que sólo tenía como objetivo asediarla. Un juez del juzgado de familia se apoyó a ella, pero Torres Campos recorrió.
En su respuesta inicial a Torres Campos, la abogada de Muñoz, Roxanne Chung Bonar, citó casos de California de 1984 y 1995 que dijo apoyar la negativa de su cliente a conceder derechos de visita.
Ambas citas de casos eran fictivas. El caso de 1984, El matrimonio de Twigg, no existía nada; La citación de Bonar apuntaba a un caso penal que no tenía “nada que ver con mascotas o determinaciones de custodia”, escribió el juez de apelación de California Martin N. Buchanan para un tribunal unánime de tres jueces, manteniendo al juez del tribunal de familia. La segunda referencia fue en Marriage of Teegarden, que se transmitió en 1986, no en 1995, y que tampoco tenía nada que ver con el tema en cuestión.
Las cosas sólo se complicaron más a partir de ahí. El abogado de Torres Campos, en un escrito de respuesta y una propuesta de orden judicial posterior, no mencionó que Twigg y Teegarden eran casos inventados, quizás porque el abogado no había comprobado las referencias personalmente. El juez del juzgado de familia firmó la propuesta de orden, incluidas las citaciones falsas, como resultado de su infiltración en el registro oficial. (Aunque el abogado de Torres Campos redactó la propuesta de orden, en realidad rechazó su demanda.)
El abogado de Torres Campos sólo mencionó que los dos precedentes citados eran “jurisprudencia inventada” sólo en el curso de apelar a la sentencia del tribunal de familia.
Hubo un giro más de caracol: al responder a la presentación de apelación de Torres Campos, Bonar “se dobló”, escribió Buchanan. Bonar insistió en que Twigg era un “precedente válido y publicado” y añadió otras tres presuntas citas al caso. Todos eran “tan falso como la cita original”, señaló Buchanan.
Bonar incluso se burló del abogado de Torres Campos por su “no realización de una investigación jurídica básica” para verificar los precedentes aparentemente genuinos, y añadió que su “incapacidad para localizarlos pone de manifiesto la incompetencia que llevó a la desestimación de su recurso”.
¿De dónde provienen estas referencias? Resultó que la referencia de Twigg provenía originalmente de un artículo de Reddit escrito por un blogger y rescatador de animales de Oregón que publica con el nombre de “Sassafras Patterdale”, en el que citó el caso ficticio en una publicación sobre batallas de custodia de mascotas. Muñoz había recibido el artículo de un amigo y lo ocurrió en Bonar. Ambos supusieron que todo lo que había era preciso.
Según la sentencia de la apelación, las citas adicionales en Twigg no aparecen en la publicación de Reddit. Bonar nunca contó de dónde venían. Sin embargo, reconoció que las citas ficticias “podrían haber” provienen de su uso de herramientas de IA”, señaló Buchanan. La sancionó con una multa de 5.000 dólares, en gran parte porque inicialmente no reconoció que sus citas eran falsas e intentó echar la culpa a su abogado contrario.
Aunque los jueces de apelación podrían haber adjudicado el caso a Torres Campos a causa de la actuación de Bonar, se negaron a hacerlo, porque los abogados de Torres Campos no habían comprobado ellos mismos las citas de su abogado contrario. En esta fase, Muñoz todavía tiene la custodia del perro y la demanda ha terminado esencialmente, según el abogado de Torres Campos, David C. Beavans de San Diego.
Beavans dice que tomó el caso porque esperaba utilizarlo para obtener aclaraciones judiciales de una ley estatal promulgada en el 2019, que autorizaba a los tribunales a emitir órdenes sobre la propiedad y el cuidado de animales de compañía en casos de divorcio. Los jueces de apelación, desviados por la cuestión del IA, nunca tocaron esto. Pero Beavans dice que estuvo de acuerdo con la posición del panel. Las invenciones de IA se han convertido en tal problema en los tribunales que “debemos hacer que todo el mundo sea responsable”: los abogados de ambos lados de un caso y también los jueces.
Bonar me dijo que no impugnaba la sanción, pero se negó a comentarla más.
Pregunté a Bonar si tenía algún consejo para otros abogados tentados de utilizar la IA en su trabajo. “Sí”, dijo, “verifique todas las fuentes de terceros”.
