Abogados en problemas por usar IA en la redacción de documentos legales
Dos abogados de la ciudad de Nueva York y su firma fueron multados con $5,000 después de que presentaron documentos legales redactados con la ayuda de la inteligencia artificial ChatGPT. Desafortunadamente para los abogados, ChatGPT no se apegó a los hechos y, en cambio, inventó una serie de citas y referencias.
Actuación de mala fe y mentiras al tribunal
El juez federal P. Kevin Castel escribió que los abogados y su firma, Levidow, Levidow & Oberman, P.C., actuaron de mala fe y mintieron al tribunal para encubrir sus errores. Los acusados «abandonaron sus responsabilidades cuando presentaron opiniones judiciales inexistentes con citas y referencias falsas creadas por la herramienta de inteligencia artificial ChatGPT, y luego continuaron respaldando las opiniones falsas después de que las órdenes judiciales cuestionaron su existencia», escribió el juez Castel en la decisión.
Casos legales imaginarios y mentiras al tribunal
Las travesuras salieron a la luz cuando el tribunal notó que seis de los casos legales utilizados como referencias eran imaginarios. El juez escribió que los abogados Peter LoDuca y Steven A. Schwartz empeoraron las cosas al mentir al tribunal. Cuando el tribunal cuestionó su jurisprudencia inventada, el juez dijo que Schwartz ofreció «explicaciones cambiantes y contradictorias» y LoDuca fingió estar de vacaciones para ganar más tiempo.
Uso de ChatGPT para buscar precedentes legales
A principios de este mes, Schwartz dijo en una audiencia que utilizó ChatGPT en su búsqueda de precedentes legales para apoyar un caso de lesiones contra la aerolínea sudamericana Avianca por una lesión que ocurrió en un vuelo en 2019. Según los documentos presentados con la decisión legal, ChatGPT mantiene que su jurisprudencia falsa es real.
ChatGPT: una herramienta impresionante pero problemática
ChatGPT es impresionante, pero el público está despertando lentamente al hecho de que la tecnología está construida para escupir respuestas que parecen precisas, no para proporcionar respuestas que sean realmente correctas. Esa es una distinción importante, una que costó a estos abogados amantes de la tecnología cinco mil dólares.
