Abogado usó ChatGPT para redactar demanda contra aerolínea

ESTADOS UNIDOS.- Roberto Mata demandó a la aerolínea colombiana Avianca el año pasado, alegando que un carrito de comida y bebida de metal le lesionó la rodilla en un vuelo al Aeropuerto Internacional Kennedy en Nueva York.

Cuando Avianca le pidió a un juez de Manhattan que desestimara la demanda con base en el estatuto de limitaciones, el abogado de Mata, Steven A. Schwartz, presentó un escrito basado en la investigación realizada por ChatGPT, Schwartz, del bufete de abogados Levidow, Levidow & Oberman, dijo en un declaración jurada.

Si bien ChatGPT puede ser útil para profesionales en numerosas industrias, incluida la profesión legal, ha demostrado ser limitado y poco confiable. En este caso, la IA inventó casos judiciales que no existían y afirmó que eran reales.

Las fabricaciones se revelaron cuando los abogados de Avianca se acercaron al juez del caso, Kevin Castel, del Distrito Sur de Nueva York, diciendo que no podían localizar los casos citados en el escrito de los abogados de Mata en las bases de datos legales. Las decisiones inventadas incluyeron casos titulados Martinez v. Delta Air Lines, Zicherman v. Korean Air Lines y Varghese v. China Southern Airlines.

«Parecía claro cuando no reconocimos ninguno de los casos en su escrito de oposición que algo andaba mal», dijo el abogado de Avianca, Bart Banino, de Condon & Forsyth. «Pensamos que era una especie de chatbot de algún tipo».

Schwartz respondió en una declaración jurada la semana pasada, diciendo que había «consultado» a ChatGPT para «complementar» su investigación legal, y que la herramienta de inteligencia artificial era «una fuente que se reveló poco confiable». Agregó que era la primera vez que usaba ChatGPT para el trabajo y «por lo tanto, desconocía la posibilidad de que su contenido pudiera ser falso».

Dijo que incluso presionó a la IA para que confirmara que los casos que citaba eran reales. ChatGPT lo confirmó. Schwartz luego le preguntó a la IA cuál era su fuente.

¿La respuesta de ChatGPT? «Me disculpo por la confusión anterior», dijo. La IA luego dijo que el caso Varghese podría estar ubicado en las bases de datos Westlaw y LexisNexis.

El juez Castel fijó una audiencia sobre el problema legal para el 8 de junio y ordenó a Schwartz y al bufete de abogados Levidow, Levidow & Oberman que argumenten por qué no deberían ser sancionados. Levidow, Levidow & Oberman no pudieron ser contactados de inmediato para hacer comentarios.

Un senador italiano leyó ante el pleno un texto escrito por el robot conversacional ChatGPT, con el objetivo de «lanzar un debate público serio» en el país que bloqueó temporalmente esta herramienta por las acusaciones de que viola la ley sobre protección de datos. Durante un debate que no estaba relacionado con el tema de la Inteligencia Artificial (IA), el senador Marco Orlando, del pequeño partido centrista Azione, dijo que querer «llamar la atención de sus pares sobre un acontecimiento de una forma histórica»

«El discurso que ustedes vienen de escuchar no es mío. Para ser sincero, tampoco es producto de la inteligencia humana, es producto de un algoritmo de inteligencia artificial Chat GPT-4», afirmó. «Este discurso busca ser una provocación para lanzar un debate público serio en Italia (…) y para analizar las repercusiones éticas, económicas y sociales de la utilización de la inteligencia artificial», precisó el senador, que es jurista.

Orlando concluyó su discurso con un «llamado a tener un enfoque equilibrado frente a las innovaciones tecnológicas, tomando en cuenta tanto las oportunidades y los riesgos ligados al uso de la inteligencia artificial», obteniendo un aplauso del pleno.

Las autoridades italianas bloquearon este año durante un mes el acceso a ChatGPT acusando a su empresa matriz de no respetar la reglamentación europea de protección de datos personales y de carecer de un sistema para verificar la edad de los usuarios. ChatGPT irrumpió en noviembre y su uso se extendió entre los internautas impresionados por la capacidad del robot para responder de forma clara a preguntas difíciles, escribir sonetos o series de código informático.

Un grupo de empresarios y expertos, entre ellos Sam Altman, creador de ChatGPT, advirtieron el martes de la amenaza de «extinción» para la humanidad que supone el auge de esta tecnología. Varias autoridades nacionales e internacionales abrieron investigaciones sobre ChatGPT en las últimas semanas y la Unión Europea (UE) y Estados Unidos anunciaron este miércoles que publicarán un «código de conducta» conjunto sobre la IA.