Lo que ningún abogado debería pegar en ChatGPT (y por qué lo están haciendo igual)

Hay una escena que se repite en estudios jurídicos de toda América Latina. Un abogado —no necesariamente joven, no necesariamente inexperto— abre ChatGPT, pega el texto de una demanda que tiene que analizar y escribe algo como: “Resumí esto y decime qué no debo perder de vista.”

El sistema responde en veinte segundos. El resultado parece sólido. El abogado lo lee, le parece razonable, lo incorpora y sigue. Nadie le avisó que los datos que acaba de pegar —el nombre del cliente, los hechos del caso, la estrategia del estudio, los montos en disputa— viajaron a un servidor en otro continente, donde podrían ser usados para entrenar versiones futuras del modelo.

Nadie le dijo que, técnicamente, acababa de violar el secreto profesional.

Una encuesta global de Thomson Reuters publicada en 2024 encontró que el 27% de los estudios y departamentos legales ya usaba herramientas de IA pública como ChatGPT. Apenas el 10% tenía una política escrita sobre cómo hacerlo. Más del 75% directamente reconocía no tener ninguna. Dos años después, esos números cambiaron de manera dramática para el primero —la adopción se duplicó en 2025 y siguió subiendo en 2026— y muy poco para el segundo.

El gap entre adopción y criterio es, hoy, el mayor riesgo profesional al que se enfrenta la abogacía latinoamericana. Y casi nadie lo está discutiendo en serio.

Cuando la adopción corre más rápido que el criterio

La IA generativa no pidió permiso para entrar al mundo jurídico. En menos de tres años pasó de ser tema de conferencias académicas a ser parte del flujo de trabajo cotidiano de millones de profesionales —muchos de los cuales no saben exactamente qué están usando, ni bajo qué condiciones ceden sus datos al hacerlo.

El resultado es una paradoja que vale la pena nombrar sin rodeos: la misma tecnología que puede transformar radicalmente la productividad de un estudio puede, usada sin criterio, comprometer los principios más básicos del ejercicio del derecho. La confidencialidad. La diligencia debida. La independencia de criterio. La responsabilidad frente al cliente.

No hay manera de resolver esa paradoja evitando la tecnología. Pero tampoco aceptándola sin leerla.

Lo que la IA realmente puede hacer, y lo que muchos creen que puede hacer

Hay que empezar por ser honestos, porque la confusión entre capacidad real e ilusión de capacidad es uno de los riesgos más concretos del uso de IA en contextos legales.

Los modelos de lenguaje actuales son genuinamente buenos para varias cosas que consumen tiempo desproporcional en la práctica jurídica: sintetizar documentos extensos, generar borradores de escritos estándar, identificar patrones en contratos, comparar cláusulas, explicar conceptos técnicos en lenguaje accesible, organizar información dispersa. En esas tareas, pueden reducir horas a minutos. Eso no es menor.

Pero los mismos sistemas tienen limitaciones que no son fallas temporales ni problemas que se resolverán con la próxima versión: son consecuencias directas de cómo están construidos. Los modelos de lenguaje no razonan en el sentido jurídico del término. No ponderan hechos contra normas de manera análoga a como lo hace un abogado. No identifican contradicciones entre la posición de un cliente y la jurisprudencia vigente con el criterio que da la experiencia. Y pueden —esto tiene nombre técnico: se llama “alucinación”— inventar citas jurisprudenciales, artículos normativos o precedentes inexistentes, con una seguridad retórica que es absolutamente indistinguible de una respuesta correcta.

En 2023, el abogado neoyorquino Steven Schwartz presentó ante un tribunal federal un escrito que citaba seis fallos que nunca existieron. ChatGPT los había fabricado con detalle: nombre del caso, número de expediente, tribunal, año. Schwartz no los verificó. El juez Castel le impuso a él y a su firma una multa de 5.000 dólares y la orden de notificar personalmente a cada uno de los jueces a los que el escrito había atribuido falsamente fallos. La sanción económica fue el menor de sus problemas. El mayor fue tener que pararse frente a un juez federal y explicar, en una audiencia que se hizo pública en todo el mundo, cómo había llegado hasta ese punto.

No fue el único. Fue el que más prensa tuvo.

La pregunta que importa no es si la IA puede cometer errores jurídicos graves. Puede, y los comete. La pregunta es quién responde cuando eso ocurre. Y la respuesta, en todos los casos, es la misma: el profesional que firmó.

El secreto profesional no distingue entre papel y pantalla

Hay una dimensión de este problema que recibe menos atención de la que merece, probablemente porque es menos visible que el riesgo de un fallo inventado: la confidencialidad de la información del cliente.

Cuando un abogado usa ChatGPT, Gemini o Copilot para analizar documentos de un caso, está transfiriendo información potencialmente sensible a infraestructuras de terceros, alojadas en jurisdicciones que pueden no coincidir con la del estudio ni con la del cliente. Esa información, según la configuración del servicio, puede ser usada para entrenar modelos futuros, almacenada en servidores con acceso potencial a empleados del proveedor, o simplemente procesada en entornos sobre los que el abogado no tiene ningún control real.

El secreto profesional —reconocido en los códigos de ética de prácticamente todos los colegios de abogados de América Latina— no hace distinciones por soporte. La obligación de reserva cubre toda la información relacionada con el cliente y su causa, independientemente de si está en papel, en un servidor o en el historial de un chat.

El problema concreto, el que sucede en la práctica todos los días, es que la gran mayoría de los abogados que usan IA no leyeron los términos y condiciones de las plataformas que utilizan. No saben si sus datos se usan para entrenamiento. No saben dónde se almacenan. No saben si hay aislamiento efectivo entre su información y la de otros usuarios.

OpenAI, para tomar el ejemplo más conocido, permite desactivar el uso de conversaciones para entrenamiento. Pero esa configuración no está activada por defecto. La mayoría de las personas que abren chatgpt.com y empiezan a trabajar nunca tocaron ese ajuste. Y para los abogados, la incertidumbre sobre si sus datos pueden ser usados para entrenar un modelo debería ser motivo suficiente para no subir información de clientes a esa plataforma.

“Puede que esté bien” no es un estándar ético para el ejercicio del derecho.

El riesgo más silencioso: cuando la herramienta empieza a pensar por uno

Hasta acá hablé de riesgos que tienen nombre y consecuencias verificables. Pero hay uno más difícil de ver, y que en el largo plazo puede ser el más importante: la delegación progresiva del juicio profesional.

La IA no solo puede equivocarse en los hechos. Puede equivocarse en la estrategia, en el enfoque, en la valoración ética de una situación. Y el problema no es solo que se equivoque, sino que lo hace con una fluidez y una confianza en el tono que hace difícil detectarlo. Hay un fenómeno documentado en psicología cognitiva que se llama “automation bias”: la tendencia de las personas a sobrevalorar las recomendaciones de sistemas automatizados, especialmente cuando esos sistemas son rápidos y coherentes en su presentación.

Un abogado que delega en la IA la identificación de los riesgos de un contrato puede, sin saberlo, estar adoptando una perspectiva sesgada por el modo en que ese modelo fue entrenado. Qué casos priorizó. Qué jurisdicciones conoce mejor. Qué definición implícita de “riesgo aceptable” tiene incorporada en su arquitectura. Esos sesgos no se anuncian. Están ahí igual.

La responsabilidad profesional siempre recayó sobre la persona. Un martillo no responde por el clavo mal colocado. Un procesador de textos no responde por el argumento mal construido. La IA tampoco responderá por el asesoramiento deficiente que un abogado ofreció porque confió en lo que el sistema le sugirió.

La diferencia, la que hace que esta herramienta sea cualitativamente distinta de todas las anteriores, es que la IA habla. Escribe. Argumenta. Y esa apariencia de razonamiento —tan parecida a la voz de un colega, de un asistente capaz, de alguien que entendió el problema— puede engañar incluso a profesionales con décadas de experiencia.

No porque los engañe activamente. Sino porque los invita a bajar la guardia.

Por qué la solución no es rechazar la IA

Después de todo lo anterior, sería tentador concluir que la postura responsable es mantenerse al margen. No usarla. Esperar a que se regule. Ver qué pasa.

Esa postura es comprensible. También es insostenible.

Hay un argumento opuesto que conviene reconocer: que todo esto es exageración. Que los modelos mejoran cada seis meses, que las alucinaciones bajan, que los proveedores ofrecen cada vez más garantías contractuales, y que los pánicos morales sobre tecnologías nuevas raramente envejecen bien. Es un argumento legítimo. Y tiene una parte de verdad.

La parte de verdad termina, sin embargo, donde empieza la responsabilidad profesional. Que un sistema sea menos riesgoso que hace dos años no significa que sea aceptable usarlo con información confidencial sin entender exactamente qué hace con esa información. La obligación del abogado no es esperar a que la tecnología se vuelva segura. Es saber, en cada momento, qué herramienta está usando y por qué.

La adopción de IA en el ejercicio del derecho no está esperando que nadie la autorice. Está pasando. Va a seguir pasando. Y los estudios que no desarrollen criterio propio sobre cómo usarla van a quedar en una posición peor que los que nunca la usaron: la de haber incorporado una herramienta poderosa sin haber pensado bien para qué.

La distinción que vale la pena hacer no es entre abogados que usan IA y abogados que no. Es entre quienes la usan con criterio y quienes la usan sin él.

Usada bien, la IA puede devolver al profesional algo que la práctica jurídica tiende a consumir de manera silenciosa: tiempo. Tiempo que hoy se va en tareas de bajo valor agregado pero alta carga operativa —búsqueda documental, redacción de escritos rutinarios, seguimiento de expedientes, revisión de contratos repetitivos. Recuperar ese tiempo no hace al abogado prescindible. Al contrario: lo libera para lo que ningún sistema puede reemplazar. El juicio. La estrategia. La lectura del contexto humano de cada caso. La relación con el cliente, que no se delega.

La IA amplifica lo que ya existe. Un profesional que razona con solidez y usa IA razona más rápido. Un profesional que razona mal y usa IA comete errores más rápido, con más volumen, y con consecuencias potencialmente más graves. La herramienta no corrige deficiencias de criterio. Las escala.

La pregunta que cada estudio tiene que responder

Hay una decisión concreta que cualquier firma que adopte IA tiene que tomar de manera explícita: ¿dónde viven los datos de sus clientes?

No es una pregunta técnica. O no es solo una pregunta técnica. Es una pregunta ética y, dependiendo del marco normativo aplicable, una pregunta legal.

Los datos de un cliente no son un activo del estudio. Son información entregada bajo una relación de confianza y confidencialidad. El estudio no tiene derecho a disponerlos libremente, incluyendo —aunque suene exagerado— el derecho a transferirlos inadvertidamente a terceros al usar una herramienta de trabajo.

La respuesta responsable a esa pregunta implica herramientas que procesen la información dentro de la infraestructura propia del estudio, o al menos en entornos que ofrezcan garantías contractuales verificables: no uso de datos para entrenamiento externo, aislamiento efectivo entre clientes, jurisdicción de almacenamiento conocida.

No es una exigencia tecnológica nueva. Es la versión digital de algo que los abogados entienden perfectamente: la información del cliente no sale del estudio sin que el cliente lo sepa y lo autorice.

En papel, eso es obvio. En las pantallas, todavía no lo es para todos. Y esa brecha —entre lo que se haría físicamente y lo que se hace digitalmente sin pensar— es el riesgo más concreto e inmediato que enfrenta la profesión jurídica frente a la IA.

El silencio institucional no es una respuesta

En 2024, la American Bar Association publicó su Formal Opinion 512, el primer pronunciamiento formal de una asociación de abogados de primer nivel sobre el uso de IA generativa en la práctica legal. Sus conclusiones son directas: los abogados tienen la obligación de comprender las herramientas que usan, de proteger la confidencialidad de sus clientes al usarlas, y de supervisar activamente los resultados antes de incorporarlos a cualquier actuación profesional. Alemania, el Reino Unido y Australia están desarrollando marcos similares.

En América Latina, la respuesta institucional ha sido, mayoritariamente, silencio.

Ese silencio no es permisividad. No hay ningún colegio de abogados en la región que haya declarado que usar ChatGPT con información de clientes es aceptable. Lo que hay es ausencia de pronunciamiento explícito, que muchos profesionales, de buena fe, interpretan como luz verde.

No lo es. Los principios éticos generales ya vigentes —confidencialidad, diligencia, competencia— son suficientes para establecer obligaciones concretas respecto a cómo se usa la IA. El hecho de que nadie lo haya dicho en un documento oficial no cambia eso.

Los colegios van a tener que hablar. Cuanto antes lo hagan, mejor para todos.

Cinco principios para usar IA sin comprometer la práctica

No hace falta esperar a que llegue la regulación para tener una postura propia. Hay un conjunto de criterios que cualquier profesional puede adoptar desde ahora:

Entender antes de usar. No hace falta ser ingeniero, pero sí saber dónde se procesan los datos, bajo qué condiciones de privacidad, y cuáles son las limitaciones reconocidas del sistema que se está usando.

Verificar siempre, sin excepción. Ningún resultado de IA debe incorporarse a una actuación profesional sin contraste independiente. Especialmente citas jurisprudenciales, referencias normativas, y cualquier afirmación de hecho que el sistema produzca.

Tratar los datos del cliente como lo que son. Información confiada bajo deber de reserva. Si el proveedor no puede responder con claridad si esa información se usa para entrenar modelos, la respuesta práctica es no cargar información de clientes en esa plataforma.

Mantener el criterio propio como última instancia. La IA puede informar el análisis. No puede reemplazar la deliberación profesional. El abogado que firma responde por lo que firma, independientemente de cómo llegó a ese punto.

Documentar. En la medida en que la IA forma parte del flujo de trabajo, dejar registro de cómo se usó y qué controles se aplicaron puede tener relevancia en cualquier cuestión de responsabilidad profesional que surja después.

Estos cinco principios son, en la práctica, el esqueleto de un programa de gobernanza de IA.

El momento ya llegó

La inteligencia artificial no va a esperar a que el derecho termine de procesar sus implicancias. Ya está instalada en la práctica cotidiana de la profesión, con toda su potencia y con todos sus riesgos. El espacio entre la adopción masiva y la reflexión seria sobre cómo usarla bien es, hoy, el problema más urgente que tiene la profesión jurídica sobre la mesa.

Los abogados que ignoren esta conversación no están siendo prudentes. Están siendo imprudentes por omisión. Y los que adopten IA sin criterio no están innovando: están trasladando un riesgo que termina, casi siempre, en el cliente.

El derecho tardó en incorporar cada nueva tecnología que lo transformó. La máquina de escribir, el fax, después Internet, más cerca en el tiempo la firma digital. En todos los casos tardó, resistió, debatió, y al final terminó encontrando la manera de integrarlo sin perder lo esencial. Cuando lo hizo bien, fue porque los profesionales que lideraron esa transición no eligieron entre la herramienta y los principios. Eligieron ambos.

Con la IA, la diferencia es que el tiempo de procesarla es más corto. Mucho más corto.