Verificar y revelar el uso de la IA: requisitos del tribunal federal
En los últimos años, la integración de la inteligencia artificial (IA) en prácticas legales ha revolucionado varios aspectos de la profesión, desde la investigación legal hasta la redacción de documentos. Sin embargo, este avance tecnológico también ha introducido desafíos, particularmente en relación con la precisión y confiabilidad del contenido generado por IA. El Tribunal Federal de Canadá ha abordado estos desafíos ordenando la divulgación del uso de la IA en las presentaciones legales. Este artículo profundiza en los requisitos del Tribunal Federal, examina un estudio de caso pertinente y ofrece orientación sobre el cumplimiento.
El mandato del Tribunal Federal sobre la divulgación de IA
El 20 de diciembre de 2023, el Tribunal Federal emitió un aviso a las partes y la profesión con respecto al uso de inteligencia artificial en los procedimientos judiciales. Esta directiva requiere que las partes informen al tribunal y a otras partes si han usado IA para crear o generar contenido nuevo al preparar un documento presentado ante el tribunal. Específicamente, el primer párrafo de dicho documento debe revelar que la IA se usó para crear o generar ese contenido. Además, se espera que los abogados y las partes verifiquen cualquier contenido relacionado con la IA, asegurando que haya un "humano en el bucle" para confirmar la precisión y la confiabilidad. (bereskinparr.com)
Estudio de caso: Wael Mostafa Aly Hussein et al. v. El Ministro de Inmigración, Refugiados y Ciudadanía
Una instancia notable que destaca la importancia de este mandato es el caso de Wael Mostafa Aly Hussein et al. v. El Ministro de Inmigración, Refugiados y Ciudadanía (2025 FC 1060). En este caso, el abogado de los solicitantes utilizó Visto.AI, una herramienta de investigación legal de IA adaptada para profesionales de la ley de inmigración y refugiados canadienses, para preparar las presentaciones. Sin embargo, el abogado no reveló el uso de IA hasta después de múltiples direcciones de la corte. Tras la divulgación, se reveló que la herramienta AI había "alucinado" dos casos inexistentes y tergiversó la prueba adecuada para admitir nuevas pruebas sobre revisión judicial. La jueza asociada Catherine Moore enfatizó la necesidad de declarar el uso de la IA y garantizar la verificación humana del contenido generado por IA, afirmando que no se puede esperar que el tribunal "pase tiempo buscando casos que no existan o consideren proposiciones erróneas de la ley".
Implicaciones de la no divulgación
La decisión del Tribunal Federal subraya la importancia crítica de la transparencia y la precisión en los procedimientos legales. La no divulgación del uso de IA puede conducir a repercusiones significativas, que incluyen:
-
Erosión de la confianza: No revelar el uso de AI puede socavar la integridad del proceso legal y erosionar la confianza pública en el poder judicial.
-
Sanciones potenciales: Los tribunales pueden imponer sanciones a las partes que no cumplen con los requisitos de divulgación, como se ve en el caso mencionado anteriormente.
-
Mayor escrutinio: El uso de AI no revelado puede conducir a un mayor escrutinio de las presentaciones legales, retrasando los procedimientos y el aumento de los costos.
Las mejores prácticas para el cumplimiento
Para alinearse con los requisitos del Tribunal Federal y mantener la integridad de los procedimientos legales, los profesionales deben cumplir con las siguientes mejores prácticas:
1. Divulgación proactiva
Al comienzo de la preparación de cualquier documento para la presentación del tribunal, evalúe si las herramientas de IA se han utilizado en su creación. Si se ha empleado AI, revele esto en el primer párrafo del documento, especificando la herramienta AI utilizada y el alcance de su participación.
2. Verificación humana
Asegúrese de que todo el contenido generado por IA sea revisado y verificado a fondo por un humano calificado para confirmar su precisión y relevancia. Este proceso, a menudo denominado que tiene un "humano en el bucle", es esencial para evitar la difusión de información errónea.
3. Documentación y mantenimiento de registros
Mantenga registros detallados del uso de IA, incluidas las herramientas específicas empleadas, el contenido generado y el proceso de verificación realizado. Esta documentación puede servir como evidencia de cumplimiento de las directivas del tribunal.
4. Entrenamiento y conciencia
Educar regularmente a los equipos legales sobre las implicaciones de la IA en la práctica legal y la importancia de la divulgación. Fomentar una cultura de transparencia y responsabilidad es crucial para adaptarse a los avances tecnológicos.
Conclusión
El mandato del Tribunal Federal de revelar el uso de la IA en las presentaciones legales es un paso fundamental para garantizar la precisión, confiabilidad e integridad del proceso legal en la era de la inteligencia artificial. Al adoptar la transparencia y adherirse a las pautas prescritas, los profesionales legales pueden navegar por el panorama evolutivo de la IA en la ley mientras mantienen los principios de justicia y profesionalismo.
