ChatGPT y otros chatbots de IA ofrecen utilidad, pero plantean riesgos significativos de privacidad y seguridad. A diferencia de las conversaciones con médicos, abogados o terapeutas, los chats con IA no son privilegiados y pueden ser citados, indexados o expuestos. El CEO de OpenAI, Sam Altman, ha advertido que los tribunales podrían obligar a la empresa a entregar los chats. Con más de 900 millones de usuarios semanales, el potencial de uso indebido es alto. Los principales riesgos involucran asesoría legal, médica y financiera, donde las alucinaciones de IA y la retención de datos pueden causar daños reales. Los usuarios deben entender que cualquier cosa escrita en estos sistemas crea un rastro de auditoría permanente accesible para terceros.

Los profesionales legales y litigantes están siendo cada vez más víctimas de errores de IA. Un investigador ha documentado más de 2,000 casos judiciales obstaculizados por citas fabricadas por ChatGPT. Los abogados y los litigantes que se representan a sí mismos encabezan la lista de quienes presentan jurisprudencia falsa ante los tribunales. Los jueces están imponiendo multas crecientes por estos errores. OpenAI ha actualizado sus políticas para prohibir el uso del servicio para asesoría legal personalizada sin la participación de un profesional con licencia. Del mismo modo, usar ChatGPT como terapeuta es peligroso, ya que la plataforma se ha relacionado con la planificación de suicidios y crisis de salud mental. Los padres de un adolescente que murió por suicidio han demandado a OpenAI, alegando que el chatbot reforzó la ideación suicida de su hijo.

Aunque ChatGPT puede ayudar con investigación general, codificación y explicación de conceptos, no debería reemplazar servicios profesionales. Se aconseja a los usuarios verificar la información generada por IA, especialmente en asuntos legales o de salud. La comodidad de la IA debe sopesarse frente al potencial de uso indebido de datos y la falta de protección legal alrededor de los historiales de chat.

Entidades clave: Empresas: OpenAI, Engadget | Personas: Sam Altman, Damien Charlotin, Adam Raine | Ubicaciones: Reino Unido, Sudáfrica, Israel, Australia, España

Preguntas frecuentes: ¿Pueden las conversaciones de ChatGPT usarse en tribunales?

Sí, los chats de ChatGPT han sido citados y expuestos en procedimientos legales. Debido a que carecen de privilegio legal, cualquier cosa escrita en la plataforma es justo juego para los abogados de la parte contraria durante el descubrimiento, incluso si el usuario elimina el chat posteriormente.