21/05/2025
ALUCINACIONES EN LA INTELIGENCIA ARTIFICIAL: UN RIESGO LEGAL CRECIENTE
Las llamadas “alucinaciones” en IA se producen cuando el sistema genera información falsa con apariencia de veracidad. Este fenómeno es habitual en modelos como ChatGPT, Gemini o Grok, que generan texto según patrones estadísticos, sin verificar la exactitud del contenido. En el ámbito jurídico, estas respuestas pueden incluir jurisprudencia ficticia, datos incorrectos o interpretaciones erróneas.
Aunque puedan parecer fallos técnicos menores, su uso en contextos legales, administrativos o técnicos puede tener consecuencias graves: desde nulidades procesales hasta vulneraciones del derecho al honor, infracción de derechos de autor o generación de responsabilidades civiles.
La legislación aún se está adaptando, pero los riesgos son reales. En propiedad industrial, por convincente que sea una respuesta automática, no debe sustituirse nunca la consulta con un profesional cualificado.
Si quieres saber más, visita nuestro blog www.marques-ferrer.com/blog