TECNOLOGÍA
Redacción
Las alucinaciones generadas por la inteligencia artificial (IA) se han convertido en uno de los desafíos más complejos para las big tech. Estas respuestas erróneas o fabricadas por los modelos representan un obstáculo para la adopción generalizada de la IA, además de poner en riesgo la confianza de los usuarios.
Este tipo de fallas ocurren cuando un modelo de IA genera información falsa o sin sustento, pero presentada con una alta confianza. Este fenómeno puede variar desde errores menores hasta la creación de datos completamente ficticios que no tienen base en la realidad. Las alucinaciones se presentan con mayor frecuencia en modelos de lenguaje generativo como ChatGPT, Gemini o Apple Intelligence, especialmente cuando se enfrentan a preguntas ambiguas o fuera de su entrenamiento.
Un ejemplo de alucinación podría ser que un modelo de lenguaje afirme con certeza que una celebridad ganó un premio que nunca recibió, o que proporcione una referencia bibliográfica inventada.
Según análisis de la startup Vectara, la tasa de alucinaciones en chatbots como ChatGPT varía entre un 3% y un 27%. Esta variabilidad depende de factores como la calidad de los datos de entrenamiento y la naturaleza de las consultas realizadas por los usuarios, otros reportes indican que este tipo de fallas ocurre entre un 10 y 15%.
El principal problema de las alucinaciones es que pueden socavar la confianza de los usuarios en las plataformas de IA. Aunque las empresas han destacado la transparencia y la precisión como pilares para el desarrollo de estas herramientas, la proliferación de respuestas incorrectas ha obligado a reforzar los mecanismos de verificación.
Microsoft ha reconocido que las alucinaciones son un problema en los modelos de lenguaje y está trabajando en soluciones para reducir su incidencia.
Apple, por ejemplo, ha aceptado que su sistema Apple Intelligence no está exento de alucinaciones, a pesar de su enfoque en la privacidad y el procesamiento local. La compañía ha implementado procesos rigurosos de evaluación y herramientas para que los usuarios puedan reportar resultados inesperados, aunque la solución definitiva sigue siendo un trabajo en curso.
Además, un mensaje que han reforzado es que Apple Intelligence se basa en su filosofía de IA Responsable, que busca crear herramientas útiles para el usuario minimizando posibles daños. La empresa también ha habilitado reportes semanales para que los usuarios puedan revisar cómo su información ha sido utilizada y permite que expertos independientes auditen el código que ejecuta en sus servidores Private Cloud Compute.
