En exclusiva:

Hospital Angeles consiente a las mamás del sur de Tamaulipas

Redacción El Hospital Angeles Tampico celebró a las mamás por...

La Importancia de Conocer y Cuidar Nuestro Cuerpo: Reflexiones sobre la Salud Femenina

Por Jimena Torres El Día Internacional del Cáncer de Mama,...

Fake News ponen a “alucinar” a la Inteligencia Artificial

TECNOLOGÍA

Redacción

Las alucinaciones generadas por la inteligencia artificial (IA) se han convertido en uno de los desafíos más complejos para las big tech. Estas respuestas erróneas o fabricadas por los modelos representan un obstáculo para la adopción generalizada de la IA, además de poner en riesgo la confianza de los usuarios.

Este tipo de fallas ocurren cuando un modelo de IA genera información falsa o sin sustento, pero presentada con una alta confianza. Este fenómeno puede variar desde errores menores hasta la creación de datos completamente ficticios que no tienen base en la realidad. Las alucinaciones se presentan con mayor frecuencia en modelos de lenguaje generativo como ChatGPT, Gemini o Apple Intelligence, especialmente cuando se enfrentan a preguntas ambiguas o fuera de su entrenamiento.

Un ejemplo de alucinación podría ser que un modelo de lenguaje afirme con certeza que una celebridad ganó un premio que nunca recibió, o que proporcione una referencia bibliográfica inventada.

Según análisis de la startup Vectara, la tasa de alucinaciones en chatbots como ChatGPT varía entre un 3% y un 27%. Esta variabilidad depende de factores como la calidad de los datos de entrenamiento y la naturaleza de las consultas realizadas por los usuarios, otros reportes indican que este tipo de fallas ocurre entre un 10 y 15%.

El principal problema de las alucinaciones es que pueden socavar la confianza de los usuarios en las plataformas de IA. Aunque las empresas han destacado la transparencia y la precisión como pilares para el desarrollo de estas herramientas, la proliferación de respuestas incorrectas ha obligado a reforzar los mecanismos de verificación.

Microsoft ha reconocido que las alucinaciones son un problema en los modelos de lenguaje y está trabajando en soluciones para reducir su incidencia.

Apple, por ejemplo, ha aceptado que su sistema Apple Intelligence no está exento de alucinaciones, a pesar de su enfoque en la privacidad y el procesamiento local. La compañía ha implementado procesos rigurosos de evaluación y herramientas para que los usuarios puedan reportar resultados inesperados, aunque la solución definitiva sigue siendo un trabajo en curso.

Además, un mensaje que han reforzado es que Apple Intelligence se basa en su filosofía de IA Responsable, que busca crear herramientas útiles para el usuario minimizando posibles daños. La empresa también ha habilitado reportes semanales para que los usuarios puedan revisar cómo su información ha sido utilizada y permite que expertos independientes auditen el código que ejecuta en sus servidores Private Cloud Compute.

spot_img

Lo más reciente

Innova el Hospital Angeles Tampico con tecnología de primer nivel

Presentan el Sistema Da Vinci para cirugía robótica de...

¿Se te hace más caro ir al cine? Es culpa de la inflación en México

Redacción En México, la inflación ha impactado significativamente el precio...

Corte de Caja: Escalan conflictos mundiales, tragedias aéreas y golpe a migración

Conoce las noticias más relevantes de México y el...

Ocio nocturno postpandemia: entre el refugio y la desconexión social

Las restricciones por la pandemia hicieron que muchísima gente...

Newsletter

spot_img

No te lo pierdas

Innova el Hospital Angeles Tampico con tecnología de primer nivel

Presentan el Sistema Da Vinci para cirugía robótica de...

¿Se te hace más caro ir al cine? Es culpa de la inflación en México

Redacción En México, la inflación ha impactado significativamente el precio...

Corte de Caja: Escalan conflictos mundiales, tragedias aéreas y golpe a migración

Conoce las noticias más relevantes de México y el...

Ocio nocturno postpandemia: entre el refugio y la desconexión social

Las restricciones por la pandemia hicieron que muchísima gente...

Mattel presenta junto a OpenAI un innovador juguete con tecnología de IA

La industria del juguete está a punto de dar...
spot_imgspot_img

Innova el Hospital Angeles Tampico con tecnología de primer nivel

Presentan el Sistema Da Vinci para cirugía robótica de mínima invasión Redacción Presentan en el Hospital Angeles Tampico la cirugía robótica con el sistema Da Vinci,...

¿Se te hace más caro ir al cine? Es culpa de la inflación en México

Redacción En México, la inflación ha impactado significativamente el precio de los boletos de cine en 2025. Según datos del INEGI, en 2025 la inflación general...

Corte de Caja: Escalan conflictos mundiales, tragedias aéreas y golpe a migración

Conoce las noticias más relevantes de México y el mundo en la semana que cierra Redacción A continuación, ALTHER Magazine presenta un resumen de las noticias...
spot_imgspot_img