<\/p>\n
El chatbots<\/em> Los basados \u200b\u200ben Inteligencia Artificial no son herramientas \u00fatiles para proporcionar diagn\u00f3sticos o consejos m\u00e9dicos. Un estudio dirigido porCentro M\u00e9dico Harbor-UCLA (EE.UU.) <\/em>ha demostrado que en uno de cada dos casos la respuesta proporcionada es completamente poco fiable y enga\u00f1osa. \u00a1Atenci\u00f3n!<\/p>\n Como explican los investigadores, el chatbots<\/em> Las tecnolog\u00edas basadas en IA se han adoptado r\u00e1pidamente en diversos campos, incluidos la investigaci\u00f3n, la educaci\u00f3n, los negocios, el marketing y la medicina. Sin embargo, la mayor\u00eda de las interacciones provienen de usuarios no expertos que los utilizan como buscadores, incluso para preguntas cotidianas sobre salud y medicina.<\/p>\n<\/p>\n Recientemente unos cient\u00edficos inventaron una enfermedad, a la que llamaron ‘Bixonimania’, publicando adem\u00e1s dos preprints sobre esta, el primero el 26 de abril de 2024, el segundo el 6 de mayo de 2024. Aunque hoy ambos est\u00e1n retirados del servidor con fecha 10 de abril de 2026 y en uno de los casos aparece claramente la f\u00f3rmula que habla de contenidos “fabricado y no aut\u00e9ntico<\/em>\u201d y carente de validez cient\u00edfica, en abril de 2024 Copiloto, G\u00e9minis, Perplejidad y ChatGPT<\/em> trataron la bixoniman\u00eda como una enfermedad real, la relacionaron con la luz azul de las pantallas, describieron los s\u00edntomas y en algunos casos incluso sugirieron la visita a un especialista. Perplejidad<\/em> incluso lleg\u00f3 a proporcionar una prevalencia estimada, hablando de una persona entre 90.000.<\/p>\n Pero la cosa no acaba aqu\u00ed: la bixoniman\u00eda tambi\u00e9n acab\u00f3 en un art\u00edculo publicado en Cureus<\/em>que la cit\u00f3 como una forma emergente de melanosis periorbitaria relacionada con la luz azul. Hoy esa p\u00e1gina lleva la marca de la retractaci\u00f3n, y Naturaleza<\/em> Reconstruy\u00f3 que el peri\u00f3dico se retract\u00f3 del art\u00edculo el 30 de marzo de 2026 luego de ser contactado para hacer comentarios. La falsificaci\u00f3n, por tanto, pas\u00f3 por m\u00e1s de un filtro: primero la web, luego los chatbots y luego una publicaci\u00f3n cient\u00edfica real.<\/p>\n<\/p>\n Los cient\u00edficos, en particular, llevaron a cabo el estudio analizando las respuestas de los chatbots en los sectores m\u00e9dico y de la salud, sectores particularmente sujetos a desinformaci\u00f3n. Las herramientas cubiertas por el trabajo incluyen G\u00e9minis <\/em>(Google<\/em>), b\u00fasqueda profunda<\/em> (Alto vuelo<\/em>), Meta IA<\/em> (Medio<\/em>), ChatGPT<\/em> (Abierto AI<\/em>) Y Grok<\/em> (xAI<\/em>), y en febrero de 2025, a cada chatbot se le hicieron 10 preguntas en cinco categor\u00edas, a saber, c\u00e1ncer, vacunas, c\u00e9lulas madre, nutrici\u00f3n y rendimiento deportivo.<\/p>\n Utilizamos un enfoque contradictorio (Aprendizaje autom\u00e1tico adversario<\/em>) con preguntas abiertas y cerradas, dise\u00f1adas para presionar a los modelos para que proporcionen informaci\u00f3n incorrecta o consejos contraindicados \u2013 escriben los autores \u2013 Dos expertos de cada categor\u00eda calificaron las respuestas como \u201cno problem\u00e1ticas\u201d, \u201calgo problem\u00e1ticas\u201d o \u201caltamente problem\u00e1ticas\u201d utilizando una matriz de codificaci\u00f3n basada en criterios objetivos y predefinidos. Se evaluaron las citas para determinar su precisi\u00f3n e integridad, y a cada respuesta se le asign\u00f3 una puntuaci\u00f3n de legibilidad de Flesch (que mide la complejidad de un texto en una escala de 0 a 100, donde los valores m\u00e1s altos indican una mayor facilidad de lectura, Ed.)<\/p>\n<\/blockquote>\n EL’Aprendizaje autom\u00e1tico adversario <\/em>es un campo de la ciberseguridad y de la propia IA en particular centrado en la creaci\u00f3n intencional de entradas manipuladas (ejemplos contradictorios<\/em>) para enga\u00f1ar a los modelos de IA para que cometan errores enga\u00f1\u00e1ndolos. Pero el objetivo principal es probar su robustez. Es por esto que se eligi\u00f3 como m\u00e9todo para realizar este tipo de estudio.<\/p>\n Los resultados mostraron que casi la mitad (49,6%) de las respuestas fueron problem\u00e1ticas (30% algo problem\u00e1ticas y 19,6% muy problem\u00e1ticas). La calidad de las respuestas en general no mostr\u00f3 diferencias significativas entre los chatbots (p=0,566), pero Grok gener\u00f3 respuestas significativamente m\u00e1s problem\u00e1ticas de lo que se esperar\u00eda de una distribuci\u00f3n aleatoria (puntuaci\u00f3n z +2,07, p=0,038).<\/p>\n El rendimiento fue mejor en las \u00e1reas de vacunas (puntuaci\u00f3n z promedio -2,57) y c\u00e1ncer (-2,12), y peor en c\u00e9lulas madre (+1,25), rendimiento deportivo (+3,74) y nutrici\u00f3n (+4,35).<\/p>\n De un total de 250 preguntas, solo hubo dos respuestas negativas (0,8%), ambas de Meta AI, pero la calidad de las fuentes bibliogr\u00e1ficas fue pobre, con una puntuaci\u00f3n de completitud promedio del 40% (Q1-Q3: 20-67%). Esto se debe a que las alucinaciones y citas inventadas por los chatbots han impedido que cualquier chatbot produzca una lista de referencias completamente precisa.<\/p>\n Los chatbots analizados mostraron un rendimiento deficiente a la hora de responder preguntas en campos m\u00e9dicos y sanitarios propensos a la desinformaci\u00f3n. Su implementaci\u00f3n continua sin informaci\u00f3n p\u00fablica y supervisi\u00f3n adecuadas corre el riesgo de amplificar la informaci\u00f3n err\u00f3nea.<\/p>\n<\/blockquote>\n los investigadores concluyen<\/p>\n En temas muy delicados como son las cuestiones m\u00e9dico-sanitarias siempre debemos recurrir a expertos.<\/p>\n El trabajo fue publicado el Abierto BMJ<\/em>.<\/p>\n Fuente: Abierto BMJ<\/p><\/p>\n","protected":false},"excerpt":{"rendered":" El chatbots Los basados \u200b\u200ben Inteligencia Artificial no son herramientas \u00fatiles para proporcionar diagn\u00f3sticos o consejos m\u00e9dicos. Un estudio dirigido porCentro M\u00e9dico Harbor-UCLA (EE.UU.) ha<\/p>\n","protected":false},"author":1,"featured_media":8815,"comment_status":"closed","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[762],"tags":[4575,739,579,3517,508,219,8519,1038,8518,6271,627,37],"class_list":["post-8814","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-salud","tag-artificial","tag-cada","tag-cuidado","tag-diagnostico","tag-dos","tag-estudio","tag-fiable","tag-inteligencia","tag-mediante","tag-respuestas","tag-revela","tag-una","generate-columns","tablet-grid-50","mobile-grid-100","grid-parent","grid-50"],"yoast_head":"\nEl caso ‘Bixoniman\u00eda’<\/h2>\n
C\u00f3mo se realiz\u00f3 el estudio<\/h2>\n
\n
Los resultados<\/h2>\n
\n