Una investigación reciente realizada por investigadores de la Universidad de Nueva York reveló las dificultades que enfrentan las personas para distinguir entre las respuestas generadas por el chatbot de OpenAI, ChatGPT, y las proporcionadas por profesionales de la salud humanos.
El estudio tuvo como objetivo explorar el potencial de los chatbots para ayudar a la comunicación entre pacientes y profesionales de la salud, así como evaluar la confianza y confiabilidad de sus respuestas.
Hallazgos del estudio
El estudio presentó a los participantes una serie de preguntas y respuestas de los pacientes, la mitad de las cuales fueron generadas por ChatGPT y la otra mitad por profesionales de la salud humana. Los resultados revelaron los siguientes hallazgos clave:
Dificultad para diferenciar respuestas.
En promedio, los participantes identificaron correctamente 65 respuestas de chatbot,5% del tiempo y las respuestas de los profesionales 65,1% de veces. Esto indica que los participantes tuvieron dificultades para distinguir entre las dos fuentes de información. La capacidad de identificar la fuente varió según las diferentes preguntas, lo que sugiere que ciertos temas o complejidades presentaban más desafíos para diferenciar.
Confía en las respuestas del chatbot
Los participantes generalmente expresaron una confianza moderada en las respuestas del chatbot, con una puntuación promedio de 3,4 en una escala de 5 puntos. Sin embargo, la confianza en las respuestas del chatbot fue menor para tareas con mayor complejidad relacionada con la salud, como el asesoramiento de diagnóstico y tratamiento. Por otro lado, las cuestiones logísticas y la atención preventiva recibieron puntuaciones de confianza más altas.
Implicaciones y recomendaciones
Los hallazgos del estudio tienen implicaciones importantes para el uso de chatbots en la comunicación sanitaria:
Potencial para tareas administrativas y manejo de enfermedades crónicas.
Los chatbots tienen el potencial de ayudar a la comunicación entre pacientes y profesionales de la salud, particularmente para tareas administrativas y manejo común de enfermedades crónicas. Estas áreas suelen implicar información directa y pueden beneficiarse de la eficiencia y accesibilidad que ofrecen las interacciones del chatbot.
Precaución en artículos clínicos.
Sin embargo, el estudio subraya la necesidad de precaución y juicio crítico al confiar en los consejos generados por chatbots para tareas clínicas más complejas. En particular, los consejos de diagnóstico y tratamiento deben abordarse con cuidado, ya que es posible que los chatbots no posean el mismo nivel de experiencia y juicio matizado que los profesionales de la salud humanos.
Limitaciones e investigaciones futuras.
El estudio destaca las limitaciones de la tecnología actual de chatbot y los posibles sesgos de los modelos de IA. Se necesita más investigación para refinar y mejorar las capacidades de los chatbots, garantizando su confiabilidad, precisión e idoneidad para diferentes tareas de atención médica. Se deben implementar procesos continuos de evaluación y validación para mejorar el rendimiento y la confiabilidad de los chatbots en contextos de atención médica.
