En noviembre de 2023, OpenAI lanzó las versiones personalizadas de ChatGPT, muy esperadas. Los GPT personalizados son Transformadores Generativos Preentrenados que se pueden adaptar para cumplir propósitos específicos al combinar instrucciones especializadas, conocimiento adicional y experiencia.
Una de las aplicaciones más interesantes de los GPT personalizados está en el sector de la salud. Pero aunque no hay duda de que la inteligencia artificial (IA) puede traer beneficios importantes a pacientes y proveedores de salud, también existen preocupaciones serias sobre la seguridad de los datos sensibles de los pacientes.
Al adentrarnos en esta nueva frontera de los GPT personalizados en el sector de la salud, debemos examinar los posibles beneficios y riesgos asociados con estas tecnologías, en especial en lo que respecta a la seguridad y privacidad de los datos de los pacientes.
Beneficios y riesgos de ChatGPT en el sector de la salud
ChatGPT y otros GPT similares han mostrado un potencial notable en diversas aplicaciones del sector de la salud. Exploremos los aspectos clave de sus capacidades y los desafíos que presentan.
Administración
La IA es una herramienta invaluable para automatizar ciertas tareas, como programar citas, gestionar el ingreso de datos de pacientes y procesar reclamos de seguros, lo que libera tiempo que el personal médico puede dedicar a la atención directa de los pacientes.
Para entender mejor el impacto de ChatGPT en la administración médica, le preguntamos al consultor de TI de ValueCoders, Ved Raj, que compartiera su opinión.
"La integración de ChatGPT en la comunicación médica está revolucionando las interacciones con los pacientes en el sector de la salud. Esta poderosa herramienta de IA permite a los pacientes tener conversaciones naturales con un asistente inteligente las 24 horas, los 7 días de la semana".
Sin embargo, Raj advierte sobre los riesgos asociados con el papel cada vez mayor de la IA en el sector de la salud, en particular el potencial de pérdida de datos y sus implicaciones éticas a medida que la IA se integra más en la medicina:
"La privacidad y la precisión de los datos siguen siendo desafíos urgentes, y existen grandes implicaciones éticas al dejar que una IA haga sugerencias médicas".
Salud rural
En zonas rurales, donde los recursos de salud suelen ser escasos, tecnologías de IA como ChatGPT tienen el potencial de generar un gran impacto. Estas herramientas pueden ayudar a cerrar la brecha en el acceso a la experiencia médica y mejorar la eficiencia y calidad general de la atención en comunidades desatendidas.
El director ejecutivo de la Nebraska Rural Health Association, Jed R. Hansen, profundiza en el potencial de la IA en la salud rural:
"La IA promete un nuevo conjunto de tecnologías en la atención clínica, la optimización del ciclo de ingresos y el refuerzo de la toma de decisiones clínicas, que ofrecen soluciones a la escasez de personal en la atención clínica y las operaciones".
"Los equipos de atención que puedan evaluar y adoptar con facilidad las aplicaciones de IA adecuadas estarán en una buena posición para liderar la atención en sus respectivas comunidades en el futuro previsible".
Sin embargo, un informe de investigación de 2024 sobre la IA en el desarrollo de la salud rural destacó un desafío importante: los datos limitados de pacientes disponibles en centros rurales para el entrenamiento de la IA. Esta escasez de datos diversos puede dar lugar a sistemas de IA que sean potencialmente menos precisos o sesgados cuando se aplican en entornos de salud rural.
Tratamiento de adicciones
Las tecnologías de IA como ChatGPT ofrecen oportunidades y desafíos en el campo del tratamiento de adicciones. Estas herramientas pueden potencialmente simplificar las tareas administrativas y mejorar el monitoreo de los pacientes, pero también generan preocupaciones sobre la privacidad y la necesidad de empatía humana en el tratamiento.
El Founder y CEO de PursueCare, Nick Mercadante, comparte su perspectiva sobre la IA en el tratamiento de adicciones:
"La IA generativa y herramientas similares ayudan a prácticas como PursueCare, que tratan el trastorno por uso de sustancias, al automatizar tareas administrativas como la programación, ciertos aspectos de la documentación y la facturación, para que nuestro personal pueda enfocarse mejor en la atención al paciente".
Sin embargo, Mercadante también señala preocupaciones sobre las limitaciones y los riesgos de los GPT:
"Los chatbots de IA no pueden brindar empatía ni entender la emoción humana de un paciente en particular, algo importante en la terapia de adicciones. También nos preocupan el sesgo y la desigualdad, ya que la IA puede heredar sesgos de los datos con los que se entrena, [y] el uso indebido de herramientas impulsadas por IA que compartan de forma inadvertida información de salud privada sin el consentimiento del paciente".
Cómo abordar los desafíos de ChatGPT y la privacidad de los datos de los pacientes
Si bien la integración de los GPT en el sector de la salud ofrece beneficios importantes, también plantea preocupaciones relevantes sobre la privacidad y seguridad de los datos de los pacientes.
Aceptación de los pacientes
¿De qué sirve la IA si la gente no la quiere? Entender las actitudes de los pacientes hacia la IA en el sector de la salud es el primer paso para su implementación exitosa. La editora en jefe de Xtelligent Healthcare Marketing, Sara Heath, comparte datos sobre las actitudes de los pacientes hacia los GPT en el sector de la salud:
"Los datos de las encuestas más recientes sugieren que los pacientes estadounidenses están divididos respecto a si se sienten cómodos con el uso de la inteligencia artificial en su experiencia de atención médica".
"A pesar de que el 100 % del recorrido de los pacientes de EE. UU. en el sistema de salud involucra a la IA, ya sea directa o indirectamente, solo el 38 % dice confiar en ella".
Agrega que los pacientes sienten que no tienen suficiente información y que aún les falta aprender más sobre la tecnología.
Vulnerabilidad de los datos
Hay un hilo conductor claro en nuestra conversación sobre la IA en el sector de la salud: la importancia crítica de proteger los datos de los pacientes. La integridad y seguridad de los datos de los pacientes son la base de una atención médica eficaz.
Aunque los riesgos se sienten, el consultor de IA y Founder de Clearlead AI Consulting, Paul Ferguson, comparte una perspectiva centrada en la responsabilidad personal:
"Los GPT no aumentan de forma inherente la vulnerabilidad de los datos de los pacientes. El riesgo proviene del uso inadecuado de estas herramientas".
"Ninguna organización de salud responsable debería usar GPT públicos como ChatGPT para procesar información sensible".
Cumplimiento normativo de HIPAA
Cuando se trata de la IA en el sector de la salud, HIPAA no es solo una palabra de moda, es un factor decisivo. La cuestión del cumplimiento normativo de HIPAA es crucial al considerar el uso de ChatGPT o cualquier GPT en entornos de salud. Es importante señalar que ChatGPT en su forma pública no cumple con HIPAA.
Las organizaciones de salud deben implementar versiones privadas y controladas de estas tecnologías para garantizar el cumplimiento de las normas de protección de datos.
Seguridad de los GPT: cómo mitigar riesgos en los sistemas de salud
A medida que integramos los GPT en el sector de la salud, queda claro que los beneficios potenciales solo se pueden lograr con un compromiso sólido con la seguridad de los datos y la privacidad de los pacientes.
"Es crucial entender que, si bien existen riesgos potenciales asociados con los GPT en el sector de la salud, hay soluciones bien conocidas para abordar estos problemas", dice Ferguson.
Según él, para garantizar el cumplimiento normativo y mantener la seguridad de los datos, los proveedores de salud necesitan:
- Soluciones de LLM seguras, on-premises o de cloud privado
- Evaluaciones de impacto en la privacidad regulares
- Prácticas transparentes de procesamiento de datos
- Anonimización de datos antes de cualquier interacción con sistemas de IA
- Capacitación continua del personal sobre el manejo de datos y el uso de IA
- Auditorías y actualizaciones de seguridad regulares
- Protocolos claros para el uso de sistemas de IA y el acceso a datos
- Mantenerse al día con las regulaciones más recientes
- Documentación del uso de sistemas de IA y de los procesos de toma de decisiones
Ferguson también señala cuánto está sujeta la integración de los GPT en el sector de la salud a marcos regulatorios que evolucionan rápidamente:
"La Ley de IA de la UE (que entró en vigor el 1 de agosto de 2024) impone restricciones estrictas a ciertas aplicaciones de IA, incluyendo, entre otras, la IA generativa”.
“Los proveedores de salud que integran GPT deben manejar estas nuevas regulaciones con cuidado".
Adoptar el futuro de la salud con confianza
Los proveedores de salud deben implementar medidas de seguridad sólidas para proteger la información sensible de los pacientes. Una parte de esta estrategia de seguridad son las soluciones de Detección y respuesta para endpoints administrada (EDR) diseñadas específicamente para entornos de salud.
Managed EDR para el sector de la salud ofrece capacidades de monitoreo y respuesta constantes, lo que garantiza que los datos de los pacientes permanezcan protegidos frente a amenazas en evolución. Este enfoque proactivo no solo protege la información sensible, sino que también genera confianza con los pacientes, allanando el camino hacia un futuro de la salud más eficiente, preciso e innovador.
Da el primer paso hacia una integración segura de la IA en tu organización de salud, reserva una demo para ver cómo Huntress puede ayudarte.
