Posibles desafíos y problemas de la IA en la tecnología sanitaria

Por Jacob Fitzpatrick

Desde la aparición y la integración de la inteligencia artificial (IA) en los dispositivos y equipos biomédicos actuales, se han descubierto muchos beneficios adicionales. Por ejemplo, ya se ha demostrado que los algoritmos de IA detectan ciertas afecciones de salud en imágenes de pacientes y extraen información importante de grandes volúmenes de registros médicos electrónicos (EHR) desorganizados mejor que los humanos. Por lo tanto, a medida que se han presentado más aplicaciones potenciales en el campo de la atención médica, continúa el impulso para seguir avanzando en la IA como tecnología. Sin embargo, con todos estos beneficios potenciales que presenta la IA, surgen nuevos desafíos y problemas que los tecnólogos e ingenieros biomédicos también deben superar. 

El primero de estos desafíos en la implementación de la IA en la tecnología de atención médica es la mayor vulnerabilidad a las violaciones de datos. Dado que la IA requiere acceso directo a los datos de atención médica que contienen información confidencial de los pacientes, se deben implementar medidas de ciberseguridad exhaustivas para garantizar que los atacantes no puedan aprovechar los nuevos puntos de acceso a la red. De lo contrario, no implementar adecuadamente un protocolo de ciberseguridad sólido puede generar graves consecuencias éticas y legales para cualquier centro de atención médica. Además, también es importante que los modelos de IA utilizados en la tecnología de atención médica actual sigan cumpliendo con todas las regulaciones, leyes y estándares relevantes al manejar datos confidenciales de los pacientes. Esto significa que es responsabilidad de los tecnólogos e ingenieros biomédicos estar al tanto de esta vulnerabilidad que presentan los dispositivos, equipos y sistemas médicos integrados con IA cuando están conectados a cualquier red de atención médica. 

Otro problema que podría presentarse es que los modelos de IA no se entrenen con cantidades suficientemente grandes de datos sanitarios de alta calidad, lo que comprometería la fiabilidad y la integridad de las decisiones que se toman y que están destinadas a ayudar a los profesionales médicos a realizar sus cargas de trabajo necesarias. La razón por la que esto sería un desafío es que los países tienen sus propias normas y regulaciones sobre la privacidad de los datos, lo que podría limitar la cantidad de datos disponibles para entrenar modelos sanitarios de IA específicos. No solo es la cantidad de datos disponibles un factor importante, sino también la calidad de esos datos, especialmente al recopilar y seleccionar datos sanitarios para entrenar modelos de IA. La razón por la que la calidad se convierte en un problema es que los datos sanitarios en forma de EHR a menudo están desorganizados y contienen información faltante que es esencial para tomar decisiones médicas. Si bien se pueden aplicar ciertos pasos y prácticas de preprocesamiento de datos para dar cabida a estos problemas de cantidad y calidad para garantizar que el entrenamiento de los modelos de IA se realice de manera más eficaz, no son suficientes para cumplir con los estándares requeridos en el campo de la atención médica. Por lo tanto, los tecnólogos e ingenieros biomédicos deben trabajar juntos para ayudar a que la digitalización de los datos sanitarios sea una práctica más generalizada y común en todas las organizaciones sanitarias del mundo. De esta manera, se contribuirá a mejorar con el tiempo la calidad y la cantidad actuales de los datos de los pacientes que se utilizan para entrenar los modelos de IA que se emplean en la tecnología sanitaria. Por último, en lo que respecta al desafío de obtener acceso a los datos de los pacientes debido a las normas de privacidad, los tecnólogos e ingenieros biomédicos deben trabajar con los científicos de datos para encontrar un medio alternativo para continuar con el desarrollo de modelos de IA para la atención sanitaria. 

Además, un tercer problema con la implementación de la IA en el diseño de dispositivos, equipos y sistemas médicos es la “zona gris«. (VS IA: las “zonas grises», en la ética de la IA)

La inteligencia artificial puede resolver infinidad de problemas con una precisión fuera del alcance de los humanos, pero es en las “zonas grises”, en las que nuestras mentes están entrenadas en un proceso evolutivo de millones de años, donde las personas encuentran certezas que la máquina no puede ver. Lo explica el presidente del Tribunal Supremo de los Estados Unidos, John Roberts, que acaba de publicar su informe anual y lo ha dedicado, cómo no, a la irrupción de la inteligencia artificial en la justicia de su país.

La inteligencia artificial puede resolver infinidad de problemas con una precisión fuera del alcance de los humanos, pero es en las “zonas grises”, en las que nuestras mentes están entrenadas en un proceso evolutivo de millones de años, donde las personas encuentran certezas que la máquina no puede ver. Lo explica el presidente del Tribunal Supremo de los Estados Unidos, John Roberts, que acaba de publicar su informe anual y lo ha dedicado, cómo no, a la irrupción de la inteligencia artificial en la justicia de su país.

La utilización de la IA aumentará de forma exponencial el acceso a información clave pero, advierte Roberts, “corre el riesgo de invadir los intereses de la privacidad y deshumanizar la ley”, por eso pide utilizarla “con cautela y humildad”. Recuerda que este año hubo abogados que recurrieron a ChatGPT para presentar alegaciones y que la IA lo hizo con citas a casos precedentes que eran inexistentes.

No es lo mismo sustituir a un juez con la IA en un torneo de tenis, en el que la máquina detecta con una precisión milimétrica si una pelota toca o no la línea, que las decisiones en los tribunales, que para Roberts “a menudo implican zonas grises que siguen requiriendo la aplicación del juicio humano”. “Los jueces, por ejemplo, miden la sinceridad de la alocución del acusado en la sentencia. El matiz es importante: «Una mano temblorosa, una voz temblorosa, un cambio de inflexión, una gota de sudor, un momento de vacilación, una fugaz interrupción del contacto visual pueden cambiar muchas cosas”. Quizás todo eso se pueda medir con cifras como la humedad del lacrimal, la presión sanguínea, la temperatura y las pulsaciones, pero los humanos lo vemos con una mirada: se llama emoción.

En lo que respecta a quién es responsable cuando ocurren eventos adversos. Dadas las graves consecuencias legales que podrían enfrentar, es necesario que existan estándares y pautas que regulen el uso de la IA cuando se utiliza para tomar decisiones críticas en materia de atención médica o para ayudar a los profesionales médicos a mejorar los resultados de los pacientes. Sin embargo, al momento de escribir este artículo, organizaciones como la Administración de Alimentos y Medicamentos (FDA) y el Servicio Nacional de Salud (NHS) todavía están desarrollando estos estándares y pautas necesarios. Con el tiempo, cuando estos estándares y regulaciones puedan adoptarse oficialmente, facilitará mucho el proceso de presentación para llevar la tecnología de IA para el cuidado de la salud Sin embargo, a medida que se avanza en el establecimiento de estas regulaciones de IA para el cuidado de la salud, se vuelve más difícil para el sistema legal tomar decisiones sobre si se deben otorgar o no permisos de desarrollo adicionales. Por lo tanto, para mitigar estos desafíos legales, los estándares y regulaciones de tecnología de atención médica no deben redactarse de una manera que obstaculice la integración de la IA en dispositivos, equipos y sistemas médicos. Para lograrlo, los tecnólogos e ingenieros biomédicos deberían participar en el trabajo de redacción de todas las organizaciones pertinentes de normalización y regulación de la atención sanitaria, ya que poseen los conocimientos y la experiencia necesarios para garantizar que las normas y regulaciones de la IA en el ámbito sanitario puedan seguir cumpliendo sus propósitos sin limitar los avances tecnológicos. 

En conclusión, en esta entrada del blog solo se han analizado tres problemas potenciales, pero hay aún más desafíos que actualmente dificultan la implementación de la IA para avanzar en la tecnología sanitaria. Otros desafíos y problemas potenciales incluyen la incapacidad de comprender los procesos de toma de decisiones de los modelos de IA y la posibilidad de que la IA pueda reemplazar los roles existentes de los trabajadores sanitarios actuales, por nombrar algunos más. De todos modos, la IA tiene el potencial de revolucionar la atención al paciente y mejorar los resultados médicos, ya que se han descubierto muchas aplicaciones en un período tan corto. Con eso en mente, los tecnólogos e ingenieros biomédicos deben colaborar para implementar adecuadamente la tecnología de IA como parte de los dispositivos, equipos y sistemas médicos sin comprometer su funcionalidad existente. Deben adoptar un enfoque lento y sistemático para garantizar que los pacientes, el resto del personal sanitario y cualquier otra persona relevante estén protegidos de los eventos adversos que puedan ocurrir y, al mismo tiempo, aprovechar sus increíbles beneficios.

Deja un comentario

Registrese Ahora

Tendra información actualizada de nuestro blog