El uso de la inteligencia artificial (IA) en la práctica clínica no es un fenómeno reciente. Desde hace décadas, los profesionales de la salud hemos empleado herramientas matemáticas, escalas clínicas y algoritmos de predicción o clasificación como apoyo para la toma de decisiones. Un ejemplo lo encontramos desde 1976, cuando D.W. Cockcroft y M.H. Gault publicaron su trabajo sobre predicción de la depuración de creatinina a partir de la creatinina sérica. Basándose en datos de 249 pacientes y validado en otros 236, el modelo integra edad, peso, creatinina sérica y sexo para estimar la función renal, esto permitió decisiones más precisas sobre el estado renal de los pacientes.
A lo largo del tiempo, estas herramientas han asumido funciones propias de la inteligencia humana, como la predicción, la clasificación y la estimación, sin ser denominadas formalmente “inteligencia artificial”. Sin embargo, el surgimiento de modelos de lenguaje avanzados, como ChatGPT, ha revitalizado el debate sobre qué se considera IA y cuáles son sus límites éticos y legales en el ámbito de la salud.
El auge de los modelos de lenguaje en salud
La prueba de Turing, propuesta en 1950, establece que una máquina puede considerarse “inteligente” si un evaluador humano es incapaz de distinguirla de otro humano durante una conversación. En 2022, la llegada de ChatGPT (y posteriormente otros modelos grandes de lenguaje, LLM por sus siglas en inglés) mostró un sistema capaz de generar texto coherente y contextual, en la mayoría de los casos indistinguible de una respuesta humana, superando parcialmente ese criterio y popularizando el uso de la IA en sectores como educación, derecho, ingeniería y, por supuesto, medicina.
En el ámbito clínico, herramientas como ChatGPT han mostrado potencial para:
- Asistir en la redacción de notas médicas.
- Generar hipótesis diagnósticas.
- Resumir literatura y evidencia clínica.
- Explicar procedimientos a pacientes.
- Apoyar decisiones terapéuticas complejas.
No obstante, su adopción plantea retos significativos en materia ética, legal y profesional, especialmente en países como Colombia, donde la regulación de estas tecnologías aún está en desarrollo.
Marco legal colombiano y responsabilidad médica
En Colombia no existe una ley específica sobre el uso de la IA en salud, pero si varios marcos normativos aplicables, se realiza el contexto de cada marco al uso de la IA en salud:
Ley 1480 de 2011 (Estatuto del consumidor): Si una herramienta de IA ocasiona daño por un funcionamiento defectuoso, podría considerarse responsabilidad del fabricante o proveedor del software (1).
Ley 1581 de 2012 (Protección de datos personales): Las herramientas de IA suelen requerir grandes volúmenes de datos, muchos de ellos sensibles. Se exige consentimiento informado y respeto por los principios de confidencialidad y finalidad (2).
Decreto 4725 de 2005: Los softwares utilizados para diagnóstico, predicción o tratamiento pueden clasificarse como dispositivos médicos y, por tanto, requieren la aprobación y vigilancia del INVIMA (3).
Ley 23 de 1981 (Código deontológico médico): El médico es el responsable final de la decisión clínica. Aunque se apoye en IA, debe actuar conforme a la “lex artis” (estándares aceptados de la práctica médica). Confiar de forma ciega en una recomendación automatizada podría constituir negligencia (4).
Consideraciones éticas en el uso de la IA para decisiones clínicas
Organizaciones internacionales como la OMS (5) y la UNESCO (6) han publicado lineamientos éticos que Colombia empieza a adoptar. Para la práctica médica, estos se resumen en:
- Supervisión humana permanente
- La IA debe ser un asistente, no un sustituto. El profesional conserva la responsabilidad y el control de las decisiones.
- Transparencia y explicabilidad
- El paciente debe saber que se utiliza IA en su proceso de atención. Además, el médico debe justificar las decisiones, explicando el rol que tuvo la IA.
- Privacidad y confidencialidad
- Se deben anonimizar los datos y proteger la información sensible en plataformas seguras. Es crucial documentar los protocolos de protección.
- No maleficencia y validación
- El software o modelo utilizado debe contar con validación científica. El uso de IA no confiable puede generar daño, directa o indirectamente.
- Equidad
- Si la IA se entrena con datos no representativos, puede perpetuar sesgos y perjudicar a poblaciones vulnerables. El médico debe vigilar estas posibles desigualdades.
- Capacitación continua
- Entender las capacidades, limitaciones y riesgos de la IA es un deber ético. No basta con usarla; es fundamental reconocer cuándo no emplearla.
Estado actual de la regulación en Colombia
En la actualidad, Colombia avanza en la construcción de un marco normativo para la IA. Hay al menos nueve proyectos de ley en discusión, entre ellos el Proyecto de Ley 091 de 2023 (7), que busca regular la seguridad, transparencia y supervisión humana en el uso de la IA. Asimismo, el documento CONPES de febrero de 2025 define la Política Nacional de Transformación Digital e IA (8), la cual incluye al sector salud.
Estas iniciativas contemplan:
- La creación de una Comisión de Tratamiento de Datos e IA.
- La obligación de informar al usuario cuando se emplean sistemas inteligentes.
- El derecho de los ciudadanos a solicitar la eliminación de sus datos.
- La exigencia de que las decisiones algorítmicas sean explicables y auditables.
En el ámbito sanitario, se espera que el INVIMA actualice sus lineamientos para clasificar formalmente los sistemas de IA como dispositivos médicos de alto riesgo, alineándose con iniciativas como el AI Act de la Unión Europea.
Retos actuales y vacío legal y procedimental
En muchas instituciones de salud colombianas, ya se utilizan escalas de riesgo cardiovascular, predictores de sepsis y clasificadores de gravedad basados en modelos estadísticos avanzados (regresiones multivariadas, redes neuronales, entre otros). Estas herramientas, a menudo desarrolladas por terceros, se aplican sin validaciones locales ni supervisión directa. De esta forma, inciden en el diagnóstico, tratamiento y priorización de pacientes, sin que exista una trazabilidad clara sobre su origen, validación científica en la población colombiana o autorización del INVIMA.
La gran pregunta es: ¿quién asume la responsabilidad si una decisión clínica basada en estas herramientas deriva en un desenlace adverso? El vacío legal y procedimental deja en incertidumbre tanto a nosotros los profesionales de la salud como a los pacientes. Por ello, resulta urgente desarrollar protocolos institucionales claros, evaluaciones regulatorias formales y lineamientos éticos específicos para el uso de cualquier herramienta digital con capacidad de inferencia clínica. Además, se requiere la obligatoriedad de documentar en la historia clínica el uso de estas herramientas, manteniendo siempre la supervisión humana en la decisión final.
Buenas prácticas para los médicos en Colombia al usar IA
Para una práctica segura y ética, el médico colombiano debería:
- Verificar la validación clínica de la herramienta de IA, asegurándose de su calidad y pertinencia.
- Informar al paciente sobre su empleo y obtener consentimiento si va a influir directamente en recomendaciones clínicas.
- Evitar incluir datos identificables en plataformas como ChatGPT, Claude, Gemini, u otras sin garantías adecuadas de confidencialidad.
- Documentar en la historia clínica el uso de la IA como parte del razonamiento clínico.
- Participar en capacitaciones sobre IA, bioética digital y derecho médico, para comprender tanto sus ventajas como sus limitaciones.
Con la rápida evolución de la IA y su creciente aplicación en la salud, es fundamental que el país continúe avanzando en la definición de marcos regulatorios y éticos claros. Solo así se podrá aprovechar todo el potencial de estas herramientas en beneficio de la práctica clínica y la seguridad de los pacientes
Referencias
1. Ley 1480 de 2011 – Gestor Normativo [Internet]. [cited 2025 Mar 27]. Available from: https://www.funcionpublica.gov.co/eva/gestornormativo/norma.php?i=44306
2. Ley 1580 de 2012 – Gestor Normativo [Internet]. [cited 2025 Mar 27]. Available from: https://www.funcionpublica.gov.co/eva/gestornormativo/norma.php?i=49622
3. Decreto 4725 de 2005 Nivel Nacional [Internet]. [cited 2025 Mar 27]. Available from: https://www.alcaldiabogota.gov.co/sisjur/normas/Norma1.jsp?i=18697
4. Ley 23 de 1981 Congreso de la República de Colombia [Internet]. [cited 2025 Mar 27]. Available from: https://www.alcaldiabogota.gov.co/sisjur/normas/Norma1.jsp?i=154130
5. La OMS esboza las cuestiones que cabe tener en cuenta a fin de regular la inteligencia artificial para la salud [Internet]. [cited 2025 Mar 27]. Available from: https://www.who.int/es/news/item/19-10-2023-who-outlines-considerations-for-regulation-of-artificial-intelligence-for-health
6. Recomendación sobre la ética de la inteligencia artificial – UNESCO Biblioteca Digital [Internet]. [cited 2025 Mar 27]. Available from: https://unesdoc.unesco.org/ark:/48223/pf0000381137_spa
7. R JDC, User S. Estado de los Proyectos de Ley y Actos Legislativos del H.Senado, consulta de textos e informes legislativos [Internet]. [cited 2025 Mar 27]. Available from: https://leyes.senado.gov.co/proyectos/index.php/textos-radicados-senado/p-ley-2023-2024/2997-proyecto-de-ley-091-de-2023
8. Documentos CONPES [Internet]. [cited 2025 Mar 27]. Available from: https://www.dnp.gov.co:443/LaEntidad_/subdireccion-general-prospectiva-desarrollo-nacional/direccion-desarrollo-digital/Paginas/Documentos-Conpes.aspx
