Hospital General de San Juan del Río · 2 de septiembre de 2026
Inteligencia artificial
en la práctica clínica:
oportunidades, límites
y responsabilidad médica.
Por
Walter Rosales
oportunidades·límites·responsabilidad
Hoy, no mañana
Lee una retina en segundos.
Redacta la nota mientras hablas.
Clasifica la imagen antes que el residente.
La IA ya pasa consulta. Eso ya no es futuro: es martes.
¿Y quién responde
cuando se equivoca?
Escanear · formulario
Antes de seguir · saquen el teléfono
Cinco preguntas.
Dos minutos.
Anónimo. No pide nombre ni correo. Nadie va a saber quién escribió qué.
02:00
PARA RESPONDER
La ética no empieza
en el algoritmo.
Empieza en la firma.
El buen médico
sabe cuándo no sabe.
Y sabe por qué no sabe.
Puede rastrear su duda hasta el origen: el dato que falta, el síntoma que no encaja,
la vez que se equivocó — y lo cargó.
ARISTÓTELES LO LLAMÓ PHRONESIS: LA SABIDURÍA QUE SOLO DA HABERSE EQUIVOCADO
Lo que ve el modelo
Tú ves un ocho.
Él ve esto.
Una retina, una radiografía, un rostro: para el modelo todo llega igual — una tabla de números entre 0 y 255.
«Dolor», para el modelo
Un punto en un espacio de miles de dimensionesTokenización · embeddings
La ética se escribió para quien
siente, duda y carga.
¿Qué es la ética
para quien solo ve números?
Un modelo no duda.
Emite un número.
«Confianza: 0.87» no es una duda. Es una estadística vestida de certeza.
De ahí viene la palabra
Responsable:
el que puede responder.
Responder es dar razones. Quien no puede dar razones, no puede responder.
Y quien no puede responder, no puede ser responsable.
Esto es lo que pasa cuando empiezas a poner IA en la práctica
ESTE ES UN MODELO QUE VE IMÁGENES — COMO EL NÚMERO QUE VISTE HACE UN RATO
Construí un modelo de detección
y lo puse a trabajar en un hospital.
Instituto Mexicano de Oftalmología, 2022. El boom de la IA todavía no empezaba — y yo ya tenía que decidir qué hacer con esto.
oportunidades·límites·responsabilidad
Así funciona, sin importar quién te lo venda
Modelos que detectan hallazgos
en la imagen del ojo,
y clasificaciones médicas
construidas encima.
Detecciones fijas. Sin razonamiento total detrás: patrón, y ya. Así lo construí en el IMO — y es lo que vas a encontrar en cualquier proveedor que te toque a ti.
Funciona.
Y cabe en una máquina portátil.
Listo para llevarse a donde no hay especialista. La oportunidad es real — y te va a tocar la puerta, si no lo ha hecho ya.
Pero lo que a ti te va a importar no es verlo acertar. Es que sepas preguntar de dónde sale el acierto.
Cómo se fabrica ese acierto
Miles de imágenes.
Una etiqueta puesta por alguien, en cada una.
Un modelo que aprende a repetir esa etiqueta.
Un modelo no aprende medicina. Aprende a repetir la etiqueta que alguien puso.
Y todo lo que sigue depende de esa palabra: alguien.
Dos especialistas.
Una imagen.
Dos diagnósticos.
Pasa todos los días, en todos los hospitales. Entonces:
¿a cuál de los dos le enseñas al modelo a creerle?
El terreno de verdad
¿Quién etiquetó
la verdad?
Detrás de cada dataset hay alguien que decidió qué era cada imagen.
¿Quién fue? ¿Con qué formación? ¿Quién lo revisó a él?
La etiqueta hereda todo lo humano de quien la puso.
¿Y de dónde vienen esas imágenes?
Estados Unidos.
Europa.
India. China.
Casi nunca de aquí.
Los usamos porque son lo que hay. Y al contrastarlos con pacientes de aquí,
los resultados no coinciden del todo: el modelo aprendió de ojos que no son estos ojos.
Un diagnóstico solo se confirma en dos lugares
En el paciente.
O en la enfermedad ya avanzada.
Todo lo demás es una opinión con etiqueta. Y con opiniones entrenamos modelos.
Puede acertar
más que tú.
Y no te va a poder explicar
por qué.
Yo ya firmé con esa incertidumbre. Por eso hago esto ahora.
Antes de confiar en cualquier sistema — el mío incluido — pregunto esto.
Sí importa quién etiquetó los datos y de qué población vienen. Pero lo que de verdad decide si confías o no es esto:
01
¿Puede mostrarte de dónde sale su decisión?
02
¿Queda registro de quién decidió, antes de aplicarse?
Dos preguntas. Ninguna la responde el vendedor. Todas las responde el sistema, si está bien hecho — y la decisión, siempre, la firmas tú.
Esto es lo que enfrentamos en Galenus
No es teoría.
Es lo que construimos para
responder esas preguntas.
oportunidades·límites·responsabilidad
Galenus · cómo se ve eso en un expediente real
ESTE ES UN MODELO QUE VE PALABRAS — COMO EL VECTOR QUE VISTE HACE UN RATO
Una IA que nunca escribe sola.
propone→
el médico revisa→
decide campo por campo
→ se aplica
Nada entra a la nota sin pasar por alguien que sí puede responder por ello.
Captura real · Cortex, el expediente de Galenus
Cada dato dice de dónde salióTextual · Interpretado · Dudoso
Si el campo no existe en la nota,
la sugerencia muere.
El sistema descarta cualquier propuesta que apunte a un lugar que no está en pantalla.
Alucinar un destino es, por diseño, imposible.
La bitácora se escribe
antes que el expediente.
Primero queda constancia de quién decidió qué — aceptó, corrigió o rechazó.
Si ese registro falla, no se aplica nada. Es la disciplina del expediente clínico, hecha código.
Captura real · Centro de auditoría, Cortex de Galenus
Quién abrió cada expediente, y cuándoReporte listo para el auditor
Una cifra que no está en los datos
tira el párrafo entero.
Cuando la IA redacta un análisis, cada número se coteja contra la fuente.
Uno solo inventado, y ese texto completo se descarta.
Cumplir la norma
es el piso.
La responsabilidad es
lo que construyes encima.
NOM-024-SSA3-2012 · NOM-004-SSA3-2012 · EXPEDIENTE CLÍNICO ELECTRÓNICO
Captura real · revisión NOM-004 antes de firmar, en Cortex de Galenus
Avisa. No detiene. No sustituye el criterio del médico.«Finalizar de todos modos» sigue ahí
Con la misma honestidad · lo que sigue abierto en Galenus
Esto no está resuelto.
Se sigue construyendo.
Los datos clínicos con los que entrenamos siguen viniendo, casi todos, de fuera de aquí. La lógica detrás de cada sugerencia todavía no es tan legible como debería. Cumplir la norma es apenas el piso — construir el resto toma tiempo, no una versión.
EL AVANCE ES REAL. LA TAREA NO ESTÁ TERMINADA.
Esto fue lo que les pregunté
01
¿Cuánto confías hoy en una sugerencia de IA en tu consulta?Escala · 0 a 10
02
¿Cuánto confías en una respuesta dada por IA que un paciente trae a tu consulta?Escala · 0 a 10
03
¿En qué momento de tu consulta sí confiarías en una?Respuesta libre
04
¿En cuál nunca?Respuesta libre
05
Si el modelo se equivoca y tú firmaste, ¿de quién es la responsabilidad?Yo · el modelo · el fabricante · compartida
Contestaron con la verdad. Esto es lo que salió.
Así confía esta sala.
Con sus respuestas · hace unos minutos
EN VIVO
38 respuestas · cuatro patrones claros en cuándo dicen que sí confiarían:
El terreno conocido (6 de 38) — cuando el tema ya lo dominan: «En cosas básicas» · «Cuando de ante mano conozco el tema»
El verificador (6 de 38) — cuando puede contrastarla con fuentes: «Cuando resuelve dudas mediante fuentes de información y yo lo verifico» · «Cuando reviso si tiene bibliografía»
El apoyo administrativo (4 de 38) — para redactar, no para decidir: «Para la redacción de una nota» · «Redactar»
El escéptico total (5 de 38) — no confiaría en ningún momento: «Nunca» · «No lo creo» · «Ninguno»
Y en «¿en cuál nunca confiarías?», casi la mitad — 18 de 38 — nombró lo mismo sin que nadie se los sugiriera: diagnóstico, tratamiento o una decisión crítica.
El terreno conocido (6 de 38) — cuando el tema ya lo dominan: «En cosas básicas» · «Cuando de ante mano conozco el tema»
El verificador (6 de 38) — cuando puede contrastarla con fuentes: «Cuando resuelve dudas mediante fuentes de información y yo lo verifico» · «Cuando reviso si tiene bibliografía»
El apoyo administrativo (4 de 38) — para redactar, no para decidir: «Para la redacción de una nota» · «Redactar»
El escéptico total (5 de 38) — no confiaría en ningún momento: «Nunca» · «No lo creo» · «Ninguno»
Y en «¿en cuál nunca confiarías?», casi la mitad — 18 de 38 — nombró lo mismo sin que nadie se los sugiriera: diagnóstico, tratamiento o una decisión crítica.
Agrupado de lo que escribieron en «sí confiaría» y «nunca confiaría». Nombres puestos hoy, para esta sala.
Pregunta 01 × pregunta 05 · esta sala, hoy
EN VIVO
100%
De quienes confían alto (≥ 7 en la pregunta 01) en una sugerencia de IA, el 100% — 20 de 20 — dice que si el modelo se equivoca y firmaron, la responsabilidad es completamente suya. Nadie la comparte con el modelo ni con el fabricante. En toda la sala (38 respuestas), solo 1 marcó "compartida"; nadie marcó al modelo o al fabricante.
No es una estadística importada. La escribieron ustedes hace veinte minutos.
La misma IA, leyendo sus propias respuestas
¿Qué diría la máquina de esto?
LEÍDO POR IA
Hay una asimetría que la sala no dijo en voz alta pero que sus números delatan: confían más en su propio uso de la IA (6.3/10) que en la misma IA cuando la trae un paciente (4.7/10) — casi dos puntos de diferencia, sobre las mismas 38 respuestas. No es la herramienta la que cambia de confiabilidad. Es quién la sostiene.
Y aun con esa confianza relativamente alta en su propio uso, cuando se les preguntó dónde nunca confiarían, casi la mitad — 18 de 38 — nombró, sin que nadie se los sugiriera, lo mismo: diagnóstico, tratamiento o una decisión crítica. El límite que ponen no es "la IA se equivoca", es "esto es mío para decidir".
Y aun con esa confianza relativamente alta en su propio uso, cuando se les preguntó dónde nunca confiarían, casi la mitad — 18 de 38 — nombró, sin que nadie se los sugiriera, lo mismo: diagnóstico, tratamiento o una decisión crítica. El límite que ponen no es "la IA se equivoca", es "esto es mío para decidir".
No es un resumen mío. Es lo que un modelo encuentra al cruzar lo que escribieron con lo que calificaron.
Lo que cambia cuando preguntas esto
No dejas de usar la IA.
Dejas de firmarla a ciegas.
Sigues siendo tú quien decide. Con más preguntas hechas, no con más miedo encima.
Si se llevan una sola cosa
Úsala.
LAS OPORTUNIDADES SON REALES
Dúdala.
LOS LÍMITES TAMBIÉN
Fírmala tú.
LA RESPONSABILIDAD NO SE ENTRENA
Oportunidades, límites, responsabilidad. Era el título.
No firmas menos porque
la IA escribe más rápido.
Firmas lo mismo, más rápido,
con menos excusas
para no haber leído.
Walter Rosales
@walterr_rosales
walter-rosales.com
Hospital General de San Juan del Río · 02 · 09 · 2026
Escanear · charla completa
Aquí terminó la charla
Lo que sigue
es el registro.
Las láminas de arriba son para una sala. Las de abajo son para leer después:
las explicaciones completas y todas las fuentes.
Explicación 1
La duda que se puede rastrear
- El buen clínico sabe cuándo no sabe — y por qué. Puede reconstruir el camino de su incertidumbre: qué dato falta, qué no encaja, qué caso previo lo hace dudar. Esa trazabilidad es lo que Aristóteles llamó phronesis: sabiduría práctica, formada por la experiencia de haberse equivocado y cargado con ello.
- Un modelo de detección de patrones no tiene ese rastro. Emite un puntaje de confianza — una propiedad estadística de su entrenamiento, no un estado epistémico. «0.87» no significa «dudo por esta razón»; significa «casos parecidos a este cayeron aquí».
- Por eso la responsabilidad no se puede delegar al modelo. Responder es, literalmente, dar razones. Un sistema que no puede dar razones puede predecir, pero no puede responder — y la responsabilidad se queda, por diseño, del lado de quien firma.
Explicación 2
El terreno de verdad
- Los modelos aprenden de etiquetas, no de la realidad. Dos especialistas frente a la misma imagen pueden dar diagnósticos distintos; el dataset registra uno como «verdad». Salvo confirmación en el propio paciente o en la enfermedad ya avanzada, esa etiqueta es una opinión experta — valiosa, pero opinión.
- Los datos vienen de otras poblaciones. La mayoría de los datasets clínicos abiertos son estadounidenses y europeos. Se usan porque son lo que hay — y al contrastarlos con población local, los resultados no coinciden del todo. El sesgo no es hipotético: en 2019 se documentó un algoritmo de gestión de salud en EE. UU. que subestimaba sistemáticamente la necesidad de pacientes negros (Obermeyer et al., Science).
- El giro pendiente: de patrón a razonamiento. Los modelos de detección fija (hallazgos en imagen → clasificación) aciertan sin explicar. La exigencia actual — y el trabajo en iGalenus — es que la lógica detrás de la decisión sea visible y auditable, no solo el resultado.
Explicación 3
Responsabilidad por diseño
Cuatro mecanismos en producción, no en teoría — de Galenus, el expediente clínico con IA que hoy opera con médicos en México. No como logro terminado: como lo que seguimos explorando.
- Human-in-the-loop real. La IA propone; el médico revisa, edita o rechaza cada campo, uno por uno, antes de que nada se escriba en la nota.
- Alucinación de destino imposible. El servidor descarta toda sugerencia cuyo campo no exista en el formulario activo de esa nota.
- Auditoría antes que expediente. El registro de decisiones (quién aceptó, corrigió o rechazó qué) se guarda antes de tocar la nota; si falla, no se aplica nada.
- Cifras cotejadas contra la fuente. En los análisis redactados por IA, un solo número que no exista en los datos descarta ese texto completo.
Verificable
Fuentes
Ziad Obermeyer, Brian Powers, Christine Vogeli, Sendhil Mullainathan, Dissecting racial bias in an algorithm used to manage the health of populations. Science, 2019.El caso documentado de sesgo algorítmico en salud: el algoritmo usaba el gasto médico como proxy de necesidad, subestimando a pacientes negros.
FDA, autorización de IDx-DR, abril de 2018.Primer sistema de IA autorizado en EE. UU. para detectar retinopatía diabética sin interpretación de un especialista — la referencia de lo que la IA de imagen ya puede hacer de forma regulada.
NOM-024-SSA3-2012 y NOM-004-SSA3-2012, Secretaría de Salud, México.Sistemas de información de registro electrónico para la salud y expediente clínico. El piso normativo del que habla la charla.
DGIS, GIIS-B015 v4.11 — Guía de intercambio de información en salud, Consulta Externa, 2024.106 variables con validación cruzada y umbrales duros de bloqueo: lo que cuesta, en la práctica, cumplir la norma.
Aristóteles, Ética a Nicómaco, libro VI.Phronesis: la sabiduría práctica que solo se forma con experiencia cargada — el fundamento del argumento epistemológico.
Experiencia propia, Instituto Mexicano de Oftalmología (2022–2025) e iGalenus (2024–).Despliegue clínico de modelos de detección en imagen oftalmológica y expediente clínico con IA en uso con médicos. Lo dicho en la charla sobre discrepancia de etiquetas, contraste con datasets extranjeros y salvaguardas es testimonio de primera mano.