Bienvenido a este foro. Te comparto el caso sobre el cuál compartirás tu opinión al respecto:
Un hospital implementa un chatbot médico basado en un modelo de lenguaje de terceros. El chatbot, en una consulta nocturna, indica una dosis incorrecta de un medicamento. Un paciente resulta perjudicado.
Frente a este caso se identifican 3 supuestos. ¿Quién crees que sea el responsable y por qué?
El desarrollador del modelo base ¿Debió advertir las limitaciones del modelo para uso médico crítico? ¿Sus términos de uso fueron suficientemente claros?
El desarrollador de la aplicación ¿Realizó pruebas suficientes en contexto médico? ¿Incluyó salvaguardas para decisiones de alto riesgo?
El hospital implementador ¿Evaluó los riesgos antes de desplegar el sistema? ¿Entrenó al personal? ¿Estableció protocolos de supervisión humana?
Comparte tu opinión con respeto, criterio y fundamento