El software producido por el Servicio Nacional de Salud suele estar abierto al público.
Marek Perkon/Alay
NHS England está eliminando apresuradamente de la vista pública todo el software que ha escrito porque corre el riesgo de ser pirateado por inteligencia artificial de última generación. Los expertos en seguridad dijeron que la medida es innecesaria y contraproducente.
El software producido por el Servicio Nacional de Salud ha sido de código abierto y figura en GitHub porque fue creado con dinero público. Esto permite a otras organizaciones aprovecharlo y brindar mejores servicios de manera más asequible sin duplicar esfuerzos.
Pero el NHS de Inglaterra ha emitido nuevas directrices para el personal, que han compartido con ellos. Nuevo científicoexigiendo que el software actual y futuro se mantenga fuera de la vista del público y se mantenga a puerta cerrada. «Todos los repositorios de código fuente deben ser privados por defecto. Los repositorios no deben ser públicos a menos que exista una necesidad explícita y excepcional, y el acceso público haya sido aprobado formalmente», dice la nueva guía. El último día para hacer que el código sea privado finalizará el 11 de mayo.
El mes pasado, se reveló que una IA de Anthropic llamada Mythos era capaz de encontrar errores en casi cualquier software, permitiendo a los piratas informáticos ingresar a los sistemas que lo ejecutan.
La guía del NHS de Inglaterra señala específicamente a Mythos como la causa de las nuevas medidas. «Los repositorios públicos aumentan significativamente el riesgo de divulgación inadvertida del código fuente, decisiones arquitectónicas, detalles de configuración e información contextual explotable, especialmente dados los rápidos avances en los modelos Al capaces de ingerir, inferir y razonar sobre código a gran escala (por ejemplo, desarrollos como el modelo Mythos)», se lee. «Esta línea roja establece la postura cerrada predeterminada del código mientras la organización evalúa el impacto de estos cambios y garantiza que cualquier publicación pública del código sea una decisión deliberada, revisada y justificada».
Sin embargo, el Instituto de Seguridad de IA (AISI), respaldado por el gobierno del Reino Unido, investigó Mythos y descubrió que solo era capaz de atacar «sistemas empresariales pequeños, débilmente defendidos y vulnerables», y concluyó que no había indicios de que un software o una red verdaderamente seguros pudieran verse comprometidos.
Las nuevas medidas van en contra del estándar del servicio NHS, que exige que el software producido por el personal sea de código abierto. «Los servicios públicos se construyen con dinero público. Entonces, a menos que haya una buena razón para no hacerlo, el código subyacente debe estar disponible para que otras personas lo reutilicen y desarrollen. El código fuente abierto puede evitar que los equipos se dupliquen (esfuerzos) y ayudarlos a construir mejores servicios más rápido», dice la política anterior.
El software de código abierto para servicios públicos también genera mayor confianza y transparencia. Por ejemplo, si se hubiera hecho público el código del sistema informático Horizon que llevó a la Oficina de Correos del Reino Unido a procesar a personas inocentes por presunto robo y fraude, el escándalo podría no haberse prolongado durante años.
Terence Eden, que tiene una amplia experiencia trabajando para abrir el acceso a datos públicos en la administración pública del Reino Unido, dice que la medida no tiene sentido lógico.
«¿Es posible que Mythos escanee un almacén y encuentre un error? Sí, es 100 por ciento probable. ¿Será un error que causará un problema de seguridad en un servicio NHS activo en algún lugar? Es casi seguro que no», dice Eden. «Creo que alguien en el NHS de Inglaterra está un poco asustado de que los Mitos vayan a significar el fin de la seguridad tal como la conocemos».
Eden dice que el software de código abierto es en realidad más seguro porque muchas personas tienen la oportunidad de ver errores y la mayoría del software del NHS no es crítico para la seguridad de ninguna manera. Fundamentalmente, dado que el código ha estado disponible públicamente durante años, seguirá existiendo en varias copias de seguridad y descargas.
«Cerrarla ahora es como cerrar la puerta del granero después de que el caballo se haya ido», dice Eden. «Yo y las personas con las que he hablado dentro del NHS estamos completamente confundidos acerca de lo que están tratando de lograr».
NHS England y el Departamento de Salud y Asistencia Social no respondieron a las solicitudes de comentarios a tiempo para su publicación.
Temas:
