«El parche está incompleto, y el estado del arte está cambiando. Pero esto no es algo único. Es el comienzo de aún más pruebas», dice Adam Clore de I + D de tecnología Integrated Technologies, un gran fabricante de ADN, que es coautor en el informe de Microsoft. «Estamos en una especie de carrera armamentista».
Para asegurarse de que nadie utilice mal la investigación, dicen los investigadores, no están revelando parte de su código y no revelaron qué proteínas tóxicas le pidieron a la IA que rediseñara. Sin embargo, algunas proteínas peligrosas son bien conocidas, como la ricina, un veneno que se encuentra en los granos de ricino, y los priones infecciosos que son la causa de la enfermedad de la vaca loca.
«Este hallazgo, combinado con rápidos avances en el modelado biológico habilitado para AI, demuestra la necesidad clara y urgente de los procedimientos de detección de síntesis de ácido nucleico mejorado mejorados junto con un mecanismo confiable de aplicación y verificación», dice Dean Ball, un compañero de la Fundación para la Innovación Americana, un grupo de expertos en San Francisco.
Ball señala que el gobierno de los Estados Unidos ya considera que la detección de ADN ordena una línea clave de seguridad. Pasado de mayo, en una orden ejecutiva sobre seguridad de investigación biológicaEl presidente Trump pidió una renovación general de ese sistema, aunque hasta ahora la Casa Blanca no ha publicado nuevas recomendaciones.
Otros dudan de que la síntesis de ADN comercial es el mejor punto de defensa contra los malos actores. Michael Cohen, un investigador de seguridad de IA en la Universidad de California, Berkeley, cree que siempre habrá formas de disfrazar las secuencias y que Microsoft podría haber hecho su prueba más difícil.
«El desafío parece débil y sus herramientas parcheadas fallan mucho», dice Cohen. «Parece haber una falta de voluntad para admitir que en algún momento pronto, tendremos que retirarse de este supuesto punto de estrangulamiento, por lo que debemos comenzar a buscar terreno que realmente podamos tener».
Cohen dice que la bioseguridad probablemente debería estar integrada en los mismos sistemas de IA, ya sea directamente o mediante controles sobre qué información dan.
Pero Clore dice que monitorear la síntesis de genes sigue siendo un enfoque práctico para detectar biothreats, ya que la fabricación de ADN en los Estados Unidos está dominada por algunas compañías que trabajan estrechamente con el gobierno. Por el contrario, la tecnología utilizada para construir y entrenar modelos AI está más extendida. «No puedes volver a poner ese genio en la botella», dice Clore. «Si tiene los recursos para tratar de engañarnos para que haga una secuencia de ADN, probablemente pueda entrenar un modelo de idioma grande».
