Los investigadores encuentran, y ayudan a arreglar, una amenaza de bioseguridad oculta | Microsoft Signal Blog

Las proteínas son los motores y los bloques de construcción de la biología – alimentando cómo los organismos se adaptan, piensan y funcionan. La IA está ayudando a los científicos a diseñar nuevas estructuras de proteínas a partir de secuencias de aminoácidos, abriendo puertas a nuevas terapias y curas.

Pero con ese poder también viene una seria responsabilidad: muchas de estas herramientas son de código abierto y podrían ser susceptibles al mal uso.

Para comprender el riesgo, los científicos de Microsoft mostraron cómo las herramientas de diseño de proteínas AI de código abierto (AIPD) podrían aprovecharse para generar miles de versiones sintéticas de una toxina específica, alterando su secuencia de aminoácidos al tiempo que preservan su estructura y potencialmente su función. El experimento, realizado por simulación por computadora, reveló que la mayoría de estas toxinas rediseñadas podrían evadir los sistemas de detección utilizados por las compañías de síntesis de ADN.

Ese descubrimiento expuso un punto ciego en la bioseguridad y, en última instancia, condujo a la creación de un esfuerzo colaborativo y intersector dedicado a hacer que los sistemas de detección de ADN sean más resistentes a los avances de IA. En el transcurso de 10 meses, el equipo trabajó discretamente y rápidamente para abordar el riesgo, formulando y aplicando nuevos procesos de «equipo rojo» para desarrollar un «parche» que se distribuyó a nivel mundial a las compañías de síntesis de ADN. Su papel revisado por pares, Publicado en Science el 2 de octubredetalla sus hallazgos iniciales y Acciones posteriores que fortalecieron las salvaguardas globales de bioseguridad.

Eric Horvitz, director científico de Microsoft y Lead del Proyecto, explica más sobre lo que todo esto significa:

En los términos más simples, ¿qué pregunta se propuso responder su estudio y qué encontró?

Partí con Bruce Wittmann, un bioscientista aplicado en mi equipo, para responder a la pregunta: «¿Podrían usarse las herramientas de diseño de proteínas de IA de hoy en día para rediseñar proteínas tóxicas para preservar su estructura, y potencialmente su función, mientras evade la detección por herramientas de detección actuales?» La respuesta a esa pregunta fue que sí, pudieron.

La segunda pregunta fue: «¿Podríamos diseñar métodos y un estudio sistemático que nos permita trabajar de manera rápida y silenciosa con las partes interesadas clave para actualizar o parchear esas herramientas de detección para que sean más resistentes?» Gracias al estudio y los esfuerzos de los colaboradores dedicados, ahora podemos decir que sí.

¿Qué revela su investigación sobre las limitaciones de los sistemas actuales de bioseguridad y qué tan vulnerables somos hoy?

WE descubrió que el software y los procesos de detección eran inadecuados para detectar una versión «parafraseada» de secuencias de proteínas relacionadas. El diseño de proteínas alimentadas con IA es una de las áreas más emocionantes y rápidas de IA en este momento, pero esa velocidad también plantea preocupaciones sobre los usos posibles malévolos de las herramientas AIPD. Tras el lanzamiento del proyecto parafraseo, creemos que hemos llegado bastante lejos en caracterizar y abordar las preocupaciones iniciales en un período de tiempo relativamente corto.

Hay múltiples formas en que la IA podría ser mal utilizada para diseñar biología, incluidas áreas más allá de las proteínas. Esperamos que estos desafíos persistan, por lo que habrá una necesidad continua de identificar y abordar las vulnerabilidades emergentes. Esperamos que nuestro estudio brinde orientación sobre métodos y mejores prácticas en las que otros pueden adaptarse o construir. Esto incluye la adaptación de métodos de escenarios de respuesta a emergencias de ciberseguridad y técnicas de desarrollo para el «equipo rojo» para la IA en biología – sImitando los roles de atacantes y defensores para probar, evadir y mejorar la detección de AI generó amenazas.

¿Qué es lo que más te sorprendió de tus hallazgos?

Hubo varias sorpresas en el camino. Fue sorprendente ver cuán efectivamente un equipo intersector podría unirse tan rápido y colaborar tan estrechamente a velocidad, formando un grupo cohesivo que se reunió regularmente durante meses. Reconocemos los riesgos, alineados en el enfoque, adaptados a una serie de hallazgos y comprometidos con el proceso y el esfuerzo hasta que desarrollamos y distribuimos una solución.

También nos sorprendió, e inspiramos, por el poder de las herramientas AIPD ampliamente disponibles en las ciencias biológicas, no solo para predecir la estructura de proteínas sino para habilitar el diseño de proteínas personalizadas. Las herramientas de diseño de proteínas AI están haciendo que este funcione sea más fácil y más accesible. Esa accesibilidad reduce la barrera de la experiencia requerida, acelerando el progreso en biología y medicina, pero también puede aumentar el riesgo de mal uso. Espero que algunas de las mayores victorias de IA vengan en las ciencias de la vida y la salud, pero nuestro estudio destaca por qué debemos mantenernos proactivos, diligentes y creativos en la gestión de riesgos.

¿Puedes explicar por qué la gente cotidiana debería preocuparse por que la IA se use en biología? ¿Cuáles son los beneficios y cuáles son los riesgos del mundo real?

Creo que es importante que todos comprendan el poder y la promesa de estas herramientas de IA, considerando tanto su increíble potencial para permitir que los avances que cambian el juego en biología y medicina y nuestra responsabilidad colectiva de garantizar que beneficien a la sociedad en lugar de causar daño.

Ser capaz de identificar y diseñar nuevas estructuras de proteínas abre vías para comprender la biología más profundamente: cómo operan nuestras células en los fundamentos de la salud, el bienestar y la enfermedad, y cómo desarrollar nuevas curas y terapias. Algunas de las primeras aplicaciones involucraron proteínas agregadas a los detergentes de lavandería, optimizados para eliminar las manchas. Más recientemente, el progreso ha cambiado hacia esfuerzos sofisticados para construir proteínas personalizadas para funciones biológicas específicas, como nuevos antídotos para contrarrestar el veneno de serpiente.

TEstos avances que cambian de paradigma probablemente conducirán, en nuestras vidas, a avances como desacelerar o curar el cáncer, abordar las enfermedades inmunes, mejorar las terapias, desbloquear misterios biológicos y detectar y mitigar las amenazas para la salud antes de que se propagen. Al mismo tiempo, estas herramientas pueden explotarse de manera dañina. Es por eso que es fundamental para emparejar innovación con salvaguardas: avances técnicos proactivos de la forma en la que nos centramos en nuestro trabajo, supervisión regulatoria y ciudadanos informados.

¿Qué quieres que el público más amplio le quite a tu estudio? ¿Deberíamos preocuparnos, optimistas o ambos?

Casi todos los principales avances científicos son el «doble uso»: ofrecen beneficios profundos pero también conllevan riesgos. Es importante proteger contra los peligros al tiempo que aprovecha los beneficios, especialmente en la IA para la biología y la medicina, donde el potencial de progreso en la salud es enorme.

Nuestro estudio muestra que es posible invertir simultáneamente en innovación y salvaguardas. Al construir barandillas, políticas y defensas técnicas, podemos ayudar a garantizar que las personas y la sociedad se beneficien de la promesa de la IA al tiempo que reducen el riesgo de mal uso dañino. Este enfoque dual no solo se aplica a la biología: es un marco de cómo la humanidad debería invertir en la gestión de los avances de IA en disciplinas y dominios.

Imagen principal: los investigadores descubrieron que era posible preservar los sitios activos de la proteína (ilustrado por las letras KE), mientras que la secuencia de aminoácidos se reescribió.