El Reino Unido y los Estados Unidos, junto con socios internacionales de otros 16 países, han publicado nuevas directrices para el desarrollo de sistemas seguros de inteligencia artificial (IA).
“El enfoque prioriza la propiedad de los resultados de seguridad para los clientes, adopta una transparencia y responsabilidad radicales y establece estructuras organizativas donde el diseño seguro es una prioridad máxima”, dijo la Agencia de Seguridad de Infraestructura y Ciberseguridad de EE. UU. (CISA).
El objetivo es aumentar los niveles de seguridad cibernética de la IA y ayudar a garantizar que la tecnología se diseñe, desarrolle e implemente de manera segura, agregó el Centro Nacional de Seguridad Cibernética (NCSC).
Las directrices también se basan en los esfuerzos continuos del gobierno de EE. UU. para gestionar los riesgos que plantea la IA, garantizando que las nuevas herramientas se prueben adecuadamente antes de su lanzamiento público, que existan barreras de seguridad para abordar los daños sociales, como los prejuicios y la discriminación, y las preocupaciones sobre la privacidad, y Establecer métodos sólidos para que los consumidores identifiquen el material generado por IA.
Los compromisos también exigen que las empresas se comprometan a facilitar el descubrimiento y la notificación por parte de terceros de vulnerabilidades en sus sistemas de inteligencia artificial a través de un sistema de recompensas por errores para que puedan ser encontradas y solucionadas rápidamente.
Las últimas directrices “ayudan a los desarrolladores a garantizar que la seguridad cibernética sea una condición previa esencial para la seguridad del sistema de IA y una parte integral del proceso de desarrollo desde el principio y en todo momento, lo que se conoce como un enfoque ‘seguro por diseño’”, dijo el NCSC.
Esto abarca el diseño seguro, el desarrollo seguro, la implementación segura y la operación y mantenimiento seguros, cubriendo todas las áreas importantes dentro del ciclo de vida del desarrollo del sistema de IA, lo que requiere que las organizaciones modelen las amenazas a sus sistemas, así como salvaguarden sus cadenas de suministro e infraestructura.