Microsoft lanzó un programa de recompensas por errores que ofrece recompensas de hasta 15.000 dólares por encontrar vulnerabilidades en sistemas de inteligencia artificial, con el objetivo de mejorar la seguridad de la inteligencia artificial a través de pruebas de seguridad externas.

El alcance inicial del programa cubrirá las funciones impulsadas por IA en Bing, incluidas Bing Chat, Bing Image Creator e integraciones de Bing en Microsoft Edge, la aplicación Microsoft Start y Skype.

La compañía destacó este nuevo programa de recompensas en una presentación en la conferencia de seguridad BlueHat. Su objetivo es incentivar a los investigadores de seguridad a encontrar errores y fallas en los productos de inteligencia artificial de Microsoft antes de que actores maliciosos puedan explotarlos.

Microsoft afirma en un anuncio:

“Como compartimos en nuestra publicación de blog de revisión del año de recompensas el mes pasado, estamos constantemente creciendo, iterando y evolucionando nuestros programas de recompensas para ayudar a los clientes de Microsoft a mantenerse a la vanguardia en el panorama de seguridad en constante cambio y las tecnologías emergentes”.

El programa de recompensas de Microsoft se amplía para incluir IA

El nuevo programa de recompensas de Microsoft es una extensión de un programa existente, que ha otorgado más de 13 millones de dólares a investigadores. Se produce después de que la compañía actualizara recientemente sus calificaciones de gravedad de vulnerabilidades para sistemas de IA y realizara un desafío de investigación de seguridad de IA.

Según los términos del programa de recompensas, las vulnerabilidades elegibles deben cumplir con los umbrales de criticidad de Microsoft, no haber sido reportadas previamente e incluir pasos claros y reproducibles.

Las presentaciones se juzgarán según la severidad técnica y la calidad del informe.

El pago mínimo de recompensa es de 2.000 dólares por una falla de gravedad moderada, y va desde 15.000 dólares por vulnerabilidades críticas. Es posible obtener recompensas más altas a discreción de Microsoft por problemas con un impacto significativo en el cliente.

Como participar

Los investigadores interesados ​​en participar pueden enviar vulnerabilidades a través del portal del Centro de respuesta de seguridad de Microsoft.

Microsoft recomienda una caza de recompensas ética utilizando cuentas de prueba y evitando al mismo tiempo la exposición de los datos del cliente o la denegación de servicio.

El alcance del programa se limita a las vulnerabilidades técnicas en las experiencias de Bing impulsadas por IA. Algunas acciones no están permitidas, como acceder a datos que no le pertenecen, explotar problemas del lado del servidor más allá de demostrar una prueba de concepto y ejecutar pruebas automatizadas que generan mucho tráfico.

En resumen

El programa de recompensas por errores de IA de Microsoft indica un enfoque más amplio de la industria en identificar y revelar de manera responsable las vulnerabilidades en los sistemas de IA antes de que puedan ser explotadas.

Si bien se limitan a las funciones de IA de Bing, las recompensas pueden ampliarse más adelante a medida que Microsoft desarrolle y asegure más capacidades de IA.

Imagen de portada: Andrii Yalanskyi/Shutterstock