Microsoft ahora tiene un programa de recompensas por errores cuyo objetivo es encontrar problemas en la inteligencia artificial. Específicamente, el programa Microsoft AI Bounty se centra en rastrear vulnerabilidades en la “experiencia Bing” impulsada por IA de la propia empresa. Este término general cubre una sorprendente cantidad de productos y servicios.
Curiosamente, con este programa de recompensas Microsoft sólo ofrece recompensas por el descubrimiento de vulnerabilidades consideradas críticas o importantes. Aquellos que se consideren de gravedad moderada o baja no serán recompensados.
Con recompensas de hasta $15000 disponibles, el incentivo para que los investigadores de seguridad se involucren y ayuden a Microsoft a mejorar sus productos y servicios es bastante fuerte. Si bien el enfoque en la experiencia de Bing impulsada por IA puede parecer un poco limitado (no es que esto sea necesariamente motivo de queja o preocupación), Microsoft explica la gama completa de lo que es elegible:
- Experiencias de Bing impulsadas por IA en bing.com en el navegador (se admiten todos los proveedores principales, incluidos Bing Chat, Bing Chat for Enterprise y Bing Image Creator)
- Integración de Bing impulsada por IA en Microsoft Edge (Windows), incluido Bing Chat para empresas
- Integración de Bing impulsada por IA en la aplicación Microsoft Start (iOS y Android)
- Integración de Bing impulsada por IA en el Skype Aplicación Móvil (iOS y Android)
Existe margen para pagos más altos por descubrimientos de errores particularmente graves, pero Microsoft advierte que esto queda totalmente a su discreción.
La compañía también dice que existe la posibilidad de que se consideren otros descubrimientos de pagos, específicamente “vulnerabilidades individuales y/o cadenas de vulnerabilidades que conduzcan a resultados concretos dentro de estos dominios de ataque”. Esto incluye:
- Influir y cambiar el comportamiento del chat de Bing a través de los límites de los usuarios, es decir, cambiar la IA de manera que afecte a todos los demás usuarios.
- Modificar el comportamiento del chat de Bing ajustando la configuración visible del cliente y/o servidor, como establecer indicadores de depuración, cambiar indicadores de funciones, etc.
- Rompiendo las protecciones de memoria de conversaciones cruzadas y la eliminación del historial de Bing.
- Revelar el funcionamiento y las indicaciones internas de Bing, los procesos de toma de decisiones y la información confidencial.
- Evitar los límites y/o restricciones/reglas de la sesión del modo chat de Bing.
Se pueden encontrar todos los detalles del programa de recompensas de IA de Microsoft aquí.
Credito de imagen: liorpto / depositofotos
