Google ha reforzado la seguridad en la música generada por IA incorporando marcas de agua inaudibles llamadas SynthID. Esta iniciativa tiene como objetivo garantizar la comodidad de las creaciones y una capa adicional de transparencia y trazabilidad.
Google continúa centrándose en aumentar la seguridad en la música producida por su inteligencia artificial (IA) mediante la incorporación de marcas de agua inaudibles.
Esta iniciativa tiene como objetivo proporcionar una forma confiable de identificar si se utilizó la tecnología de inteligencia artificial de Google en la creación de una pista, lo que contribuye a la transparencia del contenido generado.
Protección innovadora: SynthID
La marca de agua, llamada SynthID, se aplicará al audio generado por el modelo Lyria AI, desarrollado por DeepMind, colaborador de Google.
La principal innovación de SynthID es su función inaudible, diseñada para no afectar la experiencia auditiva del oyente.
Incluso en situaciones como mejoras de audio, ralentización o adición de ruido, la marca de agua sigue siendo detectable.
En medio de los avances en la IA generativa, la implementación de marcas de agua surge como respuesta a las preocupaciones relacionadas con los daños y la prevención de falsificaciones.
La orden ejecutiva del presidente estadounidense Joe Biden destaca la necesidad de estándares gubernamentales para el etiquetado de contenido generado por IA, y las marcas de agua como SynthID representan una medida crucial en este contexto.
¿Cómo funciona Google SynthID?
El proceso de solicitud de SynthID implica convertir la forma de onda de audio en una visualización bidimensional que representa la evolución del espectro de frecuencia a lo largo del tiempo.
El enfoque único presentado por DeepMind destaca como una innovación y proporciona una capa adicional de seguridad ante las lesiones generadas por la IA.
Lanzado inicialmente en versión beta para imágenes creadas en Vertex AI de Google Cloud, SynthID ahora se extiende al audio generado por IA.
La exitosa aplicación de las marcas de agua en imágenes ha motivado su expansión para asegurar no sólo la integridad visual sino también auditiva de las creaciones basadas en inteligencia artificial.
Desafíos y limitaciones
Si bien SynthID representa un avance significativo en la protección contra cambios no deseados, DeepMind advierte que no es inmune a “manipulaciones extremas”.
La investigación y el desarrollo continuos son esenciales para mejorar las capacidades de seguridad y garantizar la eficacia en diversos escenarios.
La incorporación de marcas de agua inaudibles en el audio generado por IA marca un paso importante en la búsqueda de la seguridad en la era de la inteligencia artificial.
SynthID ofrece una solución innovadora y contribuye a la transparencia y trazabilidad de las creaciones musicales provenientes de modelos de IA, lo que promueve un entorno más confiable y ético en el uso de estas tecnologías.
La evolución constante de estas herramientas refleja el compromiso de Google de abordar los desafíos emergentes en el panorama de la IA generativa.
