Mejorando la Seguridad en Modelos de Inteligencia Artificial de Adobe

Tapar los agujeros de seguridad es vital para mantener seguros los modelos de inteligencia artificial generativa de Adobe, evitando así que actores malintencionados, la generación de imágenes dañinas y otros posibles abusos. Adobe ha ampliado su programa de recompensas por errores para incluir Credenciales de Contenido y Adobe Firefly, con el objetivo de fortalecer la protección de sus proyectos de inteligencia artificial más recientes y grandes.

Credenciales de Contenido

Las Credenciales de Contenido son metadatos a prueba de manipulaciones adjuntos a contenido digital que funcionan como una “etiqueta de nutrición”, permitiendo a los usuarios ver los “ingredientes” del contenido, como:
– El nombre del creador.
– La fecha de creación.
– Las herramientas utilizadas para crear la imagen (incluidos los modelos de inteligencia artificial generativa).
– Las ediciones realizadas.

Programa de Recompensas por Errores

1. Adobe está fomentando los esfuerzos de seguridad para las Credenciales de Contenido a través de su programa de recompensas por errores para reforzar las protecciones contra posibles abusos, como adjuntar incorrectamente credenciales al contenido equivocado.
2. Algunos generadores de imágenes de inteligencia artificial, como Adobe Firefly, adjuntan automáticamente Credenciales de Contenido al contenido generado por IA.

Participación en el Programa

Para participar en el programa de recompensas por errores, los investigadores de seguridad interesados pueden:
1. Visitar la página de Adobe HackerOne.
2. Solicitar a través de un formulario que pregunta sobre la investigación de seguridad y la experiencia del solicitante.

Otros Detalles

Además de las Credenciales de Contenido y Adobe Firefly, el programa de recompensas por errores está disponible para:
– La mayoría de las aplicaciones web de Adobe.
– Las versiones de escritorio y móviles de sus aplicaciones Creative Cloud.