Este estudio analiza el uso malintencionado de la IA generativa multimodal actualmente, con el objetivo de ayudar a desarrollar y utilizar modelos de inteligencia artificial generadora más seguros y responsables. Los avances en esta tecnología permiten una nueva era de creatividad y oportunidades comerciales, sin embargo, también aumenta la posibilidad de su uso malintencionado. Google, como parte de su compromiso con la IA responsable, ha publicado un nuevo artículo en colaboración con Jigsaw y Google.org analizando cómo se abusa de las tecnologías de IA generativas hoy en día. Para ello, recopilaron y analizaron aproximadamente 200 informes de medios de comunicación que documentan casos públicos de uso malintencionado de IA generativa entre enero de 2023 y marzo de 2024.
A partir de estos datos, definieron e identificaron tácticas comunes de uso malintencionado de IA generativa y descubrieron nuevos patrones en la forma en que estas tecnologías se están utilizando para fines malintencionados o comprometidas. La identificación de las amenazas actuales y tácticas utilizadas en diferentes tipos de productos de IA generativa puede ayudar a diseñar gobernanza de IA y a guiar a las empresas como Google y otras en el desarrollo de evaluaciones de seguridad más integrales y estrategias de mitigación. Algunas categorías principales de uso malintencionado de la IA generativa incluyen explotación de capacidades de IA generativa y compromiso de sistemas de IA generativa. Los actores malintencionados combinan sus tácticas generativas inapropiadas del uso de la Inteligencia Artificial (IA) para lograr diversos objetivos. Hemos identificado combinaciones específicas de mal uso y etiquetado estas combinaciones como estrategias. Diagrama que muestra cómo los objetivos malintencionados se relacionan con sus estrategias inapropiadas (derecha). Las formas emergentes del uso indebido de la IA generativa, que no son necesariamente deliberadamente malignas, siguen presentando preocupaciones éticas y políticas, ya que se está desafiando las líneas entre lo auténtico e inventedo. Por ejemplo, el gobierno hablando súbitamente en una variedad de idiomas favorables a los votantes sin una revelación transparente de que están usando IA generativa, y activistas que utilizan la IA para manipular el contenido. Mientras que este estudio ofrece ideas nuevas sobre las formas emergentes del uso indebido, es importante señalar que esta muestra de datos es limitada en comparación con los informes de los medios. Los incidentes, que a su vez pueden influir el conjunto de datos hacia ciertos tipos de uso indebido y ser más desafiante para los involucrados por la naturaleza novedosa de los sistemas de IA generativos. La comparación entre el uso indebido de sistemas de IA generativos y las tácticas tradicionales de manipulación del contenido, como la edición de imágenes o la creación de 'granjas de contenido' para producir grandes cantidades de texto, vídeo, GIFs, imágenes y más. Hasta ahora, la evidencia anecdótica sugiere que las tácticas tradicionales de manipulación del contenido son aún más frecuentes.
