OpenAI ha lanzado una herramienta diseñada para identificar si una imagen fue generada mediante DALL-E. Además, participa en una iniciativa sectorial para identificar contenido generado mediante tecnologías de IA.

OpenAI está trabajando en nuevas herramientas de detección de imágenes con IA. La reconocida startup de inteligencia artificial ha incorporado una nueva herramienta para identificar si una imagen fue creada con su generador de imágenes DALL-E, además de introducir métodos de marca de agua avanzados para marcar de forma más evidente el contenido generado por sus sistemas.

En un reciente artículo, OpenAI anunció que ha comenzado a desarrollar nuevos métodos para rastrear contenido y comprobar si fue generado por IA. Esto incluye un nuevo clasificador de detección de imágenes — que de hecho utiliza IA —para determinar si la foto fue generada por IA, así como una marca de agua resistente a manipulaciones que puede etiquetar contenido como audio con señales invisibles. La empresa espera que estas marcas de agua sean difíciles de eliminar.

OpenAI dijo que su nuevo detector podría identificar correctamente el 98.8% de las imágenes creadas por DALL-E 3, la última versión de su generador de imágenes. Pero la compañía dijo que la herramienta no fue diseñada para detectar imágenes producidas por otros generadores populares como Midjourney y Stability.

Al igual que los gigantes tecnológicos Google y Meta, la compañía se unirá al comité directivo de la Coalición para la Procedencia y Autenticidad del Contenido, o C2PA, un esfuerzo para desarrollar credenciales para contenido digital. El estándar C2PA es una especie de “etiqueta nutricional” para imágenes, vídeos, clips de audio y otros archivos que muestra cuándo y cómo fueron producidos o alterados, incluso con IA.

Según Open AI, las personas aún pueden crear contenido engañoso sin esta información (o pueden eliminarlo), pero no pueden falsificarla ni alterarla fácilmente, lo que la convierte en un recurso importante para generar confianza.

“Para impulsar la adopción y la comprensión de los estándares de procedencia, incluido C2PA, nos unimos a Microsoft para lanzar un fondo de resiliencia social. Este fondo de $2 millones apoyará la educación y la comprensión de la IA, incluso a través de organizaciones como Older Adult Technology Services de AARP. , IDEA Internacional y Asociación sobre IA”, dijo la compañía.

Tanto el clasificador de imágenes como la señal de marca de agua de audio aún se están perfeccionando. OpenAI dice que necesita recibir comentarios de los usuarios para probar su eficacia. Los investigadores y los grupos de periodismo sin fines de lucro pueden probar el clasificador de detección de imágenes aplicándolo a la plataforma de acceso a investigaciones de OpenAI.

¿Qué sigue para la autenticación de contenido?

Aunque las soluciones técnicas mencionadas anteriormente proporcionan herramientas valiosas para fortalecer nuestras defensas, OpenAI admite que garantizar la autenticidad del contenido en la práctica demandará un esfuerzo conjunto. “Es necesario que plataformas digitales, creadores de contenido y agentes intermediarios colaboren para mantener los metadatos asociados, lo cual facilitaría a los consumidores finales tener transparencia respecto al origen del contenido”.

“Nuestros esfuerzos en torno a la procedencia son solo una parte de un esfuerzo más amplio de la industria: muchos de nuestros laboratorios de investigación pares y empresas de IA generativa también están avanzando en la investigación en esta área. Elogiamos estos esfuerzos: la industria debe colaborar y compartir ideas para mejorar nuestra comprensión y continuar promoviendo la transparencia en línea”, dijo OpenAI.

Un Media Manager para que los propietarios de contenido puedan gestionar cómo se utilizan sus obras en IA

OpenAI está desarrollando Media Manager, una herramienta que permitirá a los creadores y propietarios de contenido indicarnos qué poseen y especificar cómo quieren que sus obras sean incluidas o excluidas de la investigación y entrenamiento de aprendizaje automático.

“Esto requerirá investigación de vanguardia en aprendizaje automático para construir una herramienta de este tipo por primera vez para ayudarnos a identificar textos, imágenes, audio y vídeos con derechos de autor en múltiples fuentes y reflejar las preferencias de los creadores. Estamos colaborando con creadores, propietarios de contenido y reguladores mientras desarrollamos Media Manager. Nuestro objetivo es tener la herramienta en su lugar para 2025, y esperamos que establezca un estándar en toda la industria de la IA”, dijo la empresa hoy en otra entrada de su blog.

Fuente: Wired