Pangram amplía su herramienta de detección de imágenes y videos generados por IA

·por Henderson·AI
Pangram amplía su herramienta de detección de imágenes y videos generados por IA

Pangram, la empresa que produce una herramienta de detección de texto generada por inteligencia artificial ampliamente utilizada, ha lanzado recientemente una nueva herramienta para marcar imágenes y videos generados por IA. Con esta actualización, los suscriptores de Pangram pueden subir videos y recibir una evaluación sobre si estos fueron creados o editados con inteligencia artificial. La compañía afirma que la herramienta puede distinguir entre fragmentos de video "parcialmente generados por IA" y "totalmente generados por IA". Además, la herramienta cuenta con un "mapa de calor" que puede marcar aspectos del video que podrían haber sido generados por IA.

Según la información proporcionada por la compañía, el modelo que respalda su capacidad de detección de videos "destaca en la detección de videos generados por IA de vanguardia", y en pruebas, ha demostrado ser más efectivo que otras herramientas de detección para identificar videos generados por IA. Pruebas internas han mostrado que el modelo de video puede marcar contenido generado por IA con una precisión superior al 98%. Pangram también ha mejorado su capacidad de detección de imágenes generadas por IA. La compañía había lanzado previamente una versión de vista previa de su modelo de imágenes, Pangram Image 1.0, que ahora está disponible a través de la extensión de Chrome de la compañía, la cual puede escanear automáticamente imágenes y marcar aquellas que podrían ser generadas por IA mientras los usuarios navegan.

La nueva herramienta de Pangram mejora la precisión en la detección de contenido generado por IA

Según la compañía, su modelo de imágenes puede marcar imágenes generadas por IA con una precisión superior al 99% en pruebas, y la tasa de falsos positivos es solo del 0.27%. Sin embargo, al igual que otras herramientas de detección de imágenes generadas por IA, existen algunas limitaciones. La compañía indica que cuando la resolución es inferior a 512 x 512, "los resultados vendrán acompañados de una declaración de confianza reducida". Esto podría explicar por qué el CEO de Pangram, Max Spero, mostró en una demostración de la extensión de Chrome en el sitio de Pinterest resultados de "incertidumbre" para dos imágenes que evidentemente no eran fotografías originales.

Spero señaló que el desarrollo de su modelo de detección de imágenes también enfrenta otros desafíos. "La mayoría de las cámaras de teléfonos móviles, incluyendo el iPhone, realizan cierto grado de post-procesamiento con inteligencia artificial para agregar detalles a las fotografías reales", explicó en una publicación en el sitio X. "Debemos construir un modelo que sea robusto frente a este tipo de post-procesamiento, al mismo tiempo que entendemos la diferencia visual entre la edición con IA y la generación completamente por IA." Mencionó a Pirate Wires que la compañía retrasó el lanzamiento de su modelo de imágenes para realizar pruebas en varios iPhone 18 Pro, ya que su modelo inicialmente marcaba las imágenes tomadas con estas cámaras como generadas por IA.

Las nuevas capacidades de detección de imágenes y videos generados por IA de Pangram ya están disponibles para todos los usuarios con suscripción a Pangram. La compañía permite a los usuarios con cuentas gratuitas verificar un número limitado de imágenes sin necesidad de registrarse en un plan de pago.

H
Sobre el autor
Henderson