Meta etiquetará el contenido generado por IA de OpenAI y Google en Facebook e Instagram

Meta confirma el desarrollo de una nueva tecnología que etiquetará contenido generado por IA. Por ello, en los próximos meses, podremos presenciar la implementación de marcas de agua invisibles y metadatos incrustados en los archivos. Esto como una forma clara de informar a los usuarios que están interactuando con un medio “imaginado por IA”. Una innovación importante en un momento donde la desinformación es uno de los desafíos más preocupantes de esta tecnología.

El equipo de desarrolladores de Meta aseguro que esta nueva iniciativa se trata de una ampliación de prácticas ya existentes. En esencia, el objetivo de la compañía es distinguir claramente qué imágenes, textos o medios audiovisuales pertenecen a su propia herramienta de IA. Además, tienen la intención de incluir también imágenes creadas por modelos de IA desarrolladosporotrasempresas.

Meta anuncia que etiquetará imágenes generadas por compañías de IA

El anunció se llevó a cabo a principios de esta misma semana, cuando Meta confirmó que etiquetará imágenes generadas por IA de compañías destacadas como OpenAI y Google. Un giro estratégico que busca seguir el rastro de los constantes avances que existen dentro de dicho campo. A esto le seguiría una publicación en el blog oficial de compañía, donde Nick Clegg (Presidente de Asuntos Globales de Meta) se encargó de arrojar un poco más de luz sobre estos detalles.

Según el ejecutivo, Meta tiene como objetivo mejorar la transparencia en sus principales plataformas, como Facebook, Instagram y Threads. Con esto en mente, la compañía decidió implementar un enfoque que permita a los usuarios saber cuándo el contenido que están viendo fue generado digitalmente. Esta iniciativa de etiquetado de contenido se espera que comience a implementarse a partir del próximo año.

Asimismo, Meta manifestó que otro de sus objetivos es aprender y concientizar sobre cómo las personas crean y comparten contenido generado por IA. Es así como reconocen que esta transparencia es cada vez más valiosa a medida que estas tecnologías disruptivas evolucionan. De ahí que busca comprender las formas en que los usuarios interactúan con la IA y cómo influye en la difusión de información.

Meta se compromete a etiquetar contenido de IA de medios prominentes

El equipo esperar lograr esto gracias al desarrollo de herramientas especializadas en detección. Es por eso que Meta asegura que etiquetará imágenes de IA proveniente de medios prominentes como Google, OpenAI, Microsoft, Adobe, Midjourney y Shutterstock, entre otros.Al implementar “planes para agregar metadatos a las imágenes creadas por dichas herramientas”.

Sin embargo, Nick Clegg mencionó que actualmente no existe una forma efectiva de etiquetar el texto generado por IA. A pesar de que este tipo de contenido abunda en las plataformas de medios sociales. Sin mencionar que las herramientas existentes o “detectores” son completamente ineficientes en la práctica. Por lo que etiquetar adecuadamente el texto generado por IA sigue siendo un desafío para la industria digital.

Por ello, Meta admite que no será posible detectar al 100% todo el contenido generado por IA. Esto incluye, por ejemplo, algunas imágenes creadas con herramientas de IA de código abierto. Sin embargo, la compañía está comprometida en invertir valiosos recursos en el desarrollo de una tecnología de marca de agua de imágenes llamada Stable Signature. Esto con el objetivo de integrarla en generadores de imágenes de código abierto.

La importancia de identificar el contenido generado por IA

Como ya mencionamos, esta estrategia comenzará a implementarse a partir del próximo año. Según Clegg, esto se debe a que se llevarán a cabo una serie de elecciones en todo el mundo. Como el año electoral de EE.UU, que ya está empezando a experimentar difamación a través de audios, imágenes e información falsificada. Lo que no hace más que resaltar la importancia de identificar el contenido generado por IA para garantizar la transparencia de la información.

Además, el anuncio busca responder a los comentarios y recomendaciones de la junta de supervisión independiente, quienes concluyeron que es preferible etiquetar este tipo de contenido en lugar de eliminarlo por completo. Algo a lo que los ejecutivos mostraron su acuerdo, reconociendo que las políticas de Meta son insuficientes para gestionar grandes volúmenes de contenido generado automáticamente.

A pesar de los desafíos, el equipo de Meta se muestra confiado en que la compañía etiquetará efectivamente el contenido de IA en el futuro. Si bien estas herramientas aún se encuentran en desarrollo, el equipo se mantiene comprometido. Mientras tanto, las diferentes plataformas de la compañía requerirán que los usuarios etiqueten voluntariamente su contenido, aplicando sanciones a quienes incumplan esta medida.