Anthropic introduce un sistema de etiquetado invisible para contenidos generados por IA
Anthropic ha anunciado la implementación de un innovador sistema de etiquetado invisible, diseñado para evidenciar la participación de su modelo de inteligencia artificial, Claude, en la creación, edición y procesamiento de textos. Sin embargo, expertos en el área advierten sobre la posible facilidad con que este mecanismo podría ser eludido, dado el funcionamiento técnico inherente a los sistemas de inteligencia artificial.
Este nuevo sistema se enmarca dentro de los compromisos de la empresa para cumplir con la normativa europea, concretamente el artículo 50 (2) de la Ley de IA, que desde el 2 de agosto exige a las empresas tecnológicas etiquetar de forma clara los contenidos generados o manipulados por esta tecnología en asuntos de interés público. Anthropic ha señalado que el etiquetado será una característica predeterminada en sus futuros modelos de IA, mientras trabaja en la adaptación de sus algoritmos existentes, aprovechando el periodo de gracia de cuatro meses que ofrece la legislación para implementar estos cambios.
Características del nuevo sistema de etiquetado
La compañía ha detallado que el etiquetado variará dependiendo del tipo de contenido generado. En el caso de imágenes o gráficos creados por IA, se incluirán metadatos que evidencien su origen, basados en el estándar abierto de la Coalición para la Procedencia y Autenticidad del Contenido (C2PA). Por su parte, los textos se marcarán con una especie de marca de agua invisible, que se mantendrá incluso al copiar y pegar el contenido en otras plataformas, y que podría perdurar tras ciertas ediciones.
Según la información proporcionada por Anthropic, “la marca de agua se aplicará a nivel de modelo”, lo que significa que estará presente sin importar el producto específico de Claude o la plataforma de donde se origine el texto. La compañía asegura que esta marca no alterará ni el significado, la calidad ni la legibilidad de las respuestas generadas por Claude.
Desafíos del etiquetado en la generación de texto por IA
A pesar de los esfuerzos por mejorar la transparencia en el uso de la inteligencia artificial, la efectividad del nuevo sistema de etiquetado ha sido puesta en entredicho. Los modelos de lenguaje, como Claude o ChatGPT, operan bajo principios estadísticos donde el algoritmo selecciona entre una vasta cantidad de opciones de palabras y frases, basándose en probabilidades. Esto plantea un desafío para el etiquetado, ya que los sistemas existentes suelen depender de patrones de escritura que podrían no aparecer de manera natural.
La marca invisible se identifica a través de un patrón estadístico específico, que debe ser reconocido por herramientas diseñadas para tal fin. Sin embargo, si se realizan ediciones sustanciales al contenido generado, o si se procesa nuevamente a través de otra IA, la posibilidad de identificación se complica. Además, la presencia de la marca no garantiza que el contenido sea completamente original de la IA, ya que puede ser influenciado por el input del usuario, como en el caso de la corrección de un texto personal.
Limitaciones y retos para la identificación de contenidos generados por IA
Las dificultades en la identificación de contenidos generados por IA no son un fenómeno reciente; estas preocupaciones han estado presentes desde el lanzamiento de sistemas similares, como SynthID de Google. Aunque Anthropic no ha revelado los detalles técnicos de su mecanismo, se sugiere que su funcionamiento pueda ser similar al de otros sistemas en el mercado. La empresa también ha reconocido que su sistema de etiquetado puede no incluir una marca detectable en ciertos casos, especialmente si el texto ha sido editado, parafraseado o mezclado de manera significativa con otros contenidos.
¿Es más confiable el etiquetado de contenidos multimedia?
En la actualidad, no existe un mecanismo infalible para el etiquetado o la detección de textos invisibles generados por IA. Este reto también se extiende a los contenidos multimedia, aunque ha habido avances en la implementación del estándar C2PA, que proporciona metadatos criptográficos invisibles sobre la creación de imágenes, videos y otros formatos, permitiendo una identificación más precisa. Este protocolo ha sido adoptado por importantes empresas del sector, incluidas OpenAI y Meta.
A pesar de las protecciones que ofrece el C2PA, los metadatos pueden ser vulnerables a cambios en el formato de archivo o a capturas de pantalla. La necesidad de desarrollar capacidades efectivas para identificar contenidos generados por IA es una prioridad tanto para organismos reguladores como para las empresas tecnológicas, buscando combatir la desinformación y facilitar la transparencia en el consumo de información en línea.
Reflexiones finales sobre la eficacia del etiquetado de IA
A pesar de los avances, el etiquetado sigue lejos de ser una solución definitiva. La Ley de IA de la Unión Europea, que exige tanto marcas invisibles como indicaciones visibles, reconoce estas limitaciones. Los expertos sugieren que el sistema de etiquetado propuesto por Anthropic parece más un intento de alinearse con la legislación que una herramienta efectiva para combatir la desinformación. De hecho, su impacto real dependerá de la combinación con otros mecanismos de verificación y del contexto en el que se utilice.
