La intel·ligència artificial d'Anthropic, coneguda com a Claude, ha fet un pas endavant en la transparència dels seus continguts. La companyia ha anunciat que tots els models llançats a partir del 2 d'agost incorporaran un sistema de marcatge invisible als textos que generin. Aquesta mesura, que s'aplicarà de manera global, cerca alinear-se amb les exigències de la Unió Europea en matèria d'identificació de contingut sintètic.
L'objectiu principal és que qualsevol text produït per Claude pugui ser identificat com a tal, sense que l'usuari noti cap diferència en la qualitat o la llegibilitat. La marca daigua no es veu a simple vista, però roman incrustada en el text fins i tot quan es copia i enganxa en altres plataformes. Aquesta iniciativa respon al Codi de Bones Prà ctiques sobre Transparència del Contingut Generat per IA, signat per més de 190 organitzacions, ia la Llei d'IA de la UE, que des de l'agost exigeix ​​marcar aquests continguts.
La decisió d'Anthropic no és casual. La normativa europea obliga les empreses d'IA a etiquetar els continguts sintètics perquè els usuaris els puguin distingir dels creats per humans. L'article 50.2 de la Llei d'IA estableix que els proveïdors han de garantir que els resultats dels sistemes estiguin marcats en un format llegible per mà quina. Anthropic, juntament amb altres grans tecnològiques com OpenAI, Google, Meta o Microsoft, ha signat aquest codi de transparència, encara que empreses com xAI d'Elon Musk encara no s'han adherit.
La companyia ha explicat que el marcatge es realitza de dues maneres: per a imatges i grà fics, s'utilitzen metadades basades en l'està ndard C2PA (Coalition for Content Provenance and Authenticity); per a textos, es fa servir una marca d'aigua invisible que s'integra al mateix procés de generació. Aquesta marca no altera el significat ni la qualitat de les respostes i es transmet juntament amb el text quan es copia, s'exporta o es comparteix mitjançant una API.
El sistema es basa en la seqüència de tokens que el model genera. En lloc d'afegir carà cters ocults o metadades visibles, la marca queda codificada a l'elecció de paraules quan hi ha diverses opcions igualment và lides. Per exemple, davant la frase «el cel estava…», el model pot triar «ennuvolat» o «gris». Amb la marca daigua, aquesta elecció no és aleatòria, sinó que depèn duna clau criptogrà fica i de les paraules anteriors. AixÃ, qui posseeixi la clau pot determinar estadÃsticament si el text va ser generat per Claude.
Aquest mètode, que ja s'utilitza en altres sistemes com SynthID de Google, no afegeix cost ni latència al procés. La detecció de la marca no és infal·lible : si el text s'edita, es parafraseja, es tradueix o es barreja amb un altre contingut, la marca pot desaparèixer. A més, en fragments molt curts o en codi, el senyal és més feble. Anthropic reconeix que l'absència de marca no vol dir que el contingut no hagi estat generat per IA, i que la presència d'una marca tampoc no és concloent sobre l'autoria real.
La companyia ha detallat que la marca d‟aigua s‟aplica a tots els models llançats des del 2 d‟agost, i que els models anteriors rebran l‟actualització de forma progressiva. La mesura és global, no només per a Europa , i afecta tots els productes de Claude, inclosos l'API, Claude Code, Claude Cowork i les plataformes de tercers com ara la infraestructura d'AWS , Google Cloud o Microsoft Foundry. Tot i això, la detecció pública encara no està disponible: Anthropic ha anunciat que en unes setmanes publicarà una eina perquè usuaris i tercers puguin verificar si un text porta la marca.
Una altra limitació important és que la marca no permet identificar lusuari ni la conversa original. Tampoc no distingeix si el text va ser creat des de zero o si Claude només va ajudar a corregir, traduir o resumir un contingut previ. Això ha generat crÃtiques, ja que la normativa europea exclou explÃcitament les tasques dedició està ndard, però Anthropic aplica la marca a tots els usos. Tot i aquestes imperfeccions, la mesura suposa un avenç en la lluita contra la desinformació i l'ús indegut de la IA.
La decisió d'Antropic s'emmarca en un moviment més ampli de la indústria. OpenAI, Google, Meta, Microsoft i Mistral també han signat el Codi de Transparència i estan implementant sistemes semblants. Tot i això, la manca d'un està ndard unificat i les limitacions tècniques fan que la detecció no sigui perfecta. Per exemple, fer una captura de pantalla duna imatge pot eliminar les metadades C2PA, i reescriure un text del tot pot esborrar la marca daigua.
A nivell educatiu i professional, aquestes eines de marcatge podrien ser útils per identificar treballs generats per IA, però els experts adverteixen que no són una solució definitiva. Anthropic mateix insisteix que la marca no és una prova d'autoria, sinó un senyal de probabilitat. A mesura que la tecnologia evolucioni, és probable que vegem sistemes més robustos, però ara com ara, la transparència continua sent un repte pendent.
En definitiva, la incorporació de marques d‟aigua invisibles a Claude representa un pas important per complir amb la regulació europea i oferir als usuaris més informació sobre l‟origen dels continguts. Tot i que el sistema té limitacions, és un avenç significatiu en la direcció correcta. La comunitat tecnològica estarà atenta a l'eina de detecció que Anthropic promet llançar properament, i com altres empreses s'adapten a aquesta nova realitat.