Az Anthropic vízjelet tesz a Claude által generált szövegekre

Az Anthropic a Claude által generált szövegekbe is beépíti az AI-eredetet jelző vízjelet. A technológia nem egyszerű feliratként működik: magának a szövegnek lesz része, így másolás és beillesztés után is megmaradhat, sőt bizonyos szerkesztéseket is túlélhet.

A változás közvetlenül azután érkezik, hogy augusztus 2-án alkalmazandóvá váltak az Európai Unió AI Actjének új transzparenciaszabályai. Ezek alapján a generatív AI-rendszerek szolgáltatóinak géppel olvasható módon kell jelölniük a mesterséges intelligenciával létrehozott vagy manipulált tartalmakat, amennyiben ez technikailag megvalósítható. 

Az Anthropic megoldásának egyik érdekes tulajdonsága éppen az, hogy a jelölés nem feltétlenül tűnik el akkor, amikor a felhasználó kiviszi a szöveget a Claude felületéről. A cég tájékoztatása szerint a vízjel együtt utazhat a kimásolt tartalommal, és bizonyos mértékű utólagos szerkesztést is átvészelhet.

Ez fontos különbség a hagyományos metaadatokhoz képest. Egy dokumentumhoz vagy képhez csatolt információ könnyen elveszhet formátumváltáskor, képernyőmentésnél vagy egy új platformra történő feltöltéskor. Ha azonban a jelölés magában a generált tartalomban van elrejtve, jóval nehezebb véletlenül megszabadulni tőle.

A nagy kérdés persze az, mennyire nehéz szándékosan eltávolítani.

Egyelőre nem világos, hogy néhány mondat átírása, komolyabb szerkesztés vagy a szöveg másik AI-modellel történő újrafogalmazása után mennyi marad felismerhető az eredeti jelből. Márpedig ezen múlik, hogy a vízjelezés valódi eredetkövető rendszer lesz-e, vagy inkább olyan jelzés, amely a hétköznapi másolást kibírja, de tudatos manipulációval kijátszható.

Az Anthropic a technológiát modelloldalon építi be. Ez azt jelenti, hogy elvileg nem azon múlik a jelölés, melyik alkalmazáson keresztül született a tartalom: ugyanaz az alapelv követheti a különböző Claude-felületeken és fejlesztői környezetekben generált szöveget.

Az új modelleknél a vízjelezés már az augusztus 2. utáni korszak része, a korábbi rendszereket pedig fokozatosan hozzáigazítják az új követelményekhez. Az EU szabályozása az augusztus 2. előtt piacra került rendszerek esetében átmeneti időszakot is lehetővé tesz: ezeknél 2026. december 2-ig tart a megfelelési türelmi idő. 

A változás mögött jóval nagyobb folyamat zajlik annál, mint hogy egy technológiai vállalat új funkciót kapcsol be.

Az AI-ipar éveken keresztül arra koncentrált, hogy a generált tartalom minél kevésbé legyen megkülönböztethető az ember által készítettől. Most ennek részben az ellenkezője válik követelménnyé: úgy kell egyre jobb mesterséges tartalmat előállítani, hogy közben gépi szinten felismerhető maradjon annak eredete.

Az EU AI Act 50. cikke pontosan ebbe az irányba tolja a piacot. A szabályozás nem egyszerűen egy minden tartalomra ráhelyezendő, szemmel látható „AI-val készült” feliratot követel. A szolgáltatói oldalon géppel olvasható jelölés és felismerhetőség a cél, míg bizonyos deepfake-eknél és közérdekű tájékoztatásra szánt AI-szövegeknél további közzétételi kötelezettségek is megjelennek. 

Ez azért lényeges, mert a vízjel valódi közönsége sok esetben nem az ember lesz, hanem egy másik rendszer. Egy közösségi platform, kereső, szerkesztőségi eszköz vagy tartalomellenőrző szolgáltatás elvileg felismerheti, hogy az adott anyag AI-rendszerből származik, és ennek megfelelően kezelheti.

A megközelítés ráadásul nem kizárólag szövegre alkalmazható. A generatív zene, a képek és a videók piacán ugyanez a probléma jelenik meg: miközben egyre nehezebb pusztán érzékszerveink alapján eldönteni, mi szintetikus, egyre fontosabbá válik a tartalom eredetének technikai igazolása.

Az EU által támogatott transzparenciakódex ezért a vízjelezés mellett más géppel olvasható megoldásokkal is számol. Maga a kódex önkéntes eszköz, amellyel a vállalatok demonstrálhatják megfelelésüket; az AI Act vonatkozó transzparenciakötelezettségei viszont augusztus 2-tól már alkalmazandók. 

A következő csata így valószínűleg már nem arról szól majd, felismeri-e egy ember az AI-szöveget a furcsa mondatokból vagy a túl szabályos bekezdésekből. Ahogy a modellek jobbak lesznek, ezek a kapaszkodók egyre kevésbé működnek.

Az AI-tartalom eredetét ezért lassan nem olvasni, hallani vagy látni kell majd tudnunk, hanem ellenőrizni. És ha a vízjelezés valóban ellenáll a másolásnak és legalább bizonyos mértékű szerkesztésnek, az Anthropic mostani lépése ennek az új internetnek az egyik fontos építőeleme lehet.