Anthropic oznaczy teksty generowane przez Claude’a znakiem wodnym
Treści generowane przez AI muszą być oznaczane, by nie wprowadzać ludzi w błąd. Tego wymaga UE, Anthropic właśnie się do tego dostosowuje.
Twórcy Claude’a chcą dostosować się do wymagań Komisji Europejskiej (ustawy AI Act) i zapowiedzieli, że treści generowane przez ich model będą miały specjalny znak wodny. O czymś takim słyszeliśmy już wcześniej i tego typu tagi zwykle dotyczyły obrazów, wideo czy muzyki, ale teraz okazuje się, że Anthropic ma zamiar oznaczać tekst. Zadałem sobie jednak pytanie, w jaki sposób można coś takiego zrobić? Firma podzieliła się właśnie na swoim blogu szczegółami tego rozwiązania.
Znak wodny na tekstach wygenerowanych przez AI Anthropic ma być niewidzialny dla człowieka
Znak wodny na tekstach generowanych przez kolejne modele spod szyldu Claude, to wynik zapisów AI Act, ustawy, która reguluje działanie modeli sztucznej inteligencji w Unii Europejskiej. Nie tylko Anthropic będzie musiał oznaczać produkowane przez siebie treści, inni dostawcy modeli AI także są także zobligowani do przestrzegania prawa, a co tym idzie, pewnie wkrótce i rywale twórców Claude’a opublikują informacje o oznakowaniu tekstów. Anthropic podkreśla, że znak wodny nie będzie miał najmniejszego wpływu na jakość i zawartość merytoryczną czy sens generowanych odpowiedzi. Co więcej, ludzki czytelnik, ma nie być w stanie rozpoznać, czy dany fragment tekstu posiada znacznik czy też nie.
Oznaczenie nie będzie opierało się dodawaniu konkretnych słów, liter czy ukrytych symboli, dlatego ktoś, kto chciałby usunąć znak wodny, by nie dać się przyłapać na wklejaniu wygenerowanego tekstu, nie będzie w stanie tego zrobić. Gdy LLM tworzy dany tekst, poszczególne słowa w zdaniach generowane są na zasadzie jedno po drugim. Claude, chatGPT czy Gemini przez cały czas ma listę kolejnych, potencjalnych wyrazów, które pasują do poprzednich i tworząc zdanie po prostu losuje jedno z najbardziej prawdopodobnych i teoretycznie najlepiej pasujących do kontekstu. W znakowaniu chodzi o to, by do wybierania kolejnych słów nie używać generatora liczb losowych, ale by wybór odbywał się zgodnie z przyjętym kluczem. Anthropic tłumaczy to na konkretnym przykładzie:
Weźmy na przykład zdanie: „Dzisiaj było zimno i…”. Jest bardzo mało prawdopodobne, aby następnym słowem było „słodka”. Bardziej prawdopodobne jest jednak, że będzie to „pochmurna” lub „szara”. W większości przypadków dla czytelnika nie ma większego znaczenia, które z tych dwóch ostatnich słów model ostatecznie wybierze – znaczenie zdania pozostaje w obu przypadkach w dużej mierze takie samo. W takich sytuacjach wybór rozstrzyga losowa liczba.
Człowiek nie będzie wiedział, czy w przytoczonym zdaniu o pogodzie model powinien użyć słowa pochmurno czy szaro, ale narzędzie weryfikujące treść mające odpowiedni klucz będzie mogło jednoznacznie to zweryfikować. Jeśli zatem według klucza powinno to być pochmurno i taki wyraz znajdzie się w zdaniu, będzie wiadomo, że fragment został wygenerowany przez AI. Anthropic podkreśla, że nie oznacza to, że model za każdym razem określi dzień w którym jest zimno i jako pochmurny, bo jak wcześniej wspomniałem, każde kolejne słowo wynika niejako z poprzednich. Co więcej, konieczność użycia znaku wodnego nie ma też zmuszać Claude’a do używania słów, których ten nie miał zamiaru stosować. Generalnie rzecz biorąc, my mamy niczego nie zauważyć, ale maszyna sprawdzająca będzie wiedziała, czy dany tekst był lub nie był wygenerowany przez inną maszynę.
W trakcie wewnętrznych testów nie zaobserwowaliśmy żadnego wpływu znaków wodnych na treść, poziom kreatywności ani czytelność tekstów generowanych przez Claude’a. W artykule „SynthID-Text”, w którym przedstawiono stosowaną przez nas technikę, zespół Google DeepMind zbadał ten wpływ, udostępniając model wykorzystujący znak wodny części ruchu w serwisie Gemini i porównując oceny pozytywne oraz negatywne. Nie stwierdzono żadnych statystycznie istotnych różnic w porównaniu z modelem bez znaku wodnego.
Co także istotne, tekst generowany ze znakiem wodnym nie wymaga większej ilości tokenów niż jego odpowiednik bez wymaganych prawnie oznaczeń i jak zapewnia Anthropic na podstawie znaku nie da się zidentyfikować konkretnego użytkownika, nie ma też możliwości powiązania oznaczenia z konkretnym czatem. Anthropic zwraca też uwagę, że o ile generując tekst zawsze istnieje pewien wybór w doborze kolejnego słowa, o tyle generując kod takiej możliwości nie ma, dlatego znaki wodne będą mogły znaleźć się co najwyżej w komentarzach.
