Firefly jednak nie takie czyste? Wstydź się Adobe

Adobe chwaliło się, że jej model AI jest inny niż wszystkie. Okazuje się, że to nie do końca prawda.

Adobe ogłosiło swojego konkurenta dla Midjourney w marcu zeszłego roku. Narzędzie to kolejny model txt2img, które jednak miało być gratką dla tych, którzy chcą generować treści do użytku komercyjnego, ponieważ miał być szkolony na setkach milionów licencjonowanych obrazów profesjonalnej jakości w Adobe Stock wraz z treściami na otwartej licencji i treściami należącymi do domeny publicznej, do których wygasły prawa autorskie.

Rachel Metz z Bloomberga donosi jednak, że wcale tak nie jest i Adobe Firefly korzysta także z innych źródeł, co podważa jego podstawową zaletę – bezpieczeństwo w kontekście wykorzystania grafik, na potrzeby zleceń komercyjnych, czym chwaliło się Adobe.

Adobe kłamało w sprawie Firefly?

Artykuł Rachel Metz dla Bloomberga ujawnił, że dane treningowe Firefly zawierały obrazy wygenerowane przez sztuczną inteligencję, w tym przez modele takie jak Midjourney. Czy więc Adobe kłamało w sprawie Firefly? Nie do końca. Adobe wykorzystało Adobe Stock jako źródło danych szkoleniowych. Problem polega na tym, że sam Adobe Stock zawiera obrazy generowane przez sztuczną inteligencję przesłane przez współpracowników firmy.

Adobe już wcześniej deklarowało, że około 5% obrazów wykorzystanych do szkolenia Firefly zostało wygenerowanych przez sztuczną inteligencję. Podkreślało jednak, że wszystkie obrazy zaakceptowane do włączenia do Adobe Stock w tym bardzo mały podzbiór obrazów wygenerowanych za pomocą sztucznej inteligencji przechodzą rygorystyczny proces moderacji, aby upewnić się, że nie zawierają własności intelektualnej, znaków towarowych, rozpoznawalnych postaci lub logo ani nie odnoszą się do nazwisk artystów. Było to jednak kwestionowane przez artystów, którzy wpisując w wyszukiwarkę stocka swoje nazwisko, znajdowali przerobione prace, wygenerowane przez AI.

Adobe zaczęło akceptować treści generowane przez sztuczną inteligencję w Adobe Stock w 2022 roku, a obecnie istnieje ponad 50 milionów obrazów oznaczonych jako generowane przez sztuczną inteligencję. Według anonimowych źródeł w Adobe cytowanych przez Bloomberga istniały wewnętrzne spory na ten temat, a niektórzy kwestionowali etykę korzystania z obrazów generowanych przez sztuczną inteligencję. Przeważyła jednak opcja, której wyznawcą jest chociażby Mat Hayward, argumentujący, że obrazy generowane przez sztuczną inteligencję ulepszają nasz (Adobe dop. aut.) model szkolenia zbioru danych.

Meta doda etykiety „Made with AI” do obrazów i filmów już w maju

Czy więc Firefly AI jest komercyjnie bezpieczna w użyciu? Adobe twierdzi, że tak, i jest o tym tak przekonany, że jego plan Enterprise oferuje odszkodowanie w przypadku, gdy użytkownicy zostaną pozwani za korzystanie z treści, które produkuje. Najnowsze doniesienia burzą jednak mit Adobe, że Firefly jest inny. Gigant technologiczny być może nie trenował swojego generatora obrazów AI na nielicencjonowanych obrazach, ale trenował go na obrazach wyprodukowanych przez generatory, które były.