Czym jest deepfake?

Kobieta idąca przed grupą fotografów robiących zdjęcia na ulicy.
© Dostarczane przez android.com.pl
O tym, co dzieje się na świecie, dowiadujemy się głównie z internetu. Jednak w dobie fake newsów i zjawiska określanego jako deepfake wyłuskanie tego, co jest prawdą — albo chociaż wiarygodnym przekazem, jest coraz trudniejsze. Nikon, Sony Group i Canon pracują nad wbudowaniem cyfrowych podpisów w swoich aparatach, które będą działać jako dowód pochodzenia i integralności obrazów.

Deepfake to rodzaj fałszywej treści, w której twarz jednej osoby jest nakładana na ciało lub twarz innej osoby w filmie (a także głos w nagraniu audio). Technologia ta wykorzystuje sztuczną inteligencję (AI) do tworzenia bardzo realistycznych fałszywych treści.
Technologia ta wykorzystywana jest do politycznych manipulacji czy promowania treści pornograficznych, a także do przestępstw związanych z kradzieżą tożsamości i phishingiem. Wraz ze wzrostem liczby i wiarygodności fałszywych obrazów, coraz częściej podejmowane są próby walki z rozprzestrzenianiem się deepfake — choć efektów na razie nie widać.

Zdjęciaz twarzą papieża, w które uwierzyły miliony, okazały się dziełem AI – stoi za nimi Pablo Xavier Fot. @vince19visuals / TikTok
Sony, Canon i Nikon będą działać wspólnie:
Producenci aparatów fotograficznych chcą walczyć z tym problemem, wprowadzając nową technologię, która może weryfikować autentyczność zdjęć. Zamierzając umieszczać w swoich aparatach podpisy cyfrowe, które pozwolą użytkownikom weryfikować autentyczność fotografii. Wprowadzają również globalną inicjatywę (wraz z agencjami informacyjnymi i instytutami technologicznymi) o nazwie „Verify”, która pozwoli użytkownikom sprawdzać autentyczność obrazów za darmo.

Nikon, Sony Group i Canon pracują nad wbudowaniem cyfrowych podpisów w swoich aparatach, które będą działać jako dowód pochodzenia i integralności obrazów. Odpowiednie aktualizacje otrzymają aparaty Sony A9 III, Sony A1 i Sony A7S III, nad nowymi modelami aktualizacjami pracuje też Canon i Nikon. Pierwsze urządzenia z tą funkcją pojawią się w 2024 roku. Rozważane jest również dodanie tej funkcji do filmów.

Firma Sony testowała swoją technologię w terenie wraz z Associated Press, natomiast Canon współpracował ze Starling Lab i Reuters w program wykorzystującym aparaty marki do weryfikowania autentyczności zdjęć.

Sam pomysł cyfrowych podpisów nie jest nowy, ale rozwój sztucznej inteligencji przywrócił go do życia. Cyfrowe podpisy fotograficzne były używane przez firmę Nikon dziesięć lat temu, ale hakerzy szybko je złamali. Podobna sytuacja miała miejsce z zabezpieczeniem o nazwie Canon Original Decision Data (ODD), które złamano w 2010 roku. Może tym razem, wspólnymi siłami, się uda.

Jak donosi Nikkei Assia, cyfrowe podpisy będą zawierać szereg informacji o miejscu i dacie wykonania zdjęcia, a także certyfikat autentyczności. Jeśli zdjęcie było zmanipulowanie, zostanie otagowane informacją „No Content Credentials„. Tak wygląda to obecnie w aplikacji udostępnionej przez Canon.

Cyfrowe podpisy będą kompatybilne ze wspomnianym wcześniej narzędziem Verify, które pozwoli każdemu sprawdzić dane o zdjęciu za darmo.
Walka z deepfake trwa od lat
Inne firmy technologiczne również tworzyły narzędzia do walki z fałszywymi obrazami. Intel opracował technologię FakeCatcher, która może analizować zmiany koloru skóry osób na obrazach, które wskazują na przepływ krwi pod ich skórą, i wykorzystać to do określenia autentyczności obrazu.

Walkę z deepfake wziął też kilka lat temu za cel Microsoft. Narzędzie o nazwie Microsoft Video Authenticator miało za zadanie analizowanie zdjęć i plików wideo pod kątem ich manipulacji.

Adobe pracowało nad inicjatywą CAI (Content Authenticity Initiative), czyli zapisywaniu dodatkowych metadanych w plikach ze zdjęciami. Google wypuściło narzędzie o nazwie SynthID, które dodaje niewidzialne cyfrowe znaki wodne do obrazów generowanych przez AI, które mogą zostać wykryte przez inne narzędzie. Własną technologię o nazwie Foresight proponowała też firma Truepic.

Nie ma szans, by poszczególne pomysły i narzędzia doprowadziły do zniknięcia deepfake z internetu. Fałszywe zdjęcia i nagrania są coraz lepsze, bardziej zaawansowane i trudniejsze do wykrycia. Jednak każda nowa technologia i inicjatywa może pomóc w walce z tym zagrożeniem oraz ułatwić użytkownikom weryfikację autentyczności obrazów.

Źródło: InterestingEngineering. Zdjęcie otwierające Clem Onojeghuo / Unsplash

Część odnośników to linki afiliacyjne lub linki do ofert naszych partnerów. Po kliknięciu możesz zapoznać się z ceną i dostępnością wybranego przez nas produktu – nie ponosisz żadnych kosztów, a jednocześnie wspierasz niezależność zespołu redakcyjnego.