W 2024 r. tworzenie realistycznych obrazów ludzi generowanych przez sztuczną inteligencję stało się łatwiejsze, co rodzi obawy, w jaki sposób te oszustwa zostaną wykryte. Naukowcy z Uniwersytetu w Hull Niedawno zostało to ujawnione Nowy sposób wykrywania fałszywych obrazów tworzonych przez sztuczną inteligencję poprzez analizę odbić w ludzkich oczach. Technologia ta została wprowadzona w r Krajowe Spotkanie Astronomiczne Królewskiego Towarzystwa Astronomicznego W zeszłym tygodniu narzędzia używane przez astronomów do badania galaktyk zostały przystosowane do sprawdzania spójności odbić światła w naszych gałkach ocznych.
Badaniami kierowała Adegumoke Owolabi, studentka studiów magisterskich na Uniwersytecie w Hull, pod kierunkiem dr. Doktor Kevin PimblettProfesor astrofizyki.
Ich technika wykrywania opiera się na prostej zasadzie: para oczu oświetlona tym samym zestawem źródeł światła będzie zwykle miała podobnie ukształtowany zestaw odbić światła w każdym oku. Wiele obrazów generowanych przez sztuczną inteligencję jak dotąd nie uwzględnia odbić oczu, dlatego symulowane odbicia światła są często niespójne dla każdego oka.
W pewnym sensie kąt astronomiczny nie zawsze jest konieczny do tego rodzaju wykrywania deepfake’ów, ponieważ szybkie spojrzenie na parę oczu na obrazie może ujawnić rozbieżności w odbiciach, co jest Artyści malują portrety Jednak zastosowanie narzędzi astronomicznych do automatycznego pomiaru i ilościowego określenia odbić oczu w fałszywych filmach to nowe osiągnięcie.
Automatyczne wykrywanie
W Królewskim Towarzystwie Astronomicznym Bloga W artykule opublikowanym przez The Verge Pimblett wyjaśnił, że Owolabi opracował technikę automatycznego wykrywania odbić w gałce ocznej i analizował cechy morfologiczne odbić za pomocą wskaźników, aby porównać podobieństwo między prawą i lewą gałką oczną. Ustalenia wykazały, że fałszywe filmy często pokazują różnice między oczami.
Zespół zastosował metody zaczerpnięte z astronomii do pomiaru i porównania odbić w gałce ocznej. I zostały wykorzystane Współczynnik Giniegozwykle używany do Pomiar rozkładu światła na obrazach galaktykAby ocenić spójność odbić w pikselach oka. Wartość Giniego bliższa 0 oznacza, że światło jest równomiernie rozłożone, natomiast wartość bliższa 1 oznacza, że światło jest skupione w pojedynczym pikselu.
W artykule opublikowanym w Royal Astronomical Society Pimblett dokonał porównań pomiędzy sposobem pomiaru kształtu odbicia gałki ocznej a sposobem, w jaki kształt galaktyki jest zwykle mierzony na zdjęciach teleskopowych: „Aby zmierzyć kształty galaktyk, analizujemy, czy są one zwarte centralnie, czy są symetryczne i jak gładkie. Analizujemy rozkład światła”.
Naukowcy zbadali także zastosowanie Parametry CAS (ostrość, asymetria, gładkość), kolejne narzędzie astronomii do pomiaru rozkładu światła galaktycznego. Jednak ta metoda okazała się mniej skuteczna w identyfikowaniu fałszywych oczu.
Wyścig zbrojeń w wykrywaniu
Chociaż technologia odbicia oka oferuje potencjalną ścieżkę wykrywania obrazów generowanych przez sztuczną inteligencję, metoda ta może nie działać, jeśli modele sztucznej inteligencji ewoluują w taki sposób, aby uwzględniały fizycznie dokładne odbicia oka, być może zastosowane na późniejszym etapie po wygenerowaniu obrazu. Aby ta technika działała, wymagane jest również wyraźne zbliżenie gałek ocznych.
Takie podejście stwarza również ryzyko uzyskania fałszywie pozytywnych wyników, ponieważ nawet oryginalne obrazy mogą czasami wykazywać niespójne odbicia w oku ze względu na różne warunki oświetleniowe lub techniki przetwarzania końcowego. Jednak analiza odbicia oka może nadal być użytecznym narzędziem w większym zestawie narzędzi do wykrywania deepfake, który uwzględnia również inne czynniki, takie jak tekstura włosów, anatomia, szczegóły skóry i symetria tła.
Chociaż technologia ta jest obiecująca w perspektywie krótkoterminowej, dr Pimblett przestrzegł, że nie jest doskonała. „Są fałszywie pozytywne i fałszywie negatywne wyniki; ta technika nie wykryje wszystkiego. Jednak ta metoda daje nam podstawę i plan ataku w wyścigu zbrojeń w celu wykrycia fałszywych nagrań” – powiedział Królewskiemu Towarzystwu Astronomicznemu.