HTCinside


Microsoft ogłasza Video Authenticator w celu identyfikacji Deepfakes

Aby przeciwdziałać rozprzestrzenianiu sięgłębokie podróbki, firma Microsoft wydała nowe narzędzie do uwierzytelniania wideo, które można wykorzystać do analizy nieruchomego obrazu lub wideo w celu określenia procentowego prawdopodobieństwa, że ​​nośnik został sztucznie zmanipulowany.

W przypadku wideo Microsoft stwierdził, że ten odsetek może być podawany w czasie rzeczywistym dla każdej klatki podczas odtwarzania wideo. Wykrywa linię mieszania głębokich, subtelnych odcieni szarości lub zanikających elementów, które mogą być niewidoczne dla ludzkiego oka.

Deepfake lub media syntetyczne mogą być zdjęciami, filmami lub plikami audio manipulowanymi przez sztuczną inteligencję (AI). Wykrywanie głębokich fałszerstw, które mają kluczowe znaczenie w nadchodzących wyborach w USA, według Microsoft.

Technologia została stworzona przy użyciu publicznego zbioru danych od Face Forensic++. Microsoft powiedział, że został przetestowany z zestawem danych DeepFake Detection Challenge, który jest uważany za wiodący model. szkolenie i testowanie nadchodzących technologii wykrywania fałszerstw.

„Przewidujemy, że metody generowania mediów syntetycznych będą nadal rosły w złożoności. Ponieważ wszystkie metody wykrywania AI mają wskaźniki błędów, musimy zrozumieć i być przygotowanym na reagowanie na głęboko zakorzenione podróbki, które przechodzą przez metody wykrywania. firma powiedziała w poście na blogu.

„Dlatego na dłuższą metę musimy szukać silniejszych sposobów na utrzymanie i poświadczenie autentyczności artykułów prasowych i innych mediów”.



Dzięki kilku dostępnym narzędziom firma Microsoft wprowadziła również nową technologię, która może wykrywać naruszone treści i zapewniać, że oglądane multimedia są oryginalne.

Technologia składa się z dwóch komponentów. Pierwszym z nich jest narzędzie wbudowane w Microsoft Azure, które umożliwia producentowi zawartości dodawanie cyfrowych skrótów i certyfikatów do zawartości.

„Skróty i certyfikaty żyją z zawartością jako metadanymi, niezależnie od tego, gdzie są dostępne online” — powiedział Microsoft.

Drugi to czytnik, który można dołączyć do rozszerzenia przeglądarki, które weryfikuje certyfikaty i porównuje skróty z dopasowaniami w celu określenia autentyczności.

Microsoft nawiązał również współpracę z AI Foundation w jej głębokiej fałszywej bitwie. W ramach partnerstwa obie strony zapewnią uwierzytelnianie wideo organizacjom zaangażowanym w proces demokratyczny, w tym organizacjom informacyjnym i kampaniom politycznym, w ramach inicjatywy fundacji Reality Defender 2020.

Uwierzytelnianie wideo będzie początkowo dostępne tylko w ramach inicjatywy.

Kolejne partnerstwo z konsorcjum firm medialnych znanym jako Project Origin testuje technologię autentyczności firmy Microsoft. Inicjatywa kilku wydawców i firm zajmujących się mediami społecznościowymi, Trusted News Initiative, również zgodziła się współpracować z Microsoft w celu przetestowania ich technologii.

University of Washington, In-House Counterfeit Detection Sensitivity i USA Today również połączyły siły z Microsoftem, aby poprawić umiejętność korzystania z mediów.

„Poprawiając umiejętności korzystania z mediów, ludzie mogą wyeliminować dezinformację opartą na prawdziwych wydarzeniach i zarządzać ryzykiem tanich i głębokich podróbek” — powiedział Microsoft. „Znajomość mediów może pozwolić nam wszystkim krytycznie myśleć o kontekście medialnym i stać się bardziej zaangażowanymi obywatelami, jednocześnie ciesząc się satyrą i parodią”.

W ramach tego partnerstwa odbędzie się kampania informacyjna usług publicznych, która zaprosi ludzi do „zatrzymania się na refleksję” i zweryfikowania, czy informacje pochodzą z renomowanej organizacji informacyjnej przed ich udostępnieniem lub promocją. w mediach społecznościowych przed wyborami.

Partie uruchomiły również kwestionariusz dla amerykańskich wyborców, aby dowiedzieć się więcej o mediach syntetycznych.