"Może prowadzić do poważnych szkód społecznych". PE ostrzega przed technologią deepfake

Think tank Parlamentu Europejskiego opublikował na swojej stronie internetowej raport poświęcony technologii deepfake, czyli generowanym z użyciem technik sztucznej inteligencji grafikom, tekstom, nagraniom audio i wideo, które są łudząco realistyczne. Treści te powstają często bez wiedzy osób, do których się odnoszą, i sugerują, że powiedziały lub zrobiły one coś, co w rzeczywistości nie miało miejsca. Jak podkreślili autorzy raportu, technologia ta może być wykorzystywana zarówno do celów dobrych, jak i złych. Wśród tych pierwszych wskazano m.in.: usprawnienie produkcji, nieskrępowaną ekspresję artystyczną, satyrę, poprawę interakcji człowiek – maszyna oraz zastosowania badawcze.

Powiązany Artykuł

Deepfake 

Potencjalne zagrożenia

"Deepfake może mieć również złośliwy, oszukańczy, a nawet destrukcyjny charakter na poziomie indywidualnym, organizacyjnym i społecznym. Potencjalne zagrożenia można podzielić na trzy kategorie: psychologiczne, finansowe i społeczne. Po pierwsze, z uwagi na to, że treści deepfake są kierowane do indywidualnych osób, wywołują w grupie odbiorców bezpośrednie konsekwencje psychologiczne. Po drugie, nie ulega wątpliwości, że takie treści mogą być tworzone i rozpowszechniane z zamiarem wywołania szkód finansowych. Po trzecie zaś, istnieją poważne obawy co do nadrzędnych, społecznych konsekwencji zastosowania tej technologii" – głosi raport.

Wiele zagrożeń

Dodali, że wpływ pojedynczego deepfake’a nie ogranicza się do jednej kategorii ryzyka, ale ma charakter kaskadowy i obejmuje wiele poziomów.

"Celem deepfake'ów są indywidualne osoby, więc oddziaływanie tych treści zaczyna się na poziomie jednostki. Mogą też zaszkodzić określonej grupie lub organizacji. Poza tym skumulowany efekt deepfake’a może prowadzić do poważnych szkód na poziomie społecznym. Zmanipulowany może zostać np. dowód w sprawie lub oświadczenie, które ma w pożądany sposób wpłynąć na proces polityczny" - wyjaśnili.

Powiązany Artykuł

Deepfake. Gdy zamiana twarzy prowadzi na manowce

Przepisy prawne regulujące kwestię deepfake'ów

W analizie wskazano, że przepisy prawne regulujące kwestię deepfake'ów obejmują złożoną sieć norm konstytucyjnych, a także twarde i miękkie regulacje zarówno na poziomie UE, jak i państw członkowskich. Wśród najważniejszych regulacji na poziomie europejskim wymieniono ogólne rozporządzenie o ochronie danych, ramy prawne UE dotyczące sztucznej inteligencji, prawo autorskie, dyrektywę o handlu elektronicznym, ustawę o usługach cyfrowych, dyrektywę o audiowizualnych usługach medialnych, kodeks postępowania w zakresie zwalczania dezinformacji oraz Europejski plan działania na rzecz demokracji.

Eksperci zwrócili uwagę, że konkretne wzmianki o deepfake’ach można znaleźć w różnych stanowiskach Parlamentu Europejskiego.

"Najbardziej wszechstronnym i najnowszym dokumentem dotyczącym dyskusji na temat deepfake’ów jest rezolucja z 19 maja 2021 r. w sprawie sztucznej inteligencji w sektorze edukacji i kultury oraz w sektorze audiowizualnym" – zaznaczyli.

• Deepfake voice - uważajcie na nowy rodzaj oszustwa
• Wspólny zespół ds. cyberbezpieczeństwa przy KE? "Trzeba działać szybciej niż do tej pory"

"PE wezwał Komisję Europejską do wprowadzenia odpowiednich ram prawnych regulujących tworzenie, produkcję lub dystrybucję deepfake’ów do negatywnych celów oraz przejrzystość treści wyświetlanych na platformach internetowych, tak aby zapewnić ich użytkownikom większą swobodę podejmowania decyzji: czy i jakie informacje chcą otrzymywać" – podsumowali.

bf