ANDRZEJ SZMILICHOWSKI: Deepfake

Natknąłem się buszując po Internecie na osobliwy filmik.  Prezydent Stanów Zjednoczonych Richard Nixon informuje z żalem naród, że pierwsi Amerykanie, w ogóle pierwsi przedstawiciele ludzkości, którzy postawili nogę na Księżycu, znaleźli tam niestety miejsce wiecznego spoczynku. Takie przemówienia, przygotowywane rutynowo na wypadek niepowodzenia jakiejś misji, spoczywają w szufladach biur prezydentów. To wiadomo, ale ja oglądałem na własne oczy prezydenta wygłaszającego zbolałym głosem orędzie do narodu! Co tu jest grane?

Otóż grana jest najpoważniejsza w świecie rzeczywistość. Massachusetts Institute of Technology przygotował komputerowy program imitujący ruchy twarzy i timbr głosu Nixona, aby zademonstrować ryzyka na jakie możemy być już wkrótce masowo narażeni. Program nosi nazywę deepfake i jest zaawansowaną symulacją gdzie ludzi, martwych czy żywych, bez różnicy, można z formatować jak się tylko zechce.

Zachwyty widzów i duma twórców nad wspaniałym osiągnięciem techniki, są moim zdaniem mocno przedwczesne. Obnażają bowiem niepokojącą przyszłość, w której zanotowanego kamerą „fakt”, będzie w gruncie rzeczy mógł przedstawiać zerową wartość. Tak oto doskonałość techniczna pokonała ludzką zdolność obserwacji.

Widzę tylko jedną osobe, która mogłaby być wdzięczna za to technologiczne osiągnięcie. Jest nim Winston Smith, główny bohater bestsellera Georga Orwellsa „1984”. Smith był pracownikiem Ministerstwa Prawdy (Skojarzenia, skojarzenia… Już niedługo dotrzemy do prawdy! Prawda jest coraz bliżej i nas wyzwoli!), i zajmował się fałszowaniem historii. Orwell opisuje społeczeństwo nie mające pamięci historycznej, ponieważ nie istnieją żadne dokumenty ilustrujące przeszłość. Fotografie, reportaże, pamiętniki, dzienniki, filmy, wszystko dotyczące przeszłości jest jednym i jedynym nurtem deepfake, dostosowanym do aktualnych potrzeb jedynej partii, Partii Prawdy.

Inny przykład, tym razem bliżej nas, w Europie. W Deutsche Telekom narodził się oryginalny pomysł. W bieżącym roku 2020 przypada 250 rocznica urodzi Ludwika van Beethovena i Deutsche Telekom postanowiło, we współpracy z technikami i muzykami/kompozytorami, polecić programowi komputerowemu dokończenie sławnej dziesiątej symfonii, której tworzenie przerwała śmierć genialnego kompozytora. Szkice, które Beethoven pozostawił, zostaną przez komputer przeanalizowane i następnie dokomponowane w tym samym stylu zakończenie symfonii.

Tak oto mamy gotowy pasztet. Co stanie się z ludzką kreatywnością, wzruszeniami i wzlotami duszy powodowanymi słuchaniem muzyki, jeśli cudowne dźwięki symfonii Beethovena może swobodnie „skomponować” maszyna?

Deepfake nie jest postępem ani rozwojem, jest niebezpiecznym krokiem popychającym nas w psychodeliczny świat Orwella. Cóż to za rozwój, jaki postęp, kiedy możemy tworzyć na zawołanie (nieżyjących albo żyjących, bez różnicy) dzieła kompozytorów czy prezydentów i posługiwać się nimi jak użytecznymi marionetkami?

Świat, po tysiącu lat statycznego Średniowiecza nabrał tempa, które może się okazać zabójcze. Ostatnie dwieście lat przemaszerowaliśmy od maszyny parowej do deepfake. Dziś widzimy bliskie już kontury niepokojącej przyszłości, marszu od techniki, która ulżyła człowiekowi w fizycznym znoju pracy, do technologii, której netto-konsekwencje lądują niestety na minusie.

Andrzej Szmilichowski

Lämna ett svar