AI "възкреси" отдавна мъртъв диктатор в мрачната нова ера на фалшивите избори

Страшният някога армейски генерал, управлявал Индонезия с железен юмрук повече от три десетилетия, има послание към избирателите преди предстоящите избори - от отвъдното.

"Аз съм Сухарто, вторият президент на Индонезия", казва бившият генерал в триминутен видеоклип, който е събрал над 4,7 милиона гледания в X и се разпространява в TikTok, Facebook и YouTube.

Макар и леко убедителен в началото, става ясно, че строгият на вид мъж във видеото не е бившият индонезийски президент. Истинският Сухарто, наричан "Усмихнатият генерал", защото винаги е бил виждан усмихнат въпреки безмилостния си стил на ръководство, умира през 2008 г. на 86-годишна възраст.

Видеоклипът е генериран от изкуствен интелект и е създаден с помощта на инструменти, които клонират лицето и гласа на Сухарто. "Видеото беше направено, за да ни напомни колко важни са гласовете ни на предстоящите избори", каза Ервин Акса, заместник-председател на Голкар - една от най-големите и най-стари политически партии в Индонезия. Той за първи път сподели видеото в X преди изборите на 14 февруари.

Партията е една от 18-те, които се състезават в тазгодишната надпревара, в която до урните ще отидат повече от 200 милиона избиратели. Голкар не издига свой кандидат за президент, но подкрепя водещия кандидат Прабово Субианто, бивш генерал от армията по време на подкрепяния от военните режим на Сухарто, както и негов бивш зет.

Като върна към живот отдавна починал лидер само няколко седмици преди вота, намеренията на Голкар бяха ясни: да насърчи избирателите да подкрепят партията, която е синоним на Сухарто.

"Като член на Голкар, аз много се гордея със Сухарто, защото той успешно разви Индонезия - написа Акса на Х. - Той донесе много успехи. Трябва да го уважаваме и да помним заслугите му - Голкар беше там".

Но онлайн критиците осъждат акта на използване на лицето и гласа на мъртвец, особено за политическа пропаганда. "Това е състоянието на страната ни днес - съживяване на мъртви диктатори, за да ни заблуждават и плашат с гласове", пише един индонезиец в X.

"Откога стана етично да се създават дълбокофалшиви образи на мъртви хора? Това е толкова морално грешно", казва друг.

Гласуване в ерата на deepfakes

Онлайн светът играе огромна роля в индонезийската политика. В страната с един от най-високите проценти на използване на интернет в света почти всички политически партии и политици поддържат силно присъствие в социалните медии, за да трупат последователи и влияние.

"Дълбоките фалшификати могат да окажат значително влияние върху изборите - върху начина, по който се провежда кампанията, както и върху резултатите", казва Голда Бенджамин, ръководител на кампанията за Азиатско-тихоокеанския регион в Access Now, американска организация с нестопанска цел за защита на цифровите права.

"Опасността се крие в това колко бързо се разпространяват. Един deepfake може лесно да достигне до милиони за секунди, като разколебае и манипулира (милиони) избиратели."

В навечерието на тазгодишния вот наблюдатели заявиха пред CNN, че много големи партии са се обърнали към изкуствения интелект и са използвали различни дълбоки фалшификати за политически цели.

Според тях видеоклипът на Сухарто, произведен от Golkar, е само един от десетките, включени в официалните кампании на партиите.

След публични критики екипът на кампанията на трикратния кандидат за президент Прабово Субианто, настоящ министър на отбраната на Индонезия, призна, че е използвал софтуер с изкуствен интелект, за да придаде на своя водач симпатична анимационна премяна в TikTok, за да привлече млади избиратели. Индонезийците на възраст 40 години и по-млади, които наброяват около 114 милиона избиратели, съставляват мнозинството от гласовете.

В друг видеоклип, който предизвика остра критика, партията използва деца, генерирани от изкуствен интелект, в телевизионна реклама, за да заобиколи правилата, забраняващи участието на деца в политически кампании.

"Използваната технология е толкова напреднала ... Можем да разберем, ако някои хора са взели (децата) за истински герои", заяви в изявление Будисатрио Дживандоно, племенник на Прабово и говорител на неговата националистическа дясна партия "Джериндра", след като рекламата беше разкрита от групи за наблюдение.

Партията на бившия губернатор на Централна Ява Ганджар Праново използва интерактивен чатбот с изкуствен интелект, за да се свърже с потенциални гласоподаватели. Снимки с изкуствен интелект, направени от поддръжници, също са използвани от партията на Ганджар в кампанията му. CNN потърси за коментар представители на Демократичната партия на борбата (PDIP) на Ганджар.

Третият кандидат за президент, бившият губернатор на Джакарта Аниес Басуедан, чиято кампания използва чатбот, задвижван от OpenAI, който отговаря на въпроси за неговата политика в WhatsApp, предупреди срещу използването на ИИ в изборите, след като през януари стана жертва на аудио дълбоко подправен фалшификат. Подправен разговор на Аниес, за който се твърди, че е порицан от политически поддръжник, се разпространи онлайн.

"Трябва да бъдем критични, защото сега има технология за изкуствен интелект, която може да генерира аудио или визуални материали, които могат да изглеждат истински", каза Аниес на предизборен митинг по-късно същия месец.

Министерството на комуникациите на Индонезия издаде съвети след няколко вирусни видеоклипа с изкуствен интелект, като предупреди технологичните компании и избирателите да бъдат предпазливи по отношение на дълбоките фалшификати. Усилията обаче не са достатъчни, заявиха наблюдателни групи пред CNN.

TAPP (Tim Advokasi Peduli Pemilu), базираната в Джакарта организация с нестопанска цел, заяви, че видеоклипове като дълбокия фалшификат на Сухарто показват потенциала на изкуствения интелект за манипулиране на избирателите.

"Правителството все още не е наясно с опасностите, които крият дълбоките фалшификати", заяви говорителят Гугум Ридхо Путра.

"Знаем на какво е способен ИИ и това е само началото", добавя той. "Обезпокоени сме от манипулирането на гласоподавателите, особено толкова близо до изборите".