На Телеграму успева АИ бот који прави лажне актове жена

На Телеграму успева АИ бот који прави лажне актове жена

Снагом технологије, највећи светски умови имају способност да постигну готово све. Али, док неки раде на томе да олакшају живот особама са инвалидитетом или да помогну у окончању глобалне пандемије, други су усредсређени на мање племенит узрок: злостављање и објективизирање жена.

такси смрти за слатки интервју

Анонимни програмер је прошле године покренуо апликацију под називом ДеепНуде, која је користила технологију деепфаке за уклањање одеће са фотографија жена. Описана је као нуђење суперсиле коју сте одувек желели, омогућавајући корисницима да отпремају фотографије жена (технологија није успела на мушкарцима) које би потом скинуле и претвориле у веродостојне лажне актове. Преузимање у разним продавницама апликација коштало је 50 долара.

Апликацију је само неколико сати касније, уз бизарну позадину, преузео са мреже. Не желимо да зарађујемо на овај начин, написали су Изјава . Свет још није спреман за ДеепНуде.

Годину дана касније, апликација је експоненцијално порасла у популарности и употреби. Софтвер је откривен на Телеграму, где је запослен као део „дубоког лажног екосистема“, у којем је створено преко 104 000 лажних актова жена. Екосистем се усредсређује на АИ бот који генерише актове на захтев, шаљући галерије нових слика на десетине хиљада претплатника сваког дана. Чланови ћаскања могу да упућују одређене захтеве боту у групама за размену порука. Верује се да неке од фотографија приказују малолетне девојке.

Сенсити, компанија за откривање дубоких фалсификата, објавио своја сазнања по овом питању у октобру. Говорећи са Дазед-ом, Гиоргио Патрини, извршни директор и главни научник компаније, каже: Нисмо раније приметили технологију ДеепНуде уграђену у бот цхатроом, са својим драматичним потенцијалом за приступачност корисника и обим производње. Заправо, ово је појединачно највећи инцидент ове врсте по броју жртава.

Истраживачи извештавају да је број лажних актова на Телеграму порастао за 198 одсто између априла и јуна 2020. Ова статистика је у складу са вестима да је осветничка порнографија била у порасту током закључавања, а случајеви злоупотребе интимних слика повећали су се за 22 процента Ове године. У свом извештају, Сенсити се позабавио широм претњом да се „огољене“ слике појединаца могу делити на приватним или јавним каналима изван Телеграма као део јавног срамоћења или напада на основу изнуде.

Иако Сенсити процењује да је више од 104.000 жена циљано ботом, стварни број ће вероватно бити много већи. То се дугује једноставности технологије. Све што корисници морају да ураде да би генерисали лажну голу поруку су да пошаљу своју изабрану слику боту, који ће бесплатно послати неодевену слику. Те фотографије се затим деле повезаним Телеграм каналима. Анонимна анкета спроведена у једном од ових канала открила је да је 70 процената корисника било из Русије, Украјине, Белорусије, Казахстана и земаља бившег СССР-а; многи су рекли да су открили бота из руске мреже друштвених медија ВК.

Није дошло до интервенције или уклањања и, с тим, не знамо ко и данас можда поседује или дели слике које је створио бот - Гиоргио Патрини, Сенсити

Упркос објављивању својих сазнања пре скоро два месеца, Сенсити каже да никада није добио одговор од Телеграма. Ти канали су и даље активни на платформи, наставља Патрини, иако већина сада избегава отворено оглашавање бота или његових креација. Важно је да сам бот и даље функционише као и раније. Није дошло до интервенције или уклањања и, с тим, не знамо ко и данас можда поседује или дели слике које је креирао бот.

Бројне групе су промениле имена како би могле да избегну да буду идентификоване, док су други канали потпуно нестали или су уклоњене голе слике које се деле на њима. Како извештава ВИРЕД , крајем октобра, бот је постао неприступачан на иПхоне-у и иПад-у, што је показало поруку о грешци у којој се каже да крши Аппле-ове смернице.

Патрини каже да је бот могао посебно напредовати на Телеграму захваљујући платформи која лако омогућава интеграцију ботова и других аутоматизација у њихове цхат собе, објашњавајући да је главни разлог технички.

Иако верује да тренутно можете разликовати лажне актове од стварних, Патрини изјављује да ово неће дуго трајати. Он наставља да се технологија убрзава и побољшава. Не морате бити истраживач машинског учења да бисте њиме управљали; софтвер је отвореног кода и долази са водичима и великим заједницама програмера.

Процес дубоко лажних актова који су на Телеграму дистрибуиралиАИ ботВиа Сенсити

Могућа зарада повезана са овом врстом деепфаке технологије такође би могла подстаћи већи број људи да је злоупотребе. Људи постају генијални кад схвате како се технологија дубоког лажног стварања може претворити у пословну прилику, с легитимном или недозвољеном конотацијом, објашњава Патрини. На пример, бот у нашој истрази доноси зараду пружајући корисницима који плаћају брже стварање слика без водених жигова на њима.

Међутим, како се побољшава софтвер за дубоку употребу, тако се побољшава и технологија откривања. Патрини каже да ће технологија откривања играти фундаменталнију улогу у будућности, помажући нам да разумемо шта видимо и у аутоматском откривању деепфакеова на мрежи. Како се жене појављују у 96 посто свих деепфаке видео записа, превентивна и реактивна технологија која зауставља стварање ових фотографија и видео записа је од виталног значаја у текућој борби за родну равноправност.

Ово је проблем који ће нажалост утицати на сваког од нас као приватника, закључује Патрини. Наше црте лица могу се украсти и пренамијенити у визуелни материјал који напада нашу репутацију и може бити оружани ради јавне срамоте, уцјене или изнуде.

Важно је да свако од нас буде свестан да било која слика или видео који објавимо на мрежи могу бити видљиви целом свету и да их лоши глумци користе.