Произношението ѝ показва, че е добре образована. Не е ясно знаела ли е защо пита: “От кой град сте?”

Записана е, а после софтуер генерира обажданията

Ако е с изкуствен интелект, е трябвало да чете поне 4 - 5 книги, за да обучи невронната мрежа

Случайно ли са набирали много журналисти и свързани с институции хора? Програмисти по-рядко са били атакувани

Записан ли е гласът на реална жена, или обадилата се на половин България “Наталия” с въпрос за “направена поръчка” е съобщение, генерирано от изкуствен интелект?

Специалисти твърдят, че е много възможно човек наистина да е участвал в клипа за целите на кампанията, в която неизвестна фирма събира данни кой от кой град е. Вече

дали е знаела за какво

ще служи записът,

или просто е била наета да прочете няколко изречения, е трудно да се гадае на този етап. Съдейки по дикцията, това би трябвало да е образована дама с правилно произношение.

Ако обаче е използван изкуствен интелект, за него са необходими повече усилия. Работата има два етапа, обясняват специалисти. Първо, записва се как човек с ясна артикулация чете няколко книги, за да се обучи машината. Колкото повече думи каже, толкова по-успешно ще е обучението на невронната мрежа. Във втората фаза тя може

да се дообучи в рамките

на секунди, за да синтезира

какъвто искате глас

- мъжки, женски, нисък, висок, с различни интонации и тембър. Това означава, че всеки, който е получил обаждане, би могъл да стане бъдеща “Наталия” и близките му да получат позвъняване уж от него.

В интернет съществуват 7 бази в публични домейни с вокални данни, които могат да се изтеглят абсолютно легално, разказаха пред “24 часа - 168 истории” специалисти. Нито една от тях обаче не е на български език. Най-популярният сет съдържа около 14 000 думи. За целта на глас са прочетени 7 книги от най-разнообразно естество - от кримки, през романтични, исторически, научни, до специализирани. Горе-долу същият брой са и клиповете. Общото им времетраене е колкото човешки изказ в продължение на цяло денонощие. Впоследствие са достатъчни дори 3 секунди говор на когото и да е, за да може ботът да заприказва вече с неговия глас.

За да се стигне дотук, са били необходими доста време и средства. Трудно може да си представим, че авторите на проекта “Наталия” са готови да ги отделят. Затова експертите, с които “24 часа - 168 истории” се свърза, смятат, че в случая по-скоро е използван

софтуер подобно на

автоматичните съобщения

на колцентровете

или големите компании, които ти съобщават, че имаш неплатени сметки например. Това е интерактивната система за гласови отговори, в която се записва

разговор по

определен

сценарий

В този случай има жена, която чете текста, и програмист, който разработва скрипта и после обработва данните. Те са разграфени в екселски файл - кой е отговорил, кой не, колко души от София, Варна, Бургас. Колко души ще се включат в кампанията за последващи действия, зависи от целите ѝ, но обществото все още не е наясно какви са те.

Софтуерът извършва автоматизирано позвъняванията от името на Наталия. Иначе,

ако работеха аналогово,

би трябвало да наемат

10 - 20 души

да провеждат едновременно разговори, а други, да речем 30 души, да ги прослушват и записват в компютъра.

Ако приемем средно, че обработката на един разговор е 1 минута, тогава 1800 разговора могат да се обработят за час. За един работен ден стават 14 000 разговора. Но това е в идеалния случай. А чрез софтуер всичко това става много по-лесно и бързо.

Фактът, че авторите на чатбота “Наталия” атакуват прекалено много хора в България, говори, че идеята е мащабна. Не е ясно

дали номерата са

изтекли от защитена

база с данни

Има още един въпрос - защо в списъка на тези, на които се е обадила, са доста журналисти и свързани с тях обществено познати личности или бизнесмени. Няколко програмисти, с които “24 часа - 168 истории” се свърза, не бяха чували за случая. Между тях беше и създателят на “Софтуни” Светлин Наков.

Не е ясно обаче дали това е бил търсен ефект и дали идеята ще се реализира докрай, след като случаят придоби широка популярност.

Две са предположенията на специалистите - че може да е направено с маркетингова цел или от партия заради предстоящите местни избори. Вероятно след това ще има по-персонализирана кампания по градове. Директорът на дирекция “Киберпрестъпност” в ГДБОП (Главна дирекция за борба с организираната престъпност) Владимир Димитров също е получил обаждане.

По информация на Би Ти Ви фирмата, която е реализирала разговорите, е нова и е за организиране на събития. Адресът ѝ е в центъра на София. Отговарят, че не събират лични данни и са набирали телефонни номера на случаен принцип.

“Дружеството, както и много други фирми в България използват и т.нар. чатбот единствено и само с цел, която да промотира дейността им.

Към настоящия

момент тече

вътрешна проверка

във фирмата, която цели да установи дали чатбот “Наталия” е създаден от тях, или са наели готов продукт”, коментират от компанията пред Би Ти Ви.

Още преди да е ясен резултатът обаче, институциите реагираха.

Председателят на ДАНС (Държавна агенция за национална сигурност) Пламен Тончев заяви, че в структурата знаят кой стои зад чатботовете с мистериозни обаждания. Той обаче не даде конкретика.

ГДБОП също се е самосезирала и прави проверка по случая. Стана ясно обаче, че не може да разпореди разследване, тъй като няма данни за извършено престъпление. Затова засега и никой не може да бъде подведен под отговорност.

Мобилният оператор “А1 България” призна, че разговорите са направени от техен бизнесклиент, на когото предоставят гласова услуга с фиксирани и мобилни номера. Те обещаха пълно съдействие на Комисията за защита на личните данни (КЗЛД). Според нея ако номерата на хората, получили обаждания, не са изтекли от защитена база данни, не става въпрос за събирането на лични данни на потребителите.

Те могат да се сезират

само по сигнал от МВР

или прокуратурата,

не от отделни граждани.

Проверка по случая се извършва и от Комисията за регулиране на съобщенията (КРС), на която А1 оказва пълно съдействие. Готови сме да реагираме своевременно, ако се докаже опит за злоупотреба с лични данни или друг вид нарушение на законодателството в страната, посочват от оператора.

Атаката с ботове ще се засилва в следващите години и “Наталия” с въпроса си “от кой град сте” ще остане като детска играчка. За това предупредиха специалисти от разузнаването. Възможно е до 5 - 10 години да видим предизборна кампания, в която холограми на политиците ще ни агитират да гласуваме за тях.

В САЩ вече се разпространяват видеоклипове с популярни актьори като Уил Смит, чийто образ лесно може да се обработи с изкуствен интелект. В интернет има файлове, в които невронни мрежи са синтезирали негови движения. По същия начин Владимир Путин или Джо Байдън може да изговорят небивалици, без да е необходимо въобще някога да са говорили по темата. Един от популярните фалшификати е как Марк Зъкърбърг се хвали с “пълен контрол над откраднатите данни на милиарди хора”. Всичко това е част от недобронамерена обработка чрез изкуствен интелект.

С развитието му измамите стават все по-трудни за идентифициране. Възможностите за имперсонализация стават много големи, казват експертите. Те познават инструмент, чрез който се синтезира глас, а дигитални аватари говорят във видео. В България го няма, защото е твърде малък пазар и няма кой да направи модел за глас, за да се пусне за свободно ползване. Това би било от помощ например за незрящите, които така могат да “четат” книги.

Технологията

deep fake може да създаде

убедителни, макар и

напълно неверни

снимки и клипове

В професионалната мрежа LinkedIn е пълно с профили с измислени биографии. Потребителят “Кейти Джоунс” например твърди, че работи в Центъра за стратегически и международни изследвания, но се смята, че е дълбок фалшификат, създаден за шпионска операция, пише в. “Гардиън”.

През 2020 г. шефът на британско дъщерно дружество на германска енергийна фирма плати около 200 000 паунда в унгарска банкова сметка след обаждане на измамник, имитирал гласа на германския изпълнителен директор. Подобни измами са пускани чрез гласови съобщения в WhatsApp.

Deepfakes се

появиха през 2017 г.,

когато потребител на Reddit публикува подправени порноклипове. В тях “участват” известни личности - Тейлър Суифт, Скарлет Йохансон и други. В интернет може да се намерят хиляди техни снимки и видеозаписи и за целта на фалшификата са били включени в алгоритъм на изкуствен интелект, наречен енкодер. Той открива приликите между двете лица и ги редуцира до общите им черти, компресирайки изображенията.

Втори алгоритъм декодер се обучава да възстановява лицата. Размяната става, като се подават кодирани изображения в “грешния” декодер, обясняват от “Гардиън”.

Измамите може да повлияят и върху бизнеса. Така например акциите на “Тесла” се сринаха след видео на Илон Мъск

как пуши джойнт

в онлайн шоу

Проблемът е, че когато изкуственият интелект получи определена задача, е в състояние да се обърне срещу този, който му я е възложил и никой не може да го спре. Миналата година

топлетец в САЩ

се състезава с

машината и загуби

Тази година за първи път бе изпробван дрон с изкуствен интелект. Опасното е, че не може да се контролира и тепърва специалистите трябва да се справят с проблема. Затова безобидният случай “Наталия” е като червена лампа, която само ни предупреждава какво ли още ни предстои.