Всеки ден съобщенията от нигерийски принцове, търговци на чудодейни лекарства и инвестиционни гурута, предлагащи свръхпечеливши инвестиции, задръстват електронните пощенски кутии на милиони хора по света.

Подобренията на т. нар. спам филтри изглежда само вдъхновяват нови техники за пробиване на защитата.

Сега надпреварата във "въоръжаването" между защитните системи и изпращачите на спам е на път да ескалира с появата на ново оръжие - генеративния изкуствен интелект.

С помощта на последните постижения на AI, демонстрирани от ChatGPT, спамърите вече разработват и инструменти за избягване на филтри, за привличане на вниманието на хората и ги убеждават да кликнат някъде, да си купят нещо или да предадат личните си данни, пише електронното издание Fast Company. 

AI може да научи много за индивидуалните предпочитания на потребителите, техните вярвания и чертите на характера им. Тази информация може да се използва, за да разберете по-добре как да взаимодействате с хората, да им помогнете да учат или да им предоставите полезни предложения.

Но в същото време ще трябва да се подготвите и за по-интелигентен спам, който познава вашите слаби места и може да ги използва срещу вас.

Какво представлява спамът?

Спамът се определя като непоискани търговски имейли, изпратени, в повечето случаи, от неизвестно лице. Терминът понякога се разширява до SMS-и и директни съобщения в социалните мрежи.

Разпространителите на нежелана поща искат да подтикнат потребителя към някакво действие - да купите някакъв продукт, да сподели данните от кредитната си карта, да инсталирате зловреден софтуер или да промените изгледа на своя десктоп, например.

Спамът е печеливш бизнес. Една вълна от имейли може да спечели 1000 само за няколко часа, като "инвестицията" от страна на спамърите е само няколко долара (без да се броят обаче първоначалните настройки и събирането на имейл листите, които отнемат доста време и ресурси).

Една онлайн фармацевтична спам кампания, например, може да генерира около 7000 долара на ден.

Законните рекламодатели също искат да ви подтикнат към действие – да купувате техните продукти, да участвате в анкетите им, да се абонирате за бюлетини.

Техните имейли обаче имат връзка към уебсайт на установена компания и съдържат опция за „отписване“, в съответствие със законодателството в повечето развити държави.

Спамерите нямат достъп до пощенските списъци, за които потребителите са се регистрирали.

Вместо това те използват контраинтуитивни стратегии, като измамата с прословутия нигерийски "принц“ или "принцеса", при която въпросната кралска особа твърди, че се нуждае от вашата помощ, за да отключи абсурдна сума пари, като обещава да ви възнагради за услугата.

Повечето хора незабавно отхвърлят подобни молби, но абсурдността на искането таргетира най-наивните или тези в напреднала възраст, филтрирайки потребителите, които е най-вероятно да се хванат на измамите.

Напредъкът в изкуствения интелект обаче означава, че спамърите може вече да нямат нужда от подобни подходи.

AI би могъл да им позволи да се насочват към отделни лица и да направят посланията си по-убедителни, въз основа на леснодостъпна информация, като публикации в социалните мрежи, например.

Как спамърите могат да използват AI?

Задачата, която генеративните приложенияь като ChatGPTь изпълняват, е да "предсказват" определена текстова последователност. 

Обучението им, базирано на достатъчно големи обеми от текст, изглежда е достатъчно, за да вдъхне на тези модели способността да се представят изненадващо добре и при много други задачи.

Вече се появиха множество начини за използване на технологията, демонстрирайки способността ѝ бързо да се адаптира и да учи за хората.

Например, генеративният изкуствен интелект може да пише пълни имейли в определен стил. Друг любопитен пример беше търговската верига Target, която установи с помощта на алгоритмите в своето приложение, че една от неговите клиентки е бременна, още преди тя самата да разбере за това.

Спамерите и търговците биха се възползвали от възможността да предскажат повече за хората с по-малко данни.

Преглеждайки страницата ви в LinkedIn, публикации и профилни изображения, въоръжените с генеративен изкуствен интелект спамъри могат да направят сравнително точни предположения относно вашите политически пристрастия, семейно положение или житейски приоритети.

AI вече има известни познания за това как изглежда типичната човешка способност за разсъждение. Ако спамърите преминат през първоначалните филтри и ви накарат да прочетете имейл, да щракнете върху линк или дори да участвате в разговор, способността им да прилагат персонализирано убеждаване се увеличава драстично.

Приложенията, като ChatGPT, могат да се използват за убедителни спорове по теми, вариращи от политика до здравеопазване.

Какво следва?

Филтрите за спам също могат да се възползват от напредъка в AI, което им позволява да издигнат нови бариери пред нежеланите имейли.

Разпространителите на нежелана поща често се опитват да подмамят филтрите със специални знаци, неправилно изписани думи или скрит текст, разчитайки на човешката склонност да прощава малки текстови аномалии.

Но тъй като AI става все по-добър в разбирането на спам съобщенията, филтрите могат да станат по-добри в идентифицирането и блокирането на нежелан спам и може да пропускат обикновените рекламни съобщения, за които потребителят изрично се е регистрирал.

Това е нещо като филтър, който предвижда дали искате да прочетете даден имейл още преди дори да сте го прочели.

Много хора, сред които собственика на Tesla, SpaceX и Twitter Илон Мъск, съоснователя на Apple Стив Возняк и други технологични лидери, споделят нарастващите си опасения относно AI и призовават за пауза в развитието му.

Но напредъкът на генеративния изкуствен интелект, всъщност, може да доведе и до много ценни постижения.

Всички нови технологии могат да доведат както до възможности, така и до опасности. Разликата е в това кой създава и контролира инструментите и как се използват, пише още изданието. 

Новините на Darik Business Review във Facebook , Instagram , LinkedIn и Twitter !