• От днес влизат в сила нови правила на Европейския съюз, които задължават компаниите да обозначават ясно всяко изкуствено генерирано съдържание.
  • Целта е да се спре разпространението на подвеждащи материали и deepfake видеа, като се гарантира, че потребителите знаят кога си взаимодействат с AI, а не с реални изображения, аудио или текст.

От предполагаем заговор за кражба на избори до малтретиране на персонал или изпълнение на неловки танцови движения, през последните няколко години се появиха множество фалшиви материали за политици, целящи да очернят своите мишени и да подведат обществеността.

Сега нови правила на ЕС целят да спрат потока от това подвеждащо съдържание: считано от днес, изкуствено генерираните изображения, аудио и текст, предназначени да изглеждат автентични, трябва да бъдат обозначавани.

Новите правила на ЕС 

Правилата, разработени съгласно закона на ЕС за изкуствения интелект (AI), означават, че компаниите трябва да гарантират, че хората знаят кога взаимодействат с чатбот с AI, или преглеждат манипулирано изображение или генериран от изкуствен интелект текст.

Правилата важат за новите системи с изкуствен интелект на пазара на ЕС от 2 август, докато съществуващите разполагат с допълнителни четири месеца, за да се съобразят с тях.

„Това е въпрос не само на защита на клиентите, но и на защита на демокрацията“, заяви пред The Guardian евродепутатът от „Зелените“ Сергей Лагодински, който e участвал в изготвянето на Закона за изкуствения интелект. „Осигуряването на прозрачност на тази информация е нещо, от което се нуждаем, за да запазим нашата демокрация и автентичността на фактите онлайн.“

Какво предвиждат правилата?

Съгласно правилата, синтетичният текст, изображенията, видеото и аудиото, създадени така, че да изглеждат реалистично, трябва да бъдат видимо обозначавани като генерирани от изкуствен интелект и да съдържат дигитален воден знак, за да покажат изкуствения произход на съдържанието.

Текстовете по въпроси от обществен интерес също трябва да бъдат обозначени като създадени с изкуствен интелект, ако няма човешки редакционен надзор.

Компаниите са насърчавани да обозначават генерирано от изкуствен интелект съдържание, предшестващо влизането в сила на правилата, въпреки че това не е задължително. Правилата няма да се прилагат за лично съдържание на потребителите и има изключения за „очевидно артистични“, сатирични и художествени произведения.

Неспазването на правилата може да доведе до глоби в размер на до 15 милиона евро или 3% от световния оборот на компанията.

Изпълнителният орган на ЕС създаде черно-бели етикети, които всеки може да използва, въпреки че компаниите могат да разработят свои собствени.

Сред т. нар. „deep fake“ материали досега имаше аудиозаписи, които уж разкриват как словашкият опозиционен лидер Михал Шимечка заговорничи с журналист за манипулиране на избори, фалшиви видеоклипове на френския президент Еманюел Макрон, танцуващ в нощен клуб от 80-те години на миналия век, и фалшиви кадри на бившия лидер на британските лейбъристи Киър Стармър, който тормози партийни служители.

Реакцията на технологичната индустрия

Технологичната индустрия заявява, че подкрепя стремежа за видимост на „deep fake“ материалите, но се опасява, че правилата ще бъдат тълкувани твърде широко и ще затрупат интернет потребителите с банери и етикети.

Асоциацията на компютърната и комуникационна индустрия (CCIA) твърди, че насоките на ЕС, публикувани през юли, са разширили определението за „deep fake“ далеч отвъд Закона за изкуствения интелект от 2024 г.

„Етикетът беше предназначен да маркира подвеждащо съдържание“, каза Бонифас дьо Шампри, ръководител на политиката за изкуствен интелект в CCIA Европа.

„Това разграничение е премахнато, така че сега почти всичко се етикетира – пейзаж в реклама е същото като манипулирана политическа реч. Подобно на банерите за бисквитки, след като етикетите са навсякъде, потребителите спират да ги забелязват. Това не защитава никого, а само обременява търговската дейност във всички области.“

Той смята, че най-видимата промяна за обществеността няма да бъде в социалните медии, които „вече обозначават по-голямата част от съдържанието, свързано с изкуствен интелект“, а „в области, където изкуственият интелект вече се използва мащабно, но хората не го знаят – реклама, филми, издателска дейност“.

„Очаквайте много повече етикети в сектори, които обикновено не са свързани с изкуствен интелект, като тежестта ще падне най-силно върху тези, които са най-малко запознати с регулирането на изкуствения интелект“, каза дьо Шампри.

Доброволни кодекси и съществуващи практики

Някои от най-големите технологични компании в света вече имат политики за информиране на потребителите за съдържание, генерирано от изкуствен интелект.

TikTok, например, изисква от създателите да обозначават реалистични изображения, аудио и видео, генерирани от изкуствен интелект, и твърди, че е помогнала за обозначаването на повече от 3 милиарда единици съдържание.

Google пусна инструмент, наречен SynthID, през 2023 г., който позволява на потребителите да проверят дали дадено изображение е генерирано от изкуствен интелект. Компанията твърди, че е поставила невидим цифров воден знак, който позволява идентификация, върху повече от 100 милиарда изображения и 60 000 години аудио.

Google и Meta, която притежава Facebook и Instagram, подписаха доброволен кодекс за поведение, предназначен да помогне на компаниите да спазват правилата на ЕС за прозрачност в областта на изкуствения интелект.

Европейската комисия заяви, че над 180 организации са подписали кодекса, който е изготвен от независими експерти под надзора на службата на ЕС за изкуствен интелект.

Подписването на кодекса се разглежда от регулаторните органи като знак за добри намерения, докато неподписалите трябва да покажат, че спазват правилата по други начини.

Meta стартира политики през 2024 г., за да помогне на хората да идентифицират генерирани от изкуствен интелект фотореалистични изображения. Компанията твърди, че разработва технически стандарти за цялата индустрия за идентифициране на аудио и видео, генерирани от изкуствен интелект.

При обявяването на намерението на Meta да подпише кодекса на ЕС на 28 юли, вицепрезидентът по публичната политика в Европа Маркус Райниш заяви:

„Трябва да избегнем ситуация, в която онлайн съдържанието е обект на нарастващ набор от различни етикети и разкрития, които в крайна сметка объркват хората, като същевременно добавят допълнителна регулаторна сложност за доставчиците.“

Лагодински пък вярва, че индустрията може да намери начин:

„Изпитвам дълбоко уважение към индустрията, но в твърде много случаи те се оплакват и... след като нещата бъдат внедрени, не им се струва толкова тежко. И винаги има решение.“

Бъдещето на регулацията на AI в Европа

Правилата за прозрачност са част от по-широкото прилагане на Закона за изкуствения интелект, считано от 2 август. Водещият служител на Комисията по технологичната политика, Хена Виркунен, заяви, че изкуственият интелект е „трансформираща технология“, която може да донесе изключителни ползи, но най-съвременните модели „създават рискове в изцяло нов мащаб“.

„Европа очакваше това развитие. Със Закона за изкуствения интелект ние създадохме ясна, основана на риска и трайна рамка за надежден изкуствен интелект – такава, която дава на новаторите правна сигурност, като същевременно защитава обществения интерес.“

Новините на Darik Business Review във Facebook , Instagram , LinkedIn и Twitter !