Чатботът с изкуствен интелект Grok на Илон Мъск вече няма да редактира „изображения на истински хора в разголени дрехи“ в платформата X.

Това посочиха от компанията, след като беше установено, че Grok изпълнява потребителски заявки за дигитално събличане на изображения на възрастни, а в някои случаи и на деца.

„Внедрихме технологични мерки, за да предотвратим редактирането на изображения на истински хора в разголени дрехи, като например бикини, от акаунта в Grok. Това ограничение се отнася за всички потребители, включително платени абонати“, съобщи в X екипа за безопасност на компанията.

През последната седмица xAi, която притежава както Grok, така и X, ограничи генерирането на изображения за Grok в X до платени абонати на X Premium.

Изследователи и екипът на CNN откриха, че през последните дни акаунтът на Grok в X е променил начина, по който отговаря като цяло на заявките на потребителите за генериране на изображения, дори за тези, които са абонирани за X Premium. Публикацията потвърди тези промени.

Въпреки това, изследователи от AI Forensics - европейска организация с нестопанска цел, която изследва алгоритми, заявиха, че са наблюдавали „несъответствия в третирането на генерирането на порнографско съдържание“ между публичните взаимодействия с Grok в X и частния чат в Grok.com.

X потвърди, че се „предприемат действия срещу незаконно съдържание в X, включително материали за сексуално насилие над деца (CSAM), като го премахват, спират окончателно акаунти и работят с местните власти и правоприлагащите органи, ако е необходимо."

"Всеки, който използва или подтиква Grok да създава незаконно съдържание, ще понесе същите последици, както ако качи незаконно съдържание“.

В сряда Мъск заяви в публикация в X, че „не е запознат с генерирани от Grok изображения на голи непълнолетни. Буквално нула“. Grok „ще откаже да създава каквото и да е незаконно, тъй като принципът на действие на Grok е да се подчинява на законите на всяка дадена държава или щат“, добави той.

Последствията 

Изследователите обаче заявиха, че макар напълно голи изображения да са рядкост, най-големият проблем е, че Grok изпълнява исканията на потребителите да променя изображения на непълнолетни и да ги поставя с разкриващи дрехи, включително бикини и бельо, както и в сексуално провокативни пози.

Създателите на този тип интимни изображения без съгласие все още могат да бъдат подложени на наказателно преследване за материали за сексуално насилие над деца и потенциално да подлежат на глоби и затвор съгласно Закона за премахване на материали, подписан миналата година от президента Доналд Тръмп.

В сряда главният прокурор на Калифорния Роб Бонта обяви разследване на „разпространението на материали със сексуално съдържание без съгласие, създадени с помощта на Grok“.

Grok е забранен в Индонезия и Малайзия в резултат на противоречията относно генерирането на изображения.

Британският регулатор Ofcom обяви в понеделник, че е започнал официално разследване на X, въпреки че от офиса на премиера Киър Стармър посочиха в сряда, че приветстват съобщенията, че X се занимава с проблема.

Новините на Darik Business Review във Facebook , Instagram , LinkedIn и Twitter !

Добави в предпочитани в Google