Малайзия и Индонезия блокираха достъпа до чатбота с изкуствен интелект на Илон Мъск Grok заради способността му да създава откровени сексуални дийпфейкове.

Grok - инструмент на платформата X на Мъск, позволява на потребителите да генерират изображения, но наскоро беше използван за редактиране на снимки на реални хора, за да ги показва разголени.

Страните от Югоизточна Азия заявиха, че Grok може да се използва за създаване на порнографски и неконсенсуални изображения, включващи жени и деца. Те са първите в света, които забраняват инструмента на Мъск с ИИ.

Grok под все по-голям натиск

Нараства натискът за блокиране на Grok и във Великобритания, като министърът на технологиите заяви, че ще подкрепи хода, което накара Мъск да обвини правителството, че иска да потисне свободата на словото, припомня BBC.

Министерствата на комуникациите на Малайзия и Индонезия обявиха хода си срещу Grok в отделни изявления през уикенда.

Малайзийската комисия по комуникациите и мултимедията заяви в неделя, че е издала известия до X по-рано през годината, за да поиска по-строги мерки, след като е установила „многократна злоупотреба“ с Grok за генериране на вредно съдържание.

Но в отговора си X не успява да се справи с присъщите рискове, свързани с дизайна на платформата си, и се фокусира главно върху процеса на докладване за потребителите, според регулатора.

Затова властите посочват, че Grok ще бъде блокиран, докато не бъдат въведени ефективни предпазни мерки, и се призовава обществеността да докладва за вредно онлайн съдържание.

Използването на Grok за създаване на сексуално експлицитно съдържание е нарушение на човешките права, достойнството и онлайн безопасността, заяви Меутя Хафид, министър на комуникациите и цифровите въпроси на Индонезия, в публикация в Instagram.

Министерството също така поиска от X на Мъск да предостави разяснения относно използването на Grok.

Индонезийските власти предприеха мерки срещу други онлайн източници на порнографски материали през последните години, например платформи, като OnlyFans и Pornhub, вече са забранени в страната.

Потърпевшите

Индонезийските потребители на X, които откриха манипулираните си снимки на платформата, казаха, че са ядосани, че това е било позволено.

Кирана Аюнингтяс, потребител на инвалидна количка, която публикува онлайн ежедневните си преживявания, откри, че непознат е коментирал снимката ѝ с подкана да я изобрази облечена в бикини.

Аюнингтяс каза, че е коригирала настройките си за поверителност и се е свързала с платформата, за да премахне изображението и да предотврати редактирането на снимките ѝ от потребителите.

„За съжаление, нищо от това не проработи“, каза тя, добавяйки, че е трудно да се каже дали някой пази изображенията.

Тя моли приятелите си да докладват за акаунтите, които са публикували фалшивите ѝ изображения, но това означава, че още повече хора виждат редактираните изображения, което е изключително неудобно за нея.

Би Би Си се свърза с платформата Grok за коментар.

Използването на Grok за генериране на сексуализирани изображения беше осъдено от лидери по целия свят, включително премиера на Обединеното кралство Киър Стармър, който го нарече „позорно“ и „отвратително“.

Министърът на технологиите на страната Лиз Кендъл също заяви, че ще подкрепи регулатора Ofcom, ако блокира достъпа на Обединеното кралство до социалния медиен сайт X на Илон Мъск заради неспазване на законите за онлайн безопасност.

Тя каза, че Законът за онлайн безопасност на Обединеното кралство „включва правомощието да се блокира достъпът до услуги в Обединеното кралство, ако те откажат да спазват законодателството на Обединеното кралство“ и „ако Ofcom реши да използва тези правомощия, ще има нашата пълна подкрепа“.

Новините на Darik Business Review във Facebook , Instagram , LinkedIn и Twitter !