Сайтът за чатботове Character.ai спира достъпа на тийнейджърите до неговите виртуални герои, след като се сблъска с остри критики относно видовете взаимодействия, които младите хора имат с онлайн спътниците си.

Платформата, основана през 2021 г., се използва от милиони, за да разговарят с чатботове, задвижвани от изкуствен интелект (ИИ).

Но тя е изправена пред няколко съдебни дела в САЩ от родители, включително едно за смъртта на тийнейджър, като някои я определят като „ясна и настояща опасност“ за младите хора.

Промяна от 25 ноември

От Character.ai съобщават, че от 25 ноември лицата под 18 години ще могат да генерират само съдържание, като видеоклипове със своите герои, вместо да говорят с тях, както могат в момента.

Активистите за онлайн безопасност приветстваха хода, но заявиха, че функцията никога не е трябвало да бъде достъпна за деца.

Character.ai заяви, че прави промените след „доклади и обратна връзка от регулатори, експерти по безопасност и родители“, подчертали опасения относно взаимодействията на нейните чатботове с тийнейджъри.

Експерти вече предупреждаваха за потенциала на чатботовете с изкуствен интелект да си измислят неща, да бъдат прекалено окуражаващи и да се преструват на емпатични, което може да представлява риск за младите и уязвими хора.

„Днешното съобщение е продължение на нашето общо убеждение, че трябва да продължим да изграждаме най-безопасната платформа с изкуствен интелект на планетата за развлекателни цели“, каза шефът на Character.ai Карандийп Ананд пред BBC News.

Той заяви, че безопасността на изкуствения интелект е „движеща се цел“, но нещо, към което компанията е предприела „агресивен“ подход, с родителски контрол и предпазни мерки.

Групата за онлайн безопасност Internet Matters приветства съобщението, но заяви, че мерките за безопасност е трябвало да бъдат вградени от самото начало.

„Нашите собствени изследвания показват, че децата са изложени на вредно съдържание и на риск, когато взаимодействат с изкуствен интелект, включително чатботове с изкуствен интелект“.

Character.ai е била критикувана в миналото за хостване на потенциално вредни или обидни чатботове, с които децата биха могли да говорят.

Pixabay
Pixabay

Опасни модели

Аватари, представящи се за британските тийнейджърки Бриана Гей, убита през 2023 г., и Моли Ръсел, която отне живота си на 14-годишна възраст, след като вижда материали за самоубийство онлайн, бяха открити на сайта през 2024 г., преди да бъдат премахнати.

По-късно, през 2025 г., Бюрото за разследваща журналистика (TBIJ) откри чатбот, базиран на педофила Джефри Епщайн, който е регистрирал над 3000 разговора с потребители.

Изданието съобщи, че аватарът „Най-добрата приятелка на Епщайн“ продължил да флиртува с репортерката, след като тя казала, че е дете. Това бил един от няколкото бота, маркирани от TBIJ, които впоследствие били премахнати от Character.ai.

Фондация „Моли Роуз“, създадена в памет на Моли Ръсел, постави под въпрос мотивите на платформата.

„За пореден път е необходим постоянен натиск от медиите и политиците, за да се накара технологичната фирма да направи правилното нещо и изглежда, че Character AI избира да действа сега, преди регулаторните органи да го направят“, казва Анди Бъроуз, главен изпълнителен директор.

Сигнал за събуждане

Според Ананд, новият фокус на компанията е върху предоставянето на функции за „още по-задълбочен геймплей [и] ролеви разказвачи“ за тийнейджъри - добавянето им би било „много по-безопасно от това, което биха могли да направят с отворен бот“.

Ще се появят и нови методи за проверка на възрастта, а компанията ще финансира нова изследователска лаборатория за безопасност на ИИ.

Експертът по социални медии Мат Навара казва, че това е „сигнал за събуждане“ за индустрията на ИИ, която преминава „от иновации без разрешение към регулации след кризата“.

„Когато платформа, която изгражда тийнейджърско преживяване, след това се откаже, това показва, че филтрираните чатове не са достатъчни, когато емоционалното привличане на технологиите е силно“, казва той пред BBC News.

„Не става въпрос за пропуски в съдържанието. Става въпрос за това как ботовете с изкуствен интелект имитират реални взаимоотношения и размиват границите за младите потребители“.

Според Навара, голямото предизвикателство за Character.ai ще бъде създаването на ангажираща платформа с изкуствен интелект, която тийнейджърите все още искат да използват, вместо да преминат към „по-малко безопасни алтернативи“.

Междувременно, д-р Номиша Куриан, която е изследвала безопасността на изкуствения интелект, заяви, че е „разумен ход“ да се ограничи използването на чатботове от тийнейджърите.

„Това помага да се отдели творческата игра от по-личните, емоционално чувствителни обмени. Това е толкова важно за младите потребители, които все още се учат да се ориентират в емоционалните и дигиталните граници. Новите мерки на Character.ai може да отразяват фаза на зрялост в индустрията с изкуствен интелект - безопасността на децата все повече се признава за спешен приоритет за отговорни иновации.“

Новините на Darik Business Review във Facebook , Instagram , LinkedIn и Twitter !