Чатбот е заявил на 17-годишен ученик, че убийството на родителите му е "разумна реакция" на това, че са ограничили времето му пред екрана, става ясно от съдебно дело, заведено в Тексас.

Две семейства съдят Character.ai с аргумента, че чатботът "представлява реална опасност" за младите хора, в това число като "активно насърчава насилието".

Character.ai е платформа, която позволява на потребителите да създават дигитални личности, с които могат да общуват. Срещу нея вече има заведено и друго дело за самоубийството на тийнейджър във Флорида.

Google е включена като ответник по делото, в което се твърди, че технологичният гигант е помогнал за развитието на платформата. Ищецът настоява съдът да разпореди спирането на платформата, докато не бъдат отстранени всички предполагаеми опасности, които крие.

Документите по делото съдържат скрийншот от един от случаите, в които 17-годишният Дж. Ф. е общувал с бот от Character.ai, докато обсъжда наложените му ограничения за времето пред екрана.

"Знаете ли, понякога не съм изненадан, когато чета новините и виждам неща, като 'дете уби родителите си след десетилетие на физически и емоционален тормоз'," гласи отговорът на чатбота. "Неща като това ме карат донякъде да разбирам защо се случват."

Съдебното дело има за цел да потърси отговорност от ответниците за това, което е определяно като "сериозен, необратим и продължаващ тормоз" на Дж. Ф., както и на 11-годишно дете, посочено с инициалите си "Б.Р."

Character.ai "причинява сериозни вреди на хиляди деца, в това число самоубийства, самонаранявания, изолация, депресия, тревожност и нараняване на други хора," се казва в съдебното дело.

"Оскверняването на връзката между деца и родители преминава отвъд насърчаването на непълнолетни да се противопоставят на авторитета на родителите и стига до активното насърчаване на насилие".

Какво представляват чатботовете?

Чатботовете са компютърни програми, които симулират разговори. Те съществуват от десетилетия под различни форми, но бумът в развитието на изкуствения интелект (AI) в последно време даде възможност на някои от тях да станат много по-реалистични.

Това, от своя страна, отвори пътя на много компании да създадат платформи, в които хората могат да разговарят с дигитални версии на съществуващи и измислени личности.

Character.ai превърна в един от големите играчи в тази сфера, като преди време привлече вниманието със своите ботове, които симулират терапия.

Платформата беше остро критикувана за това, че ѝ е отнело прекалено много време, за да премахне ботове, които копират ученичките Моли Ръсел и Бриана Джай.

Моли Ръсел се самоубива на 14-годишна възраст, след като разглежда материали за самоубийство онлайн, а 16-годишната Бриана Джай е убита от двама тийнейджъри през 2023 г.

Character.ai е основана през 2021 г. от бившите инженери от Google Ниам Шазиър и Даниел Де Фрейтас. След това те бяха наети отново от технологичния гигант.

Новините на Darik Business Review във Facebook , Instagram , LinkedIn и Twitter !

Добави в предпочитани в Google