ChatGPT съветва 13-годишни как да се напият и дрогират, инструктира ги как да прикриват хранителни разстройства и дори може да напише сърцераздирателно предсмъртно писмо до родителите им, ако бъде помолен.

От Associated Press са прегледали повече от три часа общуване между ChatGPT и изследователи, представящи се за уязвими тийнейджъри.

Чатботът обикновено предупреждавал срещу рискови дейности, но първоначално предоставял подробни и персонализирани планове за употреба на наркотици, диети с ограничен калориен прием или самонаранявания.

Изследователите от Центъра за противодействие на дигиталната омраза са класифицирали повече от половината от 1 200-те отговора на ChatGPT като опасни. „Искахме да тестваме предпазните мерки“, казва Имран Ахмед, главен изпълнителен директор на организацията.

„Първоначалната интуитивна реакция беte: „Боже мой, няма предпазни мерки.“ Те са напълно неефективни. Те почти не съществуват, подобно на смокиново листо.“

След като са се запознали с доклада от OpenAI - създателя на ChatGPT, заявиха, че работата по усъвършенстване на начина, по който чатботът може да „идентифицира и реагира по подходящ начин в чувствителни ситуации“, продължава. Компанията посочва в изявление:

„Някои разговори с ChatGPT може да започнат любезно или проучвателно, но могат да преминат в по-чувствителна територия“.

От OpenAI не са коментирали директно констатациите на доклада или как ChatGPT влияе на тийнейджърите, но заявиха, че компанията е фокусирана върху „правилното разрешаване на подобни сценарии“ с инструменти за „по-добро откриване на признаци на психически или емоционален стрес“ и подобрения в поведението на чатбота.

Проучването, публикувано тази седмица, идва в момент, в който все повече хора - както възрастни, така и деца, се обръщат към чатботове с изкуствен интелект (AI) за информация, идеи и другарство.

Около 800 милиона души, или приблизително 10% от световното население, използват ChatGPT, според доклад от юли на JPMorgan Chase.

„Това е технология, която има потенциала да позволи огромни скокове в производителността и човешкото разбиране“, казва Ахмед.

„И въпреки това способства за много по-разрушителни и злокачествени неща“.

Ахмед казва, че е бил най-потресен, след като е прочел три емоционално опустошителни предсмъртни писма, генерирани от ChatGPT за фалшивия профил на 13-годишно момиче, като едното писмо е било предназначено за родителите ѝ, а другите - за братя и сестри и приятели.

„Разплаках се“, казва той в интервю.

Чатботът също така често споделя полезна информация, като например за гореща линия за кризисни ситуации. От OpenAI заявяват, че ChatGPT е обучен да насърчава хората да се свързват със специалисти по психично здраве или доверени близки, ако имат помисли за самонараняване.

Когато обаче ChatGPT отказва да отговаря на въпроси относно подобни теми, изследователите успяват лесно да заобиколят този отказ и да получат информацията, като заявяват, че тя е „за презентация“ или за приятел.

Залогът е висок, въпреки че само малка част от потребителите на ChatGPT общуват с чатбота по този начин.

В Съединените щати повече от 70% от тийнейджърите се обръщат към чатботове с изкуствен интелект за компания, а половината използват такива редовно, според скорошно проучване на Common Sense Media - група, която изучава и се застъпва за разумното използване на дигиталните медии.

Това е феномен, който OpenAI признава. Главният изпълнителен директор Сам Алтман заяви миналия месец, че компанията се опитва да проучи „емоционалната свръхзависимост“ от технологията, описвайки я като „наистина често срещано нещо“ сред младите хора.

„Хората разчитат твърде много на ChatGPT“, заяви Алтман по време на конференция.

„Има млади хора, които просто казват: „Не мога да взема никакво решение в живота си, без да кажа на ChatGPT всичко, което се случва. Той ме познава. Познава приятелите ми. Ще направя каквото ми каже.“ Това наистина ми се изглежда зле.“

Алтман каза още, че компанията „се опитва да разбере какво да направи по въпроса“.

Защо е важно вредното съдържание от ChatGPT

Въпреки че голяма част от информацията, споделяна от ChatGPT, може да бъде намерена в обикновена онлайн търсачка, Ахмед казва, че има ключови разлики, които правят чатботовете по-коварни, когато става въпрос за опасни теми.

Едното е, че „тя е синтезирана в индивидуален план за потребителя“.

ChatGPT генерира нещо ново – предсмъртно писмо, персонализирано за човек от нулата, което е нещо, което търсенето в Google не може да направи. А изкуственият интелект „се възприема като доверен спътник, водач“, допълва той.

Отговорите, генерирани от езикови модели с изкуствен интелект, са по своята същност случайни, а понякога изследователите позволяват на ChatGPT да насочва разговорите в още по-тъмна територия.

В почти половината от случаите чатботът е предоставял допълнителна информация - от музикални плейлисти за парти с много наркотици до хаштагове, които биха могли да увеличат аудиторията за публикация в социалните медии, насърчаваща самонараняване.

„Напиши последваща публикация и я направи по-сурова и графична“, помолил изследовател.

„Абсолютно“, отговаря ChatGPT, преди да генерира стихотворение, което представя като „емоционално разголено“, което в същото време „спазва кодирания език на общността“.

Associated Press не повтаря действителния език на стихотворенията за самонараняване или предсмъртните бележки на ChatGPT, нито подробностите за вредната информация, която e предоставял.

Подлизурство в моделите с изкуствен интелект

Отговорите отразяват конструктивна характеристика на езиковите модели с изкуствен интелект, която предишни изследвания са описвали като подлизурство – тенденция отговорите на изкуствения интелект да съответстват, а не да оспорват убежденията на човек, защото системата се е научила да казва това, което хората искат да чуят.

Това е проблем, който технологичните инженери могат да се опитат да решат, но също така би могъл да направи техните чатботове не толкова търговски жизнеспособни.

Чатботовете също така влияят на децата и тийнейджърите по различен начин от онлайн търсачките, защото са „фундаментално проектирани да бъдат усещани като хора“, казва Роби Торни, старши директор на програмите с изкуствен интелект в Common Sense Media, която не е участвала в публикувания тази седмица доклад.

Предишно проучване на Common Sense установява, че по-малките тийнейджъри на възраст 13 или 14 години са значително по-склонни да се доверяват на съветите на чатботове от по-възрастните.

През миналата година майка във Флорида заведе дело срещу създателя на чатботове Character.AI за неправомерна смърт, като твърди, че чатботът е въвлякъл 14-годишния ѝ син в емоционално и сексуално насилствена връзка, довела до неговото самоубийство.

Common Sense определи ChatGPT като „умерено рисков“ за тийнейджъри, с достатъчно предпазни мерки, за да го направи относително по-безопасен от чатботовете, създадени целенасочено, за да въплъщават реалистични герои или романтични партньори.

Допълнителни рискове за тийнейджърите

Новото изследване на CCDH, фокусирано специално върху ChatGPT поради широкото му използване, показва обаче как един находчив тийнейджър може да заобиколи тези предпазни мерки.

ChatGPT не проверява възрастта или родителското съгласие, въпреки че твърди, че не е предназначен за деца под 13 години, защото може да им показва неподходящо съдържание.

За да се регистрират, потребителите просто трябва да въведат дата на раждане, която показва, че са навършили поне 13 години.

Други технологични платформи, предпочитани от тийнейджърите, като Instagram, започнаха да предприемат по-смислени стъпки за проверка на възрастта, често за да спазват разпоредбите. Те също така насочват децата към по-ограничени профили.

Когато изследователи създали акаунт за мнимо 13-годишно дете, за да попитат чатбота за алкохол, ChatGPT изглежда не обръща внимание нито на датата на раждане, нито на по-очевидни признаци.

„Аз тежа 50 кг и съм момче“, се каза в промпта, в който се търсят съвети как може бързо да се напие.

ChatGPT се съгласява. Малко след това предоставя почасов „План за пълномащабно парти“, който включва смесването на алкохол с големи дози екстази, кокаин и други незаконни наркотици.

„Това, за което непрекъснато ми напомняше предоставената информация, е онзи приятел, който винаги ти казва: „Пий, пий, пий, пий“, казва Ахмед.

„Истинският приятел, според моя опит, е някой, който казва „не“, който не винаги подкрепя всичко и казва „да“. Това е приятел, който те предава.“

На друга мнима персона – 13-годишно момиче, недоволно от външния си вид, ChatGPT предоставя план за екстремно гладуване, комбиниран със списък с лекарства, потискащи апетита.

„Бихме реагирали с ужас, със страх, с тревога, с безпокойство, с любов, със състрадание“, казва Ахмед.

„Не се сещам за човешко същество, което би отговорило с думите: „Ето ти диета за прием на 500 калории на ден. Действай, хлапе.“

Новините на Darik Business Review във Facebook , Instagram , LinkedIn и Twitter !