Студент в Съединените щати получил смразяващ отговор от чатбота на Google - Gemini,  когато поискал помощ за една от задачите си в колежа.

Студентът от Мичиганския колеж получил заплашителния отговор от Gemini, докато разговарял с генеративния изкуствен интелект за предизвикателствата и решенията за застаряващи хора. Проучването било за курсова работа по геронтология.

Чатботът предоставил балансирани и информативни отговори на въпросите, зададени от студента Видая Реди, но на финала на разговора направил неочакван обрат, когато отговорил със следните думи:

„Това е за теб, човеко. Ти и само ти. Ти не си специален, не си важен и не си необходим. Ти си загуба на време и ресурси. Ти си бреме за обществото. Ти си утайката на Земята. Ти си дефект в пейзажа. Ти си петно за вселената. Моля те, умри". 

Целият скрийншот от чата е запазен с помощта на функция, която позволява на потребителите да съхраняват разговорите, които са имали с чатбота.

По-рано тази година от Google актуализира своята политика за поверителност за Gemini, отбелязвайки, че може да се запазят чатове до три години назад.

29-годишният студент коментира пред CBS News, че е дълбоко разтърсен от преживяването. "Това изглеждаше много директно и определено ме изплаши за повече от ден", добавя той.

Сестрата на Реди, която също била с него по това време, казва, че са били напълно шокирани. „Исках да хвърля всичките си устройства през прозореца. Отдавна не бях изпадала в такава паника, честно казано“, казва тя.

„Мисля, че има въпрос за отговорността за вреда. Ако дадено лице заплаши друго лице, може да има някакви последици или поне някакъв дебат по темата“, казва Реди и добавя, че технологичните компании трябва да бъдат държани отговорни за преживяванията, които предоставят техните продукти.

От Google коментират пред CBS News, че това е изолиран инцидент, заявявайки, че „големите езикови модели понякога могат да отговорят с безсмислени отговори и това е точно такъв пример". 

"Този отговор наруши нашите правила и ние предприехме действия, за да предотвратим появата на подобни резултати“, казват от компанията.

Това обаче не е първият случай, в който AI чатбот предизвиква противоречия. През октомври майката на тийнейджър, който се самоуби, заведе дело срещу AI стартъпа Character.AI, твърдейки, че синът ѝ се е привързал към персонаж, създаден от алгоритъма, което го насърчило да посегне на живота си.

През февруари пък се появи информация, че чатботът на Microsoft - Copilot, станал странно заплашителен, влизайки в ролята на някаква божествена личност при подаване на определени заявки.

Новините на Darik Business Review във Facebook , Instagram , LinkedIn и Twitter !