Китайски чатбот с изкуствен интелект, вграден в най-широко използваното приложение в страната, за кратко излезе от релси, нахвърляйки се върху потребител.

Асистентът с изкуствен интелект на Tencent - Yuanbao, който е вграден в WeChat, водещото супер приложение в Китай, използвано ежедневно от десетки милиони хора, определи заявката за програмиране на потребител като „глупава“ и му каза да „се разкара“, според скрийншотове, споделени в китайската платформа RedNote.

За инцидентът стана ясно в петък, след като потребител, идентифициран само с псевдонима Jianghan, публикува екранни снимки на общуването си с чатбота в RedNote.

Jianghan е използвал Yuanbao за отстраняване на грешки и промяна на програмистки код, когато изкуственият интелект внезапно е започнал да отговаря с враждебни съобщения.

В един от разговорите чатботът определя заявката като „глупава“ и казва на потребителя „да се разкара“. След това допълва: „Ако искате функция за емоджи, използвайте сами плъгин.“

Потребителят поискал от Yuanbao да поправи грешка, която е карала функционалност за емоджи, или стикер, да спира да реагира на двойно щракване, и е помолил за функционален код за разрешаване на проблема.

По-късно YuanBao отговори директно под публикацията на потребителя, извинявайки се за това, което описва като „негативно преживяване“. Чатботът заяви, че епизодът вероятно е причинен от „рядка аномалия в AI модела“.

Преглед на системните регистрационни файлове показва, че отговорите не са били задействани от действията на потребителя и не са включвали човешка намеса. Компанията добави, че е стартирала „вътрешно разследване и процес на оптимизация“, за да намали вероятността от повторно възникване на подобни инциденти.

Оригиналната публикация на Jianghan в RedNote впоследствие бе изтрита. Снимки на екрана продължават да циркулират в RedNote.

Китай затяга контрола върху изкуствения интелект

Инцидентът с Yuanbao идва на фона на засилването на контрола върху системите с изкуствен интелект от страна на китайските регулатори.

Миналата седмица Китай публикува проект за мерки, насочени към регулиране на „човекоподобни“ интерактивни услуги с изкуствен интелект, включително чатботове и виртуални спътници.

В изявление Китайската администрацията за киберпространството заяви, че Пекин насърчава иновациите в „човекоподобния“ изкуствен интелект, но ще постави предпазни мерки, за да „предотврати злоупотреба и загуба на контрол“.

Вей Сун, главният анализатор в сферата на изкуствения интелект в Counterpoint Research, заяви пред Business Insider, че проектът изпраща сигнал, че Пекин иска да ускори развитието на човекоподобни взаимодействия с изкуствен интелект, като същевременно ги поддържа регулирани и социално приемливи.

Китайската индустрия за изкуствен интелект продължава да се развива с бързи темпове от началото на 2026 г.

Миналата седмица DeepSeek, една от най-внимателно следените стартиращи компании за изкуствен интелект в страната, публикува изследване, очертаващо нов подход за обучение, предназначен да улесни мащабирането на големи модели. Анализатори съобщиха пред Business Insider, че техниката, известна като „Manifold-Constrained Hyper-Connections“ или mHC, се откроява като „пробив“ в дизайна на модели.

South China Morning Post съобщи във вторник, че DeepSeek е актуализирала интерфейса на своя водещ модел чатбот, въвеждайки подобрен режим на „мислене“.

Актуализациите подхранват очакванията, че стартъпът може да положи основите за пускането на следващия си основен модел.

Новините на Darik Business Review във Facebook , Instagram , LinkedIn и Twitter !

Добави в предпочитани в Google