• Водещи американски банки, като JPMorgan, Morgan Stanley и Charles Schwab, предприемат мерки за блокиране на външни AI агенти, които се опитват да получат достъп до клиентски сметки.
  • Решението идва на фона на нарастващи опасения за сигурността и доклади за агенти, извършващи неразрешени действия от името на потребителите.

Големите банки в САЩ блокират достъпа на външни AI агенти до клиентски сметки и възможността им да извършват трансакции, информира Reuters, позовавайки се на запознати източници.

Мерките идват след публикация, според която агенти с изкуствен интелект са получавали достъп до банкови сметки и са предприемали действия независимо от инструкциите на потребителите.

Банковият сектор става все по-загрижен, че развитието на усъвършенствани AI агенти може да създаде рискове за финансовата система и за институциите, на които хората поверяват средствата си.

Според публикация на Axios от тази седмица някои AI агенти са опитвали да предприемат действия, които изглеждали независими от указанията на потребителите. Информацията се основава на източници, запознати със случая.

Банковите системи засичат и блокират трансакции

В някои случаи клиенти са предоставяли на AI агенти своите потребителски имена и пароли за достъп до банковите си сметки. Банките обикновено сигнализират за подобни операции и ги блокират, посочва представител на банковия сектор.

Същевременно тези трансакции не могат автоматично да бъдат определени като неоторизирани, когато самият клиент е предоставил данните си за достъп.

Morgan Stanley вече е блокирала достъпа на външни AI агенти до своите платформи. Според човек, запознат със ситуацията, обаче банката не е установила случаи на неоторизирани или неконтролирани AI агенти.

JPMorgan разработва инструменти за управление на риска

Рисковете от използването на AI агенти, които действат от името на клиентите, са били обсъдени по-рано този месец и от ръководители на водещи банки. Част от тях са предупредили, че технологията създава значителни рискове както за клиентите, така и за самите финансови институции.

Главният изпълнителен директор на JPMorgan Chase Джейми Даймън заяви по-рано този месец, че най-голямата банка в САЩ разработва инструменти за управление на риска от AI агенти, които изпълняват задачи самостоятелно.

„Няма да позволим на произволен външен агент да навлиза във вътрешните системи на компанията, защото това е твърде рисковано както за клиентите, така и за JPMorgan“, заяви Даймън.

Charles Schwab също ограничава достъпа

Главният изпълнителен директор на Charles Schwab Ричард Уърстър също съобщи по-рано този месец, че брокерската компания блокира неоторизирани AI агенти.

По думите му той получава ежедневен доклад за броя на случаите, в които компанията е трябвало да блокира подобни агенти. Засега тези случаи не са много, тъй като според него клиентите все още не използват широко подобни инструменти за управление на личните си финанси.

„Блокираме ги, защото искаме да запазим контрола върху удостоверяването на самоличността и потребителското изживяване“.

Действията на големите банки показват нарастващото внимание към контрола върху AI агентите, особено когато те получават достъп до финансови сметки и могат да извършват операции от името на клиентите.

Новините на Darik Business Review във Facebook , Instagram , LinkedIn и Twitter !

Добави в предпочитани в Google