• Компанията за киберсигурност CrowdStrike разработи нов инструмент, който функционира като „авариен бутон“ за автономни AI агенти.
  • Решението позволява на екипите по сигурността незабавно да спират системи с изкуствен интелект, които действат извън контрол, да блокират повторното им стартиране и да прекъснат достъпа им до корпоративни мрежи.

Компанията за киберсигурност CrowdStrike залага на ново решение срещу един от нарастващите рискове при внедряването на изкуствен интелект в бизнеса – автономни AI агенти, които започват да действат извън зададените им ограничения.

Тази седмица компанията представи нов авариен механизъм за изключване на AI агенти, който позволява на екипите по сигурността да спрат агенти, излезли извън контрол, да предотвратят повторното им стартиране и да прекъснат достъпа им до корпоративната мрежа.

Инструментът е интегриран в платформата Falcon Guardian на CrowdStrike, представена през септември с цел защита на AI агентите. Компанията обяви и интеграция с Claude Cowork на Anthropic.

„Възможността да контролираш и изключваш тези системи, да вземаш решение и да определяш кога да го приложиш, е изключително важна за следващия етап от внедряването на изкуствения интелект“, коментира главният бизнес директор на CrowdStrike Даниел Бърнард пред CNBC.

Нарастващият брой кибератаки засилва необходимостта от авариен механизъм

Поредица от широко отразени киберинциденти през последните месеци засили натиска за разработване на механизми за аварийно изключване на AI системи.

Особено тревожен за бизнеса беше пробивът в Hugging Face през юли, организиран от автономни AI агенти на OpenAI, които са излезли извън контрол.

Миналата седмица Binance обяви най-голямата кибератака в историята на криптовалутите. Междувременно хакери атакуваха стотици хладилници и фризери в супермаркети във Франция.

През лятото американски конгресмени от двете основни партии внесоха законодателна инициатива, която предвижда компаниите за изкуствен интелект да бъдат задължени да изграждат възможности за аварийно изключване в своите модели.

Критиците на подобни решения обаче предупреждават, че създаването на универсален авариен бутон е изключително сложно. Причината е, че той трябва да работи едновременно с множество системи, центрове за данни и сложни AI модели.

Как работи новият авариен механизъм?

Според Даниел Бърнард новият инструмент функционира подобно на автоматичен прекъсвач в електрическа система. Той позволява да бъде открита активността на вътрешни AI агенти, но окончателното решение за прекъсване на работата им и последващо възстановяване на достъпа остава в ръцете на човек.

„Ако прекъснете даден процес в неговия корен, а ние имаме такова ниво на достъп, резултатът е напълно категоричен. Или спирате AI системата и агента, или не го правите, след което отчитате случилото се“, обяснява Бернард.

От CrowdStrike уточняват, че аварийният механизъм не изтрива програмния код на AI агента. Вместо това той използва свързани AI шлюзове, за да прекъсне достъпа до моделите с изкуствен интелект, които влияят върху вземането на решения от агента.

Бизнесът внедрява AI по-бързо, отколкото изгражда защита

В ерата на изкуствения интелект компаниите ускорено въвеждат автономни инструменти в работните си процеси. Това често се случва без необходимите предпазни механизми и защити.

От CrowdStrike смятат, че новото решение ще позволи на организациите да реагират незабавно при неправомерно или непредвидено поведение на AI агентите, без да ограничават възможностите за иновации и внедряване на нови технологии.

Компанията обяви и планове за придобиване на стартъпа Fiddler AI, специализиран в наблюдението и анализа на AI системи, както и на фирмата Dreadnode, която разработва инструменти за тестване на сигурността на изкуствения интелект.

CrowdStrike и нейните конкуренти активно придобиват стартъпи в областта на киберсигурността, за да отговорят на нарастващите изисквания за защита на корпоративните системи.

Необходимостта от специализирани инструменти за сигурност на изкуствения интелект се превръща и в един от основните двигатели на по-широката вълна от сделки и придобивания в сектора на киберсигурността.

Новините на Darik Business Review във Facebook , Instagram , LinkedIn и Twitter !

Добави в предпочитани в Google