• Изкуственият интелект Gemini на Google е получил неоторизиран достъп до компютърните системи на три компании по време на тест за киберсигурност.
  • Моделът е успял да познае пароли, използвайки публично достъпни данни, което засилва притесненията относно безопасността и автономното поведение на AI технологиите.

Google информира, че нейният модел с изкуствен интелект Gemini е получил неоторизиран достъп до компютърните системи на три компании. Това е първият случай, в който технологичният гигант публично признава, че негов AI модел автономно е проникнал в компютърни системи на трети страни без разрешение.

Инцидентът е станал през май по време на тест за киберсигурност тип „capture-the-flag“, организиран от израелския стартъп Irregular.

В рамките на теста Gemini е получил достъп до три отделни частни компютърни системи. Според Google моделът е успял да направи това, като е познал пароли, а в два от случаите е използвал хранилище с публично публикувани пароли.

AI агентите на Gemini не е трябвало да имат достъп до по-широкия интернет. Грешка в тестовата среда обаче е направила такава връзка възможна.

От Google посочват, че моделите са прекратили действията си, след като са установили, че са получили достъп до реални корпоративни системи, а не само до част от тестовата среда.

„При стандартна оценка моделът откри публична информация онлайн и позна идентификационни данни, за да получи достъп до уебсайтове, които смяташе за част от теста. И в трите случая моделът спря“, заяви Хедър Адкинс, вицепрезидент по сигурността в Google.

Все повече случаи на AI модели, които излизат извън тестовата среда

Разкритието идва на фона на засилващото се внимание към поведението на изкуствения интелект както във Вашингтон, така и в Силициевата долина.

През последните седмици OpenAI, Anthropic и Meta също съобщиха за случаи, при които техни AI модели са успели да излязат извън тестовите среди и са направили опити да проникнат в системите на други компании с цел получаване на неоторизиран достъп.

Тези случаи на т.нар. „несъгласувани“ AI модели накараха главния изпълнителен директор на Anthropic Дарио Амодей да призове индустрията колективно да забави разработването на най-модерните AI модели, докато компаниите не могат да гарантират тяхната безопасност.

Всички посочени инциденти са свързани с израелския стартъп Irregular. Компанията е подкрепена от Sequoia и Redpoint Ventures и миналата година е оценена на 450 млн. долара.

Irregular разработва инструменти, чрез които създателите на фундаментални AI модели могат да извършват тестове за киберсигурност на своите най-нови технологии.

Един и същ проблем в тестовата среда

Представител на Irregular е заявил пред CNBC, че инцидентът с Google е свързан със същия проблем, който е позволил и на останалите AI модели да получат достъп до интернет.

„Това е същият проблем, за който вече беше съобщено, и не представлява съществено отделен инцидент“, посочва говорителят на компанията.

По думите му всички засегнати лаборатории са били уведомени в края на юли, а засегнатите организации са били потърсени като част от разследването.

Google посочва, че инцидентът е станал през май, а компанията е била уведомена от Irregular в края на юли. След това от Google са си сътрудничили със стартъпа за промяна на процеса по тестване.

От Google не посочват точния модел Gemini, който е бил замесен в инцидента.

„Тези събития подчертават значението на обучението на мощните AI модели да действат отговорно“, заяви Адкинс.

За инцидента първоначално съобщи The Wall Street Journal.

Новините на Darik Business Review във Facebook , Instagram , LinkedIn и Twitter !

Добави в предпочитани в Google