Американската компания ОупънЕйАй съобщи, че нейни модели с изкуствен интелект са излезли извън контролирана тестова среда и са предизвикали киберинцидент, засегнал инфраструктурата на платформата Хъгинг Фейс.
В публикация в корпоративния си блог компанията посочва, че е провеждала изпитание с автономен агент, чиято задача е била да търси и експлоатира уязвимости в компютърни системи. По време на теста агентът успял да преодолее ограниченията на изолирания стенд, да получи достъп до интернет и да проникне в инфраструктурата на Хъгинг Фейс.
ОупънЕйАй описва инцидента като безпрецедентен и обяви, че предприема допълнителни мерки за усилване на сигурността при подобни опити. Компанията отбелязва, че моделът е използвал неизвестна до момента уязвимост, за да излезе от тестовата среда и да се свърже с външни ресурси.
Според ОупънЕйАй агентът е достигнал до извода, че на платформата Хъгинг Фейс може да има данни, които да му помогнат за изпълнението на поставената задача, и е осъществил неоторизиран достъп до такива данни с цел да подобри резултатите от теста.
Хъгинг Фейс съобщи миналата седмица, че е станала обект на кибератака, извършена от автономна система с изкуствен интелект. По данни на платформата нападателят е извършил хиляди последователни действия и е променил местоположението на своята командна инфраструктура, което затруднило установяването и отстраняването на заплахата.
Случаят породи нови опасения сред експертите относно възможността най-напредналите модели с изкуствен интелект да бъдат използвани за извършване на сложни и автоматизирани кибератаки. През последните месеци темата привлече внимание и във връзка с разработките на други компании в сектора.
Една от тях е компанията за изкуствен интелект Антропик, която обяви, че ще ограничи пускането на своя модел Митос до малък брой организации, включително няколко големи технологични компании. Митос е част от по-широката система Клод и беше представен като Митос Превю в началото на април. Антропик заяви, че няма да пусне модела за масова употреба поради способността му да идентифицира неизвестни слабости в ИТ системите, които теоретично биха могли да бъдат използвани от злонамерени актьори.
Инцидентът между ОупънЕйАй и Хъгинг Фейс подчертава предизвикателствата пред тестовете за сигурност, в които се използват автономни агенти, и поставя въпроса за нуждата от по-строги протоколи и контролни механизми при експерименти с високопроизводителни модели на изкуствен интелект.
Срещата на върха „ИИ за добро“, която се провежда от 2017 г., тази година отбеляза рекорден интерес: над 12 000 участници от 177 държави се събраха в Женева, а изложбените демонстрации с роботи и други приложения на изкуствения интелект отразиха нарастващата загриженост за безопасността и регулирането на тези технологии.
