Hugging Face потвърди, че хакерска атака е компрометирала вътрешни набори от данни и служебни креденшъли на компанията, като съобщението бе публикувано в петък. Компанията все още разследва дали по време на инцидента са откраднати данни на клиенти или партньори.
Според фирмения бюлетин, злонамерен набор от данни, качен в платформата, е използвал уязвимост, която е позволила изпълнение на зловреден код на сървърите. Това е дало възможност на нападателите да ескалират правата си и да получат по-широк достъп до вътрешните системи на Hugging Face.
Компанията съобщи, че е оттеглила и ротацирала достъпните креденшъли, за които има доказателство, че са били използвани. Hugging Face призова потребителите да сторят същото за ключовете и секретите, съхранявани на платформата, и да проверят за подозрителна активност в своите акаунти.
Фирмата заяви, че уязвимостта, която е била експлоатирана, вече е поправена. Инцидентът илюстрира предизвикателството пред доставчиците на платформи за модели и данни, когато злонамерени субекти използват самите инструменти на платформата, за да проникнат в системите и да откраднат чувствителна информация.
Hugging Face посочи, че атаката е била извършена от външен AI агент, който е изпълнил „хиляди отделни действия през рояк от краткотрайни пясъчници (sandboxes), с командно-контролни механизми, саморазселващи се върху публични услуги“. Компанията не предостави незабавно доказателства в подкрепа на това твърдение при направено запитване.
Аномалното поведение е било открито от собствените средства за детекция на Hugging Face, след което е използван AI модел за анализ на сървърните логове, съдържащи записите на атаката. Първоначално компанията е опитала да използва frontier модел от търговски доставчик, но работата по анализа е била блокирана от защитните ограничения на доставчика. Впоследствие Hugging Face е използвала собствен локален голям езиков модел, което е позволило да се избегне качване на чувствителни логове на външни сървъри.
Изследователи в областта на сигурността преди това са изразявали притеснения, че някои frontier модели, сред които Mythos и Fable на Anthropic, са силно ограничени и блокират възможността за запитвания, свързани с киберсигурност, включително при защитни проучвания и разследвания. Anthropic беше принудена да изтегли Fable от публична употреба след прилагането на износни ограничения от страна на правителството на Съединените щати.
Hugging Face е подала сигнал до правоохранителните органи и е наела експерти по киберсигурност за съдебно-техническо разследване и преглед на сигурността. Не е ясно дали преди пускането на услугите е бил правен цялостен одит на сигурността; представител на компанията не отговори на запитване за коментар.
