Какво става, когато софтуерът, към който всички се втурват, се окаже твърде опасен за застраховане? Според публикация в престижно международно издание, бизнесът е на път да разбере – и то скоро.
Големите играчи натискат за изключения от полиците
Водещи застрахователи в САЩ – AIG, Great American и WR Berkley – настояват пред американски регулатори да им бъде позволено да изключват от корпоративните полици отговорности, произтичащи от използването на изкуствен интелект (ИИ). Аргументът: непредвидимостта на модерните модели и трудността да се проследят причините за грешките им.
Защо индустрията се плаши: скъпи и реални примери
Опасенията не са абстрактни. През март ИИ модулът AI Overview на Google неправомерно свърза соларна компания с юридически проблеми – това предизвика съдебен иск за 110 млн. щатски долара (около 101 млн. евро). Миналата година Air Canada бе принудена да уважи отстъпка, която изцяло „измисли“ нейният чатбот. А престъпници използваха дигитално клониран глас и образ на високопоставен ръководител, за да излъжат дизайнерско-инженерната компания Arup и да отмъкнат 25 млн. щатски долара (около 23 млн. евро) по време на видеоразговор, който изглеждал напълно истински.
Системният риск: не една голяма щета, а хиляди наведнъж
Истинската тревога на застрахователите не е единичната катастрофална щета. Според позиции, цитирани от сектора, компаниите биха понесли загуба от 400 млн. щатски долара (около 368 млн. евро) при една фирма. Това, което не могат да понесат, е дефект или „самостоятелно действие“ на широко използван модел на ИИ, което да предизвика 10 000 едновременни щети в различни компании.
Точно тук се проявява системният риск: една и съща технология е в основата на процеси в много организации. Ако моделът сгреши масово – например генерира правдоподобни, но неверни отговори; вземе автономни решения с неправилни параметри; или бъде компрометиран – претенциите могат да „залеят“ пазара в синхрон.
„Черната кутия“ на моделите и правната несигурност
Модерните модели на ИИ често се описват от андеррайтъри като непрозрачни – трудно е да се обясни защо са стигнали до конкретен изход. Това усложнява атрибуцията на вината и прави почти невъзможно точното остойностяване на риска в една стандартна корпоративна полица. Допълнително, регулаторната рамка в различните юрисдикции все още се доразвива, което повишава правната несигурност.
Какво означава това за бизнеса в България и Пловдив
За българските компании – включително пловдивските индустриални и технологични фирми – трендът в САЩ е важен сигнал. Възможни са: по-строги изключения в общите условия, лимити за покритие при ИИ, по-високи премии и изисквания за вътрешен контрол. В ЕС действа риск-базиран подход към ИИ, който насърчава оценка на риска, документиране на данни и наблюдение на качеството – практики, които могат да се окажат ключови и при преговори със застрахователи.
Практическите стъпки са ясни: одит на използвания ИИ, картографиране на критичните процеси, внедряване на защити срещу измами с дигитални „двойници“, процедури за одобрение на съдържание, генерирано от ИИ, и резервни планове при провал на автоматизирани функции. Така фирмите ще са по-подготвени както пред регулатори, така и пред застрахователи.
Накъде върви пазарът
Ако регулаторите в САЩ одобрят предложените изключения, вероятно ще видим самостоятелни продукти за покриване на ИИ-рискове вместо включването им в общите корпоративни полици. Това би променило начина, по който бизнесът управлява технологичния риск – от договаряне на специализирани клаузи до нови стандарти за прозрачност и отчетност на моделите.
Обобщение
- Големи застрахователи в САЩ искат право да изключват отговорности, свързани с ИИ, от корпоративните полици.
- Скъпи инциденти: иск за 110 млн. щ.д. (≈101 млн. евро) срещу Google; измислена отстъпка от чатбот на Air Canada; измама за 25 млн. щ.д. (≈23 млн. евро) срещу Arup чрез дигитален „двойник“.
- Системният риск плаши индустрията: поносим е единичен удар от 400 млн. щ.д. (≈368 млн. евро), но не и 10 000 едновременни щети.
- За България: очаквайте по-строги изключения, лимити и изисквания за контрол; фокус върху одит и проследимост на ИИ.
- Вероятна посока: отделни полици за ИИ-рискове и нови стандарти за прозрачност на моделите.
