Повече от 100 изследователи от водещи академични институции предупреждават, че неограниченият достъп до определени биологични бази данни може да позволи на системи с изкуствен интелект да подпомогнат проектирането или усъвършенстването на опасни вируси. В отворено писмо авторите настояват за по-строги механизми за достъп и контрол, за да се предотврати злоупотреба.
Какъв е залогът
Според учените, сред които експерти от Университета „Джонс Хопкинс“, Оксфордския университет, Университета „Фордъм“ и Станфордския университет, откритият достъп до научни данни е ускорил откритията, но малък поднабор от нови биологични данни крие съществени рискове за биосигурността, ако бъде използван неправомерно.
„Залогът при управлението на биологичните данни е огромен, тъй като моделите на изкуствен интелект могат да подпомогнат създаването на тежки биологични заплахи.“
Биологичните ИИ модели вече могат да предсказват мутации, да откриват закономерности и дори да генерират по-преносими варианти на пандемични патогени – „способност, будеща тревога“, която би могла да ускори и опрости създаването на преносими биологични заплахи при хора, животни, растения или в околната среда.
Какво предлагат учените
Авторите подчертават, че в общия случай биологичните данни трябва да остават открити. Но за „притеснителните данни за патогени“ те препоръчват ясни и последователни правила: дефиниране и управление на най-рисковите набори още преди да станат широко достъпни за ИИ разработчици. За целта се предлага нова рамка за достъп с технически и организационни защити.
„В епоха, доминирана от биологични ИИ модели с отворени тегла по целия свят, ограничаването на достъпа до чувствителни данни за патогени само до легитимни изследователи може да е един от най-обещаващите пътища за намаляване на риска“, казва Мориц Ханке, съавтор на писмото от Университета „Джонс Хопкинс“.
Какво правят разработчиците днес
Все още няма универсална рамка, която да регулира тези набори от данни. Някои екипи доброволно изключват високорискова информация. Разработчиците на водещи биологични ИИ модели – Evo (създаден от Arc Institute, Станфордския университет и TogetherAI) и ESM3 (на EvolutionaryScale) – са задържали определени вирусни последователности извън обучаващите си данни.
През февруари 2025 г. екипът на EVO 2 съобщи, че изключва патогени, инфектиращи хора и други сложни организми от своите набори данни заради етични и предпазни съображения, „за да се предотврати използването на Evo за разработване на биологични оръжия“. EVO 2 е отворен модел за биология, който може да предсказва ефектите от мутации в ДНК, да проектира нови геноми и да открива закономерности в генетичния код.
„В момента няма експертно подкрепено ръководство кои данни носят смислен риск, затова някои водещи разработчици правят най-доброто си предположение и доброволно изключват вирусни данни от обучението“, посочва Джаси Пану, съавтор на изследването.
Петстепенна скала за ниво на биосигурност на данните (BDL)
Предложената рамка важи за малка част от биологичните набори и класифицира рисковете според потенциала данните да научат ИИ на общи вирусни модели и заплахи за животни и хора:
- BDL-0: Ежедневни биологични данни. Без ограничения; свободно споделяне.
- BDL-1: Базови „строителни блокове“ на вируси, като генетични последователности. Без сериозни проверки; изисква се регистрация и наблюдение на достъпа.
- BDL-2: Данни за характеристики на животински вируси, като прескачане на видове или устойчивост извън гостоприемника.
- BDL-3: Данни за човешки вируси: преносимост, симптоми, устойчивост на ваксини.
- BDL-4: „Надградени“ човешки вируси – например мутации на вируса на COVID-19, които го правят по-заразен. Най-строги ограничения.
Как да се осигури безопасен достъп
За да се гарантира безопасна употреба, учените предлагат технически инструменти за верификация и проследимост: водни знаци (скрити уникални идентификатори в наборите за лесно откриване на течове), доказуем произход на данните, одитни дневници с неподправяеми подписи и поведенческа биометрия за разпознаване на модели на потребителско взаимодействие.
Баланс между откритост и сигурност
Авторите подчертават, че намирането на точния баланс между научната откритост и необходимите ограничения за високорискови данни ще бъде решаващо, докато ИИ системите стават по-мощни и широко достъпни.
Значение за България
Темата е пряко релевантна за българските лаборатории, университети и биотехнологични компании, които работят с отворени геномни бази. Ясни правила за достъп, надеждно удостоверяване на изследователи и проследимост на употребата биха позволили на българската научна общност да продължи да използва ценни масиви от данни, без да се компрометира обществената сигурност.
На кратко
- Повече от 100 учени предупреждават: откритите био-данни могат да помогнат на ИИ да проектира по-опасни патогени.
- Предлага се рамка BDL (0–4) за класифициране и контрол на „притеснителните“ данни за патогени.
- Водещи екипи вече реагират: Evo и ESM3 изключват чувствителни вирусни последователности.
- През февруари 2025 г. екипът на EVO 2 обяви изключване на патогени, засягащи хора и сложни организми, за да предотврати злоупотреби.
- За безопасен достъп се препоръчват водни знаци, проследимост, одитни дневници и поведенческа биометрия.
- Ключово е да се постигне баланс между научна откритост и биосигурност, докато ИИ става все по-мощен.
