Човешкият контрол върху изкуствения интелект (ИИ) не е пожелателен, а задължителен. Докато системите се развиват стремително, именно хората – експерти, институции, общество – трябва да задават посоката, правилата и границите. Тази позиция поставя акцент върху отговорното внедряване, вместо върху парализиращия страх от крайни рискове.
Страхът от крайни рискове не е стратегия
Дебатът за ИИ често се концентрира върху екзистенциалните заплахи. Но страхът не управлява сложни системи – правилата, процесите и отчетността го правят. Фокусът трябва да бъде върху реални, управляeми рискове: пристрастия в данните, непрозрачни модели, грешни автоматизирани решения, злоупотреби със съдържание, нарушения на личните данни и сигурността.
„Човешката роля в ИИ не е по избор.“ — Пауло Карвао, автор и анализатор
Какво означава „човешки контрол“ върху ИИ
Практическите механизми за човешки контрол включват: надзор и право на финално решение (човекът отменя машината), бутони за безопасно изключване, аудитируемост и проследимост (журнали, версии, обяснения на решенията), тестове тип „червен екип“, центрове за наблюдение на модели в реално време и етични комисии, които свързват технологиите с правото и обществения интерес.
Световната рамка: от принципи към задължения
През последните години международните стандарти затвърдиха човекоцентричния подход: Принципите на ОИСР за ИИ (2019), Препоръките на ЮНЕСКО по етика на ИИ (2021), Рамката за управление на риска от ИИ на NIST, САЩ (2023), както и Декларацията от Блечли (2023). През 2024 г. Съветът на Европа прие рамкова конвенция за ИИ, правата на човека, демокрацията и върховенството на закона — още един знак, че човешкият надзор е условие, а не опция.
ЕС поставя темпото: какво означава за България
Актът за изкуствения интелект на ЕС влиза в сила поетапно през 2025–2026 г. Първите ограничения и забрани върху рискови практики започват да действат рано, а правилата за генеративни системи и изискванията за високорискови приложения се разгръщат на етапи. За България това означава:
- Класифициране на системите по риск и въвеждане на съответни контроли;
- Назначаване на национален компетентен орган и сътрудничество с европейските структури;
- Подготовка на бизнеса и администрацията с политики за надзор, обучение, защита на данните и реагиране при инциденти;
- Документиране и прозрачност за обяснимост и проследимост на решенията.
Публичният сектор и компаниите в страната ще трябва да докажат, че имат човешко участие в критичните решения, включително право на обжалване и второ мнение, когато алгоритъм влияе на достъпа до услуги, кредити, образование или заетост.
Технологии и практики, които държат човека в центъра
Пътят към отговорен ИИ минава през обяснимост на моделите, защита на личните данни по замисъл, минимизиране на данните, контрол на достъпа, защитно инженерство срещу пробиви, водни знаци и достоверни етикети за генерирано съдържание, както и редовни независими одити. Когато е приложимо, човешкият оператор трябва да бъде в цикъла (human-in-the-loop), особено при високорискови решения.
Какво да очакваме през 2025 г.
През 2025 г. ще видим ускорено въвеждане на вътрешни правила за ИИ в компании и администрации, първи проверки по европейските изисквания, както и по-ясни роли и отговорности за разработчиците, внедрителите и потребителите на ИИ. Най-важното: човешката отговорност остава неизменна — от дефинирането на целите до оценката на резултатите и поправянето на грешки.
Обобщение
- Фокус върху контрол, не върху паника: реалните рискове се управляват с правила, надзор и отчетност.
- Човекът решава финално: човешкият надзор, правото на отмяна и ясните процеси са задължителни.
- Правната рамка се затяга: ОИСР, ЮНЕСКО, NIST, Съветът на Европа и ЕС задават стандарти.
- България в синхрон с ЕС: поетапно прилагане на изискванията през 2025–2026 г., с нови отговорности за институции и бизнес.
- Практики за доверие: обяснимост, защита на данните, одити, „червени екипи“, водни знаци и етикети за генерирано съдържание.
