Изкуственият интелект (AI) вече не е само тема за ИТ отделите. Когато алгоритъм участва в подбора на служители, оценява кредитоспособност, подпомага обслужването на клиенти или влияе върху управленско решение, възниква много по-важен въпрос: кой носи отговорност за резултата?
Точно тук AI се превръща в част от ESG дневния ред. Връзката с „G“ е пряка: управление на риска, вътрешен контрол, отчетност и ясно разпределение на отговорностите. Но темата има и силно социално измерение. Алгоритмичните решения могат да засегнат достъпа до работа, финансови и обществени услуги, както и правото на недискриминационно третиране.
От технологичен към управленски риск
С навлизането на AI в ежедневните бизнес процеси въпросът вече не е само дали една система работи добре. Също толкова важно е дали компанията разбира как я използва, какви рискове създава тя и кой има правомощието да реагира, когато резултатът е проблематичен.
Това е особено видимо при управлението на хора. Европейската регулация поставя сред високорисковите употреби определени AI системи, свързани със заетостта и управлението на работници. Това превръща AI governance и във въпрос за социалната устойчивост: една технологично ефективна система не е непременно социално приемлива, ако създава риск за основните права.
Предизвикателството е още по-голямо, защото решенията невинаги се вземат изцяло от алгоритъма. AI може само да препоръчва или класира, докато формалното решение остава при човек. Това обаче не премахва необходимостта от контрол. Напротив, поставя въпроса доколко този контрол е реален.
Европа поставя отговорността в центъра
Европейският подход дава все по-ясен отговор на тези въпроси чрез познатия вече EU AI Act, който изгражда регулацията около степента на риск на различните приложения на AI. Целите включват безопасност, прозрачност, защита на основните права и насърчаване на надеждното използване на технологията.
При високорисковите системи изискването за човешки контрол е конкретно. Организациите, които ги внедряват, трябва да възлагат надзора на хора с необходимите компетентност, обучение и правомощия и да наблюдават функционирането на системата.
Това постепенно променя и смисъла на корпоративната отговорност. Не е достатъчно компанията да каже, че конкретният резултат е „решение на алгоритъма“. От управленска гледна точка важни стават въпросите кой е одобрил използването му, кой следи рисковете, кой може да оспори резултата и кой носи отговорност, когато нещо се обърка.
На европейско равнище контролът също е многопластов: Европейската комисия посочва European AI Office, националните органи за надзор на пазара и други структури като части от архитектурата за прилагане и надзор на AI Act.
А какво означава това за България?
За българския бизнес темата не е нещо изолирано. Като регламент на ЕС AI Act се прилага пряко и в България, така че компаниите трябва да разглеждат използването на AI и през призмата на европейските правила.
Едновременно с това националната регулаторна среда продължава да се оформя, въпреки че все още нямаме унифицирано законодателство с AI Act. Това обаче не отменя по-големия въпрос пред компаниите: как изглежда доброто управление на AI независимо от минималното нормативно изискване?
За бизнеса това означава AI да влезе в системата за корпоративно управление наравно с останалите съществени рискове. Необходимо е да е ясно къде се използват алгоритми, как могат да засегнат служители и клиенти, кой упражнява човешки контрол и как ръководството получава информация за възникналите рискове.
Новото „G“ в ESG
В следващите години конкурентното предимство от AI вероятно няма да зависи само от това кой го внедрява най-бързо, а и от това кой го управлява най-отговорно.
Затова AI governance логично намира място в разговора за ESG. Въпросите за прозрачността, човешкия контрол, недискриминацията и отговорността се срещат именно на границата между „S“ и „G“. А най-важният въпрос остава изненадващо човешки: когато машината предлага решението, готова ли е организацията да поеме отговорността за него?
