Vloga poslovodstva se v času umetne inteligence spreminja: od razumevanja UI do odgovornega upravljanja
Naloga poslovodstva ni zavirati uporabo umetne inteligence, temveč ustvariti pogoje, v katerih lahko organizacija prednosti umetne inteligence izkoristi za hitrejše doseganje svojih ciljev, pri tem pa tehnologijo uporablja odgovorno in z ustreznim razumevanjem povezanih tveganj.
Uporaba umetne inteligence zahteva preglednost, odgovornost, zaupanje in preverljivost.
Brez ustreznega upravljanja lahko tveganja rastejo hitreje kot dodana vrednost, ki jo ustvarja umetna inteligenca. Umetna inteligenca ni več zgolj tehnološki eksperiment. Postaja del načina, kako organizacije sprejemajo odločitve, poslujejo, zagotavljajo storitve, tekmujejo in rastejo.
Umetna inteligenca omogoča:
- Hitrejše inovacije,
- boljše vpoglede in kakovostnejše odločitve,
- večjo produktivnost,
- boljšo uporabniško izkušnjo.
Toda brez ustreznega upravljanja umetna inteligenca ne prinaša le novih tveganj - obstoječa tveganja lahko tudi poveča in povzroči nastanek novih.
Izpostavljenost podatkov, napačne odločitve, pristranski rezultati, netransparentni ponudniki, kibernetske ranljivosti, regulatorni izzivi in tveganja za ugled organizacije, se lahko širijo z enako hitrostjo kot sama tehnologija.
Organizacije zato potrebujejo ustrezne mehanizme upravljanja, ki omogočajo hitro in odgovorno uvajanje ob hkratnem zagotavljanju zanesljivih rezultatov, ki ohranjajo zaupanje v tehnologijo.
Kaj to pomeni za poslovodstvo?
V Sloveniji je poslovodstvo gospodarskih družb skladno z Zakonom o gospodarskih družbah (ZGD-1) odgovorno za ravnanje v dobro družbe in za delovanje s skrbnostjo vestnega in poštenega gospodarstvenika. Za izpolnjevanje teh obveznosti mora sprejeti zadostne in ustrezne ukrepe za obvladovanje tveganj na različnih področjih poslovanja, vključno s področjem informacijske varnosti. Dodatne zahteve glede ustreznega varovanja osebnih podatkov določa Zakona o varstvu osebnih podatkov (ZVOP-2). Nespoštovanje njegovih določil lahko privede tudi do razmeroma visokih finančnih kazni.
Najstrožji predpis glede ustreznega obvladovanja kibernetskih tveganj izhaja iz Zakona o informacijski varnosti (ZInfV-1), ki je bil sprejet v letu 2025. Ta v primeru nespoštovanja zahtev določa relativno visoke kazni, tako za zavezanca oziroma organizacijo, kot tudi za odgovorne osebe.
Pri tem ne smemo pozabiti na Uredbo (EU) 2022/2554 Evropskega parlamenta in Sveta o digitalni operativni odpornosti za finančni sektor (DORA), ki pa velja (le) za finančne institucije.
Predpis, ki neposredno ureja področje UI pa je Uredba (EU) 2024/1689 Evropskega parlamenta in Sveta - Akt o umetni inteligenci (Artificial Intelligence Act, op.a.).
Kako lahko ravna poslovodstvo?
1. Prepoved uporabe rešitev umetne inteligence v celotiTakšen pristop je v praksi težko izvedljiv in organizaciji lahko prepreči izkoriščanje številnih prednosti, ki jih prinaša umetna inteligenca.
2. Vzpostavitev ustreznih organizacijskih in tehničnih ukrepov za odgovorno uporabo umetne inteligence
Pri tem je potrebno upoštevati kateri podatki in informacije organizacije ali njenih strank so predmet obdelave rešitev UI. Zagotoviti mora tudi preverjanje izvajanja teh ukrepov in sankcionirati vse morebitne odstope v čim krajšem možnem času.
Učinkovito upravljanje UI zato ni več vprašanje izbire, temveč pomemben del odgovornega poslovanja.
Kontaktirajte nas, če se želite vključiti v diskusijo na temo informacijske varnosti. Z veseljem vam bomo prisluhnili.
Manuela Šribar, CISA, PRIS
Mobilna številka: 031 617 379
manuela.sribar@bdo.si
