𝗔𝗹𝗶 𝘃𝗲𝘀𝘁𝗲, 𝗸𝗮𝗸𝗼 𝘇𝗮𝗽𝗼𝘀𝗹𝗲𝗻𝗶 𝘃 𝘃𝗮𝘀̌𝗲𝗺 𝗽𝗼𝗱𝗷𝗲𝘁𝗷𝘂 𝘂𝗽𝗼𝗿𝗮𝗯𝗹𝗷𝗮𝗷𝗼 𝗨𝗜?
V Financah je bil objavljen zanimiv članek o uporabi umetne inteligence v podjetjih ter o izzivih, ki jih ta prinaša na področju varnosti, upravljanja podatkov in poslovnih procesov.
Celoten članek si lahko preberete na: https://www.finance.si/ikt/ali-veste-kako-zaposleni-v-vasem-podjetju-uporabljajo-ui/a/9048268
Umetna inteligenca je v zadnjih letih postala del vsakdanjega poslovanja. Zaposleni jo uporabljajo za pripravo dokumentov, analizo podatkov, komunikacijo s strankami, ustvarjanje vsebin in avtomatizacijo različnih nalog. Čeprav prinaša številne prednosti, pa odpira tudi pomembna vprašanja glede varnosti in nadzora nad podatki.
Uporaba umetne inteligence je že realnost
V številnih podjetjih zaposleni uporabljajo različna orodja umetne inteligence brez posebnih smernic ali formalnih pravil. Pogosto vodstvo in IT-oddelki nimajo jasnega pregleda nad tem, katera orodja se uporabljajo, kakšni podatki se vanje vnašajo in kako se ti podatki obdelujejo. To lahko predstavlja tveganje za poslovanje, saj lahko občutljivi podatki nehote zapustijo nadzorovano okolje podjetja.
Kaj je senčni UI?
Podobno kot se je v preteklosti pojavil pojav »senčnega IT-ja«, danes govorimo o »senčnem UI« (Shadow AI). Gre za uporabo orodij umetne inteligence brez vednosti ali nadzora organizacije. Zaposleni pri svojem delu pogosto iščejo hitrejše in učinkovitejše rešitve, zato posegajo po različnih AI-orodjih. Če podjetje nima vzpostavljenih pravil in nadzora, lahko hitro izgubi pregled nad tem, kako se tehnologija uporablja in kakšna tveganja pri tem nastajajo.
Kateri podatki lahko končajo v AI-orodjih?
Uporabniki umetno inteligenco pogosto dojemajo kot pomočnika pri delu, zato se ne zavedajo vedno, da gre za zunanji sistem za obdelavo podatkov.
V AI-orodjih se tako lahko znajdejo:
- pogodbe in poslovni dokumenti,
- finančni podatki,
- osebni podatki zaposlenih ali strank,
- tehnična dokumentacija,
- poslovne strategije,
- elektronska pošta,
- podatki iz CRM in ERP sistemov,
- programska koda.
Ko takšni podatki zapustijo interno okolje podjetja, se odprejo vprašanja glede dostopa, hrambe, varovanja in skladnosti z zakonodajo.
Zakaj je pregled nad uporabo tako pomemben?
Največja težava ni uporaba umetne inteligence sama po sebi, temveč pomanjkanje pregleda nad njeno uporabo.
Če vodstvo ne ve:
- katera AI-orodja zaposleni uporabljajo,
- kdo jih uporablja,
- kateri podatki se obdelujejo,
- kakšne pravice dostopa imajo posamezna orodja,
potem tudi ne more učinkovito upravljati tveganj. Podjetja zato ne bi smela razmišljati o tem, ali bodo umetno inteligenco uporabljala, temveč kako jo bodo uporabljala na varen in nadzorovan način.
Ko umetna inteligenca dobi dostop do poslovnih sistemov
Napredna AI-orodja danes niso več namenjena zgolj pisanju besedil. Vse pogosteje se povezujejo z dokumentnimi sistemi, elektronsko pošto, bazami znanja, CRM in ERP sistemi ter drugimi poslovnimi aplikacijami.
S tem postane umetna inteligenca del poslovne infrastrukture podjetja. Morebitne napake, napačne nastavitve ali neustrezni dostopi lahko vplivajo na celotne poslovne procese in ne le na posameznega uporabnika. Zato postajajo vse pomembnejši upravljanje identitet, nadzor dostopov in spremljanje aktivnosti sistemov umetne inteligence.
Kaj mora storiti vodstvo podjetja?
Za varno uporabo umetne inteligence strokovnjaki priporočajo štiri ključne korake:
1. Vzpostavitev pregleda
Podjetje mora poznati vsa AI-orodja, ki se uporabljajo v organizaciji, ter razumeti, katere podatke obdelujejo.
2. Določitev pravil
Pripraviti je treba jasne smernice glede dovoljene uporabe umetne inteligence in določiti, katerih podatkov ni dovoljeno vnašati v zunanje sisteme.
3. Upravljanje dostopov
Pomembno je določiti, kdo lahko dostopa do posameznih podatkov in katere pravice imajo uporabniki ter AI-sistemi.
4. Izobraževanje zaposlenih
Zaposleni morajo razumeti prednosti in tveganja umetne inteligence ter poznati pravila za njeno varno uporabo.
Upravljanje umetne inteligence postaja poslovna nuja
Tako imenovani AI Governance vključuje vzpostavitev pravil, procesov in tehničnih kontrol, ki podjetju omogočajo varno in odgovorno uporabo umetne inteligence.
To pomeni:
- pregled nad uporabo AI-orodij,
- klasifikacijo podatkov,
- upravljanje dostopov,
- ocenjevanje tveganj,
- skladnost z zakonodajo,
- redno izobraževanje zaposlenih.
Umetna inteligenca ni več zgolj tehnološka tema, temveč postaja pomemben del poslovnega upravljanja, kibernetske varnosti in obvladovanja tveganj.
