๐๐น๐ถ ๐๐ฒ๐๐๐ฒ, ๐ธ๐ฎ๐ธ๐ผ ๐๐ฎ๐ฝ๐ผ๐๐น๐ฒ๐ป๐ถ ๐ ๐๐ฎ๐ฬ๐ฒ๐บ ๐ฝ๐ผ๐ฑ๐ท๐ฒ๐๐ท๐ ๐๐ฝ๐ผ๐ฟ๐ฎ๐ฏ๐น๐ท๐ฎ๐ท๐ผ ๐จ๐?
ย
ย
V Financah je bil objavljen zanimiv ฤlanek o uporabi umetne inteligence v podjetjih ter o izzivih, ki jih ta prinaลกa na podroฤju varnosti, upravljanja podatkov in poslovnih procesov.
Celoten ฤlanek si lahko preberete na: https://www.finance.si/ikt/ali-veste-kako-zaposleni-v-vasem-podjetju-uporabljajo-ui/a/9048268
Umetna inteligenca je v zadnjih letih postala del vsakdanjega poslovanja. Zaposleni jo uporabljajo za pripravo dokumentov, analizo podatkov, komunikacijo s strankami, ustvarjanje vsebin in avtomatizacijo razliฤnih nalog. ฤeprav prinaลกa ลกtevilne prednosti, pa odpira tudi pomembna vpraลกanja glede varnosti in nadzora nad podatki.
Uporaba umetne inteligence je ลพe realnost
ย
V ลกtevilnih podjetjih zaposleni uporabljajo razliฤna orodja umetne inteligence brez posebnih smernic ali formalnih pravil. Pogosto vodstvo in IT-oddelki nimajo jasnega pregleda nad tem, katera orodja se uporabljajo, kakลกni podatki se vanje vnaลกajo in kako se ti podatki obdelujejo. To lahko predstavlja tveganje za poslovanje, saj lahko obฤutljivi podatki nehote zapustijo nadzorovano okolje podjetja.
Kaj je senฤni UI?
ย
Podobno kot se je v preteklosti pojavil pojav ยปsenฤnega IT-jaยซ, danes govorimo o ยปsenฤnem UIยซ (Shadow AI). Gre za uporabo orodij umetne inteligence brez vednosti ali nadzora organizacije. Zaposleni pri svojem delu pogosto iลกฤejo hitrejลกe in uฤinkovitejลกe reลกitve, zato posegajo po razliฤnih AI-orodjih. ฤe podjetje nima vzpostavljenih pravil in nadzora, lahko hitro izgubi pregled nad tem, kako se tehnologija uporablja in kakลกna tveganja pri tem nastajajo.
Kateri podatki lahko konฤajo v AI-orodjih?
ย
Uporabniki umetno inteligenco pogosto dojemajo kot pomoฤnika pri delu, zato se ne zavedajo vedno, da gre za zunanji sistem za obdelavo podatkov.
V AI-orodjih se tako lahko znajdejo:
- pogodbe in poslovni dokumenti,
- finanฤni podatki,
- osebni podatki zaposlenih ali strank,
- tehniฤna dokumentacija,
- poslovne strategije,
- elektronska poลกta,
- podatki iz CRM in ERP sistemov,
- programska koda.
Ko takลกni podatki zapustijo interno okolje podjetja, se odprejo vpraลกanja glede dostopa, hrambe, varovanja in skladnosti z zakonodajo.
Zakaj je pregled nad uporabo tako pomemben?
ย
Najveฤja teลพava ni uporaba umetne inteligence sama po sebi, temveฤ pomanjkanje pregleda nad njeno uporabo.
ฤe vodstvo ne ve:
- katera AI-orodja zaposleni uporabljajo,
- kdo jih uporablja,
- kateri podatki se obdelujejo,
- kakลกne pravice dostopa imajo posamezna orodja,
potem tudi ne more uฤinkovito upravljati tveganj. Podjetja zato ne bi smela razmiลกljati o tem, ali bodo umetno inteligenco uporabljala, temveฤ kako jo bodo uporabljala na varen in nadzorovan naฤin.
Ko umetna inteligenca dobi dostop do poslovnih sistemov
ย
Napredna AI-orodja danes niso veฤ namenjena zgolj pisanju besedil. Vse pogosteje se povezujejo z dokumentnimi sistemi, elektronsko poลกto, bazami znanja, CRM in ERP sistemi ter drugimi poslovnimi aplikacijami.
S tem postane umetna inteligenca del poslovne infrastrukture podjetja. Morebitne napake, napaฤne nastavitve ali neustrezni dostopi lahko vplivajo na celotne poslovne procese in ne le na posameznega uporabnika. Zato postajajo vse pomembnejลกi upravljanje identitet, nadzor dostopov in spremljanje aktivnosti sistemov umetne inteligence.
Kaj mora storiti vodstvo podjetja?
ย
Za varno uporabo umetne inteligence strokovnjaki priporoฤajo ลกtiri kljuฤne korake:
1. Vzpostavitev pregleda
Podjetje mora poznati vsa AI-orodja, ki se uporabljajo v organizaciji, ter razumeti, katere podatke obdelujejo.
2. Doloฤitev pravil
Pripraviti je treba jasne smernice glede dovoljene uporabe umetne inteligence in doloฤiti, katerih podatkov ni dovoljeno vnaลกati v zunanje sisteme.
3. Upravljanje dostopov
Pomembno je doloฤiti, kdo lahko dostopa do posameznih podatkov in katere pravice imajo uporabniki ter AI-sistemi.
4. Izobraลพevanje zaposlenih
Zaposleni morajo razumeti prednosti in tveganja umetne inteligence ter poznati pravila za njeno varno uporabo.
Upravljanje umetne inteligence postaja poslovna nuja
ย
Tako imenovani AI Governance vkljuฤuje vzpostavitev pravil, procesov in tehniฤnih kontrol, ki podjetju omogoฤajo varno in odgovorno uporabo umetne inteligence.
To pomeni:
- pregled nad uporabo AI-orodij,
- klasifikacijo podatkov,
- upravljanje dostopov,
- ocenjevanje tveganj,
- skladnost z zakonodajo,
- redno izobraลพevanje zaposlenih.
Umetna inteligenca ni veฤ zgolj tehnoloลกka tema, temveฤ postaja pomemben del poslovnega upravljanja, kibernetske varnosti in obvladovanja tveganj.