U listu Finance objavljen je zanimljiv članak o korištenju umjetne inteligencije u poduzećima i izazovima koje ono donosi u području sigurnosti, upravljanja podacima i poslovnih procesa.
Cijeli članak možete pročitati na: https://www.finance.si/ikt/ali-veste-kako-zaposleni-v-vasem-podjetju-uporabljajo-ui/a/9048268
Umjetna inteligencija posljednjih je godina postala sastavni dio svakodnevnog poslovanja. Zaposlenici je koriste za pripremu dokumenata, analizu podataka, komunikaciju s klijentima, izradu sadržaja i automatizaciju raznih zadataka. Iako AI donosi brojne prednosti, otvara i važna pitanja o sigurnosti podataka, upravljanju i nadzoru.
Umjetna inteligencija već je stvarnost
U mnogim organizacijama zaposlenici koriste razne AI alate bez posebnih smjernica ili formalnih politika. Uprava i IT odjeli često nemaju jasan pregled nad time koji se alati koriste, koji se podaci u njih unose i kako se ti podaci obrađuju. To može stvoriti značajne poslovne rizike jer osjetljive informacije mogu nenamjerno napustiti kontrolirano okruženje poduzeća.
Što je Shadow AI?
Kao što se nekada pojavio pojam Shadow IT, organizacije se danas sve češće suočavaju sa Shadow AI. Riječ je o korištenju alata umjetne inteligencije bez znanja ili nadzora organizacije.
Zaposlenici prirodno traže brže i učinkovitije načine obavljanja posla, zbog čega često posežu za raznim AI rješenjima. Bez jasnog upravljanja i nadzora organizacije mogu brzo izgubiti uvid u to kako se AI koristi i koje rizike može donijeti.
Koje vrste podataka mogu završiti u AI alatima?
Mnogi korisnici AI doživljavaju jednostavno kao korisnog pomoćnika i možda ne shvaćaju da komuniciraju s vanjskim sustavom za obradu podataka.
Zbog toga u AI alate mogu dospjeti:
- Ugovori i poslovni dokumenti
- Financijske informacije
- Osobni podaci zaposlenika ili klijenata
- Tehnička dokumentacija
- Poslovne strategije
- Komunikacija e-poštom
- Podaci iz CRM i ERP sustava
- Izvorni kod
Kada takve informacije napuste interno okruženje organizacije, postavljaju se važna pitanja o pristupu, pohrani, zaštiti i usklađenosti s važećim propisima.
Zašto je vidljivost toliko važna?
Najveći izazov nije korištenje umjetne inteligencije samo po sebi, nego nedostatak uvida u to kako se ona koristi.
Ako uprava ne zna:
- Koje AI alate koriste zaposlenici
- Tko ih koristi
- Koji se podaci obrađuju
- Koja prava pristupa imaju pojedini AI alati
onda ne može učinkovito upravljati povezanim rizicima.
Organizacije se stoga više ne bi trebale pitati hoće li koristiti umjetnu inteligenciju, nego kako je mogu koristiti na siguran, kontroliran i dobro upravljan način.
Kada AI dobije pristup poslovnim sustavima
Današnja napredna AI rješenja više nisu ograničena na generiranje teksta. Sve su češće integrirana sa sustavima za upravljanje dokumentima, platformama e-pošte, bazama znanja, CRM i ERP sustavima te drugim poslovnim aplikacijama.
Zbog toga umjetna inteligencija postaje dio ključne poslovne infrastrukture organizacije. Pogrešne konfiguracije, neprikladna prava pristupa ili operativne pogreške mogu utjecati na cijele poslovne procese – a ne samo na pojedinačne korisnike. Zato upravljanje identitetima, kontrola pristupa i kontinuirani nadzor AI sustava postaju sve važniji.
Što bi trebala učiniti uprava poduzeća?
Kako bi se osiguralo sigurno i odgovorno korištenje umjetne inteligencije, stručnjaci preporučuju četiri ključna koraka:
1. Uspostavite vidljivost
Organizacije bi trebale identificirati sve AI alate koji se koriste u poslovanju i razumjeti koje podatke obrađuju.
2. Definirajte jasne politike
Izradite jasne smjernice o prihvatljivom korištenju AI-ja i navedite koje se vrste podataka nikada ne smiju unositi u vanjske AI sustave.
3. Upravljajte pristupom
Jasno definirajte tko može pristupiti određenim podacima i odredite prava koja se dodjeljuju korisnicima i AI sustavima.
4. Educirajte zaposlenike
Zaposlenici bi trebali razumjeti i prednosti i rizike umjetne inteligencije te biti upoznati s politikama organizacije za njezino sigurno korištenje.
AI Governance postaje poslovna nužnost
AI Governance obuhvaća politike, procese i tehničke kontrole koje organizacijama omogućuju sigurno, odgovorno i učinkovito korištenje umjetne inteligencije.
To uključuje:
- Uvid u korištenje AI alata
- Klasifikaciju podataka
- Upravljanje pristupom
- Procjenu rizika
- Usklađenost s propisima
- Kontinuiranu edukaciju zaposlenika
Umjetna inteligencija više nije samo tehnološka tema – postala je ključna sastavnica korporativnog upravljanja, kibernetičke sigurnosti i upravljanja rizicima poduzeća.
