Rinka klesti dėl naujovių ir naujų AI projektų. Nenuostabu, kad įmonės skuba naudoti AI, kad išliktų priekyje dabartinėje sparčiai besivystančioje ekonomikoje. Tačiau šis greitas AI pritaikymas taip pat kelia paslėptą iššūkį:Šešėlis AI.’
Štai ką AI veikia kasdieniame gyvenime:
- Sutaupykite laiko automatizuodami pasikartojančias užduotis.
- Sukurti įžvalgas, kurias atskleisti kažkada užtruko daug laiko.
- Sprendimų priėmimo tobulinimas naudojant nuspėjamuosius modelius ir duomenų analizę.
- Turinio kūrimas naudojant AI įrankius rinkodarai ir klientų aptarnavimui.
Visi šie pranašumai aiškiai parodo, kodėl įmonės nori naudoti dirbtinį intelektą. Bet kas nutinka, kai dirbtinis intelektas pradeda veikti šešėlyje?
Šis paslėptas reiškinys žinomas kaip „Shadow AI“.
Ką mes suprantame iš šešėlinio AI?
„Shadow AI“ reiškia AI technologijų ir platformų naudojimą, kurių nepatvirtino ar nepatikrino organizacijos IT ar saugos komandos.
Nors iš pradžių tai gali atrodyti nekenksminga ar net naudinga, šis nereguliuojamas AI naudojimas gali sukelti įvairių pavojų ir grėsmių.
Daugiau nei 60% darbuotojų pripažįsta, kad su darbu susijusioms užduotims naudoja neleistinus AI įrankius. Tai yra didelis procentas, kai atsižvelgiama į galimus pažeidžiamumus, slypinčius šešėlyje.
„Shadow AI“ prieš „Shadow IT“.
Sąvokos „Shadow AI“ ir „Shadow IT“ gali skambėti kaip panašios sąvokos, tačiau jos skiriasi.
„Shadow IT“ apima darbuotojus, naudojančius nepatvirtintą aparatinę, programinę įrangą ar paslaugas. Kita vertus, „Shadow AI“ daugiausia dėmesio skiria neteisėtam AI įrankių naudojimui darbui automatizuoti, analizuoti ar tobulinti. Gali atrodyti, kad tai greitesnių ir protingesnių rezultatų nuoroda, tačiau be tinkamos priežiūros greitai gali kilti problemų.
Rizika, susijusi su šešėliniu AI
Panagrinėkime šešėlinio AI riziką ir aptarkime, kodėl labai svarbu kontroliuoti savo organizacijos AI įrankius.
Duomenų privatumo pažeidimai
Naudojant nepatvirtintus AI įrankius gali kilti pavojus duomenų privatumui. Darbuotojai gali netyčia pasidalinti neskelbtina informacija dirbdami su nepatikrintomis programomis.
Kas penkta JK įmonė susidūrė su duomenų nutekėjimu dėl darbuotojų, naudojančių generatyvius AI įrankius. Tinkamo šifravimo ir priežiūros nebuvimas padidina duomenų pažeidimų tikimybę, todėl organizacijos tampa atviros kibernetinėms atakoms.
Reguliavimo neatitikimas
„Shadow AI“ kelia rimtą atitikties riziką. Organizacijos turi laikytis taisyklių, pvz., BDAR, HIPAA ir ES AI įstatymo, kad užtikrintų duomenų apsaugą ir etišką AI naudojimą.
Už taisyklių nesilaikymą gali būti skiriamos didelės baudos. Pavyzdžiui, BDAR pažeidimai įmonėms gali kainuoti iki 20 milijonų eurų arba 4% pasaulinių pajamų.
Veiklos rizika
Šešėlinis AI gali sukelti nesutapimą tarp šių įrankių generuojamų rezultatų ir organizacijos tikslų. Per didelis pasitikėjimas nepatikrintais modeliais gali lemti sprendimus, pagrįstus neaiškia ar šališka informacija. Šis neatitikimas gali turėti įtakos strateginėms iniciatyvoms ir sumažinti bendrą veiklos efektyvumą.
Tiesą sakant, apklausa parodė, kad beveik pusė vyresniųjų lyderių nerimauja dėl dirbtinio intelekto sukurtos dezinformacijos poveikio jų organizacijoms.
Žala reputacijai
Šešėlinio AI naudojimas gali pakenkti organizacijos reputacijai. Nenuoseklūs šių priemonių rezultatai gali sugadinti klientų ir suinteresuotųjų šalių pasitikėjimą. Etikos pažeidimai, tokie kaip šališkas sprendimų priėmimas ar netinkamas duomenų naudojimas, gali dar labiau pakenkti visuomenės suvokimui.
Ryškus pavyzdys yra atsakas prieš „Sports Illustrated“, kai buvo nustatyta, kad jie naudoja dirbtinio intelekto sukurtą turinį su netikrais autoriais ir profiliais. Šis incidentas parodė prastai valdomo AI naudojimo riziką ir sukėlė diskusijas apie jo etinį poveikį turinio kūrimui. Jame pabrėžiama, kaip AI reguliavimo ir skaidrumo trūkumas gali pakenkti pasitikėjimui.
Kodėl šešėlinis AI tampa vis dažnesnis
Panagrinėkime veiksnius, lemiančius plačiai paplitusį šešėlinio dirbtinio intelekto naudojimą organizacijose šiandien.
- Sąmoningumo trūkumas: Daugelis darbuotojų nežino įmonės politikos, susijusios su AI naudojimu. Jie taip pat gali nežinoti apie riziką, susijusią su neleistinais įrankiais.
- Riboti organizaciniai ištekliai: Kai kurios organizacijos neteikia patvirtintų dirbtinio intelekto sprendimų, atitinkančių darbuotojų poreikius. Kai patvirtintų sprendimų trūksta arba jie neprieinami, darbuotojai dažnai ieško išorinių variantų, kaip patenkinti savo reikalavimus. Šis tinkamų išteklių trūkumas sukuria atotrūkį tarp to, ką organizacija teikia, ir to, ko komandoms reikia efektyviai dirbti.
- Neteisingai suderintos paskatos: Organizacijos kartais teikia pirmenybę tiesioginiams rezultatams, o ne ilgalaikiams tikslams. Darbuotojai gali apeiti formalius procesus, kad pasiektų greitų rezultatų.
- Nemokamų įrankių naudojimas: Darbuotojai gali rasti nemokamas AI programas internete ir jomis naudotis nepranešę IT skyriams. Tai gali sukelti nereguliuojamą jautrių duomenų naudojimą.
- Esamų įrankių atnaujinimas: Komandos gali įgalinti AI funkcijas patvirtintoje programinėje įrangoje be leidimo. Dėl to gali atsirasti saugos spragų, jei tų funkcijų saugumui reikia peržiūrėti.
Shadow AI apraiškos
„Shadow AI“ organizacijose yra įvairių formų. Kai kurie iš jų apima:
AI valdomi pokalbių robotai
Klientų aptarnavimo komandos kartais naudoja nepatvirtintus pokalbių robotus, kad galėtų apdoroti užklausas. Pavyzdžiui, agentas gali pasikliauti pokalbių robotu, kad sudarytų atsakymų projektus, o ne vadovaudamasis įmonės patvirtintomis gairėmis. Tai gali sukelti netikslius pranešimus ir atskleisti jautrią klientų informaciją.
Mašininio mokymosi modeliai duomenų analizei
Darbuotojai gali įkelti nuosavybės teise priklausančius duomenis į nemokamas arba išorines mašininio mokymosi platformas, kad sužinotų įžvalgas ar tendencijas. Duomenų analitikas gali naudoti išorinį įrankį klientų pirkimo modeliams analizuoti, tačiau nesąmoningai kelti pavojų konfidencialiems duomenims.
Rinkodaros automatizavimo įrankiai
Rinkodaros skyriai dažnai naudoja neleistinus įrankius, kad supaprastintų užduotis, pvz., el. pašto kampanijas arba įsitraukimo stebėjimą. Šie įrankiai gali pagerinti našumą, bet taip pat gali netinkamai tvarkyti klientų duomenis, pažeidžiant atitikties taisykles ir kenkiant klientų pasitikėjimui.
Duomenų vizualizacijos įrankiai
Dirbtinio intelekto įrankiai kartais naudojami kuriant greitas informacijos suvestines ar analizę be IT patvirtinimo. Nors šie įrankiai užtikrina efektyvumą, jie gali sukurti netikslių įžvalgų arba pažeisti jautrius verslo duomenis, kai naudojami neatsargiai.
Šešėlinis AI generacinėse AI programose
Komandos dažnai naudoja tokius įrankius kaip ChatGPT arba DALL-E, kad sukurtų rinkodaros medžiagą ar vaizdinį turinį. Be priežiūros šios priemonės gali siųsti ne prekės ženklo pranešimus arba kelti susirūpinimą dėl intelektinės nuosavybės, o tai gali kelti pavojų organizacijos reputacijai.
Šešėlinio AI rizikos valdymas
Norint valdyti šešėlinio AI riziką, reikia kryptingos strategijos, pabrėžiančios matomumą, rizikos valdymą ir pagrįstą sprendimų priėmimą.
Nustatykite aiškią politiką ir gaires
Organizacijos turėtų apibrėžti aiškią AI naudojimo organizacijoje politiką. Šioje politikoje turėtų būti nurodyta priimtina praktika, duomenų tvarkymo protokolai, privatumo priemonės ir atitikties reikalavimai.
Darbuotojai taip pat turi sužinoti apie neteisėto AI naudojimo riziką ir patvirtintų įrankių bei platformų naudojimo svarbą.
Klasifikuokite duomenis ir naudojimo atvejus
Įmonės turi klasifikuoti duomenis pagal jų jautrumą ir reikšmę. Kritinė informacija, pvz., komercinės paslaptys ir asmens tapatybę identifikuojanti informacija (PII), turi būti apsaugota aukščiausiu lygiu.
Organizacijos turėtų užtikrinti, kad viešosios arba nepatvirtintos debesies AI paslaugos niekada neapdorotų neskelbtinų duomenų. Vietoj to, įmonės turėtų pasikliauti įmonės lygio AI sprendimais, kad užtikrintų tvirtą duomenų saugumą.
Pripažinkite naudą ir pasiūlykite gaires
Taip pat svarbu pripažinti šešėlinio AI naudą, kuri dažnai kyla dėl didesnio efektyvumo troškimo.
Užuot uždraudusios jį naudoti, organizacijos turėtų vadovauti darbuotojams, kaip valdyti dirbtinio intelekto įrankius. Jie taip pat turėtų pateikti patvirtintas alternatyvas, atitinkančias produktyvumo poreikius, kartu užtikrinant saugumą ir atitiktį.
Mokykite ir mokykite darbuotojus
Organizacijos turi teikti pirmenybę darbuotojų švietimui, kad užtikrintų saugų ir veiksmingą patvirtintų AI įrankių naudojimą. Mokymo programos turėtų sutelkti dėmesį į praktines gaires, kad darbuotojai suprastų AI riziką ir naudą, laikydamiesi tinkamų protokolų.
Išsilavinę darbuotojai labiau tikėtina, kad dirbtinį intelektą naudos atsakingai, sumažindami galimą saugumo ir atitikties riziką.
Stebėkite ir valdykite AI naudojimą
AI naudojimo stebėjimas ir valdymas yra vienodai svarbūs. Įmonės turėtų įdiegti stebėjimo įrankius, kad galėtų stebėti AI programas visoje organizacijoje. Reguliarūs auditai gali padėti jiems nustatyti neleistinus įrankius arba saugumo spragas.
Organizacijos taip pat turėtų imtis aktyvių priemonių, pvz., tinklo srauto analizės, kad nustatytų ir pašalintų piktnaudžiavimą, kol jis neišsiplės.
Bendradarbiauti su IT ir verslo padaliniais
IT ir verslo komandų bendradarbiavimas yra gyvybiškai svarbus renkantis AI įrankius, atitinkančius organizacijos standartus. Verslo padaliniai, siekdami užtikrinti praktiškumą, turėtų turėti įtakos priemonių pasirinkimui, o IT – atitiktį ir saugumą.
Šis komandinis darbas skatina naujoves, nepakenkiant organizacijos saugai ar veiklos tikslams.
Žingsniai į priekį etiško AI valdymo srityje
Didėjant priklausomybei dirbtiniu intelektu, šešėlinio AI valdymas aiškus ir kontroliuojamas gali būti raktas į konkurencingumą. AI ateitis priklausys nuo strategijų, kurios suderins organizacijos tikslus su etišku ir skaidriu technologijų naudojimu.
Norėdami sužinoti daugiau apie tai, kaip etiškai valdyti dirbtinį intelektą, sekite Unite.ai ir gaukite naujausių įžvalgų ir patarimų.
