Upravljanje AI-jem u SAP-u: usklađenost, sigurnost, odgovornost

Upravljanje AI-jem u SAP-u obuhvaća svaku AI značajku koja radi u S/4HANA, SuccessFactors, Ariba, Concur ili na SAP BTP-u. Za svaku morate znati tko je vlasnik njezinih odluka, koje podatke koristi, kako se bilježi i kada se pregledava. Regulatorni sat pomaknut je 2026.: obveze EU AI Acta za samostalne visokorizične sustave, poput AI-ja koji se koristi u zapošljavanju, sada se primjenjuju od 2. prosinca 2027. Obveze transparentnosti za sadržaj generiran AI-jem već se primjenjuju. Ovaj je vodič za CIO-e, voditelje usklađenosti i vlasnike SAP programa. Obuhvaća gdje se praznine u upravljanju prve pokazuju, što se promijenilo 2026., koja pravila vrijede i registar koji možete započeti ovaj tjedan. Počnite tako da imenujete jednog vlasnika za svaku AI značajku.

Počnite jednostavnim pitanjem: kad model isporuči rezultat, čije je ime na kocki? Ako je odgovor nejasan, imate prazninu u upravljanju.

SAP okruženja su prenapučena: S/4HANA u jezgri, CRM u oblaku, dodatna analitika, naslijeđeni sustavi koje nitko ne želi dirati. Inženjer može uvesti model za nekoliko minuta. Praćenje njegova učinka na zapošljavanje, kreditiranje ili planiranje opskrbe može potrajati tjednima.

Podaci sve otežavaju. Obračun plaća, narudžbenice, zalihe i ocjene dobavljača stižu u različitim formatima pod različitim voditeljima. Jedan tim maskira osobne identifikatore, drugi ih ostavlja izloženima. Prije nego što se bilo koji model pokrene, odlučite koje podatke smije koristiti, tko odobrava promjene i koliko dugo se zapisi čuvaju. Zapišite to, preispitajte i provedite.

Vidio sam uvođenje u kojem je prognoziranje zaliha radilo gotovo previše dobro. Narudžbe su se zadavale prije potražnje, što je na nadzornoj ploči izgledalo učinkovito. Onda su nazvale financije. Novčani tok je pao, a nitko nije znao tko ima zadnju riječ o ponašanju modela. Logika je bila zakopana. Tada upravljanje postaje stvarno, a ne slajd u prezentaciji.

Obrasci koje stalno vidim:

Financije. AI u S/4HANA Finance pomaže pri obradi faktura, prognoziranju novčanog toka i otkrivanju anomalija. Koristan je dok ne prestane biti: blokirano legitimno plaćanje, odobreno sumnjivo, prognoza izgrađena na zastarjelim podacima. Rješenje je revizijski trag za svaku odluku na koju je AI utjecao i imenovana osoba koja ga provjerava.

Nabava. AI preporučuje dobavljače, označava rizik i pregledava ugovore. Ako povijesni podaci o nabavi nose pristranost, primjerice dobavljače favorizirane iz razloga koje nitko ne vidi, model je ponavlja. Netko mora pregledavati uže popise umjesto da ih prihvaća.

Ljudski resursi. AI u SuccessFactors može pomoći pri probiru kandidata i analizi angažmana. Treniran na podacima o zapošljavanju koji su već bili iskrivljeni prema određenim profilima, nastavlja ih iskrivljavati. Provjeravajte pristranost prije uvođenja i ponovno nakon svakog ponovnog treniranja.

Proizvodnja. Modeli prediktivnog održavanja i terminiranja degradiraju kad se pogon rekonfigurira. Pratite točnost tijekom vremena i zakažite ponovno treniranje. Ne čekajte zastoj linije da biste primijetili odstupanje.

AI u SAP-ovim aplikacijama u oblaku obično stiže tiho: uparivanje faktura u Ariba, odobrenja u Concur, ocjenjivanje potencijalnih kupaca u CRM-u. Radi u pozadini, a to je upravo njegova privlačnost. Zbog toga je i nadzor teži.

Sjećam se klijenta koji je koristio ugrađenu inteligenciju u SAP Ariba. Sustav je počeo automatski označavati duplicirane dobavljače. Korisno, ali nitko nije shvatio da su oznake ponekad bile pokrenute nedosljednim nazivljem u matičnim podacima. Bez zle namjere, samo neusklađeni unosi. Nabava nije imala proces za provjeru upozorenja, što je uzrokovalo kašnjenja i zbrku. Rješenje je korak provjere upozorenja i dosljedna konvencija imenovanja u matičnim podacima dobavljača.

SAP BTP. BTP omogućuje timovima da izgrade i uvedu vlastiti AI kroz cijelo SAP okruženje. Vidio sam model koji je odobravao loše dobavljače jer je treniran na nepotpunim podacima o nabavi. Problem s podacima prethodio je problemu s AI-jem, a čišćenje ulaza riješilo ga je brže nego podešavanje modela.

SAP Concur. AI za troškove hvata duplikate i kršenja politika. Također podiže lažne oznake prijevare na legitimnim zahtjevima, a kad zaposlenici troše vrijeme osporavajući odbijanja, dobitak u produktivnosti nestaje. Zadržite ljudski pregled za granične slučajeve i ažurirajte pravila kad god se promijeni politika troškova.

Rokovi EU AI Acta za visokorizične sustave pomaknuti su. Digital Omnibus o AI-ju, Uredba (EU) 2026/1744, stupio je na snagu 27. srpnja 2026. Obveze za samostalne visokorizične sustave iz Priloga III, koje uključuju AI korišten pri zapošljavanju i upravljanju radnicima te pri provjerama kreditne sposobnosti pojedinaca, sada se primjenjuju od 2. prosinca 2027. Visokorizični AI ugrađen u regulirane proizvode slijedi 2. kolovoza 2028. Zabranjene prakse i AI pismenost primjenjuju se od veljače 2025., a obveze transparentnosti iz članka 50. za sadržaj generiran AI-jem od 2. kolovoza 2026. Odgoda je zalet, a ne olakšanje. Ocjenjivanje sukladnosti i tehnička dokumentacija spor su posao.

1. 2025Zabranjene prakse i AI pismenostOd veljače 2025.
2. 2026Digital Omnibus na snazi27. srpnja, Uredba (EU) 2026/1744
3. 2026Obveze transparentnosti za sadržaj generiran AI-jem2. kolovoza, članak 50.
4. 2027Samostalni visokorizični sustavi (Prilog III)2. prosinca. Zapošljavanje, upravljanje radnicima, provjere kreditne sposobnosti pojedinaca
5. 2028Visokorizični AI ugrađen u regulirane proizvode2. kolovoza

Izvor: Uredba (EU) 2026/1744, Digital Omnibus o AI-ju

Bilježenje u alatu Joule ovisi o odabiru koji ste možda već napravili. Zapisi razgovora alata Joule bilježe korisnika, vremensku oznaku, razgovor, upite i odgovore. Postoje samo ako je pohrana odabrana pri uvođenju alata Joule. SAP-ovo dokumentirano zadano razdoblje čuvanja tih zapisa je 365 dana, a možete zatražiti drugo razdoblje. Provjerite postavku i pokriva li razdoblje čuvanja Vaš ciklus revizije.

SAP je ograničio AI agente na svojim API-jima. SAP-ova API politika (verzija 4.2026a) ograničava korištenje SAP API-ja s poluautonomnim ili generativnim AI sustavima koji planiraju, odabiru ili izvode nizove API poziva. Takva je uporaba dopuštena samo kroz arhitekture i putove koje je SAP odobrio. Ako agent ili copilot treće strane izravno poziva S/4HANA, to je sada ugovorno pitanje jednako kao i sigurnosno. Popišite te integracije.

BTP kontrole postoje, ali ih morate konfigurirati. SAP-ov generative AI hub nudi maskiranje podataka, filtriranje sadržaja na ulazu i izlazu, grounding, registar upita i revizijsko bilježenje. To su kontrole, a ne program upravljanja. Bilježenje uključeno bez politike čuvanja istekne prije nego što ga tromjesečni pregled stigne pročitati.

Ako isporučitelj ne može izraditi tehničku dokumentaciju za visokorizične sustave za neku AI značajku, ta značajka ne može ostati u visokorizičnoj uporabi. Rok se pomaknuo. Zahtjev za dokumentacijom nije.

Primjenjuju se na organizacije koje koriste AI u SAP-u, bez obzira na to gdje SAP hostira softver.

Propis	Što u praksi zahtijeva
EU AI Act	Obveze zasnovane na riziku. Visokorizične uporabe (zapošljavanje i upravljanje radnicima, kreditna sposobnost pojedinaca i ostalo iz Priloga III) od 2. prosinca 2027. traže upravljanje rizicima, dokumentaciju, bilježenje, ljudski nadzor i ocjenjivanje sukladnosti. Obveze transparentnosti već se primjenjuju
GDPR	Pravna osnova i smanjenje količine podataka. Za odluke koje se temelje isključivo na automatiziranoj obradi s pravnim ili sličnim učincima, zaštitne mjere iz članka 22., uključujući ljudsku intervenciju i smislene informacije o logici
ISO/IEC 42001:2023	Sustav upravljanja AI-jem koji se može revidirati: uloge, proces rizika, kontrole i stalno poboljšanje
Nacionalni okviri	Zaljevske države, Singapur i drugi objavljuju etička načela za AI i okvire upravljanja. Svake godine pregledajte one u zemljama u kojima poslujete

Klasifikacija visokog rizika posebno je važna za SAP. AI u SuccessFactors koji utječe na zapošljavanje, napredovanje ili otkaz u opsegu je. Provjere kreditne sposobnosti poslovnih kupaca u S/4HANA općenito nisu, jer kategorija iz Priloga III obuhvaća kreditnu sposobnost fizičkih osoba. Klasificirajte svaku značajku umjesto da pretpostavljate.

Praktična polazna točka je registar. Jedan redak po AI značajki, popunjen.

Stupac	Što zabilježiti
AI značajka	Na primjer, uparivanje kandidata u SuccessFactors ili otkrivanje dupliciranih dobavljača u Ariba
Sustav i vlasnik	Aplikacija i jedna imenovana odgovorna osoba
Kategorija prema AI Actu	Zabranjeno, visokorizično (Prilog III), samo transparentnost ili minimalno
Korišteni podaci	Izvori, osobni podaci, primijenjeno maskiranje
Ljudski pregled	Tko pregledava koje izlaze i kada može nadjačati
Bilježenje i čuvanje	Gdje se odluke bilježe i koliko dugo
Učestalost pregleda	Tromjesečno za značajke velikog učinka, polugodišnje za ostale
Zadnji pregled	Datum i ishod

1. Imenujte jednog vlasnika po AI sustavu prije puštanja u rad. Osoba, a ne odbor. Svi ostali imaju potpornu ulogu.
2. Vodite revizijski trag za odluke na koje AI utječe. Za odobravanje faktura, odabir dobavljača ili rangiranje kandidata zabilježite korištene podatke, izlaz i kada ga je osoba pregledala.
3. Zakažite preglede modela. Modeli se degradiraju kako se podaci mijenjaju. Tromjesečno je razuman početak za kritične sustave. Ne čekajte pritužbu korisnika da biste otkrili tri mjeseca pogrešnih odgovora.
4. Prvo uspostavite upravljanje podacima, a zatim na njega povežite upravljanje AI-jem. Pravila pristupa, standardi kvalitete i maskiranje moraju postojati prije nego što upravljanje AI-jem može raditi. Timovi koji grade oboje istodobno često na kraju nemaju ni jedno ni drugo.
5. Ne miješajte upravljanje s dokumentacijom. Politike u SharePointu nisu upravljanje. Upravljanje mijenja način na koji se odluke donose: tko pregledava, tko eskalira i tko može zaustaviti model.

Regulativa se stalno mijenja. Izmjene AI Acta iz 2026. pokazuju koliko se brzo datumi pomiču. Odredite jednu osobu koja prati pravne promjene i svake ih godine prevodi u zahtjeve specifične za SAP.

Privatnost kroz module. SAP drži obračun plaća, transakcije kupaca i evidencije zaposlenika. Sigurnost temeljena na ulogama u SAP-u ne primjenjuje se automatski na ulaze AI modela. Provjerite to izričito.

Pristranost u podacima za treniranje. Ako je model u SuccessFactors učio iz pet godina iskrivljenih podataka o zapošljavanju, ponavljat će to iskrivljenje. Prije uvođenja pogledajte ishode po skupinama, a ne samo točnost.

Naslijeđeni sustavi u toku podataka. Kad AI na BTP-u povlači podatke iz naslijeđenog ERP-a ili platforme treće strane, kvaliteta podataka najslabijeg sustava postaje Vaša granica. Mapirajte izvore prije nego što model krene u rad. Moj okvir za upravljanje rizicima AI-ja obuhvaća korake procjene, a moj vodič kroz okvir za upravljanje AI-jem obuhvaća širi operativni model.

Što je upravljanje AI-jem u SAP implementacijama?

To je skup vlasnika, politika i kontrola koji osiguravaju da AI značajke u SAP-u rade odgovorno, transparentno i zakonito. Obuhvaća koje podatke modeli smiju koristiti, kako se značajke odobravaju i uvode, kako se odluke bilježe i pregledavaju te tko može zaustaviti model. Primjenjuje se na S/4HANA, SuccessFactors, Ariba, Concur i sve što gradite na SAP BTP-u.

Kada se pravila EU AI Acta za visokorizične sustave primjenjuju na SAP sustave?

Nakon Digital Omnibusa (Uredba (EU) 2026/1744) obveze za samostalne visokorizične sustave iz Priloga III primjenjuju se od 2. prosinca 2027. Visokorizični AI ugrađen u regulirane proizvode slijedi od 2. kolovoza 2028. Zabranjene prakse i AI pismenost primjenjuju se od veljače 2025., a obveze transparentnosti za sadržaj generiran AI-jem od kolovoza 2026. Za SAP je najčešće visokorizično područje AI korišten pri zapošljavanju i odlukama o radnoj snazi.

Tko je odgovoran za upravljanje AI-jem u SAP projektima?

Međufunkcijska skupina: usklađenost prati regulativu, IT i sigurnost vode pristup i bilježenje, podatkovni timovi vlasnici su kvalitete podataka za treniranje, vlasnici poslovnih procesa potpisuju izlaze, a pravni odjel pregledava odgovornost. Najvažnija odluka je imenovati jednog odgovornog vlasnika po AI sustavu. Kad nešto pođe po zlu u 2 ujutro, morate znati koga nazvati.

Vodi li Joule revizijski trag?

Zapisi razgovora alata Joule mogu bilježiti korisnika, vremensku oznaku, razgovor te upite i odgovore, ali samo ako je pohrana zapisa odabrana tijekom uvođenja. SAP dokumentira zadano čuvanje od 365 dana za kupce koji su to odabrali, a može se zatražiti i drugo razdoblje. Promjene konfiguracije važne za sigurnost u alatu Joule Studio idu u uslugu SAP Audit Log na BTP-u. Provjerite postavku svog tenanta umjesto da pretpostavljate.

Kako postupati s pristranošću AI modela u SAP SuccessFactors?

Pregledajte na čemu je model treniran. Ako su povijesni podaci o zapošljavanju stavljali određene skupine u nepovoljan položaj, hoće i model. Testirajte ishode po skupinama prije puštanja u rad, pratite stope odabira nakon njega i ponovno trenirajte prema rasporedu kako se mijenjaju podaci o radnoj snazi. Ako se kvalificirani kandidati iz jednog okruženja dosljedno filtriraju, tretirajte to kao signal, a ne kao slučajnost.

Koliko često treba pregledavati AI modele u SAP-u?

Tromjesečno za sustave velikog učinka poput financijskih odobrenja, odluka u ljudskim resursima ili odabira dobavljača, a polugodišnje za alate manjeg značaja. Pokrenite dodatni pregled kad god se promijeni izvor podataka, integracija ili poslovni proces, jer svaka od tih promjena može pomaknuti ponašanje modela bez promjene koda.