AI alat za upravljanje zalihama automatski naručio je dvostruku količinu sirovine jer nije prepoznao sezonsku promjenu u prodaji. Trošak: 18.000 eura vezanih u nepotrebnoj robi. Dobavljač softvera kaže da je to predviđeno ugovorom i da odgovornost snosi korisnik.

Što piše u ugovoru o korištenju

Većina AI servisa ima klauzulu koja ih oslobađa odgovornosti za financijske gubitke. Ključna rečenica obično zvuči: Software is provided as is without warranties. To znači da nemaš pravni temelj za nadoknadu štete, bez obzira koliko loša bila AI odluka.

Kada je odgovornost podijeljena

Ako AI radi na tvojim podacima koje si sam unio i pogrešno kategorizirao, odgovornost je tvoja. Ako AI ima grešku u kodu koja dosljedno proizvodi pogrešne rezultate za sve korisnike, odgovornost pada na dobavljača. Razlika je kritična, ali često nejasna bez pravne analize.

Kako se zaštititi prije problema

Human in the loop pristup znači da nijedna važna odluka ne ide direktno iz AI u izvršenje. Postaviš prag za automatsku akciju i sve iznad zahtijeva ljudsku provjeru. Za alat za naručivanje iz primjera, to bi značilo odobrenje za svaku narudžbu iznad 5.000 eura.

Osiguranje koje pokriva AI incidente

Standardno poslovno osiguranje često ne pokriva gubitke uzrokovane automatiziranim sustavima. Razgovaraj s osiguravateljem o riders dodatku koji uključuje AI tehnologiju ili traži cyber liability policu.