Natali Perunić vodi ured za računovodstvo s četvero zaposlenika. Počela je koristiti AI za filtriranje životopisa i nakon tri mjeseca primijetila da svi odabrani kandidati imaju gotovo identičnu obrazovnu pozadinu. Sustav je preferirao određene škole i studije, ne kvalifikacije.

Testiranje s namjerno različitim primjerima

Najjednostavniji test: unesi isti upit s različitim imenima, mjestima ili spolovima. AI alat za generiranje marketinških opisa uvijek dodaje riječ profesionalno uz muška imena, ali toplo uz ženska? To je crvena zastavica koja zahtijeva zamjenu alata.

Obrazac ponavljanja koji otkriva skrivene postavke

Prati rezultate tijekom tjedan dana. Ako AI preporuke za cijene uvijek idu u korist određene demografske skupine ili chatbot dosljedno koristi drugačiji ton s klijentima iz različitih gradova, sustav ima ugrađenu pristranost.

Tko je odgovoran za kalibraciju?

Mnogi dobavljači tvrde da su njihovi algoritmi neutralni. Stvarnost je kompleksnija. AI uči iz podataka, a povijesni podaci često sadrže društvene predrasude. Ako dobavljač nema dokumentiran proces testiranja fairness, tražiš alternativu.

Rizik koji ne vidim odmah

Pristranost se pogoršava s vremenom ako je ne provjeravaš. AI koji danas radi prihvatljivo može za šest mjeseci razviti problematične obrasce. Kvartalni pregled rezultata nije luksuz, već zaštita reputacije.