Petra Klarić
Istraživačica i praktičarka u području velikih jezičnih modela s fokusom na primjenjiva rješenja. Već osam godina radim na tome kako transformer arhitekture mogu poboljšati razumijevanje jezika u realnim kontekstima.
Osnovala sam Galdvrek 2016. godine kako bih dijelila konkretna znanja i rezultate eksperimenata s onima koji žele razumjeti kako funkcioniraju AI sustavi, a ne samo ih koristiti.
Kako radim s velikim jezičnim modelima
Moj rad se fokusira na to kako modeli poput GPT-4, Claude i otvoreni modeli poput LLaMA mogu riješiti specifične poslovne probleme. Ne pričam o budućnosti AI-ja, već o tome kako danas možete tokenizirati dokumente, optimizirati promptove i smanjiti latenciju u produkcijskim sustavima.
Većina tvrtki ima pristup modelima, ali ne znaju kako ih integrirati u postojeće procese. Pokazujem kako postaviti inference pipeline, testirati različite temperature i top-p vrijednosti, te pratiti performanse u realnom vremenu.
Od 2016. do danas analizirala sam stotine slučajeva primjene – od automatizacije korisničke podrške do generiranja tehničke dokumentacije. Razumijem gdje modeli uspijevaju i gdje su im ograničenja previše značajna za produkciju.
Pitanja o konkretnoj implementaciji?
Ako radite na projektu koji zahtijeva integraciju velikih jezičnih modela ili trebate savjet oko odabira arhitekture, možete mi se javiti. Odgovaram na tehnička pitanja i raspravljam o vašim konkretnim slučajevima primjene.
