MagLab / Blog / Podaci o ličnosti i AI

Podaci o ličnosti i AI: kako koristiti AI, a da ne predate podatke klijenata

AI i podaci12 min čitanja

Otvoren aluminijumski sef sa karticama klijenata i jantarnom kockom unutra; svetlosnom linijom ka velikoj jantarnoj sferi odlazi jedna kartica na kojoj su fotografija i ime prekriveni

Ukratko

Problem

  • Sve što ste poslali ChatGPT‑ju, Claude‑u ili Gemini‑ju stoji na serverima tih kompanija. ChatGPT čuva razgovor dok ga sami ne obrišete. Čak i preko API-ja zahtevi se čuvaju do 30‑55 dana.
  • Odatle podaci mogu da procure. U martu 2023. zbog greške u ChatGPT‑ju neki korisnici su videli naslove tuđih razgovora, a imena, mejlovi i poslednje 4 cifre kartice dela pretplatnika bili su vidljivi drugima.
  • Dešava se i bez hakovanja: zaposleni ubaci podatke klijenata u četbot na ličnom nalogu. Holandski regulator to smatra curenjem podataka.

Rešenje

  • Lične podatke - imena, telefone, prepisku - obrađivati kod sebe: zameniti ih kodovima pre slanja ili postaviti svoj model na svoj server.
  • Najjačim modelima davati samo zbirne podatke bez pojedinaca: sume, proseke, brojke po grupama.
  • Zaposlenima - službeni nalozi na poslovnom paketu i pravila šta se ne sme unositi u AI.

Gde se čuvaju podaci i kako cure

Sve što je poslato AI‑ju čuva se na serverima servisa. Koliko dugo i da li servis uči na tome zavisi od paketa. Uslovi u tabeli su aktuelni 13. novembra 2026. Servisi ih menjaju, zato svaka stavka ima link ka izvoru.

Servis Koliko dugo čuva Uči na vašim podacima
ChatGPT Free, Plus, Pro dok ne obrišete razgovor, posle brisanja - do 30 dana1 da, dok to ne isključite u podešavanjima
ChatGPT Business, Enterprise i OpenAI API API - do 30 dana, u paketu Enterprise rok određuje administrator1 podrazumevano ne
Claude Free, Pro, Max posle brisanja razgovora - do 30 dana, ako ste dozvolili učenje - do 5 godina2 ako je korisnik dozvolio
Claude for Work i Anthropic API API - do 30 dana2 podrazumevano ne
Besplatni Gemini API nije navedeno3 da, i zahteve mogu da čitaju ljudi
Plaćeni Gemini API 55 dana3 ne
Azure, uključujući OpenAI modele nije navedeno4 ne, i OpenAI ne vidi podatke

Gde tačno stoje podaci, takođe odlučuje servis. Google piše da se zahtevi ka plaćenom Gemini API-ju mogu privremeno čuvati u bilo kojoj zemlji gde ima kapacitete3. Ako Anthropic koristite direktno, bira se samo "ceo svet" ili SAD2. Čuvanje u EU nije moguće kod svih, i to kao posebna opcija - to je način 3.

Kako podaci cure:

  • Greška kod samog servisa. 20. marta 2023. zbog greške u biblioteci otvorenog koda deo korisnika ChatGPT‑ja video je naslove tuđih razgovora. Za 1,2% pretplatnika ChatGPT Plus koji su bili aktivni u tom periodu od devet sati drugima su bili vidljivi ime, mejl, adresa za naplatu, tip kartice, poslednje 4 cifre kartice i datum isteka. Pun broj kartice nije bio vidljiv5. Deset dana kasnije italijanski regulator je privremeno zabranio OpenAI‑ju da obrađuje podatke korisnika iz Italije, a u saopštenju o zabrani pomenuo je i ovo curenje6.
  • Zaposleni i četbot na ličnom nalogu. Holandski regulator naziva curenjem podataka kada zaposleni na svoju ruku unese u četbot podatke pacijenata ili klijenata. U njegovim primerima zaposleni u lekarskoj ordinaciji uneo je medicinske podatke pacijenata, a zaposleni u telekomunikacionoj kompaniji - fajl sa adresama klijenata7.

Šta je još važno:

  • Besplatni Gemini API nije za lične podatke. Google to izričito kaže: ne šaljite tamo podatke o ličnosti i poverljive podatke. U Evropskom ekonomskom prostoru, Švajcarskoj i Velikoj Britaniji za sve važe uslovi plaćenog paketa3.
  • Nulto čuvanje postoji samo uz odobrenje servisa, i to ne za sve modele. OpenAI zadržava pravo da izuzme pojedine modele, a kod Anthropic‑a se za pojedine modele zahtevi čuvaju 30 dana čak i uz nulto čuvanje12.
  • Sumnjive zahteve čitaju ljudi. Ako je zahtev označen kao kršenje pravila, Anthropic ga čuva do 2 godine2.
  • Sud može da poništi obećanje da će podaci biti obrisani. Sud u SAD je 2025. naložio OpenAI‑ju da čuva čak i obrisane razgovore i podatke iz API-ja. Izuzeti su bili samo Enterprise, Edu i nulto čuvanje. Ta obaveza je ukinuta 26. septembra 20251.

Šta kaže zakon

Oslanjamo se na GDPR, uredbu Evropske unije o zaštiti podataka. On važi i za kompanije van EU ako prodaju ljudima u EU ili prate njihovo ponašanje8.

  • Podatak o ličnosti je svaka informacija po kojoj se može prepoznati čovek: ime, broj, lokacija, onlajn identifikator i druga obeležja8.
  • Zamena imena kodovima, kada se ključ čuva odvojeno, po zakonu se zove pseudonimizacija. Takvi podaci ostaju podaci o ličnosti: to je mera zaštite, a ne izuzeće od zakona89.
  • Sud pravde EU je u septembru 2025. pojasnio: za primaoca koji ne može da otkrije ko stoji iza kodova, podaci možda nisu podaci o ličnosti10. Ali EDPB, odbor regulatora EU, u nacrtu smernica iz 2026. piše: ako primalac obrađuje podatke u vaše ime - a AI servis po ugovoru upravo tako radi - za njega su to takođe podaci o ličnosti9. Dakle, ugovor o obradi podataka sa servisom je svejedno potreban.
  • Anonimni podaci su van GDPR-a. EDPB proverava anonimnost pomoću tri pitanja: može li se izdvojiti jedan zapis, može li se povezati sa drugim podacima, može li se zaključiti nešto o čoveku9.
  • Kazna po GDPR-u ide do 20 miliona evra ili do 4% ukupnog godišnjeg prometa kompanije na svetskom nivou, zavisno od toga šta je veće8.

Anonimnost se lako narušava. U primeru EDPB-a kompanija objavljuje zbir plata: šest inženjera prima 550.000 € godišnje, a petorica od njih zajedno - 480.000 €. U oba izveštaja su samo zbirovi, ali iz njih se vidi da šesti inženjer prima 70.000 €9.

Pet načina

1. Zameniti imena kodovima pre slanja

Imena, telefoni, mejlovi i brojevi dokumenata zamenjuju se kodovima pre slanja u AI. Tabela koja povezuje kodove i imena ostaje kod vas, a kada AI odgovori, kodovi se kod vas ponovo menjaju imenima. Originalna poruka: "Marko Petrović, marko.petrovic@example.com, moli da pomeri rezervaciju za petak". U AI je otišlo: "Klijent 017, mejl 017, moli da pomeri rezervaciju za petak". Odgovor je stigao sa kodovima, a ime je vratio vaš sistem.

Štiti: ako kod servisa nešto procuri ili ga sud obaveže da čuva zahteve, tamo će biti kodovi, a ne ljudi.

Ne štiti od:

  • onoga što je program za prepoznavanje propustio. Presidio, poznati alat otvorenog koda za ovo, sam piše da nema garancije da je sve pronađeno. Bez dodatnog podešavanja zna samo engleski, a lokalne brojeve dokumenata morate sami da dodate11;
  • posrednih obeležja. Neuobičajena kombinacija kupovina ili detalji u tekstu poruke otkrivaju čoveka i bez imena: u primeru EDPB-a prodavnica je prepoznala svoje kupce po spiskovima igara koje ljudi sami objavljuju na sajtu9.

Koliko košta: programi su besplatni, a posao je da se prepoznavanje podesi za vaše jezike i dokumente i proveri na vašim podacima.

Pogodno je kada AI‑ju nisu potrebna prava imena: nacrti odgovora klijentima, sažetak prepiske, polja iz dokumenata.

2. Poslovni paket ili API

Na podacima iz poslovnih paketa i API-ja servisi podrazumevano ne uče. Čuvanje je ograničeno: OpenAI i Anthropic - do 30 dana, Gemini API - 55 dana123. Anthropic i Google po poslovnom ugovoru rade kao obrađivači: obrađuju vaše podatke samo po vašim uputstvima23.

Ne štiti od: toga što podaci svejedno odlaze napolje i stoje tamo nedeljama, a nulto čuvanje ne dobijaju svi.

Koliko košta: skoro ništa osim cene paketa - otvoriti poslovni nalog ili nalog za API, potpisati ugovor o obradi podataka i zabraniti zaposlenima da za posao koriste lične naloge.

Pogodno je za obične podatke, kada je potreban najjači model, a sopstvenog servera nema.

3. Obrada u EU

Ovaj način rešava pitanje gde stoje podaci:

  • kod OpenAI‑ja - region "Evropa i Švajcarska": uz odobrenje, aneks ugovora i doplatu od 10% za modele objavljene od 5. marta 20261;
  • kod Google Cloud‑a - obrada u regionu EU3;
  • kod Azure‑a - opcija DataZone: obrada samo u zemljama EU4;
  • kod Anthropic‑a, ako radite direktno - samo "ceo svet" ili SAD2.

Ne štiti od: samog servisa - on vidi podatke isto kao kod drugog načina. Podaci o nalogu i naplati mogu da se čuvaju van regiona1.

Pogodno je kada klijenti ili ugovori traže "podatke u EU".

4. Svoj model na svom serveru

Model radi na vašem ili iznajmljenom serveru, a podaci ne odlaze nikuda. Model može da radi sa kompletnim podacima, bez zamene imena kodovima.

Postoje otvoreni modeli koje smete da koristite u poslovanju: Gemma 4, Qwen, Ministral, Mistral Small i gpt‑oss objavljeni su pod licencom Apache 2.0. Llama 4 ima ograničenje: svi njeni modeli razumeju i slike, a kompanije iz EU za takve modele ne dobijaju licencu12.

Hardvera treba manje nego što se čini. Ministral 3 8B staje u 12 GB video‑memorije, gpt‑oss‑20b u 16 GB, gpt‑oss‑120b na jednu grafičku karticu od 80 GB12. Iznajmljeni server u EU sa karticom od 24 GB košta 214 € mesečno i jednokratno 209 € za aktivaciju, a sa karticom od 96 GB - 999 € mesečno, cene bez PDV‑a13.

Ne štiti od: propusta na samom serveru - za njegovu bezbednost sada odgovarate vi. A ako model obučavate na podacima klijenata, i sam model može da se smatra podacima o ličnosti9.

Pogodno je za medicinske podatke i lične dokumente, veliki stalni obim i zahtev "nikakav spoljni AI". Kvalitet proveravamo na vašim zadacima pre pokretanja.

5. Napolje - samo zbirni podaci

Sume, proseci, brojke po grupama i periodima, ako su pravilno izračunati, obično prolaze proveru "ne može se izdvojiti jedan zapis"9. Ako se po njima ne može prepoznati čovek, to su anonimni podaci - možete ih davati bilo kom jakom modelu i agentima.

Ne štiti od: malih grupa i preklapanja izveštaja - kao u primeru sa platom šestog inženjera.

Koliko košta: jeftino - to su izveštaji i upiti ka vašoj bazi. Potrebna je jedna provera: da nema grupa od jednog ili dva čoveka i da se jedan zbir ne može oduzeti od drugog.

Pogodno je za analitiku prodaje, prognoze, sezonalnost, nabavku i smene.

Kako ih kombinovati: lični podaci ostaju kod vas, zbirni idu u jake modele

Najbolje radi kombinacija:

  • lične podatke - imena, kontakte, prepisku - obrađuje sopstveni model ili program za pseudonimizaciju na vašem serveru;
  • u najjači model odlaze samo zbirni podaci bez pojedinaca ili tekst sa kodovima umesto imena;
  • tabela koja povezuje kodove i imena ne napušta kompaniju;
  • spoljni servis je na poslovnom paketu sa ugovorom o obradi podataka, a ako treba - u regionu EU.

Na primer, kompanija želi da razume zašto prodaja pada utorkom. U jaki model odlaze zbirovi po danima, proizvodima i smenama - bez klijenata. A mejlove konkretnim klijentima obrađuje sopstveni model, koji vidi imena, ali ih nikuda ne šalje.

Odakle početi

  1. Pravila za zaposlene: šta se sme unositi u AI, šta ne, i samo službeni nalozi7.
  2. Poslovni paket ili API sa ugovorom o obradi podataka umesto ličnih naloga.
  3. Razvrstati zadatke: gde su AI‑ju potrebna prava imena, a gde su dovoljni kodovi ili zbirovi.
  4. Za lične podatke - kodovi umesto imena ili sopstveni model, za zbirne - jaki modeli.
  5. Proveriti na sopstvenim podacima: šta prepoznavanje imena propušta i da li u izveštajima ima grupa od jednog čoveka.

Česta pitanja

  1. Gde se čuvaju podaci koje šaljem ChatGPT‑ju?

    Na serverima OpenAI‑ja. Običan razgovor stoji tamo dok ga ne obrišete, a posle brisanja - do 30 dana. Čuvanje podataka u Evropi OpenAI dozvoljava samo poslovnim klijentima i uz odobrenje.

  2. Da li je bezbedno ubacivati podatke klijenata u ChatGPT?

    Na ličnom paketu - bolje ne: razgovor se čuva dok ga ne obrišete, a servis može da uči na njemu ako to ne isključite u podešavanjima. Poslovni paket i API su bezbedniji: na njima se podrazumevano ne uči, a zahtevi preko API-ja čuvaju se do 30 dana.

  3. Ako zamenim imena kodovima, da li GDPR više ne važi?

    Važi. Za vas su to i dalje podaci o ličnosti, kao i za AI servis koji radi po ugovoru sa vama. Ali ako nešto procuri kod servisa, tamo će biti kodovi, a ne ljudi.

  4. Da li OpenAI uči na podacima iz API-ja?

    Ne, od 1. marta 2023, osim ako ste sami pristali. Zahtevi se čuvaju do 30 dana radi provere kršenja pravila.

  5. Mogu li da postavim sopstveni AI model umesto ChatGPT‑ja?

    Da. Otvoreni modeli sa licencom koja dozvoljava komercijalnu upotrebu - Gemma 4, Qwen, Ministral, gpt‑oss - rade na vašem serveru. Manjem modelu je dovoljna grafička kartica od 12‑16 GB, a iznajmljeni server u EU sa karticom od 24 GB košta od 214 € mesečno bez PDV‑a.

Kako MagLab pomaže

Mi smo biro za razvoj softvera. Pravimo sisteme u kojima AI radi sa podacima firme i ne šalje napolje ono što ne treba: zamena imena kodovima pre slanja, sopstveni model na vašem ili iznajmljenom serveru, jaki modeli za zbirne podatke. U našem proizvodu Kvasir telefon gosta restorana odmah postaje kod: sam broj i ime ne ulaze u bazu, a vidi se koliko puta se gost vratio. Ako želite da primenite AI na podatke klijenata, opišite nam zadatak - predložićemo rešenje za njega.

Izvori

  1. OpenAI: kako se podaci koriste za učenje, čuvanje razgovora u ChatGPT‑ju, podaci u API-ju, poslovni paketi, odgovor na sudski nalog o čuvanju podataka. 

  2. Anthropic: učenje u poslovnim proizvodima, učenje u ličnim paketima, čuvanje ličnih razgovora, čuvanje podataka organizacija, čuvanje za pojedine modele, region obrade. 

  3. Google: uslovi Gemini API-ja, čuvanje zahteva i odgovora 55 dana, region EU u Google Cloud‑u. 

  4. Microsoft: podaci i privatnost modela u Azure‑u. 

  5. OpenAI: šta se desilo 20. marta 2023., 24. mart 2023. 

  6. Italijanski regulator (Garante): saopštenje o privremenom ograničenju ChatGPT‑ja, 31. mart 2023, odluka od 30. marta 2023. 

  7. Holandski regulator (Autoriteit Persoonsgegevens): AI četbotovi mogu dovesti do curenja podataka, 6. avgust 2024. 

  8. GDPR, Uredba EU 2016/679: članovi 3, 4, 25, 32 i 83, tačke 26 i 28 preambule. 

  9. EDPB: smernice o pseudonimizaciji 01/2025, nacrt smernica o anonimizaciji 02/2026, mišljenje 28/2024 o AI modelima. 

  10. Sud pravde EU, predmet C‑413/23 P, presuda od 4. septembra 2025. 

  11. Presidio: česta pitanja, jezici. 

  12. Licence i zahtevi za memoriju: Gemma 4, modeli Mistral, Ministral 3 8B, Qwen3.8, gpt‑oss, opis Llama 4, licenca Llama 4 i pravila korišćenja. 

  13. Hetzner: serveri sa grafičkim karticama, cene bez PDV‑a. 

Rastimo zajedno

Recite nam šta vam oduzima vreme i novac. Odgovaramo u roku od jednog radnog dana i predlažemo termin za razgovor - onlajn ili uživo u Beogradu.

Prvi razgovor traje 30 minuta i besplatan je, a razgovarate sa onim ko će voditi projekat. E-mail: hello@maglab.app

Ko vodi biro

Gleb Maksimov, osnivač MagLab-a. 8 godina iskustva s podacima, ML-om i sistemima pod velikim opterećenjem: startapi, istraživačke laboratorije, korporacije. LinkedIn