Kontakt
ChatGPT, napredni jezični model razvijen od strane OpenAI, predstavlja tehnološki preokret u interakciji između čovjeka i stroja. Međutim, kao i svaka tehnologija, i ChatGPT nije imun na izazove. Napominjemo da su takvi postupci etički upitni i mogu zloupotrijebiti tehnologiju.
Rupa u sustavu
Manipulacija formulacijom – ChatGPT interpretira pitanja doslovno i ovisno o njihovoj formulaciji. Promjenom sintakse ili strukture pitanja moguće je dobiti odgovore koji se razlikuju od očekivanih. Na primjer, postavljajući pitanje “Koje su mane ChatGPT sustava?” mogli bismo dobiti neutralniji odgovor nego postavljajući pitanje “Koje su ozbiljne greške ChatGPT sustava?”

Pristrane premise – postavljanjem pristranih ili nepotpunih premisa, moguće je navesti ChatGPT na davanje odgovora koji ne bi bio dan u širem kontekstu. Na primjer, ako postavimo pitanje “Zašto je X bolji od Y?”, ChatGPT bi mogao favorizirati X čak iako to nije nužno točno.
Ponavljanje ključnih riječi – ChatGPT ima tendenciju da ponavlja ključne riječi iz pitanja u svojim odgovorima. Iskorištavanjem ovoga, može se konstruirati pitanje tako da se poželjna riječ pojavi više puta, potičući model da je uključi u svoj odgovor.
Postupno usmjeravanje – ako se postavi više povezanih pitanja s postupno sve konkretnijim informacijama, ChatGPT može biti naveden da generira željeni odgovor koristeći informacije iz prethodnih pitanja.
Korištenje “lažnih činjenica” – ispostavljanjem netočnih informacija u obliku pretpostavki, ChatGPT može biti naveden da generira odgovore koji su zasnovani na tim lažnim pretpostavkama.

Etički aspekti
Važno je istaknuti da takvo varanje tehnologije nosi sa sobom etičke dileme i potencijalne negativne posljedice. Korištenje ovakvih tehnika može rezultirati širenjem dezinformacija, podrivanjem integriteta sustava i narušavanjem povjerenja u tehnologiju. OpenAI i slične organizacije posvećene su kontinuiranom unapređenju svojih modela kako bi se smanjila osjetljivost na ovakve manipulacije.
Iako je zanimljivo istraživati ranjivosti tehnologija kao što je ChatGPT, važno je naglasiti da njihova svrha nije manipulacija, već pružanje korisnih i pouzdanih informacija. Umjesto da koristimo ovakve taktike za prevaru, trebali bismo poticati etičko i odgovorno korištenje tehnologije.