3. Lekcia: Obmedzenia a limity nástroja ChatGPT

ChatGPT je nástroj, ktorý generuje veľké množstvo viet a názorov. Vzhľadom na to je v rámci niektorých kontroverzných tém blokovaný, teda vám na otázku neodpovie priamo.

Niektoré témy sú napr. zakázané z právnych dôvodov. Ako príklad môžeme uviesť debaty a odpovede na témy terorizmu alebo výroby zakázaných látok. ChatGPT sa tak nijako nemôže podieľať na nelegálnych činnostiach.

Rovnako sa ChatGPT nemôže vyjadrovať k témam, ktoré môžu byť nevhodné alebo neetické. Napríklad, diskusia o sexuálnom zneužívaní alebo iných nelegálnych alebo amorálnych aktivitách by mohla byť pre používateľa traumatizujúca.

Okrem toho existujú témy, ktoré sú kontroverzné alebo príliš zložité na to, aby boli riadne spracované nástrojom. Napríklad, diskusia o politike alebo náboženstve môže byť veľmi zložitá a diskutabilná vzhľadom na pluralitu názorov. Taktiež témy, ktoré sú príliš špecifické a neznáme väčšine ľudí, môžu byť pre ChatGPT ťažko spracovateľné.

ChatGPT je tiež informačne obmedzený práve kvôli ukončenému tréningu, resp. procesu učenia. Jeho tréning bol ukončený v roku 2021 a teda jeho znalosti sú limitované vedomosťami do tohto roku. 

 HoreKryptografický znak

ChatGPT má integrovať aj kryptografickú známku, ktorou má predísť nekontrolovanému vydávaniu článkov od ChatGPT za vlastné, resp. označiť článok vygenerovaný umelou inteligenciou. Konkrétne ide o implementovanie komplikovaného kódu priamo do generovaného textu, ktorý má presné pravidlá. Tento kryptografický znak funguje na algoritme, v ktorom používa znaky v texte v určitom poradí či pravidelnosti.

Obsah generovaný umelou inteligenciou sa snaží detekovať napríklad nástroj GPTZero, avšak pri testovaní sa ukázalo, že ani tento nástroj nedokáže detekovať obsah písaný umelou inteligenciou bez chýb.

OpenAI má aj svoj vlastný nástroj AI Text Classifier, ktorý však nedá percentuálny tip na obsah generovaný AI, ale pravdepodobnosť toho, či je obsah tvorený umelou inteligenciou. Aby to nástroj vedel odhadnúť, text musí mať minimálne 1000 znakov.

Najväčším obmedzením je, že ChatGPT je nespoľahlivý pri generovaní presných informácií. Dôvod, prečo je nepresný, je ten, že model iba predpovedá, aké slová by mali nasledovať po predchádzajúcom slove vo vete v odseku na danú tému.

 HoreLimity nástroja ChatGPT

1. Je naprogramovaný tak, aby sa vyhýbal určitým druhom obsahu.

ChatGPT je špecificky naprogramovaný tak, aby negeneroval text o témach explicitného násilia, explicitného sexuálneho obsahu a škodlivého obsahu, ako sú pokyny na výrobu zbraní a návykových látok.

2. Neznalosť aktuálnych udalostí.

Ďalším obmedzením je, že nepozná žiadny obsah vytvorený po roku 2021.

Ak teda váš obsah potrebuje byť aktuálny, ChatGPT v jeho súčasnej podobe nemusí byť užitočný.

3. Má vstavané predsudky pozitivity.

Dôležitým obmedzením je aj fakt, že je vyškolený byť užitočný, pravdivý a neškodný. To nie sú len ideály, sú to zámerné predsudky, ktoré sú zabudované do jeho kódu. Zdá sa, že programovanie je zámerne osobné, vďaka čomu sa výstup vyhýba negativite, čím je nepresný.

4. ChatGPT vyžaduje veľmi podrobné pokyny.

ChatGPT vyžaduje podrobné pokyny, aby bol výstup kvalitnejší, originálnejší alebo mal špecifický uhol pohľadu. Čím viac pokynov dostane, tým sofistikovanejší výstup bude. V…