dnes je 18.4.2024

Input:

3. Lekcia: Obmedzenia a limity nástroja ChatGPT

3.5.2023, , Zdroj: Verlag Dashöfer

3. Lekcia: Obmedzenia a limity nástroja ChatGPT

ChatGPT je nástroj, ktorý generuje veľké množstvo viet a názorov. Vzhľadom na to je v rámci niektorých kontroverzných tém blokovaný, teda vám na otázku neodpovie priamo.

Niektoré témy sú napr. zakázané z právnych dôvodov. Ako príklad môžeme uviesť debaty a odpovede na témy terorizmu alebo výroby zakázaných látok. ChatGPT sa tak nijako nemôže podieľať na nelegálnych činnostiach.

Rovnako sa ChatGPT nemôže vyjadrovať k témam, ktoré môžu byť nevhodné alebo neetické. Napríklad, diskusia o sexuálnom zneužívaní alebo iných nelegálnych alebo amorálnych aktivitách by mohla byť pre používateľa traumatizujúca.

Okrem toho existujú témy, ktoré sú kontroverzné alebo príliš zložité na to, aby boli riadne spracované nástrojom. Napríklad, diskusia o politike alebo náboženstve môže byť veľmi zložitá a diskutabilná vzhľadom na pluralitu názorov. Taktiež témy, ktoré sú príliš špecifické a neznáme väčšine ľudí, môžu byť pre ChatGPT ťažko spracovateľné.

ChatGPT je tiež informačne obmedzený práve kvôli ukončenému tréningu, resp. procesu učenia. Jeho tréning bol ukončený v roku 2021 a teda jeho znalosti sú limitované vedomosťami do tohto roku. 

Kryptografický znak

ChatGPT má integrovať aj kryptografickú známku, ktorou má predísť nekontrolovanému vydávaniu článkov od ChatGPT za vlastné, resp. označiť článok vygenerovaný umelou inteligenciou. Konkrétne ide o implementovanie komplikovaného kódu priamo do generovaného textu, ktorý má presné pravidlá. Tento kryptografický znak funguje na algoritme, v ktorom používa znaky v texte v určitom poradí či pravidelnosti.

Obsah generovaný umelou inteligenciou sa snaží detekovať napríklad nástroj GPTZero, avšak pri testovaní sa ukázalo, že ani tento nástroj nedokáže detekovať obsah písaný umelou inteligenciou bez chýb.