tomáš virdzek napísal: ↑St 25 01, 2023 11:10 pm
Už som tu počul x variant, prečo a prečo nie. Ja sa pýtam, v tomto stave je to použiteľné všeobecne pre internetovo chtivý retail alebo nie?

Dostávam výsledky, kadejaké a s neurčitým vysvetlením. Toto mi fakt pripomína ten black box. Pritom je to trénované
na dátach až do 2021! (údajne obmedzené dáta, to do toho 2021 je to až taký problém niečo rozumné vyprodukovať?).
Nie je toto náhodou istý fail? Hlavne na udalosti z pred 2021? Však to má v istých veciach totálny bordel aj v trénovacej množine dát.
https://analyticsdrift.com/chatgpt-fail ... ge-models/
"Pozitívne komentáre prekvapivo netrvali dlho, aby sa neobrátili naopak. Kvôli tomu, ako často sa nástroj pokazí a internet je zaplavovaný epickými zlyhaniami ChatGPT, nový nástroj začal dostávať odpor. Odvtedy sa kritika len zvýšila a pridala sa k počtu existujúcich zlyhaní ChatGPT.
Stack Overflow, najväčšie úložisko pre programovacie dotazy, uviedol, že presnosť správnosti odpovedí ChatGPT je v súčasnosti príliš nízka a mohla by značne poškodiť používateľov. V dôsledku toho tím Stack Overflow vydal dočasné obmedzenie odpovedí vytvorených robotom ChatGPT spoločnosti OpenAI na zodpovedanie otázok."
"Na podporu skutočnosti, že ChatGPT je v skutočnosti nástrojom s nízkym IQ, ho niekto podrobil legitímnemu testu IQ a zverejnil certifikát inteligencie, ktorý ukazuje, že ChatGPT opäť zlyhá s IQ 83. To je teda dosť nízke číslo pre AI. nástroj, ktorý je trénovaný na miliónoch dátových bodov."
-----
Archív zlyhaní ChatGPT: https://github.com/giuven95/chatgpt-failures
-----
5 veľkých problémov s ChatGPT OpenAI
https://www.makeuseof.com/openai-chatgp ... -probelms/
Nový chatbot OpenAI si získal pozornosť pre svoje pôsobivé odpovede, ale koľko je z toho uveriteľných? Poďme preskúmať temnú stránku ChatGPT.
ChatGPT je nový výkonný chatbot AI, ktorý rýchlo zapôsobí, no veľa ľudí poukázalo na to, že má niekoľko vážnych úskalí. Opýtajte sa na čokoľvek, čo chcete, a dostanete odpoveď, ktorá znie, ako keby to napísal človek, ktorý sa naučil svoje znalosti a zručnosti písania z veľkého množstva informácií na internete. Rovnako ako internet však pravda a fakty nie sú vždy dané a ChatGPT je vinný z toho, že sa mýli. Keďže ChatGPT má zmeniť našu budúcnosť, tu sú niektoré z najväčších obáv.
ChatGPT je rozsiahly model jazykového vzdelávania, ktorý bol navrhnutý tak, aby napodobňoval ľudskú konverzáciu. Dokáže si zapamätať veci, ktoré ste mu povedali v minulosti, a dokáže sa napraviť, keď sa mýli.
Píše ľudským spôsobom a má bohaté znalosti, pretože bol vyškolený na všetkých druhoch textu z internetu, ako je Wikipedia, blogové príspevky, knihy a akademické články.
Je ľahké sa naučiť používať ChatGPT, ale náročnejšie je zistiť, aké sú jeho najväčšie problémy. Tu sú niektoré, o ktorých sa oplatí vedieť.
1. ChatGPT nie je vždy správny
Zlyháva v základnej matematike, zdá sa, že nevie odpovedať na jednoduché logické otázky a zájde dokonca tak ďaleko, že bude argumentovať úplne nesprávnymi faktami. Ako môžu používatelia sociálnych médií potvrdiť, ChatGPT sa môže mýliť pri viac ako jednej príležitosti.
OpenAI vie o tomto obmedzení a píše, že: "ChatGPT niekedy píše hodnoverne znejúce, ale nesprávne alebo nezmyselné odpovede." Táto „halucinácia“ faktov a fikcií, ako to niektorí vedci nazývajú, je obzvlášť nebezpečná, keď ide o niečo ako lekárske rady.
Na rozdiel od iných asistentov AI, ako sú Siri alebo Alexa, Chat GPT nepoužíva internet na nájdenie odpovedí. Namiesto toho vytvára vetu slovo po slove, pričom na základe svojho školenia vyberie najpravdepodobnejší „token“, ktorý by mal nasledovať.
Inými slovami, ChatGPT prichádza k odpovedi vykonaním série odhadov, čo je jedným z dôvodov, prečo môže argumentovať nesprávnymi odpoveďami, ako keby boli úplne pravdivé.
Aj keď je skvelý na vysvetľovanie zložitých pojmov, vďaka čomu je účinným nástrojom na učenie, je dôležité neveriť všetkému, čo hovorí. ChatGPT nie je vždy správny – aspoň zatiaľ nie.
2. Zaujatosť je zapečená do systému
ChatGPT bol vyškolený na kolektívne písanie ľudí na celom svete, v minulosti aj v súčasnosti. To znamená, že rovnaké odchýlky, aké existujú v údajoch, sa môžu objaviť aj v modeli.
Používatelia v skutočnosti ukázali, ako môže ChatGPT poskytnúť niektoré hrozné odpovede, napríklad niektoré, ktoré diskriminujú ženy. Ale to je len špička ľadovca; môže priniesť odpovede, ktoré sú mimoriadne škodlivé pre celý rad menšinových skupín.
Vina nespočíva len v údajoch. Výskumníci a vývojári OpenAI vyberajú údaje, ktoré sa používajú na školenie ChatGPT. Na pomoc pri riešení toho, čo OpenAI nazýva „zaujaté správanie“, žiada používateľov, aby poskytli spätnú väzbu na zlé výstupy.
S potenciálom spôsobiť ujmu ľuďom môžete tvrdiť, že ChatGPT nemal byť zverejnený skôr, ako sa tieto problémy preštudujú a nevyriešia.
Podobný AI chatbot s názvom Sparrow (vlastnený materskou spoločnosťou Google, Alphabet) bol vydaný v septembri 2022. Bol však držaný za zatvorenými dverami kvôli podobným obavám, že by mohol spôsobiť škodu.
Možno mala varovať aj Meta. Keď vydala Galactica, jazykový model AI vyškolený na akademických prácach, bol rýchlo stiahnutý z trhu po tom, čo ho veľa ľudí kritizovalo za nesprávne a skreslené výsledky.
3. Výzva pre stredoškolskú angličtinu
Môžete požiadať ChatGPT, aby skontroloval váš text alebo poukázal na to, ako vylepšiť odsek. Prípadne sa môžete z rovnice úplne odstrániť a požiadať ChatGPT, aby pre vás niečo napísal.
Učitelia experimentovali s podávaním anglických úloh pre ChatGPT a dostali odpovede, ktoré sú lepšie, ako by mohli robiť mnohí ich študenti. ChatGPT to dokáže bez váhania, od písania sprievodných listov až po opis hlavných tém v slávnom literárnom diele.
To vyvoláva otázku: ak ChatGPT môže písať pre nás, budú sa študenti musieť v budúcnosti naučiť písať? Môže sa to zdať ako existenčná otázka, ale keď študenti začnú používať ChatGPT na písanie svojich esejí, školy budú musieť rýchlo vymyslieť odpoveď. Rýchle nasadenie AI v posledných rokoch šokuje mnohé odvetvia a vzdelávanie je len jedným z nich.
4. Môže to spôsobiť skutočné svetové škody
Predtým sme spomenuli, ako nesprávne informácie od ChatGPT môžu spôsobiť škody v reálnom svete, pričom najzrejmejším príkladom sú nesprávne lekárske rady.
Existujú aj iné obavy. Falošné účty sociálnych médií predstavujú na internete obrovský problém a so zavedením AI chatbotov by bolo jednoduchšie vykonávať internetové podvody. Ďalším problémom je šírenie falošných informácií, najmä keď ChatGPT robí aj nesprávne odpovede presvedčivo správne.
Rýchlosť, s akou ChatGPT dokáže produkovať odpovede, ktoré nie sú vždy správne, už spôsobila problémy pre Stack Exchange, webovú stránku, kde môžu používatelia písať otázky a dostávať odpovede.
Čoskoro po jeho vydaní boli odpovede od ChatGPT zakázané na stránke, pretože veľké množstvo z nich bolo nesprávne. Bez dostatočného počtu ľudských dobrovoľníkov na triedenie nevybavených vecí by nebolo možné udržiavať vysokú úroveň kvalitných odpovedí, čo by poškodilo webovú stránku.
5. OpenAI má všetku silu
S veľkou silou prichádza veľká zodpovednosť a OpenAI má veľkú moc. Je to jedna z prvých spoločností AI, ktorá skutočne otriasla svetom nie jedným, ale viacerými modelmi AI, vrátane Dall-E 2, GPT-3 a teraz aj ChatGPT.
OpenAI vyberá, aké údaje sa použijú na trénovanie ChatGPT a ako sa vysporiada s negatívnymi dôsledkami. Či už s metódami súhlasíme alebo nie, bude pokračovať vo vývoji tejto technológie podľa svojich vlastných cieľov.
Zatiaľ čo OpenAI považuje bezpečnosť za vysokú prioritu, je veľa toho, čo nevieme o tom, ako sú modely vytvorené. Či už si myslíte, že kód by mal byť vytvorený ako open source, alebo súhlasíte s tým, že jeho časti by mali byť v tajnosti, nemôžeme s tým veľa urobiť.
Na konci dňa môžeme len veriť, že OpenAI bude skúmať, vyvíjať a používať ChatGPT zodpovedne. Prípadne sa môžeme zasadzovať za to, aby sa viac ľudí vyjadrilo, akým smerom by sa mala AI uberať, a podeliť sa o silu AI s ľuďmi, ktorí ju budú používať.
Ak vás zaujíma, čo ešte OpenAI vyvinulo, pozrite si naše články o tom, ako používať Dall-E 2 a ako používať GPT-3.
Riešenie najväčších problémov AI
S ChatGPT, najnovším vývojom OpenAI, je toho veľa, na čo sa môžete tešiť. Okrem bezprostredného použitia však existujú aj niektoré vážne problémy, ktoré stoja za pochopenie.
OpenAI pripúšťa, že ChatGPT môže produkovať
škodlivé a neobjektívne odpovede, nehovoriac o jeho schopnosti miešať fakty s fikciou. S takouto novou technológiou je ťažké predpovedať,
aké ďalšie problémy nastanú. Takže dovtedy si užite objavovanie ChatGPT a dávajte si pozor,
aby ste neverili všetkému, čo hovorí.
------
https://www.analyticsinsight.net/top-te ... -bitzlato/
ChatGPT od OpenAl, chatbot Al, od svojho spustenia získal veľkú publicitu. Neprejde deň, aby sa v novinách nezmienila ChatGPT. ChatGPT môže byť podľa odborníkov najnovším technologickým prielomom. Yann Le Cun, hlavný vedec v Meta Al, verí, že je to len „dobre zostavené“ a „nič revolučné“. Podľa ZDNET, Le Cun vyjadril svoje názory na ChatGPT. Le Cun tvrdí, že napriek tomu, čomu môže verejnosť veriť, ChatGPT nie je priekopníkom. Tvrdil, že „ChatGPT nie je obzvlášť inovatívny, pokiaľ ide o základné techniky...
Hoci to verejnosť takto vníma, nie je revolučný.“