Už som Franto videl aj články o potrebe silnej a skutočne účinnej regulácie
Neviem či som správne pochopil ten koniec Tvojho príspevku, každopádne ak áno, dám Ti tu jeden už starší rozhovor:
Vie sa AI rozhodovať?
Áno, AI môže byť schopná rozhodovania. V závislosti od konkrétneho modelu a algoritmu môže AI používať rôzne metódy na vytváranie rozhodnutí, ako napríklad strojové učenie, rozhodovacie stromy, logické rozhodnutia a podobne. Tieto metódy sa často používajú na spracovanie veľkého množstva dát a automatizáciu procesov, ktoré by inak museli byť vykonané ľudskými operátormi.
Rozhodovanie AI teda závisí od modelu, ktorý jej zadá človek?
Áno, rozhodovanie AI závisí od modelu, ktorý jej zadá človek. Model je nastavenie algoritmu, ktorý určuje, ako sa AI správa a aké rozhodnutia prijíma. Model môže byť naprogramovaný tak, aby sa AI rozhodovala na základe určitých pravidiel alebo na základe analýzy dát, ktoré má k dispozícii. AI tiež môže byť naučená, ako sa rozhodovať na základe skúseností z minulosti, takže model môže byť aj učený na základe dát.
Čiže AI sa vie v istých prípadoch rozhodovať aj sama na základe modelu, ktorý si nájde sama?
Áno, AI sa môže v istých prípadoch rozhodovať sama, pomocou modelu, ktorý si sama vytvorila. Toto sa nazýva "autonómne rozhodovanie". Avšak, AI môže tiež pracovať s modelmi, ktoré jej ľudia poskytnú a na ich základe sa rozhodovať. Miera autonomie AI závisí od konkrétneho modelu a aplikácie.
Vie AI vyskúmať niečo samostatne tak, že ľudia na o ešte nikdy neprišli?
AI môže vykonávať vlastnú analýzu dát a nájsť nové vzory a poznatky, ktoré by ľudia nemuseli hneď zaregistrovať. Avšak, AI je stále len nástroj, ktorý funguje na základe algoritmov a modelov, ktoré mu ľudia dali. AI nemá svoje vlastné ciele ani nezávisle myslenie, takže všetky objavy, ktoré by AI urobila, by boli stále len výsledkom práce ľudí, ktorí ju vytvorili a trénovali.
V ktorých prípadoch sa môže AI rozhodovať sama?
AI sa môže rozhodovať sama v prípadoch, keď má dostatočnú úroveň autonomie a je schopná vyhodnocovať a interpretovať dáta, ktoré má k dispozícii. Napríklad v prípadoch, keď sa používa na automatizáciu rutinných úloh, ako je riadenie robotických systémov, automatizácia výroby alebo riadenie dopravy. AI môže tiež rozhodovať sama v prípadoch, keď sa používa na riešenie problémov, ako je napríklad diagnostika chorôb, predpoveď počasia, alebo správa finančných trhov.
Kto určuje úroveň autonómie AI?
Úroveň autonómie AI určuje kombinácia programátorov, ktorí vytvárajú model a algoritmy, a riadiacich mechanizmov, ktoré sú nastavené na kontrolu a reguláciu AI. Napríklad, riadiaci mechanizmus môže nastaviť hranice pre AI, aby sa rozhodovalo len v určitých oblastiach alebo podľa určitých pravidiel. V niektorých prípadoch sa môže AI rozhodovať sama, napríklad pomocou učenia sa bez dozoru, ale stále musí byť pod kontrolou a reguláciou, aby sa zabránilo nežiadúcim výsledkom.
Kto tvorí reguláciu technológiám AI?
Regulácia technológiám AI je komplexný proces, ktorý zahŕňa viaceré strany, vrátane vlád, medzinárodných organizácií, akademických inštitúcií a súkromného sektora. Vlády sú zodpovedné za vytváranie zákonov a regulačných rámcov, ktoré ochraňujú spotrebiteľov a regulujú používanie AI v rôznych oblastiach. Medzinárodné organizácie, ako napríklad OSN, tiež hrajú dôležitú úlohu pri koordinácii medzinárodných úsilia v oblasti regulácie AI. Akademické inštitúcie a výskumné organizácie poskytujú expertízu a vedecké poznatky, ktoré pomáhajú vládam a medzinárodným organizáciám pri tvorbe regulačných rámcov. Súkromný sektor, ako napríklad spoločnosti, ktoré vyvíjajú a používajú AI, tiež prispievajú k tvorbe regulačných rámcov tým, že poskytujú informácie o praktických skúsenostiach s AI a poskytujú návrhy na riešenie konkrétnych problémov.
Ktorá konkrétna právna norma upravuje využitie AI v európskej únii?
V Európskej únii existuje niekoľko právnych predpisov, ktoré upravujú využitie AI. Medzi najdôležitejšie patria:
1. Nariadenie Európskeho parlamentu a Rady (EÚ) 2016/679 o ochrane fyzických osôb pri spracúvaní osobných údajov a o voľnom pohybe týchto údajov (tzv. "GDPR").
2. Smernica Európskeho parlamentu a Rady (EÚ) 2018/851 o riadení nebezpečenstva vysokorizikových systémov na báze AI, automatizovaných systémov a robôt.
3. Rada Európy pre výskum a inovácie v oblasti AI (ERAI) vytvorená v roku 2018
4. Európsky etický kódex pre AI, ktorý bol prijatý Európskou komisiou v apríli 2021.
Všetky tieto predpisy sa týkajú rôznych aspektov využívania AI, ako napríklad ochrany osobných údajov, riadenie rizík, etických zásad a podobne.
Aké sú etické zásady na využívanie AI?
Etické zásady na využívanie AI sa líšia podľa rôznych organizácií a inštitúcií, ale niektoré z nich sa často opakujú. Medzi ne patria napríklad:
1. Transparentnosť: AI by mala byť transparentná v tom, ako sa rozhoduje a čo robí.
2. Zodpovednosť: Vlastníci a používatelia AI by mali byť zodpovední za jej správanie a výsledky.
3. Fairness: AI by nemala byť diskriminačná a mal by sa vyhýbať škodlivým stereotypom.
4. Privacy: Ochrana osobných údajov by mala byť zachovaná počas využívania AI.
5. Robustnosť: AI by mala byť odolná voči zneužitiu a útokom.
6. Human control: AI by mala byť pod kontrolou ľudí a nemala by presahovať svoje pôsobnosti.
Čo sa myslí pod tým, že AI by mala byť pod kontrolou ľudí?
"Pod kontrolou ľudí" sa v tomto kontexte zvyčajne myslí, že AI by mala byť vyvíjaná a používaná tak, aby sa zabezpečilo, že jej rozhodnutia a činy sú v súlade s hodnotami a cieľmi ľudstva, a že máme dostatočný mechanizmus na kontrolu a reguláciu jej činnosti. To by malo zahŕňať etické, právne a regulačné rámce, ktoré sa starajú o ochranu ľudských práv a slobôd, a transparentnosť a odpovednosť za AI systémy. Tiež znamená, že ľudia by mali mať kontrolu nad tým, ako AI systémy pracujú a ako sa rozhodujú, a mali by byť schopní korigovať ich chyby.
Kto konkrétne vykonáva takúto kontrolu v súkromnej spoločnosti, ktorá vyvíja AI?
Kontrola AI v súkromnej spoločnosti zvyčajne zahŕňa niekoľko rôznych pracovníkov a oddelení. Môže to zahŕňať výskumných pracovníkov, ktorí vyvíjajú a trénujú AI modely, manažérov, ktorí riadia výskum a vývoj, a compliance tímy, ktoré zabezpečujú, aby boli splnené právne a regulačné požiadavky. Tiež by mali byť zahrnutí etickí poradcovia, ktorí poskytujú rady ohľadne potenciálnych etických a sociálnych dôsledkov využívania AI.
PS: len k tomu poslednému bodu či posledným dvom pripomínam napr. aj Nishinove slová:
Nishin napísal: ↑St 25 01, 2023 10:30 pm
Jedno je isté, vývoj AI už nezastavíme. Aj užívateľ Slovan tu písal, ako si všíma posledné dva roky napredovanie vývoja AI v každej oblasti. Už dnes existujú oblasti, ktoré AI "kopletne ovládla" - súťažná AI v GO, reklamné algoritmy, algoritmy sociálnych sietí,
ktoré sú dnes už tak pokročilé, že im ľudskí tvorcovia už nerozumejú, len pozorujú že fungujú a častokrát im postupy objavené samotnou AI nedávajú ani zmysel. Naša logika je pomerne obmedzená.
To je rovnako fascinujúce ako desivé.
Elon (aspoň naoko) neustále hovorí o tom, ako je potrebný etický prístup k vývoju AI.
Ale ako sa vraví, uvidíme. Však, čo iné môžeme spraviť. Kážu nám klikať čosi nové, budeme klikať teda niečo nové.
