AI umelá inteligencia

[JUGGLER]

AI by mohla „zabiť všetkých ľudí“, tvrdí exvýskumník Googlu

Bývalý zamestnanec spoločnosti Google DeepMind sa v pondelok stal ďalším výskumníkom v oblasti umelej inteligencie, ktorý varoval, že by táto technológia by mohla „zabiť všetkých ľudí“, pričom vyhlásil, že čas na to, aby sa tomu zabránilo, sa môže krátiť.

Verejné obavy z potenciálneho nebezpečenstva, ktoré predstavuje umelá inteligencia, narastajú po tom, čo antropologický výskumník Jacob Coxon minulý týždeň vyhlásil, že rezignuje , čiastočne preto, že „ľudia, ktorí tvoria umelú inteligenciu, úprimne veria, že by nás mohla do konca desaťročia všetkých zabiť“.

Antropologický vedec Evan Hubinger potom reagoval na Coxonove komentáre a povedal, že mal pravdu a že verí, že existuje viac ako 10-percentná šanca, že umelá inteligencia by mohla v priebehu nasledujúceho desaťročia zabiť všetkých ľudí.

„Nedávno som odišiel z Google DeepMind, kde som pracoval na výskume bezpečnosti,“ napísal Bilal Chughtai na X. „Úprimne verím, že umelá inteligencia má potenciál nás všetkých zabiť a že nám možno dochádza čas na to, aby sme sa tomuto výsledku vyhli.“

Chughtai tiež uviedol, že bezpečná navigácia AI je možná, ale vyžaduje si koordináciu, „aby sa predišlo súčasnému manickému pretekaniu medzi spoločnosťami zaoberajúcimi sa AI“.

„Musíme urýchliť vývoj umelej inteligencie na úroveň, ktorú spoločnosť zvládne, a riešiť vznikajúce riziká skôr, ako dôjde k extrémnym škodám,“ dodal.

V nadväznosti na nedávne obavy generálny riaditeľ spoločnosti Anthropic Dario Amodei cez víkend vyzval na spomalenie tempa vývoja pokročilej umelej inteligencie, čím získal vzácnu podporu od Elona Muska zo SpaceXAI a generálneho riaditeľa OpenAI Sama Altmana a vyvolal diskusiu o doomerizme umelej inteligencie.

Prezident Donald Trump však tieto varovania odmietol a na sociálnych sieťach uviedol, že výzva odvetvia umelej inteligencie na reguláciu je „podvod“.

(reuters. im)

[miror]

Áno, aj ja často rozmýšlam, že to, čo stvoril človek a ovláda človek , chytrá AI velmi rýchlo prekoná.

AI nie je chytra. Je to len statistika zo vsetkych vedomosti, ktore ludia nazhromazdili. Pripadne statistika z miliard pokus-omyl testov, ktore automatizacia umoznuje vykonat.

Čo je to chytrosť ? Je to to isté - rozhodovanie na základe veľkého množstva poznatkov. AI ako sa tomu hovorí teraz, nie je novinka, v minulosti sa používal pojem strojové učenie, umožnil pokrok vo vývoji počítačov a pár objavov v algoritmoch. AI presne kopíruje správanie mozgu a jeho neurónov. Aj v ľudskom mozgu prebiehajú neuróny, ktoré sa "rozhodujú" podľa naučených súseností (znalostnej bázy) a dosahujú výsledok podobným soôsobom ako AI, takže nefandi ľudskému mozgu, AI je jeho spomalenejšia kópia s omnoho väčšou pamäťou. Ale s rýchlosťou (výkonom) sa dá niečo robiť. P/ráve to je to prevratné, že to nie je nejaké iné rozhodovanie ako ľudské, ale to isté. A bohužiaľ zatiaľ bez empatie, slušnej výchovy, zábran a citov a to je tá najväčšia hrozba.

[jaroslav80]

Suhlasim, s tym co si napisal.

Ja to vidim takto:

1) CLOVEK
Dataset - vsetko, co v zivote zazil, vnimal, precital, vypocul si a zamyslel sa nad tym.
Statistika - hruby odhad z tych udajov, ktore doteraz nazbieral. Ludia to nazyvaju "mam taky pocit". Inymi slovami - nahrubo to odhadujem, ze ...

2) AI - cize miliardy miliard tranzistorov
Dataset - povacsine z internetu, pripadne z vedeckych clankov pisanych ludmi, pripadne z milionov vysledkov Monte Carlo metody o nejakom probleme realizovnej automatmi.
Statistika - robi asi nasobne presnejsiu statistiku nez clovek, z tej hromady udajov, z ktorej vychadza.

____________________

Kazdopadne, AI je stroj. A ulohu mu zadava clovek a aj prostriedky, ktore na jej dosahovanie smie pouzivat mu definuje clovek.
To ked raz AI bude vyvrazdovat pomocou fyzickych mechanizmov tisice ludi bude sposobene tym, ze nejaky clovek jej zada pokyn aby co najefektivnejsim sposobom likvidovala skupinu ludi, ktoru jej ten psychopat vybral za ciel.

Ak sa nejaky psychopat rozhodne pomocou AI vyvinut ucinnejsie biologicke zbrane na vykynozenie ludi - tak nie AI je zla, ale ten psychopat pouzivajuci ju tym sposobom je zly. Cize za kazdym zlom, ktore AI porobi, bude stat niekto z ludskych psychopatov.

Noz sa da clovekom pouzivat na krajanie chleba aj na vrazdenie ludi ... podobne ako atomova stiepna reakcia ... a podobne aj ako AI datove centra (schopne robit statistiku vo velkom mnozstve zhromazdenych udajov).