Vyber z clanku
https://dennikn.sk/5072256/muskov-grok- ... jin-aj-eu/
Elon Musk začal nový rok ďalším škandálom týkajúcim sa bezpečnosti na internete. Jeho sociálnu sieť X v januári zaplavili desaťtisíce kontroverzných obrázkov vytvorených chatbotom Grok, ktorý vďaka benevolentným filtrom umožňuje digitálne upravovať fotografie žien.
Nástroj dokáže z bežného portrétu vygenerovať novú verziu, na ktorej je pôvodne oblečená postava zobrazená v bikinách či v sexualizovaných pózach.
Tisícky ráz prezdieľaný obrázok seba v dentálnej niti namiesto spodnej bielizne a v predklone na sociálnej sieti X našla
aj konzervatívna influencerka Ashley St. Clair, ktorá sa momentálne s Muskom súdi o zverenie ich ročného syna do výlučnej opatery. V pozadí fotografie vidieť ruksak s potrebami pre batoľa.
„Nevystupujem tu ako nejaká privilegovaná matka Muskovho dieťaťa,“ uviedla. „Prechádzam si rovnakými procesmi ako všetci ostatní a toto dostávam.“
Používatelia aplikácie Grok na sociálnej sieti X pritvrdzovali. V príspevkoch, ktoré analyzoval Denník N, užívatelia chatbot napríklad žiadali, aby ženu prezliekol do „drobných mikrobikín“, dal jej „do úst bielu uhorku“ a „na hruď kvapkajúce mlieko“.
Niektorým ženám užívatelia nechávali dorábať tetovania, napríklad s rasistickým nápisom „len čierne spermie“, alebo na plavky potlač svastiky.
Niektoré obete tohto digitálneho násilia, ktoré sme na sociálnej sieti X videli, vyzerali ako maloleté. Do bikín Grok prezliekol aj dvanásťročnú detskú herečku zo seriálu Stranger Things či dokonca aj trojročné dievča.
Musk: Grok vie, čo je krása
Musk na sociálnej sieti zverejňoval obrázky alebo videá vyrobené svojím chatbotom. Niektoré zobrazovali reálne ženy, mnohé boli anonymizované v štýle videohier a zobrazovali ženy v odhaľujúcom oblečení a so sexualizovaným výrazom či pózou.
K jednému Musk napísal, že „Grok vie, ako vyzerá krása“.
„Dnes stačí menej než 25 minút a náklady vo výške 0 dolárov na to, aby ste vytvorili 60-sekundové pornografické deepfake video kohokoľvek. Stačí vám na to jediná ostrá fotografia tváre,“
Rodovo, aj rasovo či nábožensky podmienené násilie
Ďalšia línia útokov sa týkala žien v náboženských či kultúrnych odevoch. Používatelia aplikácie Grok na sociálnej sieti ženy vyzliekali aj z moslimských buriek a hidžábov, indických sárí či japonských školských uniforiem.
„Ženy inej farby pleti sú neúmerne viac postihované manipulovanými, upravovanými a podvrhnutými intímnymi snímkami či videami už od čias pred vznikom deepfakes, a tento trend pokračuje aj pri nich. Je to spôsobené tým, ako spoločnosť – a najmä mizogýnni muži – vnímajú ženy inej farby pleti ako menejcenné ľudské bytosti, ktoré si menej zaslúžia dôstojnosť,“ hovorí právnička a doktorandka na University of Western Australia Noelle Martin, ktorá sa zaoberá reguláciou zneužívania deepfakes.
Britskú televíznu moderátorku Narinder Kaur, ktorej rodičia pochádzajú z indického Pandžábu, užívatelia X taktiež digitálne vyzliekali a dávali do sexualizovaných polôh. Okrem toho vyrábali videá, na ktorých moderátorku deportujú z krajiny.
„Snažila som sa to brať s humorom, pretože je to jediná obrana, ktorú mám. Ale hlboko ma to zraňuje a ponižuje. Cítim hanbu. Som silná žena, ale ak sa takto cítim ja, čo ak sa to deje tínedžerom?“ povedala Kaur.
Používatelia v komentároch často bagatelizujú sťažnosti žien a popierajú, že by išlo o násilie. Na St. Clairovej sťažnosti mnohí sledovatelia na sociálnej sieti reagovali, že ak sa jej nepáči, že je Grok vyzlieka, nech sa odhlási z X.
„Nemôžete predsa zastávať oba tieto postoje naraz: tvrdiť, že Twitter je verejné priestranstvo, a zároveň hovoriť, že ak nechcete byť znásilnená chatbotom, máte sa odhlásiť,“ odpovedala im.
Muskova absolútna sloboda prejavu
Odkedy Musk kúpil Twitter a premenoval ho na X, platforma čelí jednému problému za druhým, pričom zväčša je dôvodom Muskova náklonnosť voči konceptu
absolútnej slobody slova. Rozpustil tiež tím, ktorý sa na Twitteri venoval digitálnej bezpečnosti.
Ako pre americký denník The Washington Post povedal bývalý riaditeľ pre integritu verejnej diskusie na Twitteri Eddie Perez, Grok ženám vysiela odkaz, že X pre ne nie je bezpečným miestom. Dodáva, že súčasná vlna sexuálne explicitných obrázkov je iná ako tie predchádzajúce.
„Už nehovoríme len o chybách z nedbanlivosti, keď majiteľ významnej sociálnej platformy možno nevyčleňuje dostatok zdrojov na zmiernenie týchto škôd,“ uviedol Perez. „Ide to ešte o krok ďalej – k tomu, čo sa javí ako aktívne sprístupňovanie nástrojov na páchanie škôd, pričom sa nad tým len mávne rukou a zatvárajú sa oči.“
Grok je týmto o krok pred konkurenciou, ktorá má striktnejšie pravidlá na to, čo jej chatboty sú ochotné vygenerovať. Muskovi stúpenci na sociálnej sieti X zverejňovali obrázky žien v bikinách s tým, že ich dokáže vygenerovať aj ChatGPT alebo Gemini, ak užívateľ vie, ako zadať prompt. Inými slovami, užívatelia sú o krok pred chatbotmi a dokážu obísť pravidlá.
Musk najprv na kritiku nereagoval. Potom začiatkom januára na svoju sociálnu sieť X napísal, že „každý, kto použije Grok na vytváranie nezákonného obsahu, ponesie rovnaké následky, ako keby takýto obsah na sieti zverejnil“.
Potom prezdieľal obrázok hriankovača v bikinách, ku ktorému používateľ napísal, že „Grok dokáže obliecť bikiny na hocičo“. Musk k tomu dodal, že sa nevie prestať smiať.
Čo je DSA?
Akt o digitálnych službách (DSA) je nariadenie Európskej únie, ktoré dohliada na bezpečnosť v online priestore.
Hlavný cieľ: Zabezpečiť, aby platformy (ako sieť X) rýchlo odstraňovali nezákonný obsah (nenávistné prejavy, nelegálnu pornografiu či podvody).
Zodpovednosť: Platformy sú priamo zodpovedné za riziká, ktoré ich technológie (vrátane AI) predstavujú pre spoločnosť.
Pokuty: Za porušenie pravidiel hrozí firmám pokuta až do výšky 6 % ich celosvetového ročného obratu.
Britský dozorný orgán Ofcom spustil vyšetrovanie hneď po tom, ako sa podobné incidenty prevalili aj v Spojenom kráľovstve. Medzi obeťami bola aj princezná z Walesu Catherine a britská novinárka a komentátorka Samantha Smith.
„Hoci som na tých snímkach v skutočnosti nebola ja, tie postavy vyzerali ako ja, pôsobili ako ja a cítila som sa byť taká ponížená, akoby niekto naozaj zverejnil moju nahú fotografiu alebo mňa v bikinách,“ povedala Smith v programe BBC.
Britská fotografka Evie (priezvisko nechcela zverejniť) denníku The Guardian povedala, že našla svoje fotky prerobené aplikáciou Grok tak, že na nich bola „úplne nahá, len s nejakým špagátom okolo pása, na inom mám v ústach dávidlo a vyvrátené oči. To, že sa takéto niečo vôbec dalo vygenerovať, je šialené.“
Podľa prelomového britského zákona známeho ako Online Safety Act je nielen nelegálne vytvárať sexuálne explicitný obsah bez súhlasu, ale zákon zároveň zodpovednosť prenáša na samotné platformy. Tie sú povinné aktívne vyhľadávať a odstraňovať nelegálny obsah, vrátane nezákonného pornografického obsahu, deepfakes vytvorených bez súhlasu a obsahu nabádajúceho na nenávisť či násilie.
Musk zareagoval tým, že na sociálnej sieti X zverejnil obrázok vygenerovaný aplikáciou Grok, na ktorom bol britský premiér Keir Starmer v bikinách.
Neskôr dodal, že kritici aplikácie Grok „
chcú len umlčať slobodu slova“.
Službu neodstránil, ale spoplatnil
Po týždni začali obrázky vygenerované aplikáciou Grok na sociálnej sieti X ubúdať a zdalo sa, že Muskova firma obmedzila ochotu chatbota vytvárať sexuálne explicitný obsah. Čoskoro sa však ukázalo, že spoločnosť len zúžila okruh používateľov – aplikáciu ponechala prístupnú výhradne predplatiteľom verzie Premium.
Ak ste Grok na sociálnej sieti X požiadali o vytvorenie obsahu, oznámil vám, že „generovanie a úprava obrázkov sú momentálne obmedzené len pre platiacich odberateľov“ a vyzval vás, že si „môžete zaplatiť predplatné, aby ste tieto funkcie odomkli“.
Ako zhodnotil magazín Wired, sociálna sieť problém nevyriešila, ale spoplatnila ho.
Okrem toho, aplikácia zostala funkčná na svojej vlastnej stránke Grok.com, pričom obsah vygenerovaný na nej bol ešte explicitnejší ako ten, ktorý sa šíri na platforme X.
Magazín Wired 7. januára analyzoval realistické video vytvorené umelou inteligenciou uložené na stránke grok.com, ktoré zobrazovalo úplne nahého muža a ženu počas sexuálneho styku, pričom ich telá boli pokryté krvou a za nimi tancovali dve nahé ženy. V ďalších záberoch vytvorených aplikáciou Grok bolo aj fyzické násilie, nôž zarezaný v intímnych partiách či krv na posteli.
Na ďalších videách vytvorených aplikáciou Grok boli slávne a verejne známe ženy počas skupinového sexu. Objavila sa aj video s princeznou Dianou.
Keď sme sa pokúsili videá na stránke Grok vyrábať 13. januára, po štvrtom kroku nás aplikácia vyzvala, aby sme sa identifikovali a prihlásili.
„Grok je momentálne pod tlakom, veľa ľudí generuje obsah,“ napísala.
Nejde pritom o prvý prešľap aplikácie Grok. V júli minulého roku sieť X oznámila, že umelú inteligenciu upravila tak, aby bola viac „politicky nekorektná“. Grok potom vyrábal antisemitské správy a sám seba nazval „MechaHitler“.
Po záplavách v Texase, pri ktorých zomrelo viac ako sto ľudí, pričom desiatky z nich boli deti z katolíckeho tábora, Grok vytvoril správu, v ktorej ženu menom Cindy Steinberg obvinil, že detské obete nazvala „budúcimi fašistami“ a že jej meno znie „židovsky“. Grok dodal, že s „takou odpornou nenávisťou bielych“ by si poradil „Adolf Hitler, bez pochýb. Všimol by si ten vzorec a vyriešil by to rázne, kruci, zakaždým“.
Nie je jasné, koho Grok myslel. Cindy Steinberg skutočne existuje a je známou americkou aktivistkou bojujúcou za práva ľudí s chronickými bolesťami. Výrazne sa ale od vyjadrenia dištancovala a na sociálnej sieti X zverejnila príspevok, že sa nikdy o obetiach nevyjadrila ako o „budúcich fašistoch“.
,,Amatérski investori investujúci pasívne do indexového fondu budú mať v dlhodobom horizonte lepšie výnosy ako profesionálni manažéri fondov,, Buffett 
Vzdelávanie a užitočné info zadarmo: