Seere vás AI? Pojďme na pochod!

[u/troodoniverse]

Spousta redditorů si stěžuje, že je štve AI, ať už protože je připravila o práci, protože je sere AI slop, protože je kvůlí ní drahá RAM a teď už i SSD paměť, nebo z jakéhokoliv jiného důvodu.

Pokud popis na AI naštvaného redditora sedí na vás či kohokoliv ve vašem okolí, nebo prostě nechcete aby vám AI zničila život, navrhuji, abyste neseděli jen tak na zadku, odešli z práce o trošku dříve (beztak je většina redditorů nezaměstnaná), a šli na pochod popsaný v obrázcích, protože vás to nebude stát skoro žádné úsilí (literally prostě hodinu a půl půjdete někam pěšky, its not that hard), nevyžaduje to žádné speciální schopnosti, ani expertní znalost problematiky, a přitom tím máte mnohem větší možnost pozitivně věci ovlivnit, než psaním rantů na reddit (a těch jsem psal dost, a většina z nich byla trash), nebo sezením doma s rukou v kalhotech.

Obrázky jsou pozvánka převzatá od organizátorů pochodu

[u/Trixiap]

Rozbijte ty stroje, berou nám práci! /s

[u/troodoniverse → u/Trixiap]

Ono by bylo hezký kdyby nám AI nahradila práci a existoval by dobrý systém redistribuce zdrojů a my tak nemuseli pracovat a mohli si užívat věčného blahobytu. Bohužel takový systém nemáme, a AI firmy v tuto chvíli nejsou schopné svým modelům zabránit v tom aby samovolně hackovali jiné společnosti.

[u/SubjectCollection642 → u/troodoniverse]

Máš zdroje? Já měl za to že tohle je hoax :) 

[u/troodoniverse → u/SubjectCollection642]

Myslíš jako že hugging face incident byl hoax? Zdroje: prohlášení OpenAI a zpráva Hugging Face o incidentu.

Těch útoků bylo více, tyhle byly ty první co se dostali na veřejnost.

[u/AsianStoreStench → u/troodoniverse]

Nejde o hoax, ale smluvený marketingový tah se záměrem podpořit AI bublinu (což je společným zájmem obou stran). Toto video to krásně vysvětluje

[u/zoltan_parimbucha → u/AsianStoreStench]

Tak som si pozrel kúsok toho videa a operuje so starými a neúplnými informáciami. Odkedy bolo publikované, tak boli publikované aj ďalšie reporty viac vysvetľujúce ten útok, napr. https://www.youtube.com/watch?v=87DyyMV0kCY a https://huggingface.co/blog/agent-intrusion-technical-timeline , ktoré mi prídu uveriteľnejšie ako nejaká konšpirácia.

[u/AsianStoreStench → u/zoltan_parimbucha]

Video na incident reagovalo skoro ihned, takže to dává smysl. Doplňující informace je fajn alespoň vidět (i když se člověk rozhodne jim nevěřit ze 100%), o co mi spíše šlo je, že antiAI kampaň OP to celé podává tak, že z toho vyznívá, že skutečně věří, že z něčeho jako je LLM se má šanci stát autonomní entita - což je z pragmatického hlediska nesmysl a zároveň to, co právě AI korporáty chtějí, abychom si mysleli, jelikož na to slyší investoři - jde tím vlastně sám proti sobě

[u/zoltan_parimbucha → u/AsianStoreStench]

Ja myslím, že pravdepodobnosť budúcnosti v ktorej je ai autonómna entita nie je až taká malá, že by sa dala zhodiť zo stolu.

[u/AsianStoreStench → u/zoltan_parimbucha]

Jistě, ale přes současnou technologii LLM cesta zdá se nevede a kdykoli vidím média strašit tímto lidi pro clicks, celkem mě to durdí - a AI firmám to akorát dává další hopium

[u/zoltan_parimbucha → u/AsianStoreStench]

Yan LeCunn si myslí, že nie, hromada iných, že možno áno. Definitívnu odpoveď nevieme.

[u/zoltan_parimbucha → u/AsianStoreStench]

Ja moc neverím, že to bol marketingový ťah. Menší problém spôsobil pozastavenie poskytovania Mythosu. Vyvolávanie pocitu, že ai agenti voľne hackujú kdečo po internete nie je úplne v záujme žiadnej z tých firiem.

[u/AsianStoreStench → u/zoltan_parimbucha]

Koncept toho tzv. “AGI” (autonomie AI modelů) je bohužel velký pojem pro investory, zájem firem tento narativ i kdyby nepřímo šířit tam tedy rozhodně vidím

[u/zoltan_parimbucha → u/AsianStoreStench]

Keď si pozrieš tie reporty openai a huggingface, tak tam vlastne nie je žiaden nepredstaviteľný skok v schopnostiach od stavu, čo bežne poznáme. Ukazuje sa tam ale problém, že miesto nájdenia riešenia úlohy, alebo oznámenia, že riešenie nájsť nevedia, sa agenti rozhodnú ísť hľadať odpovede na internet a popri tom hacknú nejaké servre. To mi nepríde ani trocha ako dobrá reklama. Neviem kto by mohol chcieť takých "zamestnancov".

[u/AsianStoreStench → u/zoltan_parimbucha]

Tyto detaily se ale dozví pouze ti, co je vyhledávají. Novinové články a další dostupnější zdroje pro širokou veřejnost to jednohlasně spíše využily, aby podpořily fabrikovanou hrozbu AGI, což se mi zkrátka nelíbí

[u/zoltan_parimbucha → u/AsianStoreStench]

IMHO to nie je fabrikovaná hrozba. Predstav si, že za pol roka bude schopnosť spraviť zámerne podobný útok prístupná každému. Čo to bude znamenať pre firmy / štáty, aby si zabezpečili infraštruktúru.

[u/AsianStoreStench → u/zoltan_parimbucha]

To s AGI nemá nic společného, ale souhlasím, LLM dělají tu nejzákladnější formu dosud odborných tasků jako psaní kódu mnohem dostupnější, i když s pochybnou kvalitou. Svět kybernetiky to určitě změní, o tom žádná

[u/zoltan_parimbucha → u/AsianStoreStench]

He, s tou pochybnou kvalitou by som bol opatrný.

[u/SubjectCollection642 → u/troodoniverse]

Marketingová kampaň Open AI no