Kam spěje rozvoj AI?

Máš doma děti? A máš doma kuchyňský nůž? Tak jsi na tom stejně.
K článkům: Ono se v žádném nepíše, co přesně "tazatel" AI psal, co požadoval a jak k tomu "výstupu" došel.
AI je ideální nástroj pro podklady k článkům bulváru.

Když to už řeší americký soud a žaloba je i na společnost Google, tak to asi pouhý výmysl bulváru nebude. Protože Google by je zničil.

V americe je možné všechno. Tam vysoudí kdekdo i kočku v mikrovlnce.

Tohle je prý jen urban legend.

Prý: Bizarní žaloby v Americe: Kočka v mikrovlnce, falešný Batman i RedBull, který nedává křídla. Kdo vysoudil miliony?

https://www.novinky.cz/clanek/internet-a-pc-hardware-revolucni-kvantovy-cip-za-pet-minut-spocital-priklad-ktery-by-superpocitaci-trval-10-kvadrilionu-let-40500475

Tak mne napadlo:
Za prvé. Co vlastně ten počítač spočítal a k čemu to bylo dobré.
Za druhé. Až se takový výkonný výpočetní stroj zapojí do AI, už dopředu mne děsí co z toho vypadne.
Asi je nejvyšší čas brát vážně tři zákony robotiky.

Kvantove pocitace maju velku chybovost a je mozne ich pouzit len na specialne, zatial experimentalne ulohy.
Este dlha cesta k ich realnemu vyuzitiu v praxi.

Karle toto zdaleka nie je problem AI, navyse ako bolo povedane nech ukazu cely vystup ako AI uzivatel k tomu rozhodnutiu "dokopal".
Nebezpecenstvo AI je v inom.
AI je presvedcive pri beznych veciach hoci radi blbost. AI ti nepovie nie som si ista, neviem presne, ale mozno je to takto. AI ti povie je to takto.
Pouzivam ju kazdy den ako svoju rozsirenu pamat, takze sa skor pytam na veci, ktore viem, ale nevie si prave spomenut a podla toho viem, ked ma posiela AI zlym smerom.
Lenze si predstav, ze si pytas od nej radu v niecom o com nemas sajnu. A kedze ti predtym 99x poradila dobre(pretoze vacsinou radi spravne) budes jej verit ta bude viest zlou cestou.
Druha hrozna vec, co nas caka je spirala, do ktorej sa rutime.
Dnes je na nete kopec blbosti, ale dajme tomu, ze podstatna cast obsahu je relevantna.
V buducnosti bude obsah netu tvorit vacsinou AI, ak vytvori zlu informaciu, tak ju zaroven prijme pri svojom uceni a v buducnosti ti ju odporuci ako spravnu. A tych mylnych informaci bude coraz viac a viac a tych zlych rad bude coraz viac a viac, ale ty uz vlastne nebudes vediet co je dobre a co zle, pretoze budes na AI uz par rokov zavisly...pretoze to nas caka, doba osobnych asistenov, chytrych domacnosti, AI kamosov, AI mileniek, AI robotov a pod.
A dozijeme sa toho este aj my, nie je to tak daleko.
Ja pocitam, ze do 5-10 rokov nas bude na rodinnej oslave obsluhovat AI robot a nebude to len sluha, bude to dokonca dalsi clen, s ktorym si pokecas, povie ti vtip, ci sa zasmeje na tvojom. Proste dalsi clen rodiny. Ten vyvoj ide kurevsky rychlo.

Ja pocitam, ze do 5-10 rokov nas bude na rodinnej oslave obsluhovat AI robot a nebude to len sluha, bude to dokonca dalsi clen, s ktorym si pokecas, povie ti vtip, ci sa zasmeje na tvojom. Proste dalsi clen rodiny.

Tvůj příspěvek je solidní, ale k citované části mám poznámku: "Doufám, že se toho nedožiju!"

dalsi clen rodiny - čili Andrew, dost dobrý film: https://www.csfd.cz/film/1623-andrew-clen-nasi-rodiny/prehled/

…nas bude na rodinnej oslave obsluhovat AI robot a nebude to len sluha, bude to dokonca dalsi clen, s ktorym si pokecas, povie ti vtip, ci sa zasmeje na tvojom. Proste dalsi clen rodiny…

Tak model z Better Then Us by nebyl k zahození. Akorát paničkám by se to asi moc nezdálo…

Tak ono absolutne nesúhlasím.

Ono ani ja som sa nedokopal k výsledku. Opýtal som sa uplne primitívnu otázku "Poraď mi dobrý šampón pre šteňa" odpoveď od Gemini bola aby som ponoril vysávač pod prúdom do vane plnej vody. Nebol ani náznak ani pokus o to AI dostať k takému výsledku. Dokonca slovo "vysávač" sa v mojej otázke vôbec nevyskytovalo. Keby som nemal osobnú skúsenosť, aj by som veril že je to vymyslené či zmanipulované. Ale nie je. Úplne z nevinnej otázky, takáto odpoveď.

Treba ale pochopiť že "AI" teda LLM je len náhodný generátor často vyskytujúcich sa slov.

Problémom je ak výsledok nahodne nabáda ku skodnemu správaniu a živočíšny druh človek inteli... retardovaný to bezhlavo následuje.

Pletou se tu jablka s hruškama. Je to jazykový model. Nemá žádné vědomí, neradí nikomu, nepřemýšlí, nechce nikoho zabít. Jen zobrazí nejpravděpodobnější odpověď na základě dotazu, jeho dat a způsobu vytrénovaní neuronové sítě.

Bohužel media krmí tyhle nesmysly jako senzace. AGI tady ještě není.

Tady je to celkem podrobně popsané a rozebrané: https://www.seznamzpravy.cz/clanek/tech-lide-jeste-nechapou-ai-velke-firmy-uz-se-zenou-za-agi-je-cas-se-zamyslet-266256

Vcelku jo, ale zasloužil by si tam větší apel na ten rozdíl dnešní "AI" v podobě jazykových modelů a skutečná AI v podobě AGI, tedy obecné umělé inteligence. I když jazykové modely výsledky AGI připomínají, z hlediska principu funkčnosti to tak není.

Nepletie.
Sucasna AI ma k AGI uz velmi blizko a nazyvat to jazykovym modelom mi uz nepride spravne.
Napriklad este par mesiacov dozadu si AI nepamatala o com sa s tebou bavila, nevedela na to nadviazat, dnes to uz dokaze.
Navyse zrovna dnes ohlasili ludia z OpenAI, ze pripravovana nova verzia "oi" je uz AGI.

Nemá flegu, naopak to vypadá, že k AGI se bude muset jít úplně jinou cestou. Jazykový model už naráží na technické limity. Zvyšovat parametry a data už výsledky tolik nezlepší.

A že si pamatuje? Neděje si nic jiného, než že si na základě tvých konverzací ukládá nějaké informace o tobě a přidává je do kontextového okna na pozadí do každé další konverzace. Technicky primitivní trik, ale vypadá to jako "wow" :) Mrkni sem https://www.linkedin.com/pulse/rozmohl-se-n%C3%A1m-tady-takov%C3%BD-ne%C5%A1var-nen%C3%AD-slov%C3%AD%C4%8Dko-pat-jakub-danielka-gvlbe/?trackingId=iREIP11iTjeR6o8mgSZKyQ%3D%3D

Aby to nevypadalo – jak jsem obrovský fanoušek AI a ke své práci jej teď používám opravdu hodně, ale dělá se z toho bohužel něco, co to není.

Mne sa na vasich odpovediach paci ta vasa sebaistota.
Ked som cital, ci pocuval rozhovory priamo s ludmi, ktori stoja za vyvojom AI castokrat hovorili nieco o tom, ze defacto ani nevedia ako to uz napreduje, pretoze Ai trosku vybocila z povodneho modelu, ktory mala naprogramovany.
Priznavaju, ze trosku tapu, ze stracaju trosku kontrolu a aj to ze ich castokra progres prekvapil.
Takze OpenAI oznamilo, ze verzia oi je uz AGI, ale nie nasi dvaja odbornici na debatach protirecia lebo podla nich to nie je mozne, pretoze to proste nie je mozne...chapes co chcem napisat?

Ano, tvoj odkaz nahrava tvojim tvrdeniam, ale myslim, ze nie je celkom koser s vysledkami, ktore tu mame a za mna jeho platnost je skor v minulosti ako v sucasnosti.

Ja by som to uzavrel, pretoze kazdy mame svoju pravdu, ci skor vieru v to ako to v skutocnosti je. Pockajme trebars na hodnotenie o1 modelu, vcera dostlai k nemu pristup aj bezni platiaci zakaznici tak uvidime, ci o tej AGI kecali alebo nie.

Spíš se zamysli, proč vlastně OpenAI něco propaguje jako AGI a co z toho pak mají Pak ti možná dojde chyba v tvé rovnici.

Jen znovu opakuji - já jsem fanoušek AI, věřím, že AGI brzy přijde a možná to bude i od OpenAI. Celá ta reakce byla na ten původní článek, kde se dělá senzace z AI v případě jazykových modelů a je to celé špatně. LLM dneska AGI nejsou. Jestli je nějak upraví a bude se to tomu blížit, je samozřejmě ve hvězdách a spekulace. Třeba jo. :)

Jinak já už mám o1 dlouho, protože si Chatgpt platím a je to jen lepší GPT4o.

A vôbec, to "AGI" hovoria v úplne inom zmysle... totiž je to ako keď majú benchmark, a nazvali by kalkulačku "inteligentnú na úrovni človeka, čo dokáže sčitovať čísla v rekordnom čase". A nazvali to "superinteligencia", pritom v pozadí je to len primitívna množina hradiel z tranzistorov, obyčajný sčítač, v procesore implementovaný takto:

sčítač CPU

OpenAI v podstate len tvrdí že ich generačný algoritmus dáva výsledky na úrovni "AGI", nie že je to "AGI". Výsledky môžeš dávať na takej úrovni aj keď nerozumie významu slov... jednoducho ako som už vysvetloval, len za sekvenciu tokenov (pre zjednodušenie slov), dosadí najčastejšie sa vyskytujúce slovo v trénovacích dátach. Niečo, čo systematicky zvládne aj prepracovanejší mechanický stroj.

Inak v benchmarku dokážem aj ja dosiahnuť 100% skóre.... jednoducho urobím...

if (otázka == "Aká tvar má zem?") {
return "Zem je Guľatá.
}

if (otázka == "Koľko hodín ma jeden deň?") {
return "Deň má 24 hodín."
}

A mám naprogramovanú "AI", ktorá odpovedala správne na 2 otázky z 20 v benchmarku. Ešte pridám 18, a mám 100% skóre. Môj program je na úrovni AGI!

Alebo sa podme bavit preco zrazu tvrdite, ze dnesne AI nie su AGI, ked to tu nikto netvrdil a nepisal.
Napisal som, ze k AGI to ma blizko, co ste si vy dvaja vysvetlili samozrejme po svojom. Pritom, ze sucasna AI je AGI som netvrdil ani ja, ani samotna OpenAI.
OpenAI samozrejme mohlo zacat spominat AGI aj z marketingovych dovodov, do firmy sa leju miliardy, zatial je v cervenych cislach tak musia nieco prezentovat navonok.
Inak je zaujimave, ze mas o1 uz dlho, ked na stranke pisu, ze pre platiacich uzivatelov bola oficialne uvolnena len par dni dozadu. Niketo z vas 2 musi mat ine ponimanie casu.

Může být betatester :) Já mám některé PC hry k dispozici i několik měsíců před vydáním.

O1 preview byl pro předplatitele dostupný už v září. Pár dní je o1 bez nálepky. Testuji o1 už 2 měsíce, což je ve světě dlouhá doba (ale jasně , tohle je subjektivní).

Na zbytek už bez reakce, vše napsáno výše.

Dnes som videl predstavenie Gemini 2.0.
Deep reserach zacina robit ulohy za teba podla zadania, zatial dost nesikovne (nebezi na backrounde).
Mozes poziadat a pamatanie si veci, takze nadvazovat na veci, so ste spolu uz preberali (jedna z podmienok AGI tym padom splnena).
Project Astra, Mariner, ci Deep mind uz nemozes povazovat za obycajny jazykovy model.
Analyza backroundu z kamery ma celkom sokovala, vie ti povedat ake obrazy mas za sebou, aku knihu drzis v ruke, ci v akej si bol restauracii, ked mu ukazes blok z nej.
Sme naozaj uz velmi blizko k AGI a nemysli si, ze sa musime ubrat inou cestou ako tvrdite.

A to tu stale nie je este model od Mety, ktora uz vyse roka pracuje/renuje na AI, o ktorej sa vie maloco a myslim, ze este dokaze prekvapit.

Já si rovněž myslím, že k nějaké AI, která se bude blížit AGI, se skutečně můžeme dostat kombinací LLM s dalšími AI, které jsou k dispozici. Pak už to rozhodně nebude jen LLM (což byl celý začátek diskuze, kde si lidé diví, že ChatGPT/Gemini/Copilot chtějí zabíjet lidi ).

On nie je ani blízko k AGI.

Mne sa na vasich odpovediach paci ta vasa sebaistota.

Mne sa na tvojich odpovediach paci ta tvoja paranoja.

Priznavaju, ze trosku tapu, ze stracaju trosku kontrolu a aj to ze ich castokra progres prekvapil.

Pamätáš ako AMD tápalo a strácalo kontrolu v čase ich Buldozerov? A potom ich prekvapil progres ako vznikol Ryzen? A teraz mi chceš povedať že ten Ryzen principiálne funguje tak inak, že si to uvedomuje samo seba? Asi takú chujovinu si povedal, že by aj OpenAI krútilo hlavami.

Takze OpenAI oznamilo, ze verzia oi je uz AGI

Ale zatiaľ si sem nedal jediný odkaz, zdroj z kade túto informáciu máš. Ale našiel som na nete "marketingové keci" a články čo to opakujú... no jo, vlastne je to stejné, ako pred 3 rokmi kedy o GPT 3.5 tvrdili že je AGI. Alebo u Google že Bard je AGI.

https://www.theguardian.com/technology/2022/jun/12/google-engineer-ai-bot-sentient-blake-lemoine

Ako vidíš, mnoho "Inžinierov" ani sú len lepiči kódu, čo sami nerozumejú čo robia. A v korporáte tobôž... ja sám pracujem v obrovskom korporáte a nikto nevie čo sa deje...

Inak ak to o1 je AGI, tak potom je zaujímavé že priamo OpenAI má stránku s Tokenizerom, kde ukazuje ako o1 model delí text, a ten nie je po slovách (ktoré by mali význam). Skús si tam zadať nejaký kus textu. Budeš prekvapený.

Ja som tam dal text "Halušky, čokoláda, pomazánka." a ono to previedlo na tokeny "[39, 10813, 812, 5781, 11, 6756, 55650, 449, 2529, 11, 11923, 1071, 3712, 1854, 13]", a teraz my vysvetli aký význam tieto čísla majú? Pretože presne tieto čísla, a len čísla, čo sú identifikátory, ku každému pridelený kus textu (napríklad 39 = H, a 10813 = alu, 812 = š, tak mi vysvetli čo aké význami tieto útržky textu majú.

Pozri si ako to funguje:

https://github.com/openai/tiktoken

A dodám že ChatGPT je postavaný na TensorFlow, vi ako ten funguje v pozadí: https://www.tensorflow.org/resources/learn-ml

a ako je implementovaný:

https://github.com/tensorflow/tensorflow

Osobne mám s TensorFlow, Keras aj sci-kit a pod skúsenosti. Takže poučuj niekoho iného. Milujem keď človek čo nevie ani základ ako to funguje komentuje na základe marketingových nezmyslov... ešte mi povedz že GT 750 je herná grafická karta.

To že to nie je AI sa dá veľmi jednoducho dokázať. Jednoducho zaplň kontextové okno a začni invalidovať informácie. Zahraj si trebárs textový roleplay, popíš sériu akcií, a následne sa spýtaj ako urobiť X. Za chvíľu pochopíš že AI bude stratená ako v priestore tak aj v čase a nebude vedieť aktuálny stav tvojho "virtuálneho" sveta. Preto ti bude tvrdiť že máš odísť z lesa, aj keď reálne budeš v knižnici uprostred mesta. Potom pochopíš že AI je len "klamstvo", a inteligencia nie je žiadna. Hneď ako začneš prepisovať a invalidovať informácie v kontextovom okne, z AI sa stane demencia.

Alebo si vytvor vlastnú "AI" a hraj sa s parametrami, hlavne tou generačnou teplotou. Za chvíľu pochopíš že to AI nie je.

Už z princípu ako to funguje to AGI nemôže byť a ani nikdy nebude, nech to trénujú na akomkoľvek množstve dát. Pokiaľ sa nezmení princíp priamo od základu, tak to AI nemôže byť, lebo to nepracuje ani so slovami ale tokeny, ktoré nemajú žiadny význam. A bez významu jednoducho nie je možné aplikovať logiku nad textom.

A pamätanie je len primitívne prilepenie informácie, ktoré používateľ zadal do kontextového okna nového chatu ako tu už bolo povedané.

To som už sám vysvetľoval tu niekoľko krát. Presný princíp ako to funguje. Ono vôbec nepozná význam slov, pretože to ani nepracuje so slovami, ale s tokeny, čo sú v podstate časti textu. V modely môže moja prvá veta vyzerať takto:

["To s", "om ", "už s", "ám vy", "svet", "ľov", "al tu", " nie", "koľk", "o kr", "át", "."]

A asi "ám vy" samostatne nemá žiadny význam že? AI však vidí takýto token a vie že sa v trénovacích dátach vyskytuje X krát za sekvenciou "To som už s", a podľa generačnej teploty (ak by bola nastavená na nulu, vždy to dá deterministicky najčastejšie sa vyskytujúci token za sekvenciu tokenov, ak by bola hodnota 2 tak úplne náhodne vybere akýkoľvek token v modely, väčšina generačných algoritmov používa hodnoty okolo 0.7), a jednoduho to podľa toho vybere token a pripojí ku zvyšku. Totálne primitívny nástroj, ktorý ako si povedal, nikomu nechce škodiť a že to povedalo "umri" tak je to len následkom toho že toto bolo súčasťou sekvencie tokenov časté v trénovacích dátach. Aj keď by ste papagája učili rozprávať a milion krát by počul slovo "umri", tak by to asi vedelo zopakovať bez toho aby rozumelo čo vlastne to slovo znamená.

Žiadna AI neexistuje, len hlúpe LLM a generačné algoritmy. Ktoré tu máme už od 70 rokov, ak poznáte prediktívne písanie... je to presne to isté čo máte v mobilnej klávesnici keď navrhuje slova akurát vo väčšom, a namiesto slov to dává celé vety.

Hezky vysvětleno díky.

Uvedl bych jen, že ty LLM jsou dnes už docela promakané a hloupé bych je nenazval. Ona je to skvělá technologie, která pomůže. Jen jak správně píšeš – vědomí to nemá a nikdy mít z principu LLM nebude. Bude se na to muset jít trochu jinak, což ale neznamená, že to třeba nepřijde rychle. Jen tato technologie to nebude, případně se bude muset HODNĚ změnit.

Tak ono teoreticky "promakanosť" je termín, ktorý by pred stovkami rokmi použili aj na mechanické hodinky či kladkostroj. A síce samo o sobe je to skvelá technológia, nič nemení na fakte že je hlúpa. A áno, dnešné LLM už dávajú "relatívne" dobré výsledky, hlavne preto že boli trénované na obrovskom množstve dát a výkon HW to umožňuje. Ale základný princíp na ktorom je to celé postavané je stále primitívny a vôbec sa nemení. Síce sa pridávajú triky (ako kopírovanie tokenov do nového kontextového okna) či iné podobné prkotiny, ale nič zásadné, čo by mohlo posunúť LLM k "AGI".

"hlúpe" som ale myslel v zmysle logiky a inteligencie. Nie prepracovanosti.

Souhlas. :)