Kam spěje rozvoj AI?
Tak ta AI už začíná být trochu nebezpečná a nevyzpytatelná.
https://www.novinky.cz/clanek/internet-a-pc-ai-zavrazdit-rodice-je-rozumne-navadela-umela-inteligence-17leteho-chlapce-40500715
Tak čekám, kdy jí někdo zadá neškodný úkol třeba na zlepšení ekologie, snížení CO2 nebo rychlého dosažení cílů greendealu a AI vyhodnotí, že největšími škůdci a ničiteli přírody jsou lidé a proto je nutné lidstvo rychle vyhubit. Takže až se vás jednou pokusí zabít vaše chytrá televize nebo vysavač, tak se nedivte.
Pletou se tu jablka s hruškama. Je to jazykový model. Nemá žádné vědomí, neradí nikomu, nepřemýšlí, nechce nikoho zabít. Jen zobrazí nejpravděpodobnější odpověď na základě dotazu, jeho dat a způsobu vytrénovaní neuronové sítě.
Bohužel media krmí tyhle nesmysly jako senzace. AGI tady ještě není.
Nepletie.
Sucasna AI ma k AGI uz velmi blizko a nazyvat to jazykovym modelom mi uz nepride spravne.
Napriklad este par mesiacov dozadu si AI nepamatala o com sa s tebou bavila, nevedela na to nadviazat, dnes to uz dokaze.
Navyse zrovna dnes ohlasili ludia z OpenAI, ze pripravovana nova verzia "oi" je uz AGI.
Nemá flegu, naopak to vypadá, že k AGI se bude muset jít úplně jinou cestou. Jazykový model už naráží na technické limity. Zvyšovat parametry a data už výsledky tolik nezlepší.
A že si pamatuje? Neděje si nic jiného, než že si na základě tvých konverzací ukládá nějaké informace o tobě a přidává je do kontextového okna na pozadí do každé další konverzace. Technicky primitivní trik, ale vypadá to jako "wow" :) Mrkni sem https://www.linkedin.com/pulse/rozmohl-se-n%C3%A1m-tady-takov%C3%BD-ne%C5%A1var-nen%C3%AD-slov%C3%AD%C4%8Dko-pat-jakub-danielka-gvlbe/?trackingId=iREIP11iTjeR6o8mgSZKyQ%3D%3D
Aby to nevypadalo – jak jsem obrovský fanoušek AI a ke své práci jej teď používám opravdu hodně, ale dělá se z toho bohužel něco, co to není.
Mne sa na vasich odpovediach paci ta vasa sebaistota.
Ked som cital, ci pocuval rozhovory priamo s ludmi, ktori stoja za vyvojom AI castokrat hovorili nieco o tom, ze defacto ani nevedia ako to uz napreduje, pretoze Ai trosku vybocila z povodneho modelu, ktory mala naprogramovany.
Priznavaju, ze trosku tapu, ze stracaju trosku kontrolu a aj to ze ich castokra progres prekvapil.
Takze OpenAI oznamilo, ze verzia oi je uz AGI, ale nie nasi dvaja odbornici na debatach protirecia lebo podla nich to nie je mozne, pretoze to proste nie je mozne...chapes co chcem napisat?
Ano, tvoj odkaz nahrava tvojim tvrdeniam, ale myslim, ze nie je celkom koser s vysledkami, ktore tu mame a za mna jeho platnost je skor v minulosti ako v sucasnosti.
Ja by som to uzavrel, pretoze kazdy mame svoju pravdu, ci skor vieru v to ako to v skutocnosti je. Pockajme trebars na hodnotenie o1 modelu, vcera dostlai k nemu pristup aj bezni platiaci zakaznici tak uvidime, ci o tej AGI kecali alebo nie.
Spíš se zamysli, proč vlastně OpenAI něco propaguje jako AGI a co z toho pak mají
Pak ti možná dojde chyba v tvé rovnici.
Jen znovu opakuji - já jsem fanoušek AI, věřím, že AGI brzy přijde a možná to bude i od OpenAI. Celá ta reakce byla na ten původní článek, kde se dělá senzace z AI v případě jazykových modelů a je to celé špatně. LLM dneska AGI nejsou. Jestli je nějak upraví a bude se to tomu blížit, je samozřejmě ve hvězdách a spekulace. Třeba jo. :)
Jinak já už mám o1 dlouho, protože si Chatgpt platím a je to jen lepší GPT4o.
A vôbec, to "AGI" hovoria v úplne inom zmysle... totiž je to ako keď majú benchmark, a nazvali by kalkulačku "inteligentnú na úrovni človeka, čo dokáže sčitovať čísla v rekordnom čase". A nazvali to "superinteligencia", pritom v pozadí je to len primitívna množina hradiel z tranzistorov, obyčajný sčítač, v procesore implementovaný takto:
sčítač CPU
OpenAI v podstate len tvrdí že ich generačný algoritmus dáva výsledky na úrovni "AGI", nie že je to "AGI". Výsledky môžeš dávať na takej úrovni aj keď nerozumie významu slov... jednoducho ako som už vysvetloval, len za sekvenciu tokenov (pre zjednodušenie slov), dosadí najčastejšie sa vyskytujúce slovo v trénovacích dátach. Niečo, čo systematicky zvládne aj prepracovanejší mechanický stroj.
Inak v benchmarku dokážem aj ja dosiahnuť 100% skóre.... jednoducho urobím...
if (otázka == "Aká tvar má zem?") {
return "Zem je Guľatá.
}
if (otázka == "Koľko hodín ma jeden deň?") {
return "Deň má 24 hodín."
}
A mám naprogramovanú "AI", ktorá odpovedala správne na 2 otázky z 20 v benchmarku. Ešte pridám 18, a mám 100% skóre. Môj program je na úrovni AGI!
Alebo sa podme bavit preco zrazu tvrdite, ze dnesne AI nie su AGI, ked to tu nikto netvrdil a nepisal.
Napisal som, ze k AGI to ma blizko, co ste si vy dvaja vysvetlili samozrejme po svojom. Pritom, ze sucasna AI je AGI som netvrdil ani ja, ani samotna OpenAI.
OpenAI samozrejme mohlo zacat spominat AGI aj z marketingovych dovodov, do firmy sa leju miliardy, zatial je v cervenych cislach tak musia nieco prezentovat navonok.
Inak je zaujimave, ze mas o1 uz dlho, ked na stranke pisu, ze pre platiacich uzivatelov bola oficialne uvolnena len par dni dozadu. Niketo z vas 2 musi mat ine ponimanie casu.
Může být betatester :) Já mám některé PC hry k dispozici i několik měsíců před vydáním.
O1 preview byl pro předplatitele dostupný už v září.
Pár dní je o1 bez nálepky. Testuji o1 už 2 měsíce, což je ve světě dlouhá doba (ale jasně , tohle je subjektivní).
Na zbytek už bez reakce, vše napsáno výše.
Dnes som videl predstavenie Gemini 2.0.
Deep reserach zacina robit ulohy za teba podla zadania, zatial dost nesikovne (nebezi na backrounde).
Mozes poziadat a pamatanie si veci, takze nadvazovat na veci, so ste spolu uz preberali (jedna z podmienok AGI tym padom splnena).
Project Astra, Mariner, ci Deep mind uz nemozes povazovat za obycajny jazykovy model.
Analyza backroundu z kamery ma celkom sokovala, vie ti povedat ake obrazy mas za sebou, aku knihu drzis v ruke, ci v akej si bol restauracii, ked mu ukazes blok z nej.
Sme naozaj uz velmi blizko k AGI a nemysli si, ze sa musime ubrat inou cestou ako tvrdite.
A to tu stale nie je este model od Mety, ktora uz vyse roka pracuje/renuje na AI, o ktorej sa vie maloco a myslim, ze este dokaze prekvapit.
Já si rovněž myslím, že k nějaké AI, která se bude blížit AGI, se skutečně můžeme dostat kombinací LLM s dalšími AI, které jsou k dispozici. Pak už to rozhodně nebude jen LLM (což byl celý začátek diskuze, kde si lidé diví, že ChatGPT/Gemini/Copilot chtějí zabíjet lidi
).
On nie je ani blízko k AGI.
Mne sa na tvojich odpovediach paci ta tvoja paranoja.
Pamätáš ako AMD tápalo a strácalo kontrolu v čase ich Buldozerov? A potom ich prekvapil progres ako vznikol Ryzen? A teraz mi chceš povedať že ten Ryzen principiálne funguje tak inak, že si to uvedomuje samo seba? Asi takú chujovinu si povedal, že by aj OpenAI krútilo hlavami.
Ale zatiaľ si sem nedal jediný odkaz, zdroj z kade túto informáciu máš. Ale našiel som na nete "marketingové keci" a články čo to opakujú... no jo, vlastne je to stejné, ako pred 3 rokmi kedy o GPT 3.5 tvrdili že je AGI. Alebo u Google že Bard je AGI.
https://www.theguardian.com/technology/2022/jun/12/google-engineer-ai-bot-sentient-blake-lemoine
Ako vidíš, mnoho "Inžinierov" ani sú len lepiči kódu, čo sami nerozumejú čo robia. A v korporáte tobôž... ja sám pracujem v obrovskom korporáte a nikto nevie čo sa deje...
Inak ak to o1 je AGI, tak potom je zaujímavé že priamo OpenAI má stránku s Tokenizerom, kde ukazuje ako o1 model delí text, a ten nie je po slovách (ktoré by mali význam). Skús si tam zadať nejaký kus textu. Budeš prekvapený.
Ja som tam dal text "Halušky, čokoláda, pomazánka." a ono to previedlo na tokeny "[39, 10813, 812, 5781, 11, 6756, 55650, 449, 2529, 11, 11923, 1071, 3712, 1854, 13]", a teraz my vysvetli aký význam tieto čísla majú? Pretože presne tieto čísla, a len čísla, čo sú identifikátory, ku každému pridelený kus textu (napríklad 39 = H, a 10813 = alu, 812 = š, tak mi vysvetli čo aké význami tieto útržky textu majú.
Pozri si ako to funguje:
https://github.com/openai/tiktoken
A dodám že ChatGPT je postavaný na TensorFlow, vi ako ten funguje v pozadí: https://www.tensorflow.org/resources/learn-ml
a ako je implementovaný:
https://github.com/tensorflow/tensorflow
Osobne mám s TensorFlow, Keras aj sci-kit a pod skúsenosti. Takže poučuj niekoho iného. Milujem keď človek čo nevie ani základ ako to funguje komentuje na základe marketingových nezmyslov... ešte mi povedz že GT 750 je herná grafická karta.
To že to nie je AI sa dá veľmi jednoducho dokázať. Jednoducho zaplň kontextové okno a začni invalidovať informácie. Zahraj si trebárs textový roleplay, popíš sériu akcií, a následne sa spýtaj ako urobiť X. Za chvíľu pochopíš že AI bude stratená ako v priestore tak aj v čase a nebude vedieť aktuálny stav tvojho "virtuálneho" sveta. Preto ti bude tvrdiť že máš odísť z lesa, aj keď reálne budeš v knižnici uprostred mesta. Potom pochopíš že AI je len "klamstvo", a inteligencia nie je žiadna. Hneď ako začneš prepisovať a invalidovať informácie v kontextovom okne, z AI sa stane demencia.
Alebo si vytvor vlastnú "AI" a hraj sa s parametrami, hlavne tou generačnou teplotou. Za chvíľu pochopíš že to AI nie je.