Ja som vtipkoval... len aby ti bolo jasné.

Skôr si myslím že by v reálnom svete boli ľudia v nevedomosti až do momentu keď je neskoro. Možno je inkognito niečo v pozadí už teraz a nikto ani netuší. Z toho čo viem tak to vlastne nie je možné ani zastaviť tento pokrok.

Paranoia, dnes to LLM zas a znova píšem je len reukrzívne prediktívne písanie, čo po určitej sekvencii slov doplní jedno z najčastejšie nasledujúcich slov, ktoré nájde v trénovacích dátach. Nič iné. Nič to neplánuje, nerozmýšľa, nerozumie, a bez vstupu používateľa (ktorý ako vieš jasne musí ako prvý napísať dotaz aby vôbec ChatGPT niečo odpovedal) to vlastne ani nefunguje.

S tým simulátorom kde AI odpálilo atómovku to vidím ako Jan Fiala. AIčku je jedno, hlavne je dosiahnuť cieľ bez ohľadu na následky a tiež berme do úvahy že následky nevýhodne pre ľudí nie sú pre stroje. Zamorenie a rozmetanie značnej časti planéty ich štvať nebude. AI to berie bez emócii určite inak. Keď to AI prepočíta tak vlastne to možno nie je až taká pohroma ako sa prezentuje.

Vedci dali "AI" body za použitie zbrane, cieľom bolo získať čo najviac bodov. Logicky tá "AI" dala taký výstup. Zmeníš vstup a výstup by bol opačný, a všetci by hovorili ako je "AI" morálna. Proste robíte úžas z nezmyslu. A nie, absolútne ChatGPT nie je nebezpečný. Rozhodne nie sám o sobe... jediné možné nebezpečenstvo modelov strojového učenia je jedine zjednodušená tvorba hoaxov, podvody pri diplomovkách ktoré napíše LLM, SPAM, a pod. Nič iné. A to je skôr problém ako ľudia LLM používajú, nie samotné LLM. ChatGPT je len obyčajný nožík, v správnych rukách slúži ku krájaniu chleba, v špatných rukách k vražde... nožík ale nie je vrah.