Mě fascinuje ten odpor k #LLMs a #AI obecně. Ale většina těch lidí si neuvědomuje, že bez toho by neměli například strojové překlady webu v prohlížeči, voice to text pro hluché, image to text pro nevidomé, optimalizované řízení silničního provozu a hromadu jiných vychytávek. Ja konkrétně používám LLM i pro sumarizaci a šetří mi to hodně času. Mě to trochu připomíná, když lidi ničili automatizované tkalcovské stavy na počátku průmyslové revoluce.
idle
in reply to Jan Antoš • •@Jan Antoš
Ti lidi, co ničili stroje, nebyli ani tak proti těm strojům jako proti tomu, že najednou místo dosavadní kvalifikované práce sehnali akorát tupou otročinu za špatných podmínek a za mizerný peníze.
Ne že bych se chystala něco rozbíjet, ale tu frustraci chápu.
like this
Hlad, Josef Kusek, satai, Chao-c', Ozzelot and FandaSin like this.
Jan Antoš
in reply to idle • • •idle likes this.
idle
in reply to Jan Antoš • •Tak to je dobrý, to je teda nějaká činnost, která se dá snadno zkontrolovat, že je dobře? Protože to je pro mě to hlavní bolestivé místo: kontrola. Třeba když si nechám při překládání před-přeložit texty a opravuju je, tak mi to čas ušetří, ale je to mnohem náročnější na pozornost (a míň zábavný) než překládání samotné.
like this
Ozzelot, Pavel Machek and FandaSin like this.
Jan Antoš
in reply to idle • • •idle likes this.
idle
in reply to Jan Antoš • •Tak to jo. Já většinou narážím na věci, které buď řeší regulární výraz či jiný deterministický postup, a nebo to stejně musí procházet člověk.
like this
Ozzelot and Jan Antoš like this.
Chao-c'
in reply to idle • • •@idle strojové překlady jsou dobrý argument, ale tam je jasné, že vidím původní text v cizím jazyce, kliknu na "přeložit" a pak je jasné, že koukám už na strojově generovaný text.
Moje výhrady se týkají rozpoznatelnosti, zda si povídám s člověkem, nebo se strojem. Je to pro mě dost zásadní. To samé např. v případě AI generované fotografie - tam to může být ještě zásadnější.
V zásadě se strojové generování obsahu zas tak dalece neliší od samotného googlení... ale zamýšlet se, jestli strojově generovaný obsah budeme rozlišovat od člověkem vytvořeného, podle mě přeci jen dává smysl. Spousta lidí třeba chce mít výtisk knihy podepsaný přímo od autora, apod.
Ve skutečnosti jsem se dnes dostal v jedné online debatě do situaci, kdy mi vyčetli nesrozumitelnost a doporučili, ať si to nechám nastylizovat od LLM. Nevím, jestli ironicky nebo neironicky... ale je to směřování, které se mi celkově nelíbí.
Proto na naší instanci např. kladu důraz na občasná osobní setkávání uživatelů, apod. Myslím, že v brzké budoucnosti se může stát, že jen lidi, které jsme někdy viděli osobně, budeme online pokládat za skutečně reálné....
Pavel Machek likes this.
Jan Antoš
in reply to Chao-c' • • •Jan Antoš
in reply to idle • • •idle likes this.
Pavel Machek
in reply to Jan Antoš • • •Umm. "AI" znamena "pocitacovy program kteremu nerozumime, a nejspis nefunguje". Odpor je logicky a rozumny. Pokud ulohu lze resit bez "AI", je to vetsinou lepsi. Ano, "AI" a "LLM" ma i rozumna a eticka pouziti, ale tech nerozumnych a neetickych se v posledni dobe objevilo dost.
"Chat z Jezisem", napr. "OpenAI doporucuje LLM pro zdravotni informace". "O2 robot pred kterym neni uniku, a ktery skoro nefunguje".
LLM se da velmi snadno pouzit spatne, viz ruzni trollove etc. Nebo firmy ktere nabizeji "chat" a misto cloveka je tam LLM. Odporu se nedivim.
Ano, LLM je potreba na strojovy preklad. (A myslim ze proti strojovemu prekadu by nebyl velky odpor). Ano, LLM by se asi dal pouzit pro text-to-speech, ale text-to-speech se da udelat i bez LM .. a tedy i bez LLM.
Optimalizovane rizeni silnicniho provozu...?
Jan Antoš
in reply to Pavel Machek • • •@pavel AI != LLM
1. V dnešní době naprostá většina speech-to-text systému jsou neuralni sítě. Tradiční HMM/GMM už převážně byli nahrazeny NN.
2. OCR absolutně NN
3. Automatizované KYC, opět NN OCR s NN face recognition
4. Traffic control - object recognition, opět NN, například speed camera
5. Optimalizované řízení provozu - viz například Tallinn AI dynamic traffic lights pilot, nebo bus lanes monitoring AI cameras.
6. LLMs se velmi osvědčili v sumarizaci textu a Text extraction v document systémech.
7. Nejspíše nefunguje je vas čistě subjektivní názor, samozřejmě se vždy najde nějaká naprosto debilni implementace a použití, ale to platí i o tradičních statistických metodách, že?
Takze se nebavme o rychlokvaškách a černých dírách na peníze investorů, ale o technologii jako takové.
Pavel Machek
in reply to Jan Antoš • • •Ne vsechno co pisete umim rozsifrovat, a nemyslim ze je to moje chyba.
"AI" znamena "nefunguje to na 100%".
A technologie jako takova muze byt fajn. Ale kdyz ji ruzne firmy pouzivaji blbe a/nebo neeticky, uzivatele to samozrejme vnimaji, a nevnimaji to pozitivne.
A kdyz je v nejakem oboru prilis mnoho cernych der na penize investoru, tak to hold take zanecha stopu.
Jan Antoš
in reply to Jan Antoš • • •Pavel Machek
in reply to Jan Antoš • • •Odkaz na gitlab a treba se povidam 😀.
Taky sem si hral, moje pokusy jsou na gitlab.com/tui/tui/-/tree/mast… .
Ale obavam se, ze povest "AI" mezi uzivateli to uplne nevyresi, protoze vic lidi uvidi (neetickou, otravnou) "AI asistentku O2" nebo (nefuncniho, nedodelaneho, otravneho) "AI asistenta na Zoomu" nez nase pokusy.
vosk · master · tui / Tui · GitLab
GitLabChao-c'
in reply to Pavel Machek • • •@pavel to, že tomu nerozumíme, je jen jeden aspekt. Většina lidí nerozumí ani "konvenční" informatice, takže tohle se dotýká jen určité dejme tomu stavovské hrdosti části programátorů (spíše než administrátorů), ale není to hlavní důvod.
Musíme odlišit nechuť k AI textům od nechuti k AI generovanému audiovizuálnímu obsahu, který si hraje nějak na "umění". To jsou dvě kategorie. Text je pro určitou skupinu lidí asi vážnější kategorie, pro jinou méně závažná. U toho textu je ale závažný problém to, že AI se snaží splnit zadání a když nezná to správné, tak si prostě něco vymyslí. Tohle začne být vážnější problém a povede k tomu, že přestaneme důvěřovat textům jako takovým. (Zase: tohle nebude problém pro část populace, která jim v podstatě nedůvěřovala nikdy...)
Přitom já nejsem proti AI jako takovému... dovedu si představit užitečnost machine learning nad obrovskými vzorky dat, kde si může rozeznat vzorců, které by člověka nikdy nenapadly, při aplikaci běžných statistických postupů. Užitečný je strojový překlad a do jisté míry věřím "strojovému zhuštění", "zestručnění" textu - to je něco jako snížení rozlišení u digitalizovaného obrázku, v jistém smyslu.
O co konkrétně jde je to, že nebudeme schopni rozeznat obsah, který vytvoří člověk, od obsahu, který vygeneruje AI. Což zase není až tak něco nového, protože stejně programy předvyplňovaly různé šablony, nebyli jsme schopni rozeznat fotografie od montáže ve Photoshopu, apod. Ono to v zásadě není nic, co by s náma nebylo už delší dobu... ale spíš mizí poslední záchytné body, které nám umožňovaly rozlišit, jestli interagujeme s člověkem, nebo se strojem.
V zásadě nejde o to, že bych se chtěl pouštět do nějakého zásadního odporu a filtrování, který je nemožný - ale nechci například vynakládat svoje zdroje na hostování AI generovaného obsahu. Do toho už investuje dost lidí, já do toho investovat nechci...
Pavel Machek likes this.
Jan Antoš
in reply to Chao-c' • • •Pavel Machek likes this.
Chao-c'
in reply to Jan Antoš • • •v tom případě nemáme mezi sebou žádný spor...
Já ani nevím, jestli takové pravidlo na instanci budu zavádět, i když v hlasování by s ním asi většina souhlasila. ponechám to nejspíš na dobrovolné bázi.
Obecně, úsilí, které jsem v životě věnoval provozování nějakého kusu Internetu, jsem chtěl věnovat obsahu vytvářenému lidmi, i kdyby šlo jen o fotky z dovolené a blbé vtípky.
Jakýkoliv strojově generovaný, tedy i AI generovaný obsah chápu v situaci, kdy jde o něco, co člověk principiálně vytvořit nemůže, apod. Ale možnost, že to bude konkurovat obsahu, který lidi vytvářejí kvůli nějakému sebevyjádření, sebeidentifikaci, sebeprezentaci, apod., mě vadí v tom smyslu, že když už tomu nemůžu zabránit, nechci k tomu aspoň přispívat...
@pavel
Jan Antoš
in reply to Chao-c' • • •Chao-c'
in reply to Jan Antoš • • •Jan Antoš
in reply to Chao-c' • • •