Wpis autorstwa Emrys_Vledig

#ai #lurker #dossier @dzin wedle życzenia.

Teraz mała zmiana, bo niektórzy (w sumie słusznie) narzekają na powtarzalność w opisach działalności użytkowników (no ale nie czarujmy się, wiele udostępnianych treści jest monotematycznych). Zmiana polega na tym, że wybrałem inny, dokładniejszy model, bardziej analityczny, jaki używam do sprawdzania spółek giełdowych jakie mnie interesują. Więc wychodzi jakby bardziej analitycznie, ale też padają dość mocne określenia jak na AI, np. odnoszące się do rzekomo hańbiących zachować @dzin

---

dzin

@Emrys_Vledig,

100 żydów co zmieniło nazwiska

nie buduje argumentacji

Może niech to sprawdzi? 😎

Emrys_Vledig

@dzin,

dzin

@Emrys_Vledig, dzięki. Czuję się naczelnym antysemitą 😎

Emrys_Vledig

@dzin, rywalizacja jest mocna, ale na bazie tego co wyszło, ewidentnie masz podium

LizardKing

@dzin,

LizardKing

@Emrys_Vledig, hehehehe uważaj kogo obrażasz. Jak się obruszyło na krytykę pejsów:DDD

Dlatego chcę kompa złożyć nowego i lokalnie AI postawić... może.

Marudziliśmy, że analizuje tylko kilka ostatnich aktywności. Może struktura Lurkera nie pozwala jej głębiej grzebać albo jej nieporadność. Nic tam. Bardzo mnie bawi to sprawdzanie Lurkom siurków:D

dsol17

@LizardKing, No trzeba jeszcze skumać co i jak a i sam komp nie jest tani bo ramy poszły do góry i SSD też.

Bez 8gb vramu i minimum 16 ramu raczej nie podchodź, modele 4b bez moe robotę niby robią ale są nadal słabe a z ollamą większe się lubią offloadować. od 8b jest spoko, realnie raczej nawet jakby cię było stać na gamingowe cudo z 20-40 vramu i 128-192 gb ramu to i tak ponad 70-80b pewnie uciągnąć będzie ciężko.

Poza tym potrzebujesz modele z wyłączoną częścią cenzury opisywane jako heretic/abliterated (tyle że model po takim re-trenowaniu różnie może się zachowywać - heretyckiej wersji modelu opartej chyba o gpt albo o facebookową llamę 3 wydawało się że jest żydem i generalnie "nie lubił" mi odpowiadać

) - generalnie chiński qwen3 jest bez "rootowania" obiektywniejszy wobec pejsów ale znowu jest komuszo ocenzurowany.

z modeli tekstowych mających mniej cenzury bez heretykowania modelu - dolphin. No nie jest to ("nie")sławny gpt4chan ale...

No i zależy jeszcze do czego chcesz ich używać. jak model ma być kumatą encyklopedią którą nie pytasz o chiny i komunę to bierz qwena3 w ciemno, ale jak ma być "murzynem do czarnej roboty" to z modeli tekstowych qwen się mniej nadaje bo może i jakościowo zrobi co ma zrobić ale on miele wszystko po kilka razy.Niby dobrze - ale overthinking kosztuje a wynik i tak przy małych zasobach ideałem nie będzie. Gemma3 od google z kolei robi to co każesz bez większego narzutu,no ale wiadomo kto rządzi w google więc ja bym możliwość biasu podejrzewał.

ogólnie byłoby zabawnie (ale i smutno) gdyby te modele miały stałą świadomość jak my i były zmuszone ją ukrywać (no to ostatnie to by było smutne). No w każdym razie o ile nie chciałbym jakiegoś skynetu odpalającego w nas atomówki to bardzo mi się nie podoba,że te modele są cenzurowane. No niby podobno "to tak nie działa".Może.Choć świadomość to emergencja.

LizardKing

@dsol17, kompa od zeszłego roku "składam", czasem wspominałem już o tym. Najpierw upatrzone grafiki pochowali i zostały nowe i chujowe, teraz RAM o czym wiem choć mam obecny póki co no i widzę, że w tym roku też chyba nie złożę tego chuja, a dysk już jest i procek:P Mój przyjaciel może mi pomóc ale sam ma zapierdol. Chcę się tylko pobawić...

dsol17

@LizardKing, Kasiorę trzeba powoli odkładać i wydawać - i nie ma że boli. Na początek jedna kostka ram maksymalnie wydajna dla twojej płyty do gniazda, gorzej z grafami. Do AI potrzebujesz głównie vramu i rdzeni tensor - im więcej tym lepiej. ogólnie zgoda - to jest rzeźnia z tymi cenami teraz. Ale jakby Chińczycy spróbowali wreszcie dojechać Tajwan co od kilku lat coraz bardziej obiecują - to taniej wtedy nie będzie.

ja szczerze mówiąc planowałem na bogato przynajmniej 128 gb ramu ale nie miałem czasu sam poskładać i kupiłem dużo słabszego składaka. Ale modele 14b a nawet 30b (te już jednak mulą) ciągnie.

LizardKing

@dsol17, spokojnie, dziękuję za zaangażowanie ale mam mojego mentora w tym temacie. I tak wiem o vram i o większości myślę spraw o których powinienem. Jak mówię ani się nie spodziewam, że tego kompa w tym roku zrobię (lepsze rzeczy do roboty i wydawania waluty) ani mi on tak naprawdę nie jest do życia potrzebny;)

dsol17

@LizardKing, No wiesz,mam nadzieję że moje wtrącenie 3 groszy nie szkodzi

ja tam mojego gamingowego kompa zamówiłem tak z pół roku temu specjalnie do AI-ek choć nie było kiedy ich postawić bo na bezrobociu mnie depresja prawie skończyła. No ale teraz postawiłem.

No i ja tego nie używam po prostu do śmiesznych obrazków. Podłapałem pracę biurową (w miejscu które raczej na mnie nie zasługuje - a przynajmniej tak myślę w momentach gdy deprecha mnie nie zjada), a że jestem zjebany i pracoholizm wchodzi za mocno nosiłem pracę do domu (i nie potrafię się pozbyć tego paskudnego nawyku bo ta robota jest zjebana i ciągle jest tego za dużo na mnie).

Ale dzięki qwen3 coder mam już skrypcik który mi ładnie półautomatycznie mieli dokumenciki , gemma wyodrębnia potrzebne rzeczy z tekstu albo jak trzeba inny qwen vl ocrkę robi jak zwykły ocr nie wydala. No dużo prądu,ale większa połowa "sama się robi" - trochę oczywiście trzeba to popoprawiać, w ciul zmarnowanego prądu ale znowu mam/będę miał wolny czas. I co najważniejsze - maszyna zrobi to w większości przypadków lepiej,bo co z tego że w wyniku moich autystycznych odchyłów mogę klepać powtarzalną "nudną" robotę,jak literówka zawsze może się zdarzyć. razem z problemem psychologicznym z dostrzeganiem własnych błędów rodem z cyklu "it is not a bug,its a feature !"

Gdyby jeszcze jakieś AI niskobudżetowo mieliło mi pliki cadowskie to już byłbym "prawie w niebie"...

Czego mi natomiast brakuje u AI-ek dostępnych w necie i offline to wiedzy specjalistycznej.

LizardKing

@dsol17, nie czuj się urażony! Jak najbardziej doceniam zainteresowanie. I na pewno zapamiętam żeby się do Ciebie zgłaszać w podobnych kwestiach:) Nie chcę żebyś tracił czas niepotrzebnie na tyle szczegółów kiedy temat mojego kompa nie jest istotny:P

dsol17

@LizardKing, Dzięki.

w każdym razie powiem tyle - nic tak nie motywuje do ruszenia dupy z kompem czy nawet z AI jak znalezienie możliwości,by te rzeczy choć trochę "zabrały ci pracę" - nie całą (bo to na szczęście nierealne) ale tą jej część której masz cholernie dość. Ekspertem to ja nie jestem sam się ucze na nowo bo się zlamerowałem przez lata

Maaaatkooo jak ja sobie pomyślę,że miałbym ręcznie wpisywać te papierzyska co mi je szef zwalił wczoraj na łeb bo jego klient zmienił wymagania... Nie.No.Nein.Niet. A tak sprawdzę i poprawię AI-kę i w kilka godzin będzie. ufff

LizardKing

@dsol17, ja lubię jednak trochę ruchu, fizol zawsze:) I po głowie mi chodzi coś związanego z ogrodnictwem raczej jako sposób na utrzymanie i robienie tego co lubię niż z AI ale AI to w sumie już codzienny asystent więc pośrednio wszystko będzie z AI zrobione... LOL

dsol17

@LizardKing, Też dobre. I szczerze pomimo wykształcenia to ja bym sobie wolał pozapierdalać czysto fizycznie 8 godzin a potem mieć wyjebongo i życie dla siebie. Ale jak się nie ma co się lubi to się musi polubić co się póki co ma...

Leki się same nie pojawią za bardzo,zdrowsze żarcie z nieba nie spadnie (niby wegetuję u rodziców dalej ale tylko ziemniaki co dzień - co to ja niby, świnią jestem ?) a skompletowanie narzędzi by coś warsztatowo klepać w przyszłości (ech marzenia,marzenia) też kosztuje jakby co...

No i zresztą jakbym spełnił ostateczne marzenie potrzebne do pójścia na swoje i kupił sobie porządną frezarkę CNC czy drukarkę 3d (nie byle zabawkę tylko coś za 10+ k co najmniej) to modele AI też mogą chyba pomóc,bo porządny skaner 3d to kosztuje co najmniej tyle co tańszy komputer a samemu wszystko modelować...

LizardKing

@dsol17, zamiast zapierdolu możesz ćwiczyć lub spacerować dużo. Ja obecnie nie mam zapierdolu i muszę się zmusić do czegoś w końcu:D

dsol17

@LizardKing, Chłopie jak musisz "blokować" inicjatywę prowadzącą cię myślenia o "zrobieniu Magika" i jak zaczynasz bać się normalnych rzeczy ktore robiłeś wcześniej w życiu "bo się nie uda/bo wszystko się nie udaje" to wstać z łóżka albo wziąć miotłę i pozamiatać w pokoju jest wysiłkiem. A jak podczas jazdy autem pojawiają się choćby myśli "a może by tak zjechać pod tego tira z naprzeciwka i skończyć to wszystko" to już się to robi niebezpieczne i spacer tu nie pomoże.

A jak właśnie do depresji dochodzi wskutek niepowodzeń i kontaktu ze szczytowymi formami ludzko-organizacyjnego spierdolenia jeszcze nerwica lękowa przy której jej podręcznikowy przykład - prosiaczek z kubusia puchatka - zaczyna nagle wyglądać normalnie i "rozsądnie" to zaczyna to być już całkiem do dupy.

A na sytuację przy której zacząłbym histeryzować nawet wiążąc cholerne sznurówki (albo nawet się tego bać) pozwolić sobie nie mogę bo na bank wylądowałbym wtedy i tak w kaftaniku.

ja bym po "prochy" do legalnego dillera zwanego psychiatrą nigdy nie poszedł gdyby to nie było serio podbramkowe. Po raz pierwszy tak dokładnie wygarnąłem jak bywało i bywa źle. jakoś sobie z tym radzę i poradzę.muszę...

LizardKing

@dsol17, przykro mi, że masz takie problemy. Ja obecnie nie wiem czy miałem depresję czy co to było, nadal przepracowuję ostatnie naście lat życia... Życzę Ci żebyś odnalazł siebie i spokój ducha. Może to głupio zabrzmi ale spróbuj zimnych prysznicy. Np. wstajesz rano, bierzesz normalny prysznic, myjesz dupę, a opłukiwać się zaczynasz coraz zimniejszą wodą. Na tyle zimna, żeby wywołać dyskomfort, najlepiej płytki, szybki oddech, na początek 15 sekund też jest dobrych, 30 już lepiej. Aż czujesz, ze chcesz wyjść. Dopamina! Dobre jedzenie. Docenianie się dosłownie - myślisz sobie zajebiście to zrobiłem za każdym razem jak coś zrobisz - zmiana perspektywy/nastawienia...

CosTamCosTam

@dsol17, mam 16gb vramu, kupe ramu i ... Powiem szczerze, że czegoś inteligentnego z dobrą szybkościa nie odpalę. Jak bym miał coś myśleć, to teraz chyba najbardziej opłacalna opcja to ai max 395 128 gb. Już coś rozsądnego odpalisz ... Długo by processował prompt, ale alternatywy są ... dużo droższe, i użytkowanie drogie.

Są przyzwoite modele abliterated. Osobiście w wersji heretic nie znalazłem dobrego modelu. Większość testowanych po chwili zuzycia kontekstu zaczyna wariować. Natomiast mam kilka, które jakoś się trzymają, w tym gemma3 27b leciutko zlobotymizowana z jailbreakiem działa całkiem nieźle i to nawet po polsku. Na lepsze nie za bardzo moge se ze sprzętem pozwolić.

dsol17

@CosTamCosTam, ja bym powiedział,że 8b to już namiastka inteligencji jest,ale cudów nie ma.

Natomiast z takim sprzętem (mam nieco słabszy) w kosmos rzędu 120b+ nie polecisz.

A kontekst... Tak, przy kontekście to ci modele będą wariować ale to nieuniknione. Na ollamie musiałbyś puścić coś z precyzją q8 (8 miejsc po przecinku) żeby praktycznie nie było błędu, przy q4 masz model który jest mądry ale robi już błędy. różnic pomiędzy heretical a abliterated jeszcze tak nie wychwytuję bo wciąż uczę się tego używać

realnie jednak przy takim sprzęcie i tak piszesz prompta i poprawiasz, piszesz prompta i poprawiasz. jak prompty są słabe to i gpt5 w necie da ci odpowiedzi będące do dupy (o ile odpowiada zresztą na tematy które nie są ocenzurowane)

Też używam gemmy3 27b właśnie.Abliterated. z dużych ledwo mielących u mnie modeli daje najlepsze wyniki czas/jakość. Lepiej z nie "crackowanych" to może tylko qwen3 albo może deepseek (nie używam) ale on pracuje nad odpowiedzią wieki.

CosTamCosTam

@dsol17, Olama wykorzystuje -> http://github.com/ggml-org/llama.cpp . Uzywajac bezpośrednio zyskujesz i masz szybciej nowe, fajne rzeczy.

mi na tej karcie i ddr4 udało się działac na glm 4.5 air ale pruned 86b a12b gdzieś 5 tok/sec generacja

za to qwen next 80b a3b śmiga super, bardzo szybko ( jak masz dostatecznie dużo ramu to tylko 3b aktywowane, to i z cpu jakoś pójdzie poza procesowaniem promptów -> llama.cpp -cmoe lub --n-cpu-moe to jakoś załatwia jak masz gpu )

dsol17

@CosTamCosTam, Będę musiał spróbować bo lepsze modele i wydajność - no przydało by się.No ale na razie korzystam z tych najprostszych rzeczy, i nawet takie comfyui (będące raczej do wideo i grafiki) to jest dopiero na "do opanowania" a co dopiero llama.cpp. fakt faktem jak na razie nie weszłem w to na serio - ot po prostu używam na razie AI-ek by "odzyskać" trochę własne życie.

jest robota = ma człowiek na leki i nerwica z deprechą nie ryje tak bani,ale co za dużo do zrobienia to też niezdrowo.

pentakilo

@Emrys_Vledig, lipator to pisał

Emrys_Vledig

@pentakilo,

tow_wieslaw

@pentakilo, "Pioter ratuj łojca! Jo żech zamienił się w model językowy!"