 |
Električna vozila i obnovljiva energija
|
Prethodna tema :: Sljedeća tema |
Autor/ica |
Poruka |
stjepan
Pridružen/a: 03. 08. 2009. Postovi: 1251 Lokacija: Zagreb
|
Postano: 7.11.2023. uto. 10:43 Naslov: |
|
|
Ne znam detalje (osim da su ga izdali i da ga ne mogu testirati zbog geolockinga, ne znam ništa drugo) ali je svakako za očekivati da će se koristiti i u autima a i u sistemima samog auta. Ako naprave dobar text to voice i obrnuto voice to text model, umjesto fiksnih glasovnih naredbi, moći ćeš autu reći da ti poveća temperaturu u kabini na "prirodan" način bez razmišljanja koja je ono točno naredba, da ti otvori web browser i potraži informaciju koja te zanima na google-u, twitteru, ovdje ili ondje, pronađe informaciju o destinaciji prema kojoj voziš ili bi htio voziti itd. To će biti svakako dodatna vrijednost.
Ovo za share computing powera mi je malo čudno, takvi modeli kao što je grok bi trebali (naglasak na trebali bi ....nemam blagog pojma koliki je taj njihov model) biti ogromni i nisam siguran da FSD računalo ima dovoljno VRAM-a (Ne ovog sistemskog, već RAM-a za sam AI....nešto kao što kod stolnih računala imamo sistemski RAM i VRAM od grafičke koji je ustvari bitan) da ga pokrene.
Gledao sam neke modele za lokalno korištenje i tu pričamo o 24+GB RAM-a za imalo pristojniji model koji se i dalje ne može niti pod razno usporediti sa ChatGPT-om. Al ono niti pod razno razno nije za usporedbu. Pozitivno bih se iznenadio da hw3 ima 128GB ili više i da je to dovoljno za vrtiti model koji bi trebao biti alternativa chatgpt-u.
Neke informacije koje znam o tome kako se vrte veliki Stable Diffusion modeli i LLM modeli mi govore da je za kvalitetno korištenje (bilo korištenje, bilo treniranje) bitno povezati više npr. A100 kartica direktno upravo kako bi se mogao njihov VRAM koristiti kao jedna velika jedinica, što može biti efikasno samo i jedino ako su povezane fizički. Internet je tu pre pre pre pre spor da bi bio koristan za spajanje na daljinu.
Za korištenje hardware-a u autu, morati će smisliti neki drugačiji način računanja od onoga koji koriste npr. na svojim trenutnim AI računalima. Naime, sada se model ubaci u VRAM više kartica i one zbog toga što su fizički blizu jedna druge i fizički spojene rade kao jedna velika kartica i odrađuju cijeli posao zajedno (bilo trening, bilo korištenje samog modela).
Ako žele SETI like rješenje, morati će prvo smisliti način kako posao podijeliti na samostalne jedinice i kako onda rezultate tih samostalnih jedinica spojiti kod sebe u nešto unificirano.
No, to što ja mislim da je teško, ne znači da oni to ne mogu i da ne mogu barem djelomično određeni dio AI poslova delegirati autima.
Svakako bi volio da mi auto može zaraditi nešto novčića dok sjedi na parkingu. Kilometraža koju radim je daleko manja od kad je krenula jesen i auto ima i više nego dovoljno besplatne struje koju može upotrijebiti za nešto korisno.
U tvrdnju da je bolji od chatgpt-a nekako sumnjam čisto zbog toga što sumnjam da su imali pristup istoj količini podataka kojima je imao openai, no o tom po tom, SD je pokazao da kvaliteta > kvantiteta u određenim slučajevima. Ako i nije bolji sada, ne znači da neće biti bolji u budućnosti. Dok ga ne budem mogao probati, zadržati ću pravo na sumnju u kvalitetu tj. usporedbu sa chatgpt-om. Mogućnost vulgarnosti ili indirektnog odbijanja određenih tema na šaljiv način ne smatram osobinom kvalitete. Od AI-a ne trebam šaljivost i fore, trebam što točnije i jasne informacije. Ako išta, probijanje kroz šalje i fore da bi došao do onoga što trebam smatram minusom. Nadam se da će se to moći ugasiti i da će on moći s nama komunicirati onako kako mi želimo, pa kome trebaju informacije, da dobije informacije, a kome treba šaljivi prijatelj da ima šaljivog prijatelja. |
|
[Vrh] |
|
 |
|
|
Ne možete otvarati nove teme. Ne možete odgovarati na postove. Ne možete uređivati Vaše postove. Ne možete izbrisati Vaše postove. Ne možete glasovati u anketama.
|
|