Prethodna tema :: Sljedeća tema |
Autor/ica |
Poruka |
rkahler

Pridružen/a: 27. 03. 2009. Postovi: 1879 Lokacija: Petrinja
|
|
[Vrh] |
|
 |
ogi Site Admin

Pridružen/a: 25. 07. 2005. Postovi: 12953 Lokacija: Zagreb
|
Postano: 27.1.2025. pon. 12:27 Naslov: |
|
|
Citat: | Samo 2.048 Nvidia H800 procesora i uloživši samo 5,6 milijuna dolara |
Još bi bilo zanimljivije vidjeti potrošnju energije u odnosu na ChatGPT  |
|
[Vrh] |
|
 |
stjepan
Pridružen/a: 03. 08. 2009. Postovi: 1672 Lokacija: Zagreb
|
Postano: 27.1.2025. pon. 13:33 Naslov: |
|
|
Po svim informacijama i testovima što su dostupni, potrošnja je vrlo vjerojatno PUNO manja. Model je open source, možeš ga downloadati i sam pokrenuti. Kinezi su blago rečeno razvalili sa ovim. Ono, možeš doma imati ChatGPT like LLM, skroz off line na neprofesionalnom računalu (skupom, sa punor esursa svakako, ali i dalje, doma, osobno, off line).
Da ponovim iz drugog posta kojeg sam napisao:
Probao i ne vidim nikakvu razliku u kvaliteti odgovora naspram ChatGPT-a. Gledao sam i neke testove što je ekipa pokrenula lokalno....poprilično sam impresioniran.
Još informacija:
https://x.com/morganb/status/1883686162709295541
Jako dobro objašnjava brzinu i efikasnost (samim time i potrošnju energije). Al taman da nema nikakvog objašnjenja, činjenica da možeš downloadati taj model i pokrenuti ga na osobnom računalu, te da je sve open source, pokazuje koliko manje struje troši. |
|
[Vrh] |
|
 |
zega

Pridružen/a: 01. 08. 2005. Postovi: 5761 Lokacija: USA
|
Postano: 27.1.2025. pon. 16:37 Naslov: |
|
|
I nakon tih spoznaja su dionice vezane uz AI srokale na nize, kao sto i trebaju, sve skupa sa financijske strane cijela AI prica je u HYPE modu, odlicno su Kinezi ovo odradili, kolega na poslu (Veoma inteligentan Kinez) je komentirao da se stvari tako brzo mjenjaju da je najpametnije malo pricekati jer uskoro ce biti odlicnih jednostavnih rijesenja, i bio je u pravu (a mozda je insider ... ) |
|
[Vrh] |
|
 |
stjepan
Pridružen/a: 03. 08. 2009. Postovi: 1672 Lokacija: Zagreb
|
Postano: 27.1.2025. pon. 17:29 Naslov: |
|
|
Pad svih AI dionica i nije nešto logičan. Ako su oni ovo napravili sa malo GPU-ova, a jesu naspram OpenAI-a, što će sa tom istom arhitekturom napraviti OpenAI i ostali koji imaju PUNO GPU-ova? Što će raditi i kako će izgledati slijedeći OpenAI-ov "ChatGPT" koji će koristiti ovaj način rada kad ga upregnu u tisuće i tisuće GPU-ova koje imaju?
Možda je jedino opravdan pad Nvidia-e jer će njima usporiti prodaja, ali na neko kraće vrijeme, dok opet do lupe od strop sa ovom arhitekturom, a to će biti ekstra brzo, mjeseci a ne godine.
Ovo je samo još jedan korak u tehnologiji koja se razvija izvanrednom brzinom.
Svaka čast Kinezima koji su model napravili kao open source. Za nas male korisnike koji žele nešto vrtiti na kućnim računalima ili Home automation serverima, ovo je ravno čudu.
"Hej kućo, malo mi je hladno, daj podigni temperaturu"
*Kuća provjeri temperaturu*
"Jesi siguran da nisi bolestan? Senzori za temperaturu mi javljaju da je temperatura standardna po cijeloj kući. Ako ti do sada nije bilo hladno na njoj, možda si bolestan"
...ili alternativno...
".....bla bla sve isto.....možda imaš valunge"
...ili nešto treće
I sve to bez da si ikad uprogramirao kući ikakvo znanje i razmišljanje o bolesti.
Ili
*blagi alarm"
"Hej *unesiimevlasnika*, moguće da je netko od ukućana ostavio otvorena vrata / prozor duže vrijeme, pada vam temperatura u interijeru, centralno vam radi i to se dešava duže nego standardno provjetravanje....a vani je jako hladno. Provjeri *unesiimeprostorije*, tu je pad najveći, a možda vam je centralno riknulo samo ja nemam senzor u njemu pa ne znam.
Bez da si išta od toga urpogramirao u išta i bez da si dotaknuo internet.
Možeš to i sada sa ChatGPT-om, ali bi te koštalo pun kurac para malo malo slati stanje kuće njihovim serverima i u 99.9999% slučajeva ne dobiti ništa jer se ništa čudno ne dešava.
A i nije čudo samo za nas male. Dobro je i za one koji su tek počeli nabavljati GPU-ove, koji zahvaljujući novoj arhitekturi mogu početi raditi prije nego što su mislili.
Možda se ista arhitektura ili barem princip može upotrijebiti i u drugim vrstama modela, u image generation modelima, možda u autonomnoj vožnji itd.
Ovo pomiče cijelu industriju korak naprijed i zahvaljujući tome da je open source, nikog ne stavlja u slabiji položaj. |
|
[Vrh] |
|
 |
zega

Pridružen/a: 01. 08. 2005. Postovi: 5761 Lokacija: USA
|
|
[Vrh] |
|
 |
stjepan
Pridružen/a: 03. 08. 2009. Postovi: 1672 Lokacija: Zagreb
|
Postano: 27.1.2025. pon. 18:03 Naslov: |
|
|
E i cijena po api call-u je dobar pokazatelj koliko ustvari malo resursa / struje troši. Još do sada nisam vidio negativnu stranu tog modela. |
|
[Vrh] |
|
 |
debeli

Pridružen/a: 30. 03. 2006. Postovi: 3178 Lokacija: Zagreb
|
Postano: 27.1.2025. pon. 18:12 Naslov: |
|
|
deep seek je mnogo bolji naziv nego umjetna inteligencija.
To je upravo ono što taj software zna i može. |
|
[Vrh] |
|
 |
stjepan
Pridružen/a: 03. 08. 2009. Postovi: 1672 Lokacija: Zagreb
|
Postano: 27.1.2025. pon. 18:21 Naslov: |
|
|
Moj prijedlog: Probability Text Generator |
|
[Vrh] |
|
 |
ogi Site Admin

Pridružen/a: 25. 07. 2005. Postovi: 12953 Lokacija: Zagreb
|
Postano: 27.1.2025. pon. 19:10 Naslov: |
|
|
zega je napisao/la: | I nakon tih spoznaja su dionice vezane uz AI srokale na nize, kao sto i trebaju, sve skupa sa financijske strane cijela AI prica je u HYPE modu, odlicno su Kinezi ovo odradili |
To je samo privremeno, prije bi rekao da je AI priča u UNDER HYPE modu.
Još uvijek podcijenjena s obzirom na potencijal - da eksplodira
Ako su kinezi dokazali da se može puno bolje/efikasnije, što će tek biti kada se to primjeni na ozbiljnim superračunalima  |
|
[Vrh] |
|
 |
stjepan
Pridružen/a: 03. 08. 2009. Postovi: 1672 Lokacija: Zagreb
|
Postano: 27.1.2025. pon. 19:47 Naslov: |
|
|
Tako je. Ovaj model je sa svojom efikasnošću i dostupnošću stvorio novo dno a ne vrh. Od sada pa na dalje može samo dalje i više od ovoga. Što li će n abazi ovoga napraviti ovi što imaju pun kurac GPU-ova.... |
|
[Vrh] |
|
 |
zega

Pridružen/a: 01. 08. 2005. Postovi: 5761 Lokacija: USA
|
Postano: 27.1.2025. pon. 23:05 Naslov: |
|
|
Moj stav je do sad bio da ce cijela ta AI saga lupiti u plafon po pitanju energije, ali sa ovim su energetsko dno srusili 10x (ili podigli plafon kako god) tako da vidim tu jos dosta stofa! |
|
[Vrh] |
|
 |
zega

Pridružen/a: 01. 08. 2005. Postovi: 5761 Lokacija: USA
|
Postano: 28.1.2025. uto. 20:38 Naslov: |
|
|
OK instalirao sam LM studio i loadao model DeepSeek R1 Distill Llama 8B
4.92 GB
Naprosto je nevjerovatno koliko su informacija uspijeli "spakirati" u 4.58GB, da pasteam dosta specificno pitanje i odgovor lokalnog na kompjuteru modela i deep seek preko njihovog weba (najveci model preko 15 Triliona!! tokena)
Odgovori su veoma bliski nevjerovatno je koliko!
Paste:
Ovo je lokalno downloaadn model od “samo” 4.58 GB nevjerovatno ovo je lokalno, ispod cu isto pitanje postaviti deep seek koji je treniran na desetcima TB podataka (100x vise)
Lokalno:
You
Citat: | What is origin of Zinfandel grape variety |
Assistant
Citat: | Citat: | deepseek-r1-distill-qwen-14b
Thoughts
Thought for 1 minutes 0 seconds
Okay, so I'm trying to figure out the origin of the Zinfandel grape variety. I've heard a bit about it before, but I'm not entirely sure where it comes from. Let me think through this step by step.
First off, I know that Zinfandel is a red wine grape that's pretty popular in places like California. It makes bold, spicy wines and is often used for blending as well as being the base for some sweet wines. But I don't remember hearing much about its origin; I think it was thought to be from Italy at one point?
I've heard something about DNA analysis playing a role in figuring out grape origins. Maybe that's how they traced Zinfandel back to somewhere else? I'm not sure when this analysis happened, but it might have been in the late 20th or early 21st century.
So, if it wasn't Italy, where could it be from? Croatia comes to mind because I remember hearing about a connection between some grape varieties and that region. Maybe it's related to Primitivo, which is an Italian grape. Oh wait, I think Zinfandel and Primitivo are the same grape variety but just known by different names in different places.
That makes sense because sometimes grapes have different names depending on where they're grown. So if Croatia was the original home, then maybe it's a native variety there. Then during some point in history, it was brought to Italy, possibly by Venetian traders who were involved in the spice trade with the Ottoman Empire, which included areas like Croatia.
From Italy, Zinfandel might have been taken to other parts of Europe and eventually made its way across the Atlantic to North America, probably California during the 19th century. That aligns with what I know about California's wine history, where a lot of grape varieties were introduced in that time period.
So putting this together: Zinfandel is originally from Croatia, known there as something else maybe? Then it was brought to Italy, became Primitivo there, and then spread further, ending up in California. This all makes sense because DNA analysis would show these connections between the grapes.
I'm not entirely sure about all the historical details, like exact dates or how exactly it moved from one place to another, but the general idea is that Croatia is its birthplace, Italy is where it got the name Primitivo, and California is where it's most famously grown today. So yeah, I think that's the origin story of Zinfandel.
|
Answer (after thinking)
The origin of the Zinfandel grape variety can be traced back to Croatia, where it is known as "Plavac Mali." This was determined through DNA analysis in the late 20th century, which revealed that Zinfandel and Primitivo are clones of the same vine. The grape likely spread from Croatia to Italy during Venetian trade with the Ottoman Empire, where it became known as Primitivo. From Italy, it made its way to other European regions and eventually to California in the 19th century, where it gained significant popularity. Thus, Zinfandel's journey began in Croatia, moved through Italy under the name Primitivo, and found a prominent home in California wine production.
|
Online verzija( https://chat.deepseek.com/a/chat ):
What is origin of Zinfandel grape variety
The origin of the Zinfandel grape variety has been a subject of much research and debate. For many years, its origins were unclear, but genetic studies have now provided a clearer picture.
Zinfandel is genetically equivalent to the Croatian grape variety Crljenak Kaštelanski and the Italian variety Primitivo. The grape is believed to have originated in Croatia, where it was known as Crljenak Kaštelanski. From there, it made its way to Italy, particularly the Puglia region, where it became known as Primitivo.
The grape was brought to the United States in the mid-19th century, where it was named Zinfandel. It became particularly popular in California, where it thrives in the warm climate and has become one of the state's signature grape varieties.
In summary, Zinfandel's origins trace back to Croatia, with significant historical cultivation in Italy, and it has become a prominent variety in California.
Zanimljivo je kako mozes u prozoru pratiti tijek misli dok razmislja o odgovoru prije nego ga izbaci!
I dobar clanak https://stratechery.com/2025/deepseek-faq/ |
|
[Vrh] |
|
 |
ogi Site Admin

Pridružen/a: 25. 07. 2005. Postovi: 12953 Lokacija: Zagreb
|
Postano: 28.1.2025. uto. 21:58 Naslov: |
|
|
zega je napisao/la: | OK instalirao sam LM studio i loadao model DeepSeek R1 Distill Llama 8B
4.92 GB |
Kojom brzinom radi, na kakvom kompu, opterećenje...? |
|
[Vrh] |
|
 |
zega

Pridružen/a: 01. 08. 2005. Postovi: 5761 Lokacija: USA
|
Postano: 29.1.2025. sri. 00:20 Naslov: |
|
|
Jednako brzo kao i online verzija jedino sto ima minutu za razmisljanje koje mozes vidjeti kao reasoning window)...
Impresivno, kompic nije ni puhati poceo...morat cu mu zadati pitanje i pratiti opterecenje i postati graf kao u prethodnom postu (gdje je skoro idle)
Kumpic je Dell XPS desktop I7 14700 sa 32 rama i Nvidia grafickom geforce 3070 sa jos 24 rama i 16 shared RAM detalje sutra postam ovo je sve kak se sjecam
Zadnja promjena: zega; 29.1.2025. sri. 02:18; ukupno mijenjano 1 put. |
|
[Vrh] |
|
 |
|