어제에 이어 엔비디아 rtx4090의 위력을 알기 위해 pc방에 왔다.

오늘도 이리저리 설치해보다가 뭐 이리저리 설정 바꾸기도 뭐해서 하다 말았다.

​

엔비디아 웹사이트들을 봤는데 엔비디아의 cu~,cuDNN 뭐 이런건 전에 워크스테이션이나 큰 컴퓨터로 포트란(기상예보등)으로 하던것들이다

생각해보니.

하스켈도 그렇고 이게 시간이 오래 걸리던건데 이걸 cuda gpu용으로 바꿔서 다시 재컴파일한 모양이다.

오픈소스로는 opencl(초기에 애플이 주도했다고)도 있고 이것도 병렬처리인데 좀 복잡하고 느리다고 한다.

그래서 주로 오픈소스들은 파이썬으로 파이토치로 한다는 모양이다.

​

요즘 외국에서 맥 미니 m4 4대로 slm 이라고 chatgpt 같은거 비슷하게 작게 만들어서 웹서비스로 만들어서 한다고 한다.x

그런데 h100도 많이 산다고 하고 보니까 pc방의 엔비디아 rtx4090은 메모리가 20기가라고 한다.이게 hbm은 아닌 모양이다.

h100은 hbm인데 메모리가 80기가라고 한다.보니까 rtx4090 4대 묶어서 h100 비슷하게 할수 있다는 광고도 봤다.

그리고 블랙웰은 뭐 얼마인지는 모르겠는데 엄청난 메모리 크기다.어차피 살수 없는거라서 얼마인지는 모르겠다.

​

rtx4090은 애시당초 게임용이라서 그리 cuda는 안하는 모양이다.

퀘이샤 보니까 조립 컴퓨터도 뭐 amd하고 같이 사거나 아니면 비보 아수스 노트북을 주로 산다고 한다.

130만원 내외면 괜찮게 조립하는 모양이다.