설명
조립 컴퓨터 사설 수리센터
어제에 이어 엔비디아 rtx4090의 위력을 알기 위해 pc방에 왔다.
오늘도 이리저리 설치해보다가 뭐 이리저리 설정 바꾸기도 뭐해서 하다 말았다.
엔비디아 웹사이트들을 봤는데 엔비디아의 cu~,cuDNN 뭐 이런건 전에 워크스테이션이나 큰 컴퓨터로 포트란(기상예보등)으로 하던것들이다
생각해보니.
하스켈도 그렇고 이게 시간이 오래 걸리던건데 이걸 cuda gpu용으로 바꿔서 다시 재컴파일한 모양이다.
오픈소스로는 opencl(초기에 애플이 주도했다고)도 있고 이것도 병렬처리인데 좀 복잡하고 느리다고 한다.
그래서 주로 오픈소스들은 파이썬으로 파이토치로 한다는 모양이다.
요즘 외국에서 맥 미니 m4 4대로 slm 이라고 chatgpt 같은거 비슷하게 작게 만들어서 웹서비스로 만들어서 한다고 한다.x
그런데 h100도 많이 산다고 하고 보니까 pc방의 엔비디아 rtx4090은 메모리가 20기가라고 한다.이게 hbm은 아닌 모양이다.
