CUDA (3) 썸네일형 리스트형 E: Unable to locate package ~~~ Error 해결방법: [Linux] E: Unable to locate package yum (tistory.com) [Linux] E: Unable to locate package yum * 해당 글을 작성하기 위해 새로운 인스턴스를 생성하여 IP가 노출됩니다. 게시 완료 후 인스턴스는 종료 예정입니다! 새로운 인스턴스 환경에는 yum이 없다는 걸 알고 설치를 하니 해당 에러가 integer-ji.tistory.com Vim 사용방법: [Linux] vi(vim)에디터 사용방법 (tistory.com) [Linux] vi(vim)에디터 사용방법 리눅스를 이용한 개발 혹은 리눅스서버를 운영하는 개발자라면 반드시 알아야 하는 것중에 한가지가 바로 텍스트 에디터를 사용하는 방법입니다. 윈도우의 경우 메모장이.. [ssh에서 CUDA 딥러닝 환경 구축 하는 방법 - 시행착오 기록] References: https://csm-kr.tistory.com/26 [Ubuntu] 딥러닝 서버 만들기 - ubuntu 20.04.3 LTS server에 conda / nvidia-driver-470 / CUDA11.4 설치하기 안녕하세요 pulluper 입니다 😃😃😃 오랜만에 ubuntu server에 cuda 설치를 다시 해보았는데요. 이번에는 서버에 설치 하는 방법에 대하여 알아보겠습니다. 🕋🕋 만약 여러가지 version으로 cuda를 이 csm-kr.tistory.com +) 정말 감사합니다. 1. sudo apt-get update 2. wget https://repo.anaconda.com/archive/Anaconda3-2023.09-0-Linux-x86_64.sh 3. bash .. [Window] bitsandbytes download - PEFT using LoRA(QLoRA) 드디어... LLM을 PEFT 방식을 이용해서 훈련시킬려고 하는데, bitsandbytes가 linux만 지원한다는 얘기만 잔뜩 있고 도움이 되는 글들을 못 찾아서 디버깅하는데만 5시간 쏟은 것 같다... 요즘 LLM fine-tuning하면 LoRA와 QLoRA가 대세이고, 또 이것을 양자화해서 memory의 효율성을 가져가는게 트렌드인데 이 양자화를 해서 memory를 아낄려면 8-bit, 4-bit로 weight를 설정하고 float과 상호성을 띄도록 만들어줘야 하는데 여기 필요한 모듈 중 하나가 바로 bitsandbytes이다... 방법1) bitsandbytes-windows-webui github https://github.com/jllllll/bitsandbytes-windows-webui .. 이전 1 다음
