Kyujinpy (151) 썸네일형 리스트형 [MoE 논문 리뷰] - Switch Transformers: Scaling to Trillion Parameter Models with Simple and Efficient Sparsity *MoE를 위한 논문 리뷰 글입니다! 궁금하신 점은 댓글로 남겨주세요! MoE paper: https://arxiv.org/abs/2101.03961 Switch Transformers: Scaling to Trillion Parameter Models with Simple and Efficient Sparsity In deep learning, models typically reuse the same parameters for all inputs. Mixture of Experts (MoE) defies this and instead selects different parameters for each incoming example. The result is a sparsely-activated mode.. [NeRF-CAM 논문리뷰] - COORDINATE-AWARE MODULATION FOR NEURAL FIELDS 💰새해복 많이 받으세요!!💰 *NeRF-CAM를 위한 논문 리뷰 글입니다! 궁금하신 점은 댓글로 남겨주세요! NeRF-CAM paper: arxiv.org/pdf/2311.14993.pdf NeRF-CAM github: Coordinate-Aware Modulation for Neural Fields (maincold2.github.io) Coordinate-Aware Modulation for Neural Fields Neural fields, mapping low-dimensional input coordinates to corresponding signals, have shown promising results in representing various signals. Numerous methodo.. E: Unable to locate package ~~~ Error 해결방법: [Linux] E: Unable to locate package yum (tistory.com) [Linux] E: Unable to locate package yum * 해당 글을 작성하기 위해 새로운 인스턴스를 생성하여 IP가 노출됩니다. 게시 완료 후 인스턴스는 종료 예정입니다! 새로운 인스턴스 환경에는 yum이 없다는 걸 알고 설치를 하니 해당 에러가 integer-ji.tistory.com Vim 사용방법: [Linux] vi(vim)에디터 사용방법 (tistory.com) [Linux] vi(vim)에디터 사용방법 리눅스를 이용한 개발 혹은 리눅스서버를 운영하는 개발자라면 반드시 알아야 하는 것중에 한가지가 바로 텍스트 에디터를 사용하는 방법입니다. 윈도우의 경우 메모장이.. [Stanford NLP Group] - 🌸Sakura-SOLAR Tweet https://x.com/stanfordnlp/status/1741871845878772197?s=20 X의 Stanford NLP Group님(@stanfordnlp) A new winner on the @huggingface Open LLM Leaderboard at the end of December … combining the goodness of SOLAR-10.7B and Direct Preference Optimization (DPO) https://t.co/ekxoxU8tpJ https://t.co/aNEaCAcCd4 twitter.com Im very happy :) Happy New Year! - 2024.01.03 [DDPM 코드 리뷰] *DDPM을 이해하셔야 읽기 편하실 것 같습니다..! Study Github: https://github.com/KyujinHan/DDPM-study GitHub - KyujinHan/DDPM-study: Denoising Diffusion Probabilistic Models code study Denoising Diffusion Probabilistic Models code study - GitHub - KyujinHan/DDPM-study: Denoising Diffusion Probabilistic Models code study github.com DDPM github: https://github.com/lucidrains/denoising-diffusion-pytorch GitHub - luc.. [🌸Sakura-SOLAR] - SOLAR 10.7B 모델을 base로 하여 merge와 DPO 방법론을 활용한 LLM Github: https://github.com/KyujinHan/Sakura-SOLAR-DPO GitHub - KyujinHan/Sakura-SOLAR-DPO: Sakura-SOLAR-DPO: Merge, SFT, and DPO Sakura-SOLAR-DPO: Merge, SFT, and DPO. Contribute to KyujinHan/Sakura-SOLAR-DPO development by creating an account on GitHub. github.com 🌸Huggingface: https://huggingface.co/kyujinpy/Sakura-SOLAR-Instruct kyujinpy/Sakura-SOLAR-Instruct · Hugging Face Sakura-SOLAR-Instr.. [Topology 정리3] - Continuous and metric topology *Topology (위상수학)에 대해서 정리한 글입니다. *두서가 없을 수도 있고, 위상수학을 복습한다는 마음으로 정리했습니다! *입문하시는 분들께 도움이 되었으면..ㅎㅎ Contents 1. Continuous 2. Homeomorphism - Pasting Lemma - Constructing continuous functions - Homeomorphism funny example 3. Metric topology - Metric - Diameter - Standard bounded metric & Uniform metric - Euclidean metric and Square metric are the same in product topology R^n - Uniformly Converges Co.. [Topology 정리2] - Closed, Closure and Hausdorff *Topology (위상수학)에 대해서 정리한 글입니다. *두서가 없을 수도 있고, 위상수학을 복습한다는 마음으로 정리했습니다! *입문하시는 분들께 도움이 되었으면..ㅎㅎ Contents 1. Closed 2. Closure 3. Hausdorff - Various theorems Closed Closed 개념은 매우 간단하다. 어떤 임의의 Open subset A가 있다면, Topology X에 대해서 X-A는 closed이다. 즉, Open의 반대는 closed이다. Closed set의 정의는 위와 같다. 1) 공집합과 자기 자신(X)는 closed. 2) 무한한 closed set의 교집합은 closed이다. 3) 유한한 closed set의 합집합은 closed이다. 위의 2), 3)번 정의는 .. [Topology 정리1] - Open, basis and topology spaces *Topology (위상수학)에 대해서 정리한 글입니다. *두서가 없을 수도 있고, 위상수학을 복습한다는 마음으로 정리했습니다! *입문하시는 분들께 도움이 되었으면..ㅎㅎ Contents 0. Introduction 1. Open의 위상적 정의 - Topology with open - Finer and coarser - Basis 정의 - Topologist on R 2. Topologies - Order topology - Product topology - Subspace topology Introduction 위의 이미지는 위상수학하면 떠오르는 가장 대표적인 예시가 아닐까 싶다. Cup과 도넛은 왜 위상적으로 같은가? 아마 많은 사람들은 '구멍이 1개이기 때문입니다`라는 답을 할 것이다. 아주 명확하.. [Upstage와 함께 하는 글로벌 OpenLLM 리더보드 1위 모델 리뷰 & LLM 모델 Fine-tuning] 강좌 링크: https://bit.ly/40NbECx Upstage와 함께 하는 글로벌 OpenLLM 리더보드 1위 모델 리뷰 & LLM 모델 Fine-tuning | 패스트캠퍼스 LLM 리더보드 세계 1위의 시각으로 배우는 논문 선별 노하우과 모델 파이프라인 구축 방법! fastcampus.co.kr 안녕하세요! Ko-LLM 리더보드에서 Ko-platypus 모델을 올렸던 kyujin입니다! 제가 이번에 좋은 기회를 얻게 되어서, upstage와 함께 LLM 강의를 준비하게 되었습니다..!!!! 훌륭하신 많은 분들과 함께 작업할 수 있어서 너무 영광이고, 좋은 기회인 만큼 정말 열심히 준비하고 있습니다 ㅎㅎ LLM의 여러 지식과 최근에 유행하는 PEFT 방법론 부터, fine-tuning 실습을 통해 .. [ssh에서 CUDA 딥러닝 환경 구축 하는 방법 - 시행착오 기록] References: https://csm-kr.tistory.com/26 [Ubuntu] 딥러닝 서버 만들기 - ubuntu 20.04.3 LTS server에 conda / nvidia-driver-470 / CUDA11.4 설치하기 안녕하세요 pulluper 입니다 😃😃😃 오랜만에 ubuntu server에 cuda 설치를 다시 해보았는데요. 이번에는 서버에 설치 하는 방법에 대하여 알아보겠습니다. 🕋🕋 만약 여러가지 version으로 cuda를 이 csm-kr.tistory.com +) 정말 감사합니다. 1. sudo apt-get update 2. wget https://repo.anaconda.com/archive/Anaconda3-2023.09-0-Linux-x86_64.sh 3. bash .. [Kosy🍵llama] - Noisy embedding 방식을 활용한 llama2 fine-tuning Github: https://github.com/Marker-Inc-Korea/KoNEFTune GitHub - Marker-Inc-Korea/KoNEFTune: Random Noisy Embeddings with fine-tuning 방법론을 한국어 LLM에 간단히 적용할 Random Noisy Embeddings with fine-tuning 방법론을 한국어 LLM에 간단히 적용할 수 있는 Kosy🍵llama - GitHub - Marker-Inc-Korea/KoNEFTune: Random Noisy Embeddings with fine-tuning 방법론을 한국어 LLM에 간단히 적용할 수 있는 github.com Huggingface: https://huggingface.co/kyujinpy/Ko.. 이전 1 2 3 4 5 6 7 ··· 13 다음
