본문 바로가기

Kyujinpy

(148)
[Stanford NLP Group] - 🌸Sakura-SOLAR Tweet https://x.com/stanfordnlp/status/1741871845878772197?s=20 X의 Stanford NLP Group님(@stanfordnlp) A new winner on the @huggingface Open LLM Leaderboard at the end of December … combining the goodness of SOLAR-10.7B and Direct Preference Optimization (DPO) https://t.co/ekxoxU8tpJ https://t.co/aNEaCAcCd4 twitter.com Im very happy :) Happy New Year! - 2024.01.03
[DDPM 코드 리뷰] *DDPM을 이해하셔야 읽기 편하실 것 같습니다..! Study Github: https://github.com/KyujinHan/DDPM-study GitHub - KyujinHan/DDPM-study: Denoising Diffusion Probabilistic Models code study Denoising Diffusion Probabilistic Models code study - GitHub - KyujinHan/DDPM-study: Denoising Diffusion Probabilistic Models code study github.com DDPM github: https://github.com/lucidrains/denoising-diffusion-pytorch GitHub - luc..
[🌸Sakura-SOLAR] - SOLAR 10.7B 모델을 base로 하여 merge와 DPO 방법론을 활용한 LLM Github: https://github.com/KyujinHan/Sakura-SOLAR-DPO GitHub - KyujinHan/Sakura-SOLAR-DPO: Sakura-SOLAR-DPO: Merge, SFT, and DPO Sakura-SOLAR-DPO: Merge, SFT, and DPO. Contribute to KyujinHan/Sakura-SOLAR-DPO development by creating an account on GitHub. github.com 🌸Huggingface: https://huggingface.co/kyujinpy/Sakura-SOLAR-Instruct kyujinpy/Sakura-SOLAR-Instruct · Hugging Face Sakura-SOLAR-Instr..
[Topology 정리3] - Continuous and metric topology *Topology (위상수학)에 대해서 정리한 글입니다. *두서가 없을 수도 있고, 위상수학을 복습한다는 마음으로 정리했습니다! *입문하시는 분들께 도움이 되었으면..ㅎㅎ Contents 1. Continuous 2. Homeomorphism - Pasting Lemma - Constructing continuous functions - Homeomorphism funny example 3. Metric topology - Metric - Diameter - Standard bounded metric & Uniform metric - Euclidean metric and Square metric are the same in product topology R^n - Uniformly Converges Co..
[Topology 정리2] - Closed, Closure and Hausdorff *Topology (위상수학)에 대해서 정리한 글입니다. *두서가 없을 수도 있고, 위상수학을 복습한다는 마음으로 정리했습니다! *입문하시는 분들께 도움이 되었으면..ㅎㅎ Contents 1. Closed 2. Closure 3. Hausdorff - Various theorems Closed Closed 개념은 매우 간단하다. 어떤 임의의 Open subset A가 있다면, Topology X에 대해서 X-A는 closed이다. 즉, Open의 반대는 closed이다. Closed set의 정의는 위와 같다. 1) 공집합과 자기 자신(X)는 closed. 2) 무한한 closed set의 교집합은 closed이다. 3) 유한한 closed set의 합집합은 closed이다. 위의 2), 3)번 정의는 ..
[Topology 정리1] - Open, basis and topology spaces *Topology (위상수학)에 대해서 정리한 글입니다. *두서가 없을 수도 있고, 위상수학을 복습한다는 마음으로 정리했습니다! *입문하시는 분들께 도움이 되었으면..ㅎㅎ Contents 0. Introduction 1. Open의 위상적 정의 - Topology with open - Finer and coarser - Basis 정의 - Topologist on R 2. Topologies - Order topology - Product topology - Subspace topology Introduction 위의 이미지는 위상수학하면 떠오르는 가장 대표적인 예시가 아닐까 싶다. Cup과 도넛은 왜 위상적으로 같은가? 아마 많은 사람들은 '구멍이 1개이기 때문입니다`라는 답을 할 것이다. 아주 명확하..
[Upstage와 함께 하는 글로벌 OpenLLM 리더보드 1위 모델 리뷰 & LLM 모델 Fine-tuning] 강좌 링크: https://bit.ly/40NbECx Upstage와 함께 하는 글로벌 OpenLLM 리더보드 1위 모델 리뷰 & LLM 모델 Fine-tuning | 패스트캠퍼스 LLM 리더보드 세계 1위의 시각으로 배우는 논문 선별 노하우과 모델 파이프라인 구축 방법! fastcampus.co.kr 안녕하세요! Ko-LLM 리더보드에서 Ko-platypus 모델을 올렸던 kyujin입니다! 제가 이번에 좋은 기회를 얻게 되어서, upstage와 함께 LLM 강의를 준비하게 되었습니다..!!!! 훌륭하신 많은 분들과 함께 작업할 수 있어서 너무 영광이고, 좋은 기회인 만큼 정말 열심히 준비하고 있습니다 ㅎㅎ LLM의 여러 지식과 최근에 유행하는 PEFT 방법론 부터, fine-tuning 실습을 통해 ..
[ssh에서 CUDA 딥러닝 환경 구축 하는 방법 - 시행착오 기록] References: https://csm-kr.tistory.com/26 [Ubuntu] 딥러닝 서버 만들기 - ubuntu 20.04.3 LTS server에 conda / nvidia-driver-470 / CUDA11.4 설치하기 안녕하세요 pulluper 입니다 😃😃😃 오랜만에 ubuntu server에 cuda 설치를 다시 해보았는데요. 이번에는 서버에 설치 하는 방법에 대하여 알아보겠습니다. 🕋🕋 만약 여러가지 version으로 cuda를 이 csm-kr.tistory.com +) 정말 감사합니다. 1. sudo apt-get update 2. wget https://repo.anaconda.com/archive/Anaconda3-2023.09-0-Linux-x86_64.sh 3. bash ..
[Kosy🍵llama] - Noisy embedding 방식을 활용한 llama2 fine-tuning Github: https://github.com/Marker-Inc-Korea/KoNEFTune GitHub - Marker-Inc-Korea/KoNEFTune: Random Noisy Embeddings with fine-tuning 방법론을 한국어 LLM에 간단히 적용할 Random Noisy Embeddings with fine-tuning 방법론을 한국어 LLM에 간단히 적용할 수 있는 Kosy🍵llama - GitHub - Marker-Inc-Korea/KoNEFTune: Random Noisy Embeddings with fine-tuning 방법론을 한국어 LLM에 간단히 적용할 수 있는 github.com Huggingface: https://huggingface.co/kyujinpy/Ko..
[🐳KO-LLM 첫 50 돌파🥮] 안녕하세요! 최근 Ko-platypus와 Ko-openorca로 인사드렸던 kyujin 입니다😊 KoR-Orca-Platypus-13B 모델이 Open KO-LLM 리더보드에서 처음으로 average 점수 50을 돌파하였습니다🎉🎉 Ko-platypus와 Korean-OpenOrca를 훈련시키고 리더보드에 올리면서 많은 걸 느끼고 경험할 수 있었던 것 같습니다 ㅎㅎ 해당 모델에 관심 있으신 분들은 밑에 github 링크를 통해서 상세한 정보를 확인하실 수 있습니다! 감사합니다🤗🤗 Ko-platypus: https://github.com/Marker-Inc-Korea/KO-Platypus Ko-OpenOrca: https://github.com/Marker-Inc-Korea/Korean-OpenOrca
[LLM 리더보드 관련 기사] 좋은 소식이 연달아서 있어서 기분이 좋네요..ㅎㅎ 정말 감사합니다..ㅎㅎ 더욱 노력해야겠어요!! References1: https://www.aitimes.com/news/articleView.html?idxno=154532 [10월4주] 마커AI·한규진 개발자, '최초 평균 50점 돌파'...초반 최강자 등극 - AI타임스 국내 인공지능(AI) 산업의 경쟁력을 증진하고 실력 있는 개발자를 발굴하기 위한 \'오픈 Ko-LLM 리더보드\'가 개설 한달 만에 180여개의 모델 등록을 기록하는 등 초반 확장세를 이어가고 있다. 더불 www.aitimes.com References2: https://www.aitimes.com/news/articleView.html?idxno=154236 [오픈 Ko-LLM 리..
[🐳Korean-OpenOrca Model 등장🐳] 🐳Github🐳: https://github.com/Marker-Inc-Korea/Korean-OpenOrca GitHub - Marker-Inc-Korea/Korean-OpenOrca: OpenOrca-KO dataset을 활용하여 llama2를 fine-tuning한 Korean-OpenOrca OpenOrca-KO dataset을 활용하여 llama2를 fine-tuning한 Korean-OpenOrca - GitHub - Marker-Inc-Korea/Korean-OpenOrca: OpenOrca-KO dataset을 활용하여 llama2를 fine-tuning한 Korean-OpenOrca github.com 🐳HuggingFace🐳: https://huggingface.co/kyujinpy/K..

반응형