add posting

_posts/2023-12-03-효율적인 LLM 학습전략.md

@@ -134,12 +134,11 @@ model = AutoModelForCausalLM.from_pretrained(
 )
 
 lora_config = LoraConfig(
-        r=config["lora"]["r"],
-        lora_alpha=config["lora"]["lora_alpha"],
-        target_modules=config["lora"]["target_modules"],
-        lora_dropout=config["lora"]["lora_dropout"],
-        bias=config["lora"]["bias"],
-        task_type=config["lora"]["task_type"],
+        r=8,
+        lora_alpha=32,
+        target_modules=["query_key_value"],
+        lora_dropout= 0.05,
+        task_type="CAUSAL_LM",
 )
 
 model = get_peft_model(model, lora_config)

_posts/2023-12-23-[네이버 클로바 스튜디오 X 포텐데이] 참여 후기.md

@@ -0,0 +1,90 @@
+---
+title:  "[네이버 클로바 스튜디오 X 포텐데이] 참여 후기"
+excerpt: "[네이버 클로바 스튜디오 X 포텐데이] 참여 후기"
+
+categories:
+  - Study
+tags:
+  - NLP
+  - 해커톤
+  - 곰곰시인
+
+last_modified_at: 2023-12-23T08:06:00-05:00
+mathjax: true
+# classes: wide
+toc: true
+toc_sticky: true
+---
+
+# **[네이버 클로바 스튜디오 X 포텐데이]란??**
+```
+밤 샐 필요 없이, 단 10일 만에 만드는 AI 서비스
+
+네이버클라우드 초대규모 AI 하이퍼클로바X 기반의
+
+차별화된 AI 기반의 서비스 프로토타입을
+
+직접 기획하고 개발까지 해볼 수 있는 기회!
+```
+
+개발자, 기획자, 디자이너까지 팀을 꾸려서
+
+네이버의 초대규모 AI 언어 모델 하이퍼클로바X를 활용한 서비스를 기획하고
+
+AI 개발 도구 클로바 스튜디오로 생성한 API를 적용한 비즈니스 모델을 개발하는 해커톤입니다.
+
+
+# **해커톤 후기**
+
+저희는 회사 사람들과 같이 팀을 이뤄서 포텐데이에 참가하게 되었습니다.
+
+프론트/백엔드 개발자와 Prompt Engineer, NLP Engineer 5명이 참여하게 되었습니다.
+
+NLP Engineer인 저는 모델을 따로 학습시키고 할 부분이 없어서 기획을 맡게 되었습니다.
+
+저희는 하이퍼클로바를 활용한 고민 상담 서비스를 시를 통해 풀어가는 서비스를 기획하게 되었습니다.
+
+
+## **서비스 소개**
+
+### **시로 풀어내는 나만의 고민 친구 “곰곰시인”**
+
+서비스 링크 
+https://gomgom-poet.co.kr/
+
+곰곰시인 소개
+![image](https://github.com/momozzing/KLUE-TOD/assets/60643542/c73272c6-09b9-4d0a-abd9-cacd3e9973c3)
+
+곰곰시인 서비스 소개
+![image](https://github.com/momozzing/KLUE-TOD/assets/60643542/f4c04dd3-934b-40f3-a1d9-2ffc51993d03)
+
+곰곰시인 개발 배경
+![image](https://github.com/momozzing/KLUE-TOD/assets/60643542/a3983ad9-fa8c-4050-9228-97f5485ee12d)
+
+곰곰시인 사용법
+
+![image](https://github.com/momozzing/KLUE-TOD/assets/60643542/f0acd2f1-38ae-4089-bff9-756ec0d9cb07)
+
+![image](https://github.com/momozzing/KLUE-TOD/assets/60643542/29cd2717-53c0-4c9c-8dcf-ada5f0fabfb1)
+
+팀 노션 페이지
+
+https://shell-allosaurus-876.notion.site/8c60e6d4f5654fc0a11f272428a6f581
+
+## **진짜 후기**
+
+NLP Engineer로써 한국어 언어모델 중에 가장 좋을것 같은 하이퍼클로바 모델을 사용하는 경험을 얻고자
+
+해커톤에 참여하게 되었습니다.
+
+실제로 하이퍼 클로바는 한국어 이해 부분에서는 GPT-4보다 좋은 성능을 가진 것 같았습니다.
+
+하지만 일반적인 지식은 GPT-4가 더 좋은 것 같았습니다.
+
+그리고 NLP Engineer로써 개발 부분이 아니라 실제 비즈니스 모델을 기획하고, 디자인 하는 경험을 해 보면서,
+
+기획팀, 디자인팀을 정말 리스펙하게 되었습니다.
+
+각 팀별로 맡은 역할을 좀 더 이해할 수 있는 경험을 한 것 같습니다.
+
+이 비즈니스 모델을 좀 더 서비스 하는 경험을 바탕으로 앞으로 좀 더 성장하는 제가 되겠습니다.