티스토리

Enough is not enough
검색하기

블로그 홈

Enough is not enough

도서 분야 크리에이터
eehoeskrap.tistory.com/m

생각과 기록 그리고 발전

구독자
270
방명록 방문하기
공지 꾸준희 블로그 모두보기

주요 글 목록

  • [Book Review] AI 트루스 임백준님께서 집필하신 AI 트루스 책을 읽으면서 가장 감명 깊었던 부분은 "진짜 가치는 문제를 해결하는 것이다. 코딩이 아니다." 라는 부분이였다. 점점 코딩의 종말 시대가 오고, 생각하는 능력이 중요해지는 시대가 도래하게 될텐데, 앞으로 어떤 능력을 길러야할 것인지에 대해 시사하고 있는 책이였다. 지금도 AI 코딩 도구의 도움을 많이 받고 있지만, 앞으로 개발자들이 인공지능 코딩 도구로부터 도움을 받는 것은 코딩 자체로 국한되진 않을 것이다. 생각의 흐름을 이어가기 위한 아이디어에서 자신이 작성한 코드에 대한 검토에 이르기까지 매우 다양한 방식으로 도움을 구하고 얻어간다. 하지만 일을 하는 주체는 어디까지나 나 자신이기 때문에 AI는 나를 도와주는 역할을 충실히 수행할 뿐이다. 일은 시키면 AI는 어떻.. 공감수 1 댓글수 3 2024. 10. 27.
  • [Book Review] AI를 위한 필수 수학 수 많은 AI 모델들을 다루다보면 수학적 지식이 필요하다는 것을 절실히 느낀다. 그 때 마다 개념들을 구글링해서 검색해보곤 하는데 블로그나 웹사이트마다 설명이 명확하지 않은 것도 있고, 내가 필요한 지식들이 하나에 모여있지 않고 분산되어 적혀있는 느낌이다. 그럴 때 마다 관련된 내용들을 긁어 모아 하나로 정리해두곤 하는데. 이번에 읽어본 한빛미디어의 'AI를 위한 필수 수학' 책에서는 AI 시스템 구축에 필요한 통계학, 선형대수학, 미적분학 등의 기본 수학 지식들을 이해하기 쉽게 설명해주고, 실제 사례를 통해 자세히 설명하고 있었다. 이 책은 내가 필요한 개념에 대해 명확하게 설명해둔 책이라 하나 집에 모셔다 두고 필요할 때마다 꺼내보기 좋은 백과사전 같은 책이다.     이 책에서 다루는 핵심 주제는 .. 공감수 9 댓글수 2 2024. 9. 29.
  • [Book Review] 쓸모있는 AI 서비스 만들기 한빛미디어에서 출간된 쓸모있는 AI 서비스 만들기 책은 OCR, Image Segmentation, NLP, 음성인식, 이미지 생성 등의 도메인에 대해 AI 이론을 학습한 이후에 다음 단계에 어떤 것을 해야하는지 고민하는 분들을 위해서 쓰여졌다. 흔하디 흔한 이론 설명이 아닌 실제로 AI 서비스를 어떻게 구현하고 활용해야하는지에 대한 책이라 기대가 많이 되었다. 과연 쓸모있는 AI 서비스란 어떤 것일까? 이 책에서는 OCR 기술(약 185억 달러), 이미지 세그먼테이션 기술(약 50억 달러), 자연어 처리 기술(약 345억 달러), 음성 인식 기술(약 268 달러), 이미지 생성 기술(약 67 달러) 등 시장 규모를 따져 쉽게 상용화가 가능한 AI 기반 서비스를 구현하는 것을 목표로 하고 있다. 물론 이.. 공감수 3 댓글수 0 2024. 8. 29.
  • MacBook M3에서 크롬 실행 안되는 문제 맥북 M3 Sonoma 14.5 버전에서 크롬 설치 후 무슨 짓을 해도 크롬이 안열리는 문제가 발생했다. 바탕화면에 dmg 가 생겼는데도 설치가 되지 않아 찾아보니 아래와 같은 방법으로 해결하면 된다.  맥북에서 터미널을 켠 후 아래 경로에서 Google 폴더 삭제 sudo rm -r ~/Library/Application Support/Google 그 다음 Chrome 앱 삭제를 해주고, 아래와 같이 다시 폴더를 생성해주면 된다고 한다. sudo mkdir ~/Library/Application Support/Google/Chrome 참고로 나는 이 과정에서 Google 폴더를 삭제하고, 크롬 앱을 다시 켰는데알아서 폴더도 생기고 설치가 정상적으로 이루어졌다.   출처 1 : https://www.re.. 공감수 3 댓글수 3 2024. 8. 8.
  • [Book Review] FastAPI 책 추천, 처음 시작하는 FastAPI 이 책은 모던 파이썬 웹 프레임워크인 FastAPI를 소개한 입문서입니다. 이 책에서 다루는 내용은 웹기술, 파이썬, FastAPI 총 세가지로 나눌 수 있습니다. 특히 1부에서는 웹과 파이썬 분야에서 떠오르는 주제에 대해 설명하고, 서비스와 API, 동시성 그리고 계층화된 아키텍처 등을 살펴볼 수 있습니다. 2부에서는 FastAPI를 고수준에서 소개합니다. 3부에서는 FastAPI가 제공하는 도구를 자세히 살펴보게 되는데, 상용 소프트웨어를 개발할 때 필요한 팁을 담고 있어서 현업에서는 3부 내용이 가장 많은 도움이 되었습니다. 마지막으로 4부에서는 FastAPI의 여러 예시를 모아두었습니다. 마지막 파이널 프로젝트 느낌이라고 보시면 될 것 같습니다.  API는 프로토콜과 형식을 정의하게 되는데요, 이.. 공감수 2 댓글수 1 2024. 7. 29.
  • [Book Review] 혼자 공부하는 얄팍한 코딩지식 혼자 공부하는 얄팍한 코딩 지식은 이번에 개정판으로 다시 출간되었다. 생성형 AI를 포함한 최신 AI 기술들을 담은 내용으로 업데이트가 되었다. 혼자 공부하는 시리즈가 나온지 꽤 된 것 같은데, 이렇게 최신 내용 반영하며 꾸준히 나와줘서 좋은 것 같다. 저자 인터뷰에 따르면 이 책은 비전공자도 읽을 수 있는 책이며, 전공자도 얻어갈 것이 있는 책이라고 한다. 사실 이 책은 어떤 지식을 깊게 얻는 용도는 아니고, 교양관점에서 볼 수 있을만한 책이기 때문에 접근성이 높고, 쉽게 읽히는 책에 속한다. 그리고 개발자를 목표를 두고 공부하는 사람들에게는 큰 도움이 될 수 있는 책이라는 것. 또한, 각 주제 마다 easy, medium, hard로 나뉘어 난이도가 표시되어 있기 때문에 내가 원하는 지식들만 골라서 .. 공감수 1 댓글수 1 2024. 6. 23.
  • [Diffusion] Follow-Your-Emoji: Fine-Controllable and Expressive Freestyle Portrait Animation https://follow-your-emoji.github.io/ Follow-Your-Emoji: Freestyle Portrait AnimationAbstract We present Follow-Your-Emoji, a diffusion-based framework for portrait animation, which animates a reference portrait with target landmark sequences. The main challenge of portrait animation is to preserve the identity of the reference portrait anfollow-your-emoji.github.io     내가 존경하는 Ailing Zeng 께서 참여한.. 공감수 2 댓글수 0 2024. 6. 8.
  • [Motion Generation] MotionLLM: Understanding Human Behaviors from Human Motions and Videos https://lhchen.top/MotionLLM/ MotionLLM: Understanding Human Behaviors from Human Motions and VideosVideos comprehension of models. The results show good performance of MotionLLM on captioning, spatial-temporal comprehension, and reasoning. The comparison with Video-Chat and Video-LLaVA shows good sequentiality and direction comprehension of MotionLLM. (lhchen.top  MotionLLM은 MotionLCM, HumanTOM.. 공감수 0 댓글수 2 2024. 6. 8.
  • [Book Review] 실무로 통하는 ML 문제 해결 with 파이썬 이 책은 2018년에 처음으로 출판된 책이며, 2판은 2024년에 나오게 되었다. 그간 머신러닝 분야는 딥러닝과 이와 관련된 파이썬 프레임워크의 발전과 함께 계속 크게 성장해왔다. 그래서 이번에 출판된 버전에서는 예제들을 최신 파이썬 버전과 프레임워크로 업데이트 하였으며, 데이터 소스, 데이터 분석, 머신러닝 및 딥러닝 분야의 최신 방법을 반영해두었다. 또한 딥러닝 콘텐츠를 확장하여 텐서와 신경망을 추가하고, 파이토치로 텍스트 및 비전을 위한 모델을 만들 수 있도록 한다. 그리고 모델을 서빙하여 API로 제공하는 것 까지 추가하였다. 이 책의 좋은점 중 하나는 초보자들이 배우기 쉽게끔 코드를 복붙하기만 하면 짠 하고 돌아가도록 완성해두었다는 점이다. 보통 책에 있는 예제 코드들은 그대로 쓰면 라이브러리 .. 공감수 4 댓글수 2 2024. 5. 26.
  • 시대예보를 읽고 얻은 요즘 시대 인사이트 시대예보 : 핵 개인의 시대 - 송길영 요 근래 읽었던 책 중에 가장 꾹꾹 눌러 읽었던 책이다. AI 관련된 직종에 종사하면서 요즘 느낀점은 아 이러다 내가 사라질 수 있겠는데? 하며, 스스로 일을 없애고 있어서 현타가 왔었다. 그래서 앞으로 어떻게 커리어를 설정할지 몇개월동안 생각한 결과는 다음과 같다. 1. 최신기술 중 내가 잘 할 수 있는 분야 여러개 더 만들기. 2. 앞으로 AI 처럼 각광 받을 수 있는 분야 미리 준비하기. 이렇게 방향성을 잡아도 불안한 마음이 한켠에 있곤 했는데 ‘시대예보’ 책을 통해 방향성을 다듬었다. ‘일을 없애는 사람이 되자.’ 그리고 ‘사회적 기여를 하는 사람이 되자.’ 일 없애는 사람은 분명 사라지기 힘들 것이다. 여기에 더해 조직에서 나의 임무를 다하고 나면 다음에 .. 공감수 30 댓글수 15 2024. 5. 15.
  • [Book Review] 인사이드 머신러닝 인터뷰 한빛미디어에서 출간된 인사이드 머신러닝 인터뷰 책은 펑샤오라는 사람이 지었다. 펑 샤오라는 사람은 15년동안 소셜 미디어, 광고 기술 등 다양한 분야에서 ML 리더십 직책을 맡아 천 명에 가까운 지원자를 면접했다. 현재는 트위터(X)에서 스태프 ML 엔지니어로 근무하면서 추천 알고리즘과 광고 에측 및 랭킹을 위한 ML 시스템을 설계했다. 천 명에 가까운 ML 관련 지원자를 면접할 만큼 면접에 대한 다양한 경험이 쌓였으니, 이 책은 머신러닝 직무 관련 면접을 앞두고 있는 사람들에게 큰 도움이 될 수 있다.  대부분 ML 관련 직무 면접은 신입 / 경력 이렇게 두 가지로 나뉘게 된다. 신입 때 봤던 면접 질문 같은 경우 ML 관련 기초 지식을 기반으로 물어보는 질문들이 굉장히 많았고, 경력 때 경험했던 면접.. 공감수 2 댓글수 1 2024. 4. 28.
  • [Microsoft Azure] RAG 노드 구성하기 저번 블로그 글에서는 Microsoft Azure를 통해 Prompt Flow를 구성해보는 예제를 실행해보았다. 이번에는 Cognitive search를 통해 Custom RAG 노드를 구성하는 방법에 대해 기록해보려고 한다. prompt flow github에 RAG 예제를 찾아봤는데 아직 예제 코드가 업로드 되기 전이라 직접 구성해보았다.   0. Cognitive search connection  먼저, RAG 노드를 구성하기 위해서는 Azure OpenAI, Cognitive search Connection 이 필요하다. (유료 리소스 플랜 필요)  api_key 와 api_base 그리고 name을 설정해주면 된다. api_key 및 api_base는 Microsoft Azure 계정에서 확인할.. 공감수 1 댓글수 1 2024. 4. 26.
  • [Microsoft Azure] Prompt Flow 구성하기 0. Prompt Flow 란?Prompt flow는 아이디어 구상, 프로토타이핑, 테스트, 평가부터 프로덕션 배포 및 모니터링에 이르기까지 LLM 기반 AI 애플리케이션의 엔드투엔드 개발 주기를 간소화하도록 설계된 개발 도구 모음이다. Prompt Flow를 통해 엔지니어링을 쉽고 빠르게 수행할 수 있으며, LLM 어플리케이션을 구축할 수 있다. 이는 Microsoft에서 출시된 Azure AI를 이용하여 Prompt Flow를 구성할 수 있다.   1. 개발환경 설정 conda create --name pf python=3.9conda activate pf  2. prompt flow 설치하기  pip install promptflow promptflow-tools  3. promptflow 버전 체.. 공감수 2 댓글수 2 2024. 4. 26.
  • 가상환경 만들기 귀찮을 때 GitHub Codespaces 사용하기 GitHub Codespaces 란?codespace는 클라우드에서 호스트되는 개발 환경이다. 각 codespace는 가상 머신에서 실행되는 Docker 컨테이너의 GitHub에 의해 호스팅된다. 2개 코어, 8GB RAM 및 32GB 스토리지, 최대 32개 코어, 64GB RAM 및 128GB 스토리지의 가상 머신 유형 중에서 선택할 수 있다. 기본적으로 codespace 개발 환경은 Ubuntu Linux 이미지에서 만들어진다. 즉, codespace는 로컬 운영 체제에 관계없이 Linux 환경에서 실행됩니다. Windows 및 macOS는 원격 개발 컨테이너에 대해 지원되지 않는다.  GitHub Codespaces 실행방법아래와 같이, Code 버튼을 누르면 Local 에서 받을지 Codespa.. 공감수 1 댓글수 1 2024. 4. 26.
  • ModuleNotFoundError: No module named 'mmcv' pip 패키지로 설치했을 때 mmcv가 import 안되는 현상이 있다.  ModuleNotFoundError: No module named 'mmcv'  이럴 때 mmcv 대신 mmcv-full를 설치해주면 된다는 글이 있어서 시도해봤는데 똑같은 현상이 계속 일어났다. 그래서 결국 git에 있는 소스를 빌드해서 설치해주었다.  git clone https://github.com/open-mmlab/mmcv.gitMMCV_WITH_OPS=1 pip install -e .  그랬더니 아래와 같이 mmengine 이 없다길래 ModuleNotFoundError: No module named 'mmengine'  mmengine을 설치해주었더니 import 완료.  pip install mmengine   참.. 공감수 0 댓글수 0 2024. 4. 26.
  • [Microsoft Azure] azure Message: Resource not found. 리소스를 찾을 수 없다는 메세지가 나올 때는 아래 문서를 참고하여 해결하도록 하자. 제일 추천하는 방법은 리소스 속성을 확인하는 것이다. 나같은 경우는 api_base 값이 잘못들어가 있었다. https://learn.microsoft.com/ko-kr/azure/azure-resource-manager/troubleshooting/error-not-found?tabs=bicep 리소스를 찾을 수 없는 오류 - Azure Resource Manager 리소스를 찾을 수 없을 때 오류를 해결하는 방법을 설명합니다. Bicep 파일 또는 Azure Resource Manager 템플릿을 배포하거나 관리 작업을 수행할 때 오류가 발생할 수 있습니다. learn.microsoft.com 공감수 0 댓글수 0 2024. 4. 16.
  • [Microsoft Azure] To fix this issue, you need to select a plan of Semantic Search and enable the service in your Cognitive Search Service. Microsoft Azure를 통해 Cognitive Search Service가 포함된 PromprtFlow를 구성 할 때, 아래와 같은 에러가 날 수 있다. To fix this issue, you need to select a plan of Semantic Search and enable the service in your Cognitive Search Service. 이 문제를 해결하려면 의미 체계 검색 계획을 선택하고 Cognitive Search Service에서 서비스를 활성화해야 합니다. 이럴 때는 아래와 같이 Microsoft Azure에서 설정을 변경하면 된다. 스택오버플로우나 공식 문서를 보면 Semantic search (Preview)를 찾으면 된다는데 한참 찾아도 없어서 보니 ".. 공감수 0 댓글수 0 2024. 4. 16.
  • [LLM] Ferret-UI: Grounded Mobile UI Understanding with Multimodal LLMs Paper : https://arxiv.org/pdf/2404.05719.pdf 요즘 애플이 기존 인력을 AI 인력으로 재배치 하는 등 작정하고 4억 원 이상의 연봉을 제시하며 AI 인력 확보에 사활을 걸고 있다고 한다. 게다가 논문을 안내기로 유명했던 애플인데, Apple Research 결과를 보면 심심치 않게 논문이 쏟아져나오고 있는 상황이다. 그래서 나는 애플이 앞으로 어떤걸 보여줄지 개인적으로 많은 기대를 걸고 있다. (빨리 아이폰에 기깔난 AI 심어줘...) 애플이 앞으로 어떤걸 내놓을지 조금은 유추가능할만한 논문이 나왔다. 바로 Ferret-UI 라는 것이다. 요즘 나오는 multimodal large language models (MLLMs) 중에 사용자 인터페이스 화면을 이해하고 효과적.. 공감수 0 댓글수 1 2024. 4. 15.
  • 경쟁력 있는 AI 엔지니어가 되는 방법 (Feat. 폴리매스형 인간) OpenAI가 ChatGPT를 선보인 이후로 세상이 많이 달라졌다. 예를 들면 컴퓨터공학을 전공하지 않은 비전공자도 AI를 이용하여 이미지를 생성하거나, RAG를 활용하여 원하는 대답을 하는 챗봇을 만들거나 하는 등 AI 기술 접근가능성 역치가 엄청나게 낮아졌다. 이렇게 AI 기술 접근이 쉬워질 수 있었던 이유는 뭘까? 나는 web UI 하나로만 AI 모델을 돌려 볼 수 있는 hugging face와 각종 검색엔진에 플러그인으로 추가할 수 있는 OpenAI ChatGPT가 가장 많은 기여가 있지 않았나 생각해본다. 예전에 ResNet이 세상에 처음 등장했을 때 혹은 YOLO가 등장했을 당시, 논문에서 참고문헌을 보면 레퍼런스가 죄다 근 2-3년 안에 나온 논문들이 달아져있고, 6개월 마다 대단한 기술들.. 공감수 9 댓글수 2 2024. 4. 14.
  • [Windows] Window 환경에서 OpenSSH Server 구성하기 윈도우 환경에서 SSH 접속 하기 위한 방법은 아래와 같다. 1. Windows 환경에서 OpenSSH 서버버전 설치하기 (클라이언트 버전은 이미 설치되어있음) 2. OpenSSH 설정 및 서버 구동하기 3. 끝 ! 1. Windows 환경에서 OpenSSH 서버버전 설치하기 먼저 아래와 같이 윈도우 설정 > 시스템 > 선택적 기능 > 선택적 기능 추가 > 기능 보기를 누른 뒤 OpenSSH 서버를 설치해준다. 참고로 기본 설정에서 클라이언트 버전은 이미 설치되어있다. 2. OpenSSH 설정 및 서버 구동하기 설치가 완료된 다음 서비스 설정 및 구동을 위해 powershell을 관리자 모드에서 열어준다. (관리자 모드 중요 ✅) 그 다음 아래 명령어를 통해 정상적으로 설치되어있는지 확인한다. Get-W.. 공감수 1 댓글수 0 2024. 4. 10.
  • [Book Review] 한 권으로 끝내는 이미지 생성 AI with 미드저니 "한 권으로 끝내는 이미지 생성 AI with 미드저니" 책은 이미지 생성 AI가 무엇인지 부터 시작하여, 달리3와 ChatGPT 사용법, 그리고 미드저니 사용방법, 스테이블 디퓨전 사용방법까지 폭 넓게 다루고 있다. 그리고 부록으로는 미드저니 프롬프트를 잘 이해하기 위한 미드저니의 커맨드, 파라미터, 도구 등 까지 다루고 있어서, 미드저니에 관심 있는 분들이라면 한번쯤 읽어볼만한 책 같다. 이미지 생성 분야를 공부하다 보면 각종 웹사이트에 관련된 정보들이 광활하게 흩어져 있는데, 이 책에서 그 정보를 다 모아다둬서 편히 책 한권만으로도 미드저니를 통해 이미지를 생성하는 방법을 익힐 수 있다는게 가장 큰 장점 같다. 이 책을 읽고나면 이미지 생성 AI의 원리를 이해할 수 있고, 일상에서의 이미지 생성 A.. 공감수 1 댓글수 0 2024. 3. 24.
  • [Book Review] 요즘 개발자 '요즘 개발자'라는 책은 NHN NEXT 출신 비전공자 동기 두 명이 만나 프로그래밍 세계에 발을 들이게 되면서 서로가 겪은 시행착오나 어려움을 해결해온 이야기를 담은 커리어, 성장에 관한 책이다. 이 책에서 다루는 주된 내용은 아래와 같다. 나만의 학습 전략과 환경을 찾는 방법 눈에 띄는 이력서와 포트폴리오 작성 방법 코테와 인성면접을 주도하는 방법 꾸준한 피드백과 회고를 통해 성장하는 방법 멘탈 관리 및 자기계발 전략 이직이 고민 될 때 필요한 진단과 결정의 지혜 특히 이 책에서 도움되었던 내용 중 하나는 개발자라는 직업이 왜 필요한가 부터 시작해서 메타(Meta)가 가진 회사의 핵심 가치 여섯가지를 바탕으로 어떤 개발자가 되어야하는지 소개하고 있었다. 메타의 핵심가치 여섯가지는 다음과 같다. 1. .. 공감수 0 댓글수 0 2024. 2. 25.
  • 논문 연구결과 프로젝트 페이지 만드는 법 여러 논문들을 읽다보면 프로젝트 페이지를 링크에 연결해놓은 경우가 많은데, 아래와 같은 템플릿을 자주 보았을 것이다. 이 템플릿은 도대체 어디서 난걸까? 공통으로 사용하고있는 듯 하여 원 출처를 찾아보았다. 찾았다 요놈 이 템플릿 형식을 갖추고 있는 프로젝트 페이지들이 아래 레포를 명시하고 있었다. 아래 레포는 2021 ICCV에 발표된 "Nerfies: Deformable Neural Radiance Fields" 라는 논문이다. https://github.com/nerfies/nerfies.github.io GitHub - nerfies/nerfies.github.io Contribute to nerfies/nerfies.github.io development by creating an account.. 공감수 5 댓글수 3 2024. 1. 18.
  • 블로그 운영한지 10년차에 적어보는 2023년 회고록 🤍 2015년에 티스토리 블로그를 개설하고, 블로그 이름 처럼 블로그를 꾸준하게 운영한지도 어느덧 10년차가 되었다. 2015년에는 파릇파릇한 대학생 3학년이였는데, 이제는 의도치 않은 나이 개정으로 인해 몇년 째 29살로 살고 있는 진짜 어른(?)이 되어버린 것이다. 🤦🏻‍♀️ 블로그를 시작한 원래 목적은 내가 편히 찾아볼 수 있게 만든 메모장 개념이였다. 그런데 블로그에 글을 쓰면 쓸수록 나만의 메모장을 봐주시는 분들이 늘어났다. 그래서 점차 글을 쓸 때 대충 쓰지 않고 공들여 쓰게 되었고, 내 덕분에 문제를 해결했다는 댓글을 보거나 나와 같이 메일을 주고 받으면서 문제를 해결했던 일들을 겪다보니 지식을 공유하는게 즐겁고 뿌듯한 일이라는 것도 알게 되었다. 그만큼 블로그는 나에게 있어서 고마운 존재이고,.. 공감수 12 댓글수 4 2024. 1. 5.
  • 인간을 이해하기 위한 기술 PoseGPT: Chatting about 3D Human Pose에 대하여 PoseGPT: Chatting about 3D Human Pose 오늘은 인간을 이해하기 위한 기술 중 하나인 PoseGPT에 관한 논문을 리뷰하며 드는 생각을 정리해보고자 합니다. PoseGPT는 Max Planck Institute for Intelligent Systems에서 제안한 논문이며, 2023년 11월 30일에 제안된 따끈따끈한 논문입니다. 🔥🚨🧑‍🚒 PoseGPT란 이미지나 텍스트 설명을 통해 3D 인간 포즈를 이해하고 추론하기 위해 LLM을 사용하는 프레임워크라고 할 수 있습니다. 현재까지 진행되어왔던 연구에서는 이미지 또는 텍스트 기반의 인간 자세 추정 문제들은 전체적인 장면을 이해하거나 세세한 추론이 부족해서 시각적 데이터와 실제 자세가 의미하는 바가 연결성이 부족했습니다. 예를.. 공감수 7 댓글수 4 2023. 12. 10.
  • [PyTorch] contiguous 연산의 필요성, Grad strides do not match bucket view strides 문제 Grad strides do not match bucket view strides. This may indicate grad was not created according to the gradient layout contract, or that the param's strides changed since DDP was constructed. 위와 같이 에러가 나면서 학습이 안되는 상황이 발생. 해결방법 위와 같이 grad stride 관련 이슈가 난다면, 본인 환경이 ddp 학습인지 체크해보고, 아래와 같이 transpose() 연산이나 permute() 연산에 .contiguous() 를 꼭 붙여준다. transpose().contiguous() permute().contiguous() 이유 즉,.. 공감수 3 댓글수 1 2023. 12. 4.
  • [Book Review] 알고리즘인사이드 with 파이썬 알고리즘 인사이드 with 파이썬 책은 한빛미디어에서 출간된 책이다. 역시 믿고 읽어보는 한빛미디어. 이 책은 알고리즘 문제 86개를 섹션 별로 나눠서 설명해놓은 책이다. 처음부터 끝까지 읽어보니 알고리즘에 대한 모든 것들을 꾹꾹 눌러 담은 책이라, 알고리즘 시험을 앞두고 있는 사람들에게 추천해주고 싶은 책이다. 첫 장에서 파이썬 기본 문법에 대해 간략한 설명부터 시작해서, 기본 자료구조에 대한 내용들도 담겨있으며, 재귀, 탐색, 공간, 배열, 순열 및 조합 정렬, 검색 등 알고리즘에서 필수적인 요소들을 다 담고 있다. 기본적인 문제 부터 풀기 때문에 파이썬 개발자가 아니더라도 쉽게 읽을 수 있는 책이라 진입 장벽이 낮아서 좋은 것 같다. 이 책의 가장 큰 장점은 해설이 굉장히 꼼꼼하다는 점이다. 알고.. 공감수 1 댓글수 1 2023. 11. 26.
  • DistributedDataParallel 사용 시 find_unused_parameters=True 관련 에러 RuntimeError: Expected to have finished reduction in the prior iteration before starting a new one. This error indicates that your module has parameters that were not used in producing loss. You can enable unused parameter detection by passing the keyword argument `find_unused_parameters=True` to `torch.nn.parallel.DistributedDataParallel`, and by making sure all `forward` function outputs parti.. 공감수 1 댓글수 1 2023. 11. 15.
  • [Human Pose Estimation] A Dataset of Relighted 3D Interacting Hands Paper : https://arxiv.org/pdf/2310.17768.pdf Project Page: https://mks0601.github.io/ReInterHand/ Re:InterHand Dataset A Dataset of Relighted 3D Interacting Hands (NeurIPS 2023 Datasets and Benchmarks Track) mks0601.github.io Meta Reality Labs Research 에서 나온 데이터세트 Re:InterHand 데이터이다. 두 손이 상호작용 하는 문제는 self-similarity, complicated articulations, and occlusions of hands 문제 때문에 가장 분석하기 어려운 task 중 하나.. 공감수 0 댓글수 0 2023. 11. 15.
  • [Diffusion] RLHF 인간 피드백 기반 강화학습 개념 및 Diffusion에 RLHF 방법론 적용 우선 RLHF(Reinforcement Learning form Human Feedback)은 인간 피드백 기반 강화학습이라는 뜻이다. 이는 ChatGPT에 적용되는 내용이며, 총 3가지 단계로 나뉜다. 즉, 사람과 같은 대답을 만들어 내기 위해 Human Preference를 고려하여 학습을 한 것이다. RLHF(Reinforcement Learning form Human Feedback) 아래 내용은 openAI에서 제안한 Fine-Tuning Language Models from Human Preferences 논문에서 가져온 내용에 기반한다. 1. Supervised Fine-Tuning (SFT) 인간이 의도하는 것을 학습시키기 위해 인간 Labeler 또는 Trainer가 선별한 적은 양의 샘.. 공감수 2 댓글수 1 2023. 10. 28.
    문의안내
    • 티스토리
    • 로그인
    • 고객센터

    티스토리는 카카오에서 사랑을 담아 만듭니다.

    © Kakao Corp.