여러 논문들을 읽다보면 프로젝트 페이지를 링크에 연결해놓은 경우가 많은데, 아래와 같은 템플릿을 자주 보았을 것이다. 이 템플릿은 도대체 어디서 난걸까? 공통으로 사용하고있는 듯 하여 원 출처를 찾아보았다. 찾았다 요놈 이 템플릿 형식을 갖추고 있는 프로젝트 페이지들이 아래 레포를 명시하고 있었다. 아래 레포는 2021 ICCV에 발표된 "Nerfies: Deformable Neural Radiance Fields" 라는 논문이다. https://github.com/nerfies/nerfies.github.io GitHub - nerfies/nerfies.github.io Contribute to nerfies/nerfies.github.io development by creating an account..

2015년에 티스토리 블로그를 개설하고, 블로그 이름 처럼 블로그를 꾸준하게 운영한지도 어느덧 10년차가 되었다. 2015년에는 파릇파릇한 대학생 3학년이였는데, 이제는 의도치 않은 나이 개정으로 인해 몇년 째 29살로 살고 있는 진짜 어른(?)이 되어버린 것이다. 🤦🏻‍♀️ 블로그를 시작한 원래 목적은 내가 편히 찾아볼 수 있게 만든 메모장 개념이였다. 그런데 블로그에 글을 쓰면 쓸수록 나만의 메모장을 봐주시는 분들이 늘어났다. 그래서 점차 글을 쓸 때 대충 쓰지 않고 공들여 쓰게 되었고, 내 덕분에 문제를 해결했다는 댓글을 보거나 나와 같이 메일을 주고 받으면서 문제를 해결했던 일들을 겪다보니 지식을 공유하는게 즐겁고 뿌듯한 일이라는 것도 알게 되었다. 그만큼 블로그는 나에게 있어서 고마운 존재이고,..

PoseGPT: Chatting about 3D Human Pose 오늘은 인간을 이해하기 위한 기술 중 하나인 PoseGPT에 관한 논문을 리뷰하며 드는 생각을 정리해보고자 합니다. PoseGPT는 Max Planck Institute for Intelligent Systems에서 제안한 논문이며, 2023년 11월 30일에 제안된 따끈따끈한 논문입니다. 🔥🚨🧑‍🚒 PoseGPT란 이미지나 텍스트 설명을 통해 3D 인간 포즈를 이해하고 추론하기 위해 LLM을 사용하는 프레임워크라고 할 수 있습니다. 현재까지 진행되어왔던 연구에서는 이미지 또는 텍스트 기반의 인간 자세 추정 문제들은 전체적인 장면을 이해하거나 세세한 추론이 부족해서 시각적 데이터와 실제 자세가 의미하는 바가 연결성이 부족했습니다. 예를..

문제 Grad strides do not match bucket view strides. This may indicate grad was not created according to the gradient layout contract, or that the param's strides changed since DDP was constructed. 위와 같이 에러가 나면서 학습이 안되는 상황이 발생. 해결방법 위와 같이 grad stride 관련 이슈가 난다면, 본인 환경이 ddp 학습인지 체크해보고, 아래와 같이 transpose() 연산이나 permute() 연산에 .contiguous() 를 꼭 붙여준다. transpose().contiguous() permute().contiguous() 이유 즉,..

알고리즘 인사이드 with 파이썬 책은 한빛미디어에서 출간된 책이다. 역시 믿고 읽어보는 한빛미디어. 이 책은 알고리즘 문제 86개를 섹션 별로 나눠서 설명해놓은 책이다. 처음부터 끝까지 읽어보니 알고리즘에 대한 모든 것들을 꾹꾹 눌러 담은 책이라, 알고리즘 시험을 앞두고 있는 사람들에게 추천해주고 싶은 책이다. 첫 장에서 파이썬 기본 문법에 대해 간략한 설명부터 시작해서, 기본 자료구조에 대한 내용들도 담겨있으며, 재귀, 탐색, 공간, 배열, 순열 및 조합 정렬, 검색 등 알고리즘에서 필수적인 요소들을 다 담고 있다. 기본적인 문제 부터 풀기 때문에 파이썬 개발자가 아니더라도 쉽게 읽을 수 있는 책이라 진입 장벽이 낮아서 좋은 것 같다. 이 책의 가장 큰 장점은 해설이 굉장히 꼼꼼하다는 점이다. 알고..

RuntimeError: Expected to have finished reduction in the prior iteration before starting a new one. This error indicates that your module has parameters that were not used in producing loss. You can enable unused parameter detection by passing the keyword argument `find_unused_parameters=True` to `torch.nn.parallel.DistributedDataParallel`, and by making sure all `forward` function outputs parti..

Paper : https://arxiv.org/pdf/2310.17768.pdf Project Page: https://mks0601.github.io/ReInterHand/ Re:InterHand Dataset A Dataset of Relighted 3D Interacting Hands (NeurIPS 2023 Datasets and Benchmarks Track) mks0601.github.io Meta Reality Labs Research 에서 나온 데이터세트 Re:InterHand 데이터이다. 두 손이 상호작용 하는 문제는 self-similarity, complicated articulations, and occlusions of hands 문제 때문에 가장 분석하기 어려운 task 중 하나..

우선 RLHF(Reinforcement Learning form Human Feedback)은 인간 피드백 기반 강화학습이라는 뜻이다. 이는 ChatGPT에 적용되는 내용이며, 총 3가지 단계로 나뉜다. 즉, 사람과 같은 대답을 만들어 내기 위해 Human Preference를 고려하여 학습을 한 것이다. RLHF(Reinforcement Learning form Human Feedback) 아래 내용은 openAI에서 제안한 Fine-Tuning Language Models from Human Preferences 논문에서 가져온 내용에 기반한다. 1. Supervised Fine-Tuning (SFT) 인간이 의도하는 것을 학습시키기 위해 인간 Labeler 또는 Trainer가 선별한 적은 양의 샘..

한빛미디어에서 출간된 개발자를 위한 실전 선형대수학. 데이터 사이언스 분야와 머신러닝, 딥러닝 등에서 반드시 필요한 선형대수학 개념을 중요한 것만 쏙쏙 뽑아 이론을 이해하기 쉽게 설명하고, 파이썬 코드로 구현하는 방법까지 기술해놓았다. 나또한 현업에서 선형대수학 개념을 접할일이 많은데, 그때 그때마다 개념을 구글링해서 찾아보는데 딱 간결하게 정리된 문서가 별로 없었어서 애를 먹고 있었다. 그런데 이번에 출간된 "개발자를 위한 실전 선형대수학" 책은 알고있던 기존 개념들이나 새로운 개념들을 번거롭게 찾을 필요 없이, 실전에 필요한 내용 위주로 담겨져있고, 복습하는데 많은 시간을 쏟지 않도록 해주는 책이라 좋은 것 같다. 이 책에서는 몇몇 주요 방정식을 암기하거나 추상적인 증명을 파고드는 그런 접근법이 아니..

push 또는 pull 할 때 아래와 같은 에러가 났다. fatal: refusing to merge unrelated histories 이는 git에서 서로 관련 기록이 없는 다른 프로젝트를 병합할 때 이런 에러가 뜬다고 한다. 그래서 이를 허용해주려면 쳤던 명령어에서 아래와 같은 명령어 옵션을 붙여준다. --allow-unrelated-histories

이 책에서는 생성형 AI가 나의 페어 프로그래밍 상대가 된다. 깃허브 코파일럿과 ChatGPT가 코드를 제안하고, 질문에 답하고, 간단한 애플리케이션까지 만들어준다고 한다. 이와 관련하여 간단하고 다양한 실습을 통해 업무 효율성을 향상시키기 위한 인사이트까지 제공한다. 책에서 다루는 주제는 소프트웨어 개발에 AI를 활용하는 방법, 셀 스크립팅 명령, 깃 명령, 일반적인 알고리즘, RxJS 학습, 앵귤러 HttpClient, 정규 표현식, 데이터 생성, 애자일 프로젝트 관리, 애플리케이션 만들기 등에 대한 내용을 다루고 있다. 이 책을 보며 어떤 소프트웨어를 개발하든 상관 없이 각자 선호하는 언어로 실습을 따라하면 된다고 한다. 특히 AI 도구는 다양한 활용 사례가 있는데, 예를 들면 일련의 입력과 요구 ..

얼마 전 현재 Grepp 이라는 회사의 CTO로 계시는 한기용님 강연을 들었다. 한기용님은 컴퓨터공학 학, 석사를 마치고 삼성에서 일하시다가 미국으로 넘어 가신 후 스타트업 창업도 해보시고, 야후에서도 일하시고, 여러 경험들이 많으신 분이다. 예전에 어떤 강연을 보다가 알게되어 그 뒤로 계속 글들을 팔로우업 하고 있는데, 이번 기회에 들은 강연에서 인상 깊게 들은 이야기들을 정리해보고자 한다. 이상적인 커리어는 무엇일까? 다수의 개발자가 생각하는 이상적인 커리어 경로는 개발을 손에서 떼지 않고, 새로운 기술을 계속해서 배우고 싶다고 생각한다. 한기용님이 생각하시는 이상적인 커리어는 기술 지향적인 사람이 되지 말자는 것이었다. 중요한 것은 결과 지향적인 사람이 되어야 한다는 것. 결과 지향적인 사람이란? ..