자연어 처리를 위해 만들어진 Transformer 가 최근 Vision 분야에 적용되기 시작했는데, 아래 사이트에서 CIFAR-10 이미지 분류에 적용된 Vision Transformer 의 Self-Attention 패턴을 시각화해서 보여주고 있다. epfml.github.io/attention-cnn/ Visualization of Self-Attention Maps epfml.github.io

며칠 전에 RLKorea(Reinforcement Learning KR) 에서 진행된 "2020 나 혼자 RL 한다" 에서 발표 영상이 공유되었다. 관련된 링크를 블로그에 공유해둔다. 이따금씩 느끼는 거지만 정말 좋은 세상에 살고있다 :) 발표 영상 중 개인적으로 관심있는 부분은 강화학습 기반 object tracking 을 이용하여 bbox labeling 하는 에이전트를 만드는 것 이였는데, 아직 강화학습에 대한 이해가 제대로 가지 않아서 10% 정도 밖에 이해가 가지 않았다. 다시 강화학습 제대로 공부하고 살펴봐야겠다. 2021년에는 강화학습을 공부하는 걸로... (라고 말하려 했지만 누군가 나에게 아직 2020년 안지났다고 했다 ㅋㅋㅋ) 올해가 가기전 시작하는 걸로... RLKorea 와 관련된 ..

한빛미디어의 혼자 공부하는 시리즈, 일명 혼공시리즈에서 머신러닝 + 딥러닝 편이 나왔다. 이 책은 고등학교 문제집처럼 그림들이 많아서 한치의 지루함도 허용하지 않기 때문에 책장을 계속 넘기게 되는 그런 책이다. 이론과 방식 설명에 적절한 예시를 들어가며 설명하고 있으며, 충분히 혼자서 딥러닝 실무를 익힐 수 있게끔 구성되어있다. 좋은 점이 있다면 수식을 될수있으면 배제하고 그림과 예제를 통해 직관적으로 공부할 수 있도록 수록해놓았는데, 처음 딥러닝을 접하는 사람들에게 제격이다. 반면 딥러닝을 처음 접하지 않는 상태에서 기초 이상의 지식을 습득하고 싶은 사람들에게는 다른 책을 추천하고 싶다. 학습 로드맵을 살펴보면 굉장히 귀엽고 아기자기하게 그려놨는데, 건너뛰어도 좋은부분과 꼭 읽고 넘겨가야 하는 부분을 ..

www.nvidia.com/en-us/industries/ NVIDIA AI Computing Solutions for Industries Enabling businesses of every scale with world-leading AI computing platforms. www.nvidia.com 위 사이트에서 AI Industry 분야가 너무 잘 정리 되어있어서 아래와 같이 키워드 별로 정리를 하였다. Consumer Internet Media Streaming Social Media Ecommerce Delivery Services Energy Upstream Midstream Downstream Utilities Finance Accelerated Computing for Trading Co..

카메라 캘리브레이션(Camera Calibration)이란? 실 세계는 3차원으로 이루어져있지만 이를 카메라로 촬영하게 되면 2차원 이미지로 투영된다. 이 때 실제 3차원 위치 좌표는 이미지 상에서 어디에 위치하는지 기하학적으로 계산할 때 영상을 찍을 당시의 카메라 위치 및 방향에 의해 결정된다. 하지만 실제 이미지는 사용된 렌즈, 대상과의 거리 등의 내부 요인에 영향을 받기 때문에 3차원 위치 좌표는 영상에 투영된 위치를 구하거나 역으로 영상 좌표로부터 3차원 공간좌표를 복원할 때 이러한 내부 요인을 제거해야 정확한 계산이 가능해진다. 이러한 내부 요인의 파라미터 값을 구하는 과정을 카메라 캘리브레이션이라고 한다. 즉, 사진이나 비디오를 촬영하는 실제 카메라 모델을 단순화 시킨 핀홀(Pinhole) 카..

unknown filesystem type 'exfat' 위와 같이 exfat 포맷의 외장하드가 우분투 환경에서 마운트가 안될 때 아래와 같이 패키지를 설치해주면 된다. $ sudo apt-get install exfat-fuse exfat-utils

Norm 은 절대값에서 출발하여 추상화된 개념으로 벡터의 길이 혹은 크기를 측정하는 방법이라고 할 수 있다. Norm 이 측정한 벡터의 크기는 원점에서 벡터 좌표까지의 거리 혹은 Magnitude 라고 한다. 선형대수학에서의 Norm의 정의는 아래와 같다. $ V $를 $ F $상에서의 벡터공간이라고 하면, $ \left \| \cdot \right \| :V \rightarrow F $ 가 $ u, v\in V $ 와 $ k\in F $ 에 대해서 다음 세 조건을 만족시키면 $ \left \| \cdot \right \| $ 을 $ V $ 상에서 Norm 이라고 정의한다. (i) 정부호 : $ \left \| u \right \| \geq 0 $ 이고, $ u = 0 \Leftrightarrow \le..

한빛미디어에서 출간된 초소형 머신러닝 TinyML 에 대한 리뷰를 적어보고자 한다. 이 책은 8월달에 페이스북 이벤트로부터 맹윤호 저자님께 무상으로 제공 받은 책이다 :) 바쁜 일정으로 인하여 이제야 리뷰를 쓰는 것에 대해 죄송함과 감사함을 담아 리뷰를 쓴다. 딥러닝 및 머신러닝 분야에서는 딥러닝 모델 자체를 경량화 하는 것도 중요하지만 모델 성능을 향상시키기 위해서는 모델을 최적화 하여 엣지 디바이스에서 동작하도록 하는 것도 매우 중요하다. 또한 이는 실제 현업에서도 중요하게 다루고 있는 부분이며, 여태 까지 이러한 최적화와 관련된 책을 본적이 없었는데, 이런 책이 출간되어 굉장히 감사하게 생각하고 있다. TinyML 이라 함은 에너지 비용이 1mW 미만인 하드웨어 플랫폼으로 정의 할 수 있는데, 이를..

본 포스팅은 아래 유튜브를 보다가 Pose Refinement 와 관련된 논문을 알게 되어 자세 추정 결과를 정제하는 방법에 대해 정리해본다. 논문은 참고로 서울대 문경식님의 논문이다. Moon, Gyeongsik, Ju Yong Chang, and Kyoung Mu Lee. "Posefix: Model-agnostic general human pose refinement network." Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition. 2019. 나중에 적용해봐야겠따. 또한 참고로 유튜브 링크는 아래와 같으며, Human Pose Estimation 을 처음 접하는 사람들에게 도움이 될만한 좋은 자료이다. [A..

에러 환경 Windows 10 64bits CUDA 10.2 cudnn 8.0 TensorRT 7.2.1.6 Visual Studio 2019 위와 같은 환경에서 TensorRT 를 사용했을 때 cublas 와 관련된 에러가 다음과 같이 발생했었다. Assertion failed: cublasStatus == CUBLAS_STATUS_SUCCESS C:\source\rtSafe\cublas\cublasLtWrapper.cpp:279 Aborting... Builder timing cache: created 395 entries, 722 hit(s) C:\source\rtSafe\cublas\cublasLtWrapper.cpp (279) - Assertion Error in nvinfer1::CublasL..

티스토리 오디세이 스킨 정말 예쁘다, 하지만 수정 및 삭제 버튼이 없어서 매번 글 관리에 가서 수정을 하였는데 HTML 코드를 고쳐보기로 했다. 아래와 같이 스킨 편집 (HTML)에 들어가서 ctrl + F 로 "이미지가" 라는 단어를 찾으면 아래와 같은 코드가 나오는데, 아마 210번째 줄에서 수정 삭제에 대한 ~ 태그를 추가해주면 된다. 추가해야할 소스코드는 다음과 같다. 맘껏 복붙해서 추가하길 바란다. 다른 블로그에서는 코드를 복사하지 못하게 이미지로 첨부하고 있어서 공유 한다. 수정 삭제 이렇게 적용하게 되면 아래와 같이 글을 클릭 했을 때 수정 및 삭제 버튼이 생긴다.

평소에 남들이 가지고 있는 생각이 궁금해서 에세이를 많이 읽는 편인데 개발자라는 타이틀을 달고 있으면서도 IT 에세이는 처음 접해봤다. 이 책은 한빛미디어에서 출간된 "개발 7년차 매니저 1일차" 라는 책인데 관리자의 입장에서 "좋은 관리자는 무엇인가" 라는 물음에 대답을 해주고 있는 책이며, 관리자가 아닌 개발자도 관리자를 이해하는데 도움이 될 수 있는 책이다. 또한 개발자가 꼭 알아야하는 소프트 스킬에 대해서도 다루고 있으며, 사람 및 조직 관리를 하는데 좋을 노하우들을 담고 있다. 개발자는 언젠가 관리자가 되는 시점이 오는데, 시니어 개발자로 남을 것인가, 관리자로 사람들을 매니징할 것인가에 대한 관점도 담고 있어서 주니어 개발자들도 읽으면 미래 커리어에 큰 도움이 될 수 있는 책이다. 주니어 입장..