3년 차에 접어들면서

3년차에 들어서면서 드는 생각

  MOMO, 글쓴이는 3년 차, embedded AI model 개발자다. 이제 이 분야가 어떻게 돌아가는지가 아주 조금은 보인다. 우선 간략하게 정리해보자면, 돈 벌 방법이 안보인다. 즉, 생성형 AI가 아닌 edge device에서 무엇인가를 하기 위해서 방향성이라는 것을 잡아야 하는데, 그 방향성을 잡기가 쉽지 않다. 왜 방향성을 잡기가 쉽지 않냐하면 기술만으로는 가치를 창출하기 쉽지 않기 때문이다. 좀 더 풀어서 설명해 보자면 이런 거다. computer vision ai를 적용한다는 것은 카메라에 sensing 기술이 확장됨 그 이상도 그 이하도 아니다. 그 센싱된 정보를 어떻게 활용할 것인가에 대한 답이 나와야 하는 데, 그게 없기 때문에 방향성을 잡기가 쉽지 않다는 말이다. AI cctv, AI box에 model을 최적화하고 올리는 일을 하지만, 그 일만으로는 가치가 발생하기 어렵다. 왜냐, 우선 비용이 비싸다. 그리고 그 정보를 실시간으로 활용해서 가치를 창출해줄 만한 분석 task가 감이 오질 않는다. 그 분석 task는 또 다른 이야기니까. 그래서 요즘 고민이다. 내가 하고 있는 기술은 발전 방향이 무궁무진한 것은 알겠고, 적용될 것도 알겠고, 가야할 길도 많이 남았고, 지금이 중요한 성장 시기인 것도 알겠는 데, 돈을 어떻게 벌지? 그걸 모르겠다.

---

현재 필요한 것은 무엇일까

  한 3년 째 논문 트렌트를 따라가다 보면, 대략은 어떻게 돌아가는 지 알게된다. 요즘 트렌드? 생성형 AI, LM 에 초점이 맞춰져 있다. 내가 하는 분야랑은 거리가 멀다..하하 여튼. 뭐 vision 쪽에서는 LM을 사용해서 멀티모달로 동시에 여러 task를 진행하고자 하는 시도들이 보인다. 물론 text와 음성 쪽을 동시에 연결하고자하는 시도들도 보이고. 그렇지만 edge device는 아직 시기 상조인 것 같긴하다. 뭐 각설하고 그래서 무엇을 해야하나?

  지금 이야말로 기초를 돌아봐야할 때가 아닌가 싶다. 그 기초는 무엇을 말하는 가하면, 우선 수학 중 선형 대수 정도는 다시 알아야할 것 같고. 코딩 공부도 다시할 필요가 보인다. 뭐 파이썬, C++, cuda C 이렇게 3가지로 코딩을 하지만, 디자인 패턴이나, 코딩에 대한 깊은 공부가 필요한 것 같다. 여기서 말하는 코딩 공부는 디자인 패턴, 구조에 대한 공부, 잘 짜진 코드를 보여 그를 처리하는 공부 등을 말한다. 뭐 기본 문법이야 다 알테니까. 그리고 os와 컴퓨터 구조, GPU 하드웨어에 대한 공부가 필요하다. 먼저, 내가 있는 분야는 최적화가 정말 중요하다. 모델 개발자는 기본적으로 추론 코드를 짜야하고 그 추론 코드를 최적화하여 짜려면, 하드웨어에 대한 기본적인 지식이 필요하다. 특히 cuda C로 코딩을 해야한다면 더더욱 필요한 요소이다. os와 컴퓨터 구조를 다시 봐야하는 이유는 결국에 최적화는 속도와 메모리를 관리한다는 것이기 때문에 '관리'에 특화된 운영체제에 대한 내용이 필요하다는 게 결론이다. 여튼 내년에는 또 바뀌겠지만. 지금까지는 이렇다. 그리고 마지막으로 기초를 탄탄히 하기 위해, 연산자들에 대한 정확한 이해를 해야할 것 같다. depth wise conv, point wise conv, delated conv 등등을 포함해서 왜 나왔고, 무엇을 해결하고자 했으며 어떻게 작동하고, 그 과정에서 메모리를 어떻게 가져오는 지에 대한 것들? 생각보다 해야할 게 많다. 이번 3년 차는 기본을 탄탄히 하는 1년이 될 것 같다.