IT/IT Infra

NPU_프로그래밍 뿐만 아니라 반도체부터 AI에 최적화 할 수 없을까요?" 리벨리온 박성현 대표

FRONTI 2023. 2. 13. 00:27

https://www.youtube.com/watch?v=R4FgWhj8Qgs&t=222s 

GPNPU
NPU 다양한 모델이 매핑되는지

x축으로 가는 것은 안 좋은 것

y축은 올라가면 좋은 것

뭔가 플렉서블해지면 비용을 지불해서 나빠지는 것이 있음

미래 나올 모델까지도 돌릴 수 있어야한다는 목표하에 계속 발전

GPU는 오랜 역사가 있다. 쿠다 eco 시스템이 잘 구축되어 있다
하지만 NPU는 진짜 새로운 것이라 어지간한 효과배수 3배 가지고는 그냥 GPU로 간다고 한다

GPNPU보다는 에너지 효율성을 살릴려고 노력함
CPU로 NPU를 대비할 수 있을 것이라 생각 할 수 있을 것이라 생각했지만 아니였다
GPU 잘못 써버리면 회사가 유명해지지만 쓰면 쓸 수록 적자가 날 수도 있다
그래서 쓰면 쓸수록 비용을 아낄 수 있는 것을 개발하고자함

멀티코어 아키텍쳐로 찢어놓음
이 TCC는 GPNPU의 작은 부분 느낌