MLng - TensorRT / dev basicz

TensorRT
= 속도 개선/정확도 최적화 + GPU모델 inference(predict, generate) 실행
공식 ] https://blogs.nvidia.co.kr/2020/02/19/nvidia-tensor-rt/
블로그] https://blog.si-analytics.ai/32

1.
primitive : int, char, boolean
compound/ composite : class ; combi of prim
static : array
dynamic : linked list -> managing a memory heap
built in structure : list

2.
tensor fusion

3.
toolkit
library
https://stackoverflow.com/questions/3057526/framework-vs-toolkit-vs-library
A software development toolkit (SDK) : a set of software tools and programs provided by hardware and software vendors that developers can use to build applications for specific platforms. These providers make their SDKs available to help developers easily integrate their apps with their services.


4.
kernel : process-hardware interface

build란 소스코드 파일을 실행가능한 소프트웨어 산출물로 만드는 일련의 과정을 말한다. 빌드의 단계 중 컴파일 단계가 있음. 즉, 컴파일은 빌드의 부분집합이라 할 수 있다.

compile 이란 개발자가 작성한 소스코드를 바이너리 코드(기계어)로 변환하는 작업을 말한다. (목적파일이 생성됨) 즉, 컴퓨터가 이해할 이러한 작업을 해주는 프로그램을 가르켜 컴파일러(Compiler)라 한다.

link란 여러개로 분리된 소스파일들을 컴파일한 결과물들에서 최종 실행가능한 파일을 만들기 위해 필요한 부분을 찾아서 연결해주는 작업이다. 링크는 정적링크(static link)와 동적링크(dynamic link)가 있는데 정적링크란 컴파일된 소스파일을 연결해서 실행가능한 파일을 만드는 것이고, 동적링크란 프로그램 실행 도중 프로그램 외부에 존재하는 코드를 찾아서 연결하는 작업을 말한다.

5.
runtime binaries/ libraries : the files that your application needs to use at run-time to access the library functions. They are the files that contain the actual compiled code of the library that your application will call when it is executed.

6.
throughout : 통신에서 네트워크 상의 어떤 노드나 터미널로부터 또 다른 터미널로 전달되는 단위 시간당 디지털 데이터 전송으로 처리하는 양