지식 문서

스마트폰과 엣지 기기 SoC 내부의 CPU, GPU, NPU, ISP 역할 분담과 협업 메커니즘, 특화 가속기가 전력 효율을 높이는 원리를 알아봅니다.

단일 실리콘 칩에 CPU·GPU·NPU·메모리 컨트롤러를 통합한 SoC의 개념, 분리형 PC 및 MCU와의 차이점, 스마트폰과 엣지 기기에서 SoC를 쓰는 이유를 알아봅니다.

순차 처리의 한계를 극복하고 문장 전체의 단어 간 연관성을 한 번에 파악하는 트랜스포머(Transformer)와 셀프 어텐션(Self-Attention)의 핵심 원리를 살펴봅니다.

사내 문서와 최신 지식을 AI 시스템에 연결할 때 RAG(오픈북 시험)와 파인튜닝(암기 시험)의 구조적 차이, 비용, 선택 기준을 비교합니다.

글자 수와 토큰의 차이, 대화가 길어질 때 앞 내용을 잊어버리는 컨텍스트 창의 구조적 원리와 슬라이딩 윈도우 관리법을 알아봅니다.

AI가 다음 단어를 선택하는 확률 분포와 Temperature, Top-P(핵 샘플링) 파라미터로 환각을 줄이고 창의성을 조절하는 방법을 다룹니다.

TypeSafe Jev 규격과 호환되는 421M 로컬 의사결정 모델 Laya를 Ollama에 연결하고 하네스 정책과 결합하는 방법을 살펴봅니다.

JetPack 7.2.1의 PyNvVideoCodec 2.2와 DLPack 제로카피를 활용해 비디오 디코딩과 AI 모델 추론의 지연 시간을 최소화합니다.

호스트 개발 머신의 코딩 에이전트를 SSH로 Jetson에 연결하고 일반 사용자 권한의 Docker와 디바이스 스킬로 엣지 런타임을 검증합니다.

입력 크기 증가에 따른 연산 횟수의 변화를 Big-O로 분석하고 리스트와 집합의 탐색 비용 차이를 확인합니다.