지식 문서

Max Kanat-Alexander의 AI Engineer 강연을 바탕으로 코드 품질의 본질인 시스템 이해와 안전한 변경, 4대 내구성 지표에 따른 일회용·지속형 소프트웨어 구분법, 그리고 엄격성 비용을 낮추는 4가지 엔지니어링 전략을 살펴봅니다.

가비지 컬렉터 없이 메모리 안전성을 보장하는 Rust의 핵심 원리와, Python 병목 구간 가속 및 AI 코딩 에이전트의 컴파일러 가드레일로 활용되는 구조를 쉽게 살펴봅니다.

InstructGPT·GPT-4 공동 저자인 디오고 알메이다(TypeSafe AI CEO)의 AI Engineer 강연을 바탕으로, RLHF가 만든 인간 보조(Assistance) 시대의 한계와 보상 모델 비대칭성을 짚어 보고, Jev가 지향하는 보정된 의사결정(RLCD)과 스마트 소프트웨어 자동화 구조를 쉽게 살펴봅니다.

단일 API 장애와 벤더 종속을 방지하고 비용을 70% 이상 절감하는 LLM 모델 라우터의 핵심 개념, OpenRouter 및 원티드 LaaS 아키텍처와 통합 결제 구조를 해설합니다.

Andrej Karpathy의 Zero-to-Hero 강연을 바탕으로 문자 단위 토큰화, 바이그램 베이스라인, 인과적 셀프 어텐션과 트랜스포머 블록을 조립해 소형 GPT를 직접 구현하는 과정을 쉽게 설명합니다.

단순 대화형 챗봇을 넘어 지속적인 기억과 클라우드 가상 컴퓨터를 갖춘 Grok Bot의 기본 개념과 첫 업무 위임 방법을 살펴봅니다.

단일 개인 봇을 넘어 무인 자율 루틴, 멀티 모델 팬아웃, 스스로 진화하는 웹사이트 루프를 구현하는 고급 협업 기법을 다룹니다.

소스 코드가 없는 완성된 앱에서 기능의 호출 구조를 추적해 AI 에이전트용 분석 근거로 추출하고 클린룸 방식으로 재구현하는 REA의 원리와 실전 활용법을 살펴봅니다.

스마트폰과 엣지 기기 SoC 내부의 CPU, GPU, NPU, ISP 역할 분담과 협업 메커니즘, 특화 가속기가 전력 효율을 높이는 원리를 알아봅니다.

단일 실리콘 칩에 CPU·GPU·NPU·메모리 컨트롤러를 통합한 SoC의 개념, 분리형 PC 및 MCU와의 차이점, 스마트폰과 엣지 기기에서 SoC를 쓰는 이유를 알아봅니다.

라이브러리 함수 아래 숨겨진 메모리 맵 주소와 GPIO 레지스터 직접 제어의 핵심 원리를 알아봅니다.

폴링이 입력을 놓치는 원인을 짚고 인터럽트의 기본 동작 원리, 우선순위 선점 및 안전한 핸들러 작성 규칙을 알아봅니다.

타이머 클럭 분주부터 자동 재장전과 비교 일치까지, 하드웨어 카운터로 정밀한 PWM 주파수와 듀티비를 생성하는 원리를 알아봅니다.

마이크로컨트롤러(MCU)의 내부 구성, MPU와의 차이점, 베어메탈 제어 구조와 펌웨어 개발 흐름을 알아봅니다.

순차 처리의 한계를 극복하고 문장 전체의 단어 간 연관성을 한 번에 파악하는 트랜스포머(Transformer)와 셀프 어텐션(Self-Attention)의 핵심 원리를 살펴봅니다.

사내 문서와 최신 지식을 AI 시스템에 연결할 때 RAG(오픈북 시험)와 파인튜닝(암기 시험)의 구조적 차이, 비용, 선택 기준을 비교합니다.

글자 수와 토큰의 차이, 대화가 길어질 때 앞 내용을 잊어버리는 컨텍스트 창의 구조적 원리와 슬라이딩 윈도우 관리법을 알아봅니다.

장황한 규칙 설명 대신 1~2개의 입출력 예시를 제공하여 일관된 출력과 형식을 유도하는 Few-Shot 프롬프트 원리와 작성법을 살펴봅니다.

AI가 다음 단어를 선택하는 확률 분포와 Temperature, Top-P(핵 샘플링) 파라미터로 환각을 줄이고 창의성을 조절하는 방법을 다룹니다.

TypeSafe Jev 규격과 호환되는 421M 로컬 의사결정 모델 Laya를 Ollama에 연결하고 하네스 정책과 결합하는 방법을 살펴봅니다.

JetPack 7.2.1의 PyNvVideoCodec 2.2와 DLPack 제로카피를 활용해 비디오 디코딩과 AI 모델 추론의 지연 시간을 최소화합니다.

호스트 개발 머신의 코딩 에이전트를 SSH로 Jetson에 연결하고 일반 사용자 권한의 Docker와 디바이스 스킬로 엣지 런타임을 검증합니다.

함수 호출에 따라 쌓이고 비워지는 스택과 동적으로 할당되는 힙의 차이를 이해하고 메모리 관리 원리를 살펴봅니다.

입력 크기 증가에 따른 연산 횟수의 변화를 Big-O로 분석하고 리스트와 집합의 탐색 비용 차이를 확인합니다.

독립된 메모리를 갖는 프로세스와 메모리를 공유하는 스레드의 차이를 이해하고 동시성과 병렬성을 구분합니다.

전체 테이블 스캔과 B-트리 인덱스 탐색의 비용 차이를 비교하고 인덱스 동작 원리와 설계 주의점을 알아봅니다.

브라우저가 주소를 IP로 바꾸는 DNS 조회부터 3-way 핸드셰이크와 TLS를 거쳐 HTTP 요청이 도달하는 과정을 짚어 봅니다.

오디오 입력을 전사하고 긴 텍스트를 나눈 뒤 구조화된 회의록으로 저장하는 단계별 파이프라인을 설계합니다.

상태를 읽고 갱신하는 노드와 조건부 엣지를 사용해 에이전트 반복과 종료 조건을 명시합니다.

체크포인트에 상태를 저장하고 interrupt로 실행을 멈춘 뒤 승인·수정·거부 결과로 재개하는 흐름을 설명합니다.

한 번의 요청을 구성하는 프롬프트·모델·검색·도구 실행을 트레이스로 연결해 실패 지점을 찾습니다.

LangChain Runnable을 파이프로 조합해 입력이 프롬프트와 모델, 출력 파서를 지나는 과정을 확인합니다.

한 번 답하는 LLM 호출이 상태·도구·반복을 갖춘 AI 에이전트로 확장되는 구조를 살펴봅니다.

Model Context Protocol에서 사용자 애플리케이션과 연결 관리 계층, 도구·리소스 제공자의 책임을 나눠 봅니다.

Ollama의 CLI·로컬 API·모델 저장소가 연결되는 흐름을 확인하고 가장 작은 채팅 요청을 실행합니다.

문서를 벡터로 색인하는 준비 단계와 질문 시 관련 문맥을 검색해 답을 만드는 실행 단계를 구분합니다.

모델의 도구 호출 제안, 실제 실행 결과 관찰, 다음 판단이 이어지는 에이전트 루프를 살펴봅니다.

정해진 선택지의 반복 판단을 Jev로 분리하고 생성형 LLM·정책 계층과 연결하는 하네스 구조를 살펴봅니다.

사람이 조작한 시연을 기록하고 데이터셋·정책 학습·로봇 배포로 이어지는 LeRobot의 작업 흐름을 살펴봅니다.

순서, 중복 허용 여부, 조회 방법을 기준으로 리스트·집합·딕셔너리를 선택합니다.

실행 파일과 설정을 담은 이미지가 컨테이너로 실행되는 과정을 직접 확인합니다.

여러 데이터 변경을 한 처리 단위로 묶고 COMMIT과 ROLLBACK의 차이를 확인합니다.

작업 트리, 스테이징 영역, 커밋을 구분하고 작은 저장소에 변경을 기록합니다.

요청과 응답 메시지를 읽고 브라우저가 웹 자원을 가져오는 흐름을 확인합니다.