VIVO Wiki · 무료 공개 문서
지식 문서
궁금한 개념부터 읽고, 예제로 확인해 보세요. 모든 문서는 로그인 없이 읽을 수 있습니다.
“로컬 LLM” 검색 결과 · 16개
- AI 시대에 Rust가 주목받는 이유와 Python 연동 구조
가비지 컬렉터 없이 메모리 안전성을 보장하는 Rust의 핵심 원리와, Python 병목 구간 가속 및 AI 코딩 에이전트의 컴파일러 가드레일로 활용되는 구조를 쉽게 살펴봅니다.
- RLHF 이후의 AI 패러다임: Jev의 보정된 의사결정
InstructGPT·GPT-4 공동 저자인 디오고 알메이다(TypeSafe AI CEO)의 AI Engineer 강연을 바탕으로, RLHF가 만든 인간 보조(Assistance) 시대의 한계와 보상 모델 비대칭성을 짚어 보고, Jev가 지향하는 보정된 의사결정(RLCD)과 스마트 소프트웨어 자동화 구조를 쉽게 살펴봅니다.
- nanoGPT로 배우는 GPT 밑바닥 구현 가이드
Andrej Karpathy의 Zero-to-Hero 강연을 바탕으로 문자 단위 토큰화, 바이그램 베이스라인, 인과적 셀프 어텐션과 트랜스포머 블록을 조립해 소형 GPT를 직접 구현하는 과정을 쉽게 설명합니다.
- Grok Bot 101: 가상 컴퓨터와 영구 메모리의 AI 팀원
단순 대화형 챗봇을 넘어 지속적인 기억과 클라우드 가상 컴퓨터를 갖춘 Grok Bot의 기본 개념과 첫 업무 위임 방법을 살펴봅니다.
- Grok Bot 201: 멀티 봇 오케스트레이션과 자율 루틴
단일 개인 봇을 넘어 무인 자율 루틴, 멀티 모델 팬아웃, 스스로 진화하는 웹사이트 루프를 구현하는 고급 협업 기법을 다룹니다.
- REA로 앱 구조를 쉽게 분석하기
소스 코드가 없는 완성된 앱에서 기능의 호출 구조를 추적해 AI 에이전트용 분석 근거로 추출하고 클린룸 방식으로 재구현하는 REA의 원리와 실전 활용법을 살펴봅니다.
- Few-Shot으로 원하는 형식 한 번에 뽑아내기
장황한 규칙 설명 대신 1~2개의 입출력 예시를 제공하여 일관된 출력과 형식을 유도하는 Few-Shot 프롬프트 원리와 작성법을 살펴봅니다.
- Temperature와 Top-P로 LLM의 창의성 조절하기
AI가 다음 단어를 선택하는 확률 분포와 Temperature, Top-P(핵 샘플링) 파라미터로 환각을 줄이고 창의성을 조절하는 방법을 다룹니다.
- Laya로 로컬 에이전트의 의사결정 분리하기
TypeSafe Jev 규격과 호환되는 421M 로컬 의사결정 모델 Laya를 Ollama에 연결하고 하네스 정책과 결합하는 방법을 살펴봅니다.
- Jetson의 코딩 에이전트 개발 환경
호스트 개발 머신의 코딩 에이전트를 SSH로 Jetson에 연결하고 일반 사용자 권한의 Docker와 디바이스 스킬로 엣지 런타임을 검증합니다.
- URL을 입력하면 일어나는 일: DNS와 TCP
브라우저가 주소를 IP로 바꾸는 DNS 조회부터 3-way 핸드셰이크와 TLS를 거쳐 HTTP 요청이 도달하는 과정을 짚어 봅니다.
- 음성 회의록 에이전트 파이프라인 구성하기
오디오 입력을 전사하고 긴 텍스트를 나눈 뒤 구조화된 회의록으로 저장하는 단계별 파이프라인을 설계합니다.
- LLM과 AI 에이전트의 차이 이해하기
한 번 답하는 LLM 호출이 상태·도구·반복을 갖춘 AI 에이전트로 확장되는 구조를 살펴봅니다.
- MCP의 호스트·클라이언트·서버 구분하기
Model Context Protocol에서 사용자 애플리케이션과 연결 관리 계층, 도구·리소스 제공자의 책임을 나눠 봅니다.
- Ollama로 로컬 LLM 실행 구조 이해하기
Ollama의 CLI·로컬 API·모델 저장소가 연결되는 흐름을 확인하고 가장 작은 채팅 요청을 실행합니다.
- RAG의 색인과 검색·생성 분리하기
문서를 벡터로 색인하는 준비 단계와 질문 시 관련 문맥을 검색해 답을 만드는 실행 단계를 구분합니다.