반응형

AI/LLM 4

실용주의 프로그래머: RAG와 함께하는 "순수한 텍스트의 힘"

텍스트는 지식을 오래도록 보존할 수 있는 최고의 방법입니다『실용주의 프로그래머』에서는 프로그래머가 다루는 핵심 자산은 코드뿐만 아니라 지식이라고 말합니다. 그리고 그 지식을 저장하고 공유하는 가장 효과적인 수단은 순수한 텍스트라고 강조하고 있습니다. 텍스트는 특정 프로그램이나 플랫폼에 종속되지 않기 때문에 시간이 지나도 쉽게 열어볼 수 있고, 다양한 도구와 연동하기도 수월합니다.예를 들어 XML, JSON, HTML과 같은 포맷은 모두 사람이 읽을 수 있으면서도 기계가 이해하고 처리할 수 있는 구조화된 텍스트입니다. 이런 포맷을 활용하면 설정, 데이터, 문서 등 다양한 정보를 오랫동안 안정적으로 관리할 수 있습니다.또한 텍스트는 개발 환경 전반에서 기본 단위로 사용됩니다. git diff, grep, a..

AI/LLM 2025.03.27

RAG (Retrieval-Augmented Generation)

RAG는 대규모 언어 모델(LLM)을 보완하기 위해 설계된 기술입니다. 이는 외부 데이터베이스의 검색 기능과 언어 생성 모델을 통합하여 신뢰성 있는 정보를 기반으로 높은 품질의 답변을 생성합니다.기존 언어 모델은 학습 데이터에 의존해 고정된 정보를 생성하는 데 반해, RAG는 실시간으로 외부 데이터를 검색하여 최신 정보와 풍부한 맥락을 반영합니다. 예를 들어, 특정 제품의 기술 문서를 요약하거나 최근 뉴스에 대해 설명하는 데 RAG는 기존 접근법을 능가하는 결과를 제공합니다.작동 원리: RAG의 두 축검색기(Retriever): 사용자의 질문을 기반으로 벡터 데이터베이스에서 관련 문서를 검색합니다. 검색기는 입력 질문을 벡터로 변환하고, 유사성을 비교하여 적합한 데이터를 탐색합니다. 이 과정에서 빠른 검..

AI/LLM 2025.01.23

LLM 컴파일러: 병렬 함수 호출의 새로운 패러다임

최근 대형 언어 모델(Large Language Models, LLMs)의 놀라운 발전은 단순한 콘텐츠 생성 능력을 넘어 복잡한 문제 해결로까지 확장되었습니다. 그러나 다수의 함수 호출을 효과적으로 수행하는 방법은 여전히 과제로 남아 있습니다. 이 문제를 해결하기 위해 UC 버클리 연구팀은 LLMCompiler라는 프레임워크를 개발했습니다. LLMCompiler란?LLMCompiler는 병렬 함수 호출을 통해 다수의 작업을 효율적으로 수행하도록 설계된 시스템입니다. 기존 방식인 ReAct가 순차적으로 함수 호출을 처리하던 것과 달리, LLMCompiler는 다음 세 가지 주요 구성 요소를 통해 병렬 처리를 구현합니다.Function Calling Planner 실행 계획을 작성해 의존성을 파악하고 작업을..

AI/LLM 2025.01.22

AI와 IoT의 만남: LLM 기반의 복잡한 작업 수행 사례

AI(인공지능)와 IoT(Internet of Things: 사물인터넷)는 현대 기술 환경에서 필수적인 두 축입니다. 하지만 이들의 통합은 여러 도전 과제를 동반합니다. "Orchestrating AI and IoT with LLM for Complex Task Execution" 논문은 이러한 도전 과제를 해결하기 위해 대규모 언어 모델(LLM)을 활용하는 방안을 제안하며, 이를 통해 복잡한 작업을 자동화하고 IoT 기기 간의 협력을 효과적으로 조율하는 방법을 제시합니다. 스마트 홈 관리 사례: IoT 디바이스 간의 협력논문에서는 스마트 홈 관리 시스템을 주요 사례로 제시합니다. 예를 들어, 아래와 같은 상황을 가정합니다: 문제 상황:사용자가 자연어로 다음과 같은 명령을 입력합니다: "저녁 7시에 스..

AI/LLM 2025.01.18
반응형