반응형

AI 6

실용주의 프로그래머: RAG와 함께하는 "순수한 텍스트의 힘"

텍스트는 지식을 오래도록 보존할 수 있는 최고의 방법입니다『실용주의 프로그래머』에서는 프로그래머가 다루는 핵심 자산은 코드뿐만 아니라 지식이라고 말합니다. 그리고 그 지식을 저장하고 공유하는 가장 효과적인 수단은 순수한 텍스트라고 강조하고 있습니다. 텍스트는 특정 프로그램이나 플랫폼에 종속되지 않기 때문에 시간이 지나도 쉽게 열어볼 수 있고, 다양한 도구와 연동하기도 수월합니다.예를 들어 XML, JSON, HTML과 같은 포맷은 모두 사람이 읽을 수 있으면서도 기계가 이해하고 처리할 수 있는 구조화된 텍스트입니다. 이런 포맷을 활용하면 설정, 데이터, 문서 등 다양한 정보를 오랫동안 안정적으로 관리할 수 있습니다.또한 텍스트는 개발 환경 전반에서 기본 단위로 사용됩니다. git diff, grep, a..

AI/LLM 2025.03.27

2025년 3월, 4월 한국 벚꽃 개화시기 및 지역 별 개화 예상 지도

갤럭시 S25로 기기 변경을 하면서 얻은 해택 중 가장 마음에 부분 중 하나는 Gemini를 25년 9월까지 무료로 사용할 수 있는 것입니다. 심심해서 벚꽃 개화 시기를 조사해달라고 했는데 정말 알아서 리포트를 만들어 줍니다. 진짜인지 아닌지는 파악해 보지 않았지만 딥리서치 기능 자체가 외부 지식을 검색과 사유(Reasoning) 과정을 거치니 참고 자료 정도로 생각하면 되지 않을까 합니다. > Gemini는 웹사이트 39개를 조사하고 리포트를 작성했습니다.더보기보고서를 조사하는 동안 Gemini는 사용자 대신 웹을 검색하고 관련 웹사이트의 콘텐츠를 둘러봅니다. 2024 전국 벚꽃 개화 시기 및 추천 명소 - 보그 코리아 (Vogue Korea) vogue.co.kr/2024/03/15/2024-%EC%..

AI 2025.03.09

RAG (Retrieval-Augmented Generation)

RAG는 대규모 언어 모델(LLM)을 보완하기 위해 설계된 기술입니다. 이는 외부 데이터베이스의 검색 기능과 언어 생성 모델을 통합하여 신뢰성 있는 정보를 기반으로 높은 품질의 답변을 생성합니다.기존 언어 모델은 학습 데이터에 의존해 고정된 정보를 생성하는 데 반해, RAG는 실시간으로 외부 데이터를 검색하여 최신 정보와 풍부한 맥락을 반영합니다. 예를 들어, 특정 제품의 기술 문서를 요약하거나 최근 뉴스에 대해 설명하는 데 RAG는 기존 접근법을 능가하는 결과를 제공합니다.작동 원리: RAG의 두 축검색기(Retriever): 사용자의 질문을 기반으로 벡터 데이터베이스에서 관련 문서를 검색합니다. 검색기는 입력 질문을 벡터로 변환하고, 유사성을 비교하여 적합한 데이터를 탐색합니다. 이 과정에서 빠른 검..

AI/LLM 2025.01.23

LLM 컴파일러: 병렬 함수 호출의 새로운 패러다임

최근 대형 언어 모델(Large Language Models, LLMs)의 놀라운 발전은 단순한 콘텐츠 생성 능력을 넘어 복잡한 문제 해결로까지 확장되었습니다. 그러나 다수의 함수 호출을 효과적으로 수행하는 방법은 여전히 과제로 남아 있습니다. 이 문제를 해결하기 위해 UC 버클리 연구팀은 LLMCompiler라는 프레임워크를 개발했습니다. LLMCompiler란?LLMCompiler는 병렬 함수 호출을 통해 다수의 작업을 효율적으로 수행하도록 설계된 시스템입니다. 기존 방식인 ReAct가 순차적으로 함수 호출을 처리하던 것과 달리, LLMCompiler는 다음 세 가지 주요 구성 요소를 통해 병렬 처리를 구현합니다.Function Calling Planner 실행 계획을 작성해 의존성을 파악하고 작업을..

AI/LLM 2025.01.22

LLM 기반 IoT 기기 제어와 SmartThings의 변화 가능성

AI와 IoT의 만남: LLM 기반의 복잡한 작업 수행 사례에서 살펴본 논문은 LLM을 기반으로 IoT 기기를 제어할 수 있는 방법을 제시합니다. 제안된 방식은 삼성 SmartThings와 같은 기능을 획기적으로 변화할 수 있는 잠재력을 가지고 있는 것 같아 어떤 변화를 가지고 올지 짧게 생각해 보았습니다.SmartThings에서 LLM 적용 가능성1. 스마트폰에서 프롬프트 UI를 활용한 IoT 기기 제어 및 앱의 필요성 감소현재의 SmartThings 앱은 특정 기기를 제어하거나 시나리오를 설정하기 위해 다수의 클릭과 화면 전환이 필요합니다. 하지만 LLM 기반 시스템에서는 사용자가 자연어로 프롬프트를 입력하는 것만으로 다양한 기기를 제어할 수 있습니다. 이를 통해 별도의 앱을 탐색하거나 설정을 기억할..

AI 2025.01.21

AI와 IoT의 만남: LLM 기반의 복잡한 작업 수행 사례

AI(인공지능)와 IoT(Internet of Things: 사물인터넷)는 현대 기술 환경에서 필수적인 두 축입니다. 하지만 이들의 통합은 여러 도전 과제를 동반합니다. "Orchestrating AI and IoT with LLM for Complex Task Execution" 논문은 이러한 도전 과제를 해결하기 위해 대규모 언어 모델(LLM)을 활용하는 방안을 제안하며, 이를 통해 복잡한 작업을 자동화하고 IoT 기기 간의 협력을 효과적으로 조율하는 방법을 제시합니다. 스마트 홈 관리 사례: IoT 디바이스 간의 협력논문에서는 스마트 홈 관리 시스템을 주요 사례로 제시합니다. 예를 들어, 아래와 같은 상황을 가정합니다: 문제 상황:사용자가 자연어로 다음과 같은 명령을 입력합니다: "저녁 7시에 스..

AI/LLM 2025.01.18
반응형