IT 347

AutoRAG 사용시 주의사항 (1)

1. AutoRAG 설치 시 주의해야 할 주요 사항: (1) 한국어 버전 설치: AutoRAG를 한국어로 사용하기 위해서는 반드시 한국어 버전으로 설치해야 합니다. 설치 명령어에 [ko]를 포함시켜야 합니다. pip install AutoRAG[ko]  (2) JDK 설치: konlpy 라이브러리 사용을 위해 JDK(Java Development Kit)를 반드시 설치해야 합니다. 예를 들어, MacBook Pro M2에서는 JDK 17 설치로 문제없이 작동했다고 합니다. (3) 환경 변수 설정: .env 파일에 필요한 API 키 정보를 입력해야 합니다. 특히 업스테이지 임베딩 모델 사용을 위해 업스테이지 API 키 정보를 반드시 입력해야 합니다. (4) 임베딩 모델 추가: AutoRAG 실행 전에 업스..

IT 2024.08.30

AutoRAG 사용방법 가이드

AutoRAG는 Retrieval-Augmented Generation(RAG) 시스템을 자동화하는 강력한 도구입니다. 이 글에서는 GitHub의 AutoRAG-template을 기반으로 AutoRAG의 설치부터 사용까지 상세히 알아보겠습니다. 1. 준비 단계 1.1 환경 설정 GitHub 저장소 클론: 터미널에서 다음 명령어를 실행합니다. git clone https://github.com/Marker-Inc-Korea/AutoRAG-template.git>  작업 디렉토리 이동: 클론한 저장소로 이동합니다.cd AutoRAG-template  가상 환경 생성: Python 가상 환경을 만들어 프로젝트를 격리합니다.python -m venv autorag_env  가상 환경 활성화:Windows: au..

IT 2024.08.30

오늘의 단상_AI 에이젼트 개념과 주요전략

1. 개념:  AI 에이전트는 환경과 상호 작용하고 데이터를 수집하며 특정 목표를 달성하기 위해 자율적으로 작업을 수행하도록 설계된 소프트웨어 프로그램입니다. 이들은 수집한 데이터를 기반으로 결정을 내리고 성능을 최적화하기 위해 행동을 조정할 수 있습니다.  2. 주요특징: 주요 특징은 다음과 같습니다: (1) 자율성: AI 에이전트는 목표나 작업이 주어지면 인간의 개입 없이 독립적으로 작동합니다.  (2) 데이터 수집: 이들은 센서나 소프트웨어 인터페이스를 사용하여 주변 환경에서 정보를 수집합니다.  (3) 의사 결정: AI 에이전트는 수집된 데이터를 분석하여 정보에 입각한 결정을 내리고 최상의 결과를 예측합니다.  (4) 적응성: 이들은 학습하고 시간이 지남에 따라 행동을 업데이트하여 성능을 향상시킬..

IT 2024.08.18

프롬프트 캐싱기술 마스터하기 : 최적화를 위한 효과적인 전략

소개인공지능의 끊임없이 진화하는 세계에서 프롬프트 캐싱은 API 사용을 최적화하는 강력한 기능으로 등장했습니다. 프롬프트 캐싱은 AI 모델이 API 호출 간의 컨텍스트를 기억할 수 있게 하여 반복 작업의 비용을 크게 줄이고 성능을 향상시킬 수 있습니다. 이 블로그 게시물에서는 프롬프트 캐싱의 개념을 탐구하고 그 효과를 높이기 위한 다양한 전략을 살펴보겠습니다.프롬프트 캐싱 이해하기프롬프트 캐싱은 AI 모델이 자주 사용되는 컨텍스트를 저장하여 프롬프트를 효율적으로 재사용할 수 있게 하는 기술입니다. 이를 통해 동일한 정보를 반복적으로 처리할 필요가 없어져 응답 시간이 빨라지고 비용이 절감됩니다. 프롬프트를 캐싱함으로써 개발자는 AI 모델에 더 많은 배경 지식과 예제 출력을 제공하여 성능과 정확성을 향상시킬..

IT 2024.08.16

AEO 전략

답변 엔진 최적화(AEO)  전략빠르게 변화하는 디지털 환경에서 답변 엔진 최적화(AEO)는 온라인 가시성을 높이기 위한 중요한 전략으로 부상했습니다. 서치엔진의 SEO에 상응하는 개념으로 등장한 AEO는 ChatGPT, Google Bard, Microsoft의 Bing Chat과 같은 AI 기반 검색 어시스턴트가 점점 더 보편화됨에 따라 AI 생성 응답에 나타나도록 콘텐츠를 최적화하는 측면에서 그 어느 때보다 중요해졌습니다. 이 글에서는  주요 AEO 회사들이 집중하는 상위 5가지 전략을 살펴봅니다.1. 사용자 의도 이해하기효과적인 AEO의 기초는 사용자 의도를 이해하는 데 있습니다. 이는 사용자가 질문할 때 무엇을 찾고 있는지 파악하기 위해 검색 쿼리와 사용자 행동을 분석하는 것을 포함합니다. 기본..

IT 2024.08.15

벡터전환의 자동화 과정

개요Pinecone는 대규모 벡터 데이터를 효율적으로 저장하고 검색할 수 있는 강력한 벡터 데이터베이스 플랫폼입니다. 이 글에서는 KJV Bible Verses를 기준으로, 특히 Apostle Paul's 13개 서신을 중심으로 은혜복음에 속하는 설교문서와 설교영상에 나오는 성경 구절을 벡터로 전환하는 과정을 자동화하는 방법을 단계적으로 소개합니다. 이 과정은 "rightly dividing the word of truth"를 기준으로 진행됩니다.1단계: 데이터 수집 및 전처리데이터 수집KJV Bible Verses 중 Apostle Paul's 13개 서신을 포함한 설교문서와 설교영상 자료를 수집합니다.설교문서는 텍스트 형식으로, 설교영상은 자막이나 스크립트 형태로 준비합니다.데이터 전처리수집한 텍스트..

IT 2024.08.12

Pinecone 사용방법

개요Pinecone는 대규모 벡터 데이터를 효율적으로 저장하고 검색할 수 있는 관리형 벡터 데이터베이스 플랫폼입니다. 이 글에서는 KJV Bible Verses를 기준으로, 특히 Apostle Paul's 13개 서신을 중심으로 은혜복음에 속하는 설교문서와 설교영상 자료를 벡터로 생성하고 Pinecone을 활용하여 저장하는 방법을 단계적으로 소개합니다. 이 과정은 "rightly dividing the word of truth"를 기준으로 진행됩니다.1단계: 데이터 수집 및 전처리데이터 수집KJV Bible Verses 중 Apostle Paul's 13개 서신을 포함한 설교문서와 설교영상 자료를 수집합니다.설교문서는 텍스트 형식으로, 설교영상은 자막이나 스크립트 형태로 준비합니다.데이터 전처리수집한 텍..

IT 2024.08.12

임베딩 모델 BERT 사용방법

개요BERT(Bidirectional Encoder Representations from Transformers)는 자연어 처리 분야에서 널리 사용되는 사전 학습된 언어 모델입니다. 이 글에서는 KJV Bible Verses를 기준으로, 특히 Apostle Paul's 13개 서신을 중심으로 은혜복음에 속하는 설교문서와 설교영상 자료를 벡터로 생성하는 방법을 단계적으로 소개합니다. 이 과정은 "rightly dividing the word of truth"를 기준으로 진행됩니다.1단계: 데이터 수집 및 전처리데이터 수집KJV Bible Verses 중 Apostle Paul's 13개 서신을 포함한 설교문서와 설교영상 자료를 수집합니다.설교문서는 텍스트 형식으로, 설교영상은 자막이나 스크립트 형태로 준비..

IT 2024.08.12

RAG 사용을 위한 벡터 데이터베이스 준비

개요RAG(Retrieval-Augmented Generation)는 대규모 언어 모델(LLM)의 성능을 향상시키기 위해 외부 데이터베이스에서 관련 정보를 검색하여 응답을 생성하는 기술입니다. 이 글에서는 KJV Bible Verses를 기준으로, 특히 Apostle Paul's 13개 서신을 중심으로 은혜복음에 속하는 설교문서와 설교영상을 벡터 데이터베이스로 만드는 방법을 단계적으로 소개합니다. 이 과정은 "rightly dividing the word of truth"를 기준으로 진행됩니다.1단계: 데이터 수집 및 준비데이터 수집KJV Bible Verses 중 Apostle Paul's 13개 서신을 포함한 은혜복음 관련 설교문서와 설교영상을 수집합니다.설교문서는 텍스트 형식으로, 설교영상은 자막이..

IT 2024.08.12

RAG 사용방법

개요AI 모델, 특히 대규모 언어 모델(LLM)은 때때로 부정확한 정보를 생성할 수 있습니다. 이를 'AI 환각(AI hallucinations)'이라고 부르며, 이러한 문제를 해결하기 위해 RAG(Retrieval-Augmented Generation) 기술이 사용됩니다. 이 글에서는 KJV Bible Verses를 기반으로 Moses의 법과 Apostle Paul의 13개 서신에서 동일한 질문에 대해 다른 답변을 제공할 때, RAG를 활용하여 질문의 성격을 파악하고, 왕국복음과 은혜복음 중 어느 쪽에 속하는지 분별하여 성경 구절을 찾아주는 방법을 단계별로 소개합니다. 기준은 "rightly dividing the word of truth"입니다.1단계: RAG의 기본 이해RAG의 개념RAG는 LLM의..

IT 2024.08.12