LLM(Open AI) 12

ELK 란? (Elasticsearch , Logstash , Kibana, Beats ) 스택

회사에서 메세지 발송 간 ELK를 활용한 메세지 발송 처리량, 성공, 지연, 문제 등을 실시간으로 시각화하면서 배운 내용을 정리해보기로 하였다. ELK란?ELK는 세 가지 오픈소스 도구의 조합입니다:Elasticsearch (E): 검색 및 분석 엔진Logstash (L): 데이터 수집 및 처리 도구Kibana (K): 데이터 시각화 도구쉽게 비유하면:Logstash는 정보를 수집하는 '청소부'Elasticsearch는 수집된 정보를 저장하고 검색하는 '창고'Kibana는 저장된 정보를 보기 좋게 보여주는 '전시장' # Beats란?Beats는 서버에 설치하여 다양한 유형의 데이터를 Elasticsearch나 Logstash로 전송하는 경량 데이터 수집기입니다. 각각의 Beat는 특정 유형의 데이터 수집..

LLM(Open AI) 2024.11.18

[Python/AI] Hugging Face 감정 분석 웹 애플리케이션 코드 분석 - 2편

0.전체 코드https://hunseop2772.tistory.com/373 [Python/AI] Hugging Face와 Streamlit으로 구현하는 감정 분석 웹 애플리케이션 -1편 코드개요이번 포스팅에서는 Hugging Face의 Transformers 라이브러리와 Streamlit을 활용하여 감정 분석 웹 애플리케이션을 구현하는 방법을 다룹니다. 프로덕션 레벨의 코드 구조와 실제 구현 방법에 중점을hunseop2772.tistory.com 1. 프로젝트 아키텍처 분석1.1 전체 구조sentiment_analysis/├── src/│ ├── analyzer.py # 핵심 감정 분석 로직│ ├── utils.py # 유틸리티 함수│ └── app.py # ..

LLM(Open AI) 2024.11.17

[Python/AI] Hugging Face와 Streamlit으로 구현하는 감정 분석 웹 애플리케이션 -1편 코드

개요이번 포스팅에서는 Hugging Face의 Transformers 라이브러리와 Streamlit을 활용하여 감정 분석 웹 애플리케이션을 구현하는 방법을 다룹니다. 프로덕션 레벨의 코드 구조와 실제 구현 방법에 중점을 두어 설명하겠습니다.기술 스택Python 3.8+Hugging Face TransformersStreamlitPyTorchVS Code프로젝트 구조sentiment_analysis/├── .vscode/ # VSCode 설정│ └── settings.json├── src/ # 소스 코드│ ├── __init__.py│ ├── analyzer.py # 감정 분석 핵심 로직│ ├── utils.py ..

LLM(Open AI) 2024.11.16

Hugging Face 회원가입, 토큰 발급, APIKEY 발급 방법, 개발 환경 설정

허깅페이스란? 어원? https://hunseop2772.tistory.com/371 NLP와 Hugging Face 란 어원 등 사용법🌟 AI가 언어를 이해한다는 것상상해보세요. 여러분의 스마트폰이 "배고파"라는 메시지를 받았을 때, 가까운 맛집을 추천해주거나, 긴 문서를 몇 줄로 요약해주거나, 외국어를 실시간으로 번역hunseop2772.tistory.com  1️⃣ Hugging Face 계정 만들기 Step 1: 회원가입웹사이트 접속huggingface.co 방문우측 상단 'Sign Up' 클릭 필수 정보 입력Username: 영문/숫자 조합 (예: john_doe123)Email: 실제 사용하는 이메일Password: 8자 이상, 특수문자 포함이메일 인증인증 메일 확인링크 클릭하여 인증 완료 ..

LLM(Open AI) 2024.11.15

NLP와 Hugging Face 란 어원 등 사용법

🌟 AI가 언어를 이해한다는 것상상해보세요. 여러분의 스마트폰이 "배고파"라는 메시지를 받았을 때, 가까운 맛집을 추천해주거나, 긴 문서를 몇 줄로 요약해주거나, 외국어를 실시간으로 번역해주는 상황을... 이것이 바로 자연어 처리(NLP)의 마법입니다. NLP란 무엇일까요?자연어 처리(Natural Language Processing, NLP)는 컴퓨터가 인간의 언어를 이해하고 처리하는 기술입니다. 쉽게 말해서:카카오톡 자동 답장 추천네이버 검색어 자동 완성유튜브 자막 자동 생성 이 모든 것이 NLP 기술입니다. 🤗 Hugging Face의 이름과 역사이름의 유래Hugging Face라는 이름은 아이폰의 이모지 '🤗' (hugging face 이모지)에서 왔습니다. 이 이모지는 포옹하는 얼굴을 나타..

LLM(Open AI) 2024.11.14

Asterisk : AI 음성처리 시스템 흐름 및 설정

Asterisk와 AI 음성처리 시스템의 대화 흐름을 정리하면서 간단하게 예시를 들어보겠습니다. 사전에 Asterisk PBK 간단한 설명/설정과 구조에 대해서 확인하기 위해서는 하단 링크를 이동하세요 https://hunseop2772.tistory.com/363 Asterisk PBK 란? 간단한 설명/설정과 구조Asterisk PBX( 사설교환기) 1. 개요통신회사에서 음성 및 메세징 발송 관리를 하면서 이번에  Astrisk를 활용한 음성 메세지 시스템을 구축하면서 간단하게 공부한 내용을 정리하게 되었다. Asterisk란hunseop2772.tistory.com   1. 기본 대화 흐름도   2. 실제 대화 예시와 처리 과정[dialog-flow]; 1. 초기 인사exten => s,1,Answ..

LLM(Open AI) 2024.11.08

Asterisk PBK 란? 간단한 설명/설정과 구조

Asterisk PBX( 사설교환기) 1. 개요통신회사에서 음성 및 메세징 발송 관리를 하면서 이번에  Astrisk를 활용한 음성 메세지 시스템을 구축하면서 간단하게 공부한 내용을 정리하게 되었다. Asterisk란?오픈소스 PBX(Private Branch Exchange) 시스템1999년 Mark Spencer가 개발소프트웨어 기반 전화교환 시스템기존 하드웨어 기반 교환기의 대안  주요 특징유연한 확장성다양한 프로토콜 지원 (SIP, H.323, IAX2 등)무료 오픈소스커스터마이징 가능강력한 API 지원  통화 흐름 기본 구조주요 구성 요소Caller (발신자) : 통화를 시작하는 주체, 내선 전화기 또는 외부 전화 -> 수신 요청 !Channel Driver (채널 드라이버) : 다양한 통신 프..

LLM(Open AI) 2024.11.04

클로드 Claud AI 유료 결제 후기

이전에는 GPT 를 무료로 사용하였는데 클로드를 사용해보니 내가 사용하기 더 좋은거 같아서 클로드를 사용하다 자유롭게 많이 사용하고 싶어서 유료버전을 결제하게 되었다.  클로드란Open AI 개발자가 나와서 Anthropic 이라는 회사에서 만든 GPT 라고 생각하면 좋겠다.최신 언어 모델 기술을 기반으로 고급 텍스트 이해, 생성 능력을 갖추고 있어 개발에 많은 도움을 받고 있다. Claude 3 vs GPT-4성능 비교 Claude 3는 대부분의 컴퓨터 연산성능은 GPT-4와 비슷하거나 더 우수한 지표를 띈다. 영어가 아닌 언어로 물어보기, 대학 수준 지식과 추론, 코딩 능력 등에서 좀 더 높다. 그러나 수학 문제 해결에서는 GPT-4가 더 높은 점수이긴 하나 나는 코딩과 추론에 관한 질문을 더 많이하..

LLM(Open AI) 2024.09.30

LLM 이력서 생성기 AI 학습 과정

AI 학습 과정 설명AI 모델을 통해 사용자 맞춤형 이력서를 생성하는 과정은 데이터 수집, 전처리, 모델 학습, 그리고 텍스트 생성을 포함한 일련의 단계로 구성됩니다. 아래는 이러한 과정에 대한 구체적인 설명입니다.+--------------+ +--------------+| 사용자 입력 | ----> | AI 모델 |+--------------+ +--------------+ | | | API 호출 (POST 요청) | | ----------------------> | | | v ..

LLM(Open AI) 2024.07.04

포트폴리오 - LLM 파인튜닝 프로젝트 설명

표지 (Cover Page)프로젝트 이름: resumOpenAI 부제목: 사용자 맞춤형 이력서 생성기 프로젝트 구조소개 (Introduction)프로젝트 설명: resumOpenAI는 OpenAI의 GPT 모델을 사용하여 사용자의 정보를 기반으로 맞춤형 이력서를 생성하는 웹 애플리케이션입니다. 목적: 이력서 작성 시간을 단축하고, 사용자의 개인 정보를 반영한 고품질의 이력서를 제공하는 것을 목표로 합니다.  기술 스택 (Technology Stack)백엔드: Flask, Flask-CORS, OpenAI API 프론트엔드: React 기타 도구: Python, JavaScript, HTML, CSS 주요 기능 (Key Features)이력서 생성: 사용자 정보 입력을 통해 맞춤형 이력서를 자동으로 생성합..

LLM(Open AI) 2024.06.03

[LLM] 프로젝트를 위한 Open AI API Key 무료 발급 방법

이번에 개인 프로젝트로 내 정보를 기반으로 학습(파인튜닝)을 통해 LLM 방식을 활용하여 심도있는 이력서 및 해당 자소서에 맞는 내용을 작성 해주는 프로젝트를 진행중에 있다.  그 전에 Chat GPT의 기능을 활용하기 위해 Open AI API Key가 필요하다. 개인 프로젝트이고 돈을 쓰기가 좀 아까워 무료 발급 방법을 알게 되어 발급 방법을 정리하게 되었다. [ 사이트 ] https://platform.openai.com/api-keys  해당 주소로 이동한다. 이동 후 회원가입 및 로그인  [ 생성 방법 ]✔ 사전공지키 저장화면 나오면 무조건 저장하기!이 비밀 키를 안전하고 접근 가능한 곳에 보관하세요. 보안상의 이유로 OpenAI 계정을 통해 다시 볼 수 없습니다. 이 비밀 키를 분실한 경우 새..

LLM(Open AI) 2024.05.23

LLM (Large Language Model) 대규모 언어(라마인덱스, 랭체인) 간단

이번에 라마인덱스와 랭체인을 활용한 인공지능 프로그래밍에 대해서 공부를 하며 코드에 앞서 개요와 기본적인 내용에 대해서 정리한 내용이다. 구체적인 내용과 코드는 차 후 에 작성할 예정이다.  LLM (Large Language Model) 대규모 언어모델이란 ?  오랜 기간 동안 인터넷 같은 곳에 작성된  엄청나게 큰 규모의 데이터 세트에서 훈련 학습된다. 대규모 데이터 세트에서 얻은 지식을 기반으로 텍스트와 다양한 콘텐츠를 인식하고 요약, 번역, 예측, 생성할 수 있는 딥 러닝 알고리즘이다.  예를들면 ChatGPT와 같이 대규모 언어 모델의 애플리케이션 중 하나로 내 질문에 대한 내용을 예측하고 답을 추출해주며 코드까지 작성해준다. 대규모 언어 모델은  많은 텍스트가 비지도 학습(unsupervise..

LLM(Open AI) 2024.04.03