본문 바로가기

DevOps/Elastic Stack

(4)
ElasticSearch 기초 문법 사용법 + Postman에서 테스트 하는 방법 :: DANIDANI 기본적으로 ElasticSearch의 사용방법은 RDB과 큰 틀은 유사하다. CRUD RDB ElasticSearch READ SELECT GET UPDATE UPDATE PUT CREATE INSERT POST DELETE DELETE DELETE 1. ElasticSearch 문법 사용법 전체 조회 GET _search { "query": { "match_all": {} } } 특정 Index(ex. test)에 대해서 조회 GET test/_search { "query": { "match_all": {} } } 가장 기본적인 search - 밑에 두 코드 같은 결과 GET story/_search { "query": { "match": { "buse": "1" } } } GET story/_sear..
Logstash로 MySQL과 AWS ElasticSearch 연동 + Kibana 사용 :: DANIDANI 지난 포스팅에서는 AWS ElasticSearch 구축과 기본 세팅을 하였습니다. 2021.04.11 - [DevOps/Elastic Stack] - AWS ElasticSearch 구축 및 기초 세팅 :: DANIDANI 이번에는 MySQL에 있는 데이터를 준실시간으로 Logstash를 사용하여 AWS ElasticSearch와 연동해보겠습니다! 1. Logstash 설치 on linux sudo rpm --import https://artifacts.elastic.co/GPG-KEY-elasticsearch cd /etc/yum.repos.d sudo vi logstash.repo logstash.repo에 아래 내용 작성(new file) [logstash-7.x] name=Elastic repos..
AWS ElasticSearch 구축 및 기초 세팅 :: DANIDANI 1. ElasticSearch 란? 아파치 루씬 기반의 검색 엔진이다. 자바로 개발되어 있으며 오픈 소스로 활용이 가능하다. 2. ElasticSearch 특징 분산 방식 페타바이트의 데이터 처리가 가능하다. 역색인(inverted index) 방식 키워드를 통해 문서를 찾아내는 방식이다. 아주 빠른 전체 텍스트 검색이 가능하다. 문서에 나타나는 모든 고유한 단어 목록을 만들고, 각 단어가 발생하는 모든 문서를 식별한다. 실시간에 가까운 검색 제공, 빠르다 해쉬테이블 방식이어서 검색시 O(1)의 효과를 낸다 RDB 같은 경우 O(n) 기타 기본 기능 - 리밸런싱 및 라우팅은 자동 수행, 복원력, 인덱스 수명 관리, 데이터 롤업 등 3. ElasticSearch 구조 인덱스(색인) ex. 고객 인덱스, 주..
검색 엔진 원리 / Elastic Search vs Solr Search :: DANIDANI 검색 엔진(search engine) 이란? 웹에 존재하는 많은 양의 정보 중에서 사용자가 원하는 정보만을 여러 웹 사이트나 웹 페이지 등에서 검색해 주는 시스템이나 프로그램 등을 통틀어 말한다. 검색 엔진 원리(로봇 검색 엔진) 1. Crwaling: 정보 찾기 크롤러(또는 스파이더)란 웹상의 문서나 이미지, 영상 등을 주기적으로 검색하고 취합하여, 자동으로 데이터베이스화시키는 프로그램으로 봇(Bot)이라고도 부릅니다. google의 크롤러 이름은 Goolgebot, naver의 크롤러 이름은 Yeti 크롤러가 웹사이트를 옮겨 다니면서 정보를 수집한다. 새로운 웹페이지나 기존의 웹페이지지만 업데이트된 정보가 있으면 방문을 하게 된다. 이때, 공개된 사이트의 정보만 수집하는데 이는 크롤러가 robots...