작년 11월 쯤 Claude에서 Model Context Protocol 이라는 걸 새로 발표를 했습니다. (당시 아무도 관심이 없었던 것 같습니다.)  그러나 최근 들어 급격하게 MCP가 주목 받고 있는데요. 그 이유로 많은 분들이 Agent가 어쨌든 본 궤도에 올라섰고, 이에 따라서 Agent를 개발하는데 있어서 실제로 사용하는 외부 데이터 소스 및 도구들과 LLM 어플리케이션을 효과적으로 연결 시켜줄 새로운 표준이 필요했기 때문이라는 생각이 듭니다.  즉, Model Context Protocol(MCP)은 LLM(Large Language Model) 애플리케이션과 외부 데이터 소스 및 도구들 간의 원활한 통합을 가능하게 하는 개방형 프로토콜입니다. AI 기반 IDE를 구축하든, 채팅 인터페이스를..

최근 LLM 개발에서 Qwen 과  QwQ 와 같은 모델들로 새로운 강자로 부상한 중국의 Alibaba가 이번에 새로운 모델을 발표했습니다. 이 모델의 이름은 바벨입니다. Babel의 arixiv 논문 제목은 Babel: Open Multilingual Large Language Models Serving Over 90% of Global Speakers 인데요 말 그대로 90% 이상의 화자가 사용할 수 있도록 여러 언어로 학습된 모델이라고 합니다. (인간은 바벨탑을 짓고 신의 권위에 도전했다가 바벨탑은 무너지고 그 이전까지 같은 언어를 사용했던 인간들은 서로 다른 언어를 하게 되어 갈등과 분쟁을 반복했다고 전해지죠.) 사실, 현재 LLM들은 영어나 중국어를 기반으로 프랑스어나 독일어 와 같은 발달된 국..

최근 AI 모델 분야에서는 경량화와 효율성을 동시에 갖춘 오픈 웨이트(open-weight) 모델들이 각광받고 있습니다. 이 글에서는 단일 GPU 또는 TPU 환경에서도 우수한 성능을 발휘하는 두 모델, DeepSeek-R1과 Gemma 3의 성능과 품질을 비교해보고자 합니다.DeepSeek-R1은 낮은 자원으로도 빠르고 안정적인 추론을 제공하는 경량 모델로, 실시간 응용 프로그램이나 임베디드 시스템에 적합한 솔루션으로 주목받고 있습니다. 반면, Gemma 3는 Google의 최신 연구 성과를 바탕으로 개발된 모델로, 1B부터 27B까지 다양한 크기로 제공되며, 최대 128K 토큰의 긴 컨텍스트, 멀티모달 입력 지원, 140개 이상의 언어 지원 등 뛰어난 확장성을 자랑합니다.실제 사용 환경에서 어떤 성능..

최근 인공지능 분야에서 자연어처리(NLP)는 활발하게 연구되고 있는 영역 중 하나입니다. 특히 Transformer 구조의 등장으로 인해 언어 모델의 성능이 폭발적으로 발전하였고, 그 중심에 있는 모델 중 하나가 BERT입니다.이번 시리즈에서는 자연어처리를 처음 접하는 분들을 위해 다음과 같은 과정을 간단히 소개합니다. 오늘 다룰 내용은 Tokenization 입니다.  A. 토큰화가 왜 필요할까요?1. 컴퓨터는 글자를 직접 이해하지 못한다.AI도 결국 컴퓨터 프로그램이라 글자 자체를 이해하지 못합니다. 컴퓨터는 숫자만 이해하죠. 토큰화는 텍스트를 AI가 처리할 수 있는 숫자로 바꾸는 첫 단계입니다.예를 들어, "안녕하세요"를 컴퓨터에게 그냥 주면 이해하지 못하지만, 토큰화를 통해 [8275]와 같은 숫..

Installation우선은 이미 다운로드 받아 둔 Istio를 쓰기 때문에 Istio 설치 폴더에 있는 것을 사용할 수도 있다.cd istio-1.24.1/samples/addonskubectl apply -f . 위 폴더에 들어가면 kiali, jaeger, loki, prometheus, grafana 설치 파일들이 있다.설치를 해보았지만 버전은 최신이지만, 폴더명 samples처럼 말 그대로 가볍게 테스트해보는 용도의 설치 파일이었다.Default로 설정된 dashboard들도 별로 없다. 그래서 helm chart로 설치하는 것이 낫다.Add helm charthelm repo add prometheus-community https://prometheus-community.github.io/he..

Grafana에서 Alert rule을 설정해주기 전에 우선 팀즈에서 작업을 해주어야한다.Microsoft Teams1. 새 팀 만들기우선은 MS Teams에서 새 채널을 만들어야하고그 전에 새 팀을 만들어야한다. 새 팀을 누르고, 팀 이름을 입력하면2. 채널 만들기아래 그림처럼 "첫 번째 채널 이름 지정"에 이름을 적어주면팀즈에 채널이 생성된다. 3. Incoming Webhook 설치팀즈 좌측 앱 메뉴에서 Incoming Webhook을 설치한다.공식문서 참조: https://learn.microsoft.com/ko-kr/azure/data-factory/how-to-send-notifications-to-teams?tabs=data-factory 4. Webhook URL 생성하기알람이 뜰 채널을 ..