안녕하세요. 이번에 네이버가 출시한 HyperCLOVA X SEED에 대해서 소개해보고자 합니다. 네이버가 이번에 HyperCLOVA X SEED를 출시하면서 "소버린 AI 생태계 구축을 위한 중요한 발걸음입니다. 소버린 AI의 구현은 어느 한 기업이나 국가가 혼자 이룰 수 없는 거대한 과제입니다. 네이버는 다른 기업들이 더 강력해지기를 바라며, 소버린 AI 생태계 조성을 위해 HyperCLOVA X SEED를 오픈소스로 공개합니다." 라는 말을 했는데 여기서 소버린 AI란 '자주적인', '주권이 있는' 이라는 의미의 소버린(Sovereign)에 AI(인공지능)을 붙인 단어로, 일반적으로, 특정 국가 또는 조직이 자국 내에서 독립적으로 운영하고 통제할 수 있는 인공지능 시스템을 의미합니다. 최근 여러 ..

현상Next.js 프로젝트 안에서 pnpm 명령어를 사용 시 계속 package.json에 계속"packageManager":"pnpm@10.8.1+sha512.c50088ba998c67b8ca8c99df8a5e02fd2ae2e2b29aaf238feaa9e124248d3f48f9fb6db2424949ff901cffbb5e0f0cc1ad6aedb602cd29450751d11c35023677"이런 코드가 자동으로 생긴다. → pnpm을 사용하지 않는 팀원들이 많은데 이런 게 생기는 게 싫다. 이유를 봤더니 corepack에는 기본적으로 pnpm을 설치하지 않아도 pnpm을 사용할 수가 있는데, 이 때 corepack이 자동으로 사용한 이 특정 버전의 pnpm을 package.json에 pin 해버린다. 해결..

서두지인도 아니고 아무 관련도 없기에, 홍보를 위한 글은 아니고 그냥 플래티어 회사 근처에서 내돈내산 맛집 소개글입니다. 점심때는 11시37분 이후에 도착하면 무한정 웨이팅해야해서빈자리가 많은 저녁때 주로 혼밥을 하러 가는 곳입니다.(평일 점심 때 한 번 일찍 가봤는데 11시37분쯤에 만석... 11시38분에 오신 분은 30분 기다림;;;) 6개월전까지는 구내식당처럼 요일별 메뉴를 딱 하나만 정해서 팔던 식당이었는데바로 옆 카페 (만렙커피였다가 다른 카페로 바뀌었던 곳)을 터서 식당을 넓히더니이제 그날그날 지정된 메뉴가 아닌, 메뉴에서 고를 수 있는 (a la carte) 식당으로 바뀌었습니다. 저는 일주일에 한두번은 저녁에 여기서 혼밥을 하기에모든 메뉴를 다 먹어본 기념으로 후기를 남기겠습니다.참고로 ..

현상IDC에 있는 오래된 서버를 AWS에 백업을 하려고 하는데 계속 백업 중간에 실패가 났다.이것저것 진단을 하다가 평상시에도 CPU 점유율이 높다는 점이 이상하여CPU를 가장 많이 차지하는 프로세스를 조회해보았다.ps aux --sort=-%cpu | head -10결과 중 CPU 점유율 1위를 잡아먹고 있는 프로세스는 바로 이것[root@lion user]# ps aux --sort=-%cpu | head -10USER PID %CPU %MEM VSZ RSS TTY STAT START TIME COMMANDdcos 38763 1599 13.1 6130220 4294892 ? Ssl 2022 26521848:55 /tmp/kdevtmpfsi...저 dc..

이 글은 Fluentd를 Kubernetes 클러스터 내부에 배포해서 Spring Boot 어플리케이션 로그를 수집하고 OpenSearch로 전송하는 구조 구성을 다룹니다. 최종 Next.js Nest Rust 등을 추가적으로 다룰 예정. 1. 아키텍처 구성도 2. 쿠버네티스 내부에 구성하기2.1. create namespacekubectl create namespace logging-dev 추가된 것을 확인 2.2. fluentd-dev.yaml아래의 내용을 kubectl apply -f fluentd-dev.yaml 하면 추가는 잘 될 것이다.---apiVersion: v1kind: ConfigMapmetadata: name: fluentd-config namespace: logging-dev ..

Nexus NPM 설정기NPM 패키지 관리를 하기 위한 Nexus Repository Manager 사용 방법에 대해 소개합니다.Nexus는 NPM 저장소를 Hosted, Proxy, Group의 3가지 타입으로 분리하여 관리 할 수 있도록 지원하고 있습니다. 이를 통해서 내부 패키지를 직접 배포하고 캐싱하여 엔드포인트를 제공할 수 있습니다. 아래에서 설정 방법과 적용 내용 및 기대 효과에 대해 다루어보겠습니다.1. Nexus 저장소 타입 및 설정 방법NPM 설정을 위해 Nexus에서는 3가지 저장소 타입을 사용합니다.HostedProxyGroup Hosted 저장소 생성Hosted는 내부에서 직접 생성한 NPM 패키지를 저장하는 공간입니다. 내부 업무자나 CI/CD 파이프라인 등에서 배포한 패키지를..

이전에 NVIDIA Llama Nemotron Reasoning Models과 관련된 포스팅을 한적이 있습니다. NVIDIA Llama Nemotron Reasoning Models의 몇몇 학습 방법은 DeepSeek-R1 등과 같은 여타 다른 모델들의 학습 방법과 큰 차이가 존재하진 않습니다. 그러나 모델의 아키텍처는 차이가 있는데 그것이 바로 NAS(Neural Architecture Search) 입니다.  NAS는 Arxiv에 게재되어 있는 PUZZLE: DISTILLATION-BASED NAS FOR INFERENCE-OPTIMIZED LLMS(Nvidia, 2025) 에서 제안된 커스터마이징 구조입니다. 그래서 이번 포스팅에서는 해당 논문을 리뷰해보고자 합니다.  Large language m..

안녕하세요 이번에 Nvidia 가 R1보다 성능이 좋다고 주장하는 모델인 라마-3.1-네모트론-울트라-253B-v1이 출시되었습니다. 해당 모델은 라마-3.1-405B-인스트럭트 모델을 기반으로 제작되었다고 합니다. Nvidia에서 작성한 출시 글을 보면, 이 모델을 제작하게 된 이유를 명확하게 작성하고 있는데요.  현재, AI의 발전은 Agent에 초점을 두고 이루어지는데요. 특히, 여러 기업들이 생산성 향상이라는 목표를 가지고 Agent를 앞다투어 개발하고 있습니다. AI 에이전트는 다양한 데이터 포인트와 동적 환경 속에서 발생하는 문제들을 해결하기 위해 고도의 추론 능력을 필요로 합니다. 또한 복잡한 시나리오에 대해 신속하고 논리적인 결정들을 내릴 수 있으며, 이를 통해 비즈니스의 민첩성과 전략적 ..

H100 GPU 장비에서Docker를 사용하기 위한 설정들이다. 기존에 알고 있던 설정들을 다 수행했지만 제대로 작동하지 않는다.아무래도 H100 Architecture 혹은 NVLink 같은 다뤄보지 않은 것에서 문제가 발생하는 것 같다. 1. nvidia-smi & nvcc 정상 작동.# nvidia-smiThu Apr 10 04:09:12 2025 +-----------------------------------------------------------------------------------------+| NVIDIA-SMI 550.54.15 Driver Version: 550.54.15 CUDA Version: 12.4 ||----------..

원인Host machine OS에서 sudo update -y를 한다는 것이실수로 Jenkins docker container 내부에서 sudo update를 했다가먼가 내부 권한 설정이 초기화되고 망가지면서 Jenkins 자체가 다운되버렸다.이 Jenkins는 먼가 버전 업데이트를 하거나 잘못 건드리면 망가지는 경우가 있다.물론 volume mount를 해놨기 때문에 데이터는 그대로 있다.복구한 방법을 공유한다.복구기존에 쓰던 docker-compose.yml은version: "2"services: jenkins: image: jenkins/jenkins:jdk17 restart: always user: root container_name: jenkins volumes: ..

딥시크 R1의 등장은 세상을 깜짝 놀라게 했는데요. 미국은 중국의 AI를 견제하기 위해서 고성능 칩들에 대한 수출을 통제하고 있던 중에 미국의 고성능 LLM 과 유사하거나 더 높은 성능의 모델을 세상에 내놓음으로써 사람들은 깜짝 놀랄 수 밖에 없었습니다.  그런, 딥시크가 이제는 R1의 후속으로 R2의 출시가 임박했다는 증거가 arXiv에 게재되었는데요 바로, Inference-Time Scaling for Generalist Reward Modeling 입니다.   Reinforcement learning (RL) has been widely adopted in post-training for large language models (LLMs) at scale. Recently, the incentiv..

Object storage with Web UI큰 용량의 파일을 object storage에 파일을 저장하고브라우저에서 그 파일 목록을 확인할 수 있는 도구로는최근 몇 개월전에 출시한 AWS Amplify의 Next.js를 위한 S3 Storage 오픈소스도 있겠고가장 많이 사용되고 있는 MinIO를 사용할 수도 있겠고, 다른 여러 대안이 있을 수 있다. 그러나 MinIO의 UI는 APGL-v3 라이센스로 수정을 해서 사용할 수 없다.그러나 Rclone은 MIT license로 맘대로 UI를 바꿀 수가 있다.그래서 이 글에서는 이미 존재하는 web UI를 보유한 RClone을 이용해 보려한다.RClone 코드는 Go로 짜여져있고, 현재도 꾸준히 업데이트 되지만,RClone을 위한 React로 짜여진 We..

Figma-MCP가 최근에 공개가 되었는데요. MCP는 이전에 몇 차례 다루었기에 아래의 게시글을 참고해주시면 이에 대한 내용이 궁금하시다면, 아래의 게시글을 참고해주세요. https://x2bee.tistory.com/478 MCP (Model Context Protocol) 소개작년 11월 쯤 Claude에서 Model Context Protocol 이라는 걸 새로 발표를 했습니다. (당시 아무도 관심이 없었던 것 같습니다.)  그러나 최근 들어 급격하게 MCP가 주목 받고 있는데요. 그 이유로 많은 분들x2bee.tistory.comhttps://x2bee.tistory.com/480 MCP를 Claude Desktop으로 간단히 구현해보자.Claude Desktop을 활용하여 간단하게 MCP를 구..

Gaudi2에서는 vLLM을 통해서 서빙하는 것이 가능합니다. 그렇기에 이를 활용하여 서빙하는 방법에 대해서 소개해보고자 합니다.  https://github.com/HabanaAI/vllm-fork GitHub - HabanaAI/vllm-fork: A high-throughput and memory-efficient inference and serving engine for LLMsA high-throughput and memory-efficient inference and serving engine for LLMs - HabanaAI/vllm-forkgithub.com  하바나 공식 문서 : https://docs.habana.ai/en/latest/PyTorch/Inference_on_PyTorc..

온프레미스와 EC2 등 다양한 환경에서 Docker 컨테이너를 운영하는 시스템이 점점 많아짐에 따라 관리해야 하는 컨테이너의 수가 기하급수적으로 증가하고 있으며, 이를 효율적으로 모니터링하고 관리할 수 있는 도구가 필요해졌습니다. 이를 해소 하기 위해서 관리도구를 찾아 보았습니다. 그 중에서 Docker 관리 도구인 Rancher, Dockge, Portainer를 알아보면서 적용하는 과정을 공유합니다. 1. Rancher – Kubernetes 중심 관리 도구장점 : 쉽고 빠른 설치 , Kubernetes 클러스터 지원 그리고 By SUSE단점 : 생각보다 무거움 그리고 단순한 도커 관리용으로 부담스러움 Kubernetes를 주로 운영한다면 낫배드2. Dockge – 가벼운 컨테이너 관리 도구 장점 :..

검색 품질을 높이기 위해서는 텍스트의 정확한 분석이 필수입니다. 특히 한국어는 띄어쓰기만으로 의미를 구분하기 어렵기 때문에 형태소 분석이 중요합니다. 이번 글에서는 OpenSearch의 내장 분석기인 nori_analyzer를 사용하여 형태소 분석과 중복 단어 제거를 효율적으로 처리하는 방법을 소개합니다.형태소 분석기: Nori AnalyzerNori Analyzer는 Elasticsearch와 OpenSearch에서 기본 제공하는 한국어 형태소 분석기로, 텍스트를 의미 단위(형태소)로 쪼개줍니다.1. 중복 단어 제거 필요성형태소 분석 과정에서 특정 위치에서 중복된 토큰이 생성될 수 있습니다. 예를 들어, 동의어 필터와 함께 사용하면 동일한 의미를 갖는 단어들이 같은 위치에서 중복 생성될 수 있습니다. ..

문제개발기 서버로 사용하는 on-premise 서버에서 application을 배포하고Nginx의 .conf 파일을 통해서 URL을 정해주고 있는데기존 Next.js application을 잘 뜨는데신규 Next.js application은 browser에서 502 에러가 났다.이것저것 해본후 원인은 header size의 문제였다.Header size현재는 Nginx의 proxy버퍼 사이즈를 늘리고 Nginx 문제를 해결한 후지만새로 배포한 사이트의 헤더 사이즈를 한 번 보자.에러가 났던 사이트curl -I -s -w '%{size_header}\n' https://new.example.com 결과HTTP/1.1 200 OKDate: Wed, 26 Mar 2025 08:49:06 GMTContent-T..

Create appmkdir sveltekit-hello-worldnpx sv create .으로 hello-world를 생성한다. 옵션에는 pnpm으로 설치하게 선택하였다. .dockerignore 생성→ 다 때려 넣어준다Dockerfile.git.gitignore.gitattributesREADME.md.npmrc.prettierrc.eslintrc.cjs.graphqlrc.editorconfig.svelte-kit.vscodenode_modulesnpm-debug.logbuildpackage.env* !.env.*.set마지막 줄은 있다가 사용할 것이라 예외 처리 dependency 설치pnpm add @sveltejs/adapter-node --save-dev svelete.config.js fi..

웹 애플리케이션을 개발할 때 클라이언트에게 일관된 형식의 응답을 제공하는 것은 매우 중요합니다. 오늘은 러스트(Rust)에서 이를 구현하는 ResponseDto 패턴에 대해 알아보겠습니다. ResponseDto란 무엇인가?ResponseDto는 제네릭 타입 파라미터 T를 사용하는 응답 데이터 전송 객체(Data Transfer Object)입니다.이 패턴은 API 응답 형식을 표준화하여 코드의 일관성을 높이고 클라이언트 측에서의 응답 처리를 단순화합니다.  먼저 전체 코드를 드리겠습니다. 찬찬히 읽어보고 아래에 세부적인 설명을 보이면 이해가 잘 되실겁니다.impl ResponseDto { pub fn builder() -> ResponseDtoBuilder { ResponseDtoBui..

IndexingData 라는 러스트 구조체를 정의해보겠습니다. 이 구조체는 검색 인덱싱과 관련된 데이터를 표현하기 위한 것입니다. 기본구조pub struct IndexingData { // 필드들...} 여기서, pub 키워드는 이 구조체가 공개되어 있어 다른 모듈에서도 접근할 수 있음을 의미합니다.  먼저 완성된 구조체를 보여드리겠습니다. #[derive(Debug, Deserialize, Serialize, Clone, PartialEq)]pub struct IndexingData { #[serde(skip_serializing_if = "Option::is_none")] pub id: Option, #[serde(skip_serializing_if = "Option::is_no..