플래티어의 X2bee 솔루션은 develop 부터 production 레벨까지, 최적의 개발 환경을 위해 무중단 배포를 지원합니다.무중단 배포무중단 배포란 말 그대로 신규 배포시 서비스가 중단되지 않도록 배포하는 기술이다.다시 말하면 서비스하는 application을 내리지 않고, 새로운 application을 올리는 것이다.이와 관련해 두 가지 종류가 있다.하나는 배포 전략에 관련된 것이다.신규로 배포를 하고 그 pod가 정상적으로 동작을 하면 서서히 트래픽을 이 신규 pod로 흘려보내는 측면에서 보는 무중단 배포인데, 이것은 Blue/Green 배포, Canary 배포, 우리가 선택 중인 Rolling Update가 여기에 해당한다. (배포 전략에 대해 정리가 잘 된 블로그: https://onlyw..

HuggingFace와 E-Commerce 관련된 자료들 혹은 사업들을 살펴보며상당히 재미있는 시도들을 많이 발견할 수 있었다. 특히 재밌는 사업 중 하나는 생성형 AI, 그 중에서도 Computer Vision 모델들을 이용한 것이다. YouTube의 썸네일에서부터, 간단한 숏폼, 쇼츠의 비디오까지도 AI가 만드는 세상이다. 그렇다면, E-Commerce의 영역에서도, 자사의 상품과 AI 모델을 손쉽게 합성할 수 있는 Workflow를 손쉽게 만들 수 있지 않을까?(물론 이미 많은 곳에서 도전하고 있는 영역이지만, ChatGPT 수준의 간편한 영역에 도달하지는 않았다. 그리고 비싸다 ..)WebUI & ComfyUICV 모델을 이용하는 가장 강력한 양대산맥의 Tool이라고 볼 수 있겠다.6개월 전만 해..

https://dev.to/datamonk_/how-deepseek-is-making-high-performance-ai-accessible-to-all-26fp How DeepSeek is Making High-Performance AI Accessible to AllAI research is evolving fast, but training massive models is still a tough challenge because of the...dev.toLow-Level에 대해서는 잘 모르지만재미있는 기사가 있어 살펴보고자 한다. DeepSeek가 LLM 및 AI를 강타하며, 이젠 비 전문가도 한 번 쯤 들어본 아키텍처로 떠오르고 있다.그러나 사실 DeepSeek의 강렬한 Contribusion은 ..

CDN 구성의 이점빠른 응답 속도 - 여러 서버에 콘텐츠를 배포하여 배포 지연시간을 최소화무중단 배포 - 정적 파일을 CDN에 저장하여 새 버전 배포 시에도 서비스가 중단 되지 않음서버 부하 감소 - 정적 리소스를 CDN이 제공하므로 서버 부담이 줄어듬캐싱 활용 - 반복 요청에 대한 응답 속도가 빨라지고 비용이 절감됨 배포전략, 파이프라인에서 CDN 관리 하는 방법별달리 특별한 방법이 있는건 아니고, 기본 아키텍처를 이해를 하고있어야 작업 포인트를 잡을 수가 있습니다.지금 관리하고 있는 프로젝트의 아키텍처 기본 구성은 아래와 같습니다.소스관리 깃프로젝트CI/CD 파이프라인 관리 젠킨스배포 환경 KubernetesCDN 관리 FTP로 정적 파일 배포 젠킨스 파이프 라인에서의 구성 및 워크플로 젠킨스 파이프..

데스크톱 애플리케이션을 만들기 위한 프레임워크다.https://v2.tauri.app/ Tauri 2.0The cross-platform app building toolkitv2.tauri.app  Backend : RustFrontend : webview를 통해 HTML, CSS, JS -> React.js, Next.js 등등 사용 가능 장점매우 작은 바이너리 크기 (Electron 대비 1/10 ~ 1/20 수준)높은 성능과 낮은 메모리 사용량Rust의 안전성과 성능 이점강력한 보안 기능 내장크로스 플랫폼 지원 (Windows, macOS, Linux)  개발자 관점에서의 장점npm 생태계 활용 가능웹 개발 경험을 데스크톱 앱 개발에 활용시스템 API에 대한 안전한 접근 제공커스텀 플러그인 개발 가..

먼저 window ai boost driver를 설치하고 적용해야한다. Intel® NPU Driver - Windows*This download installs Intel® NPU Driver - Windows* 32.0.100.3104 for Intel® Core™ Ultra processors.www.intel.com인텔 NPU 드라이버 설치/업데이트 단계설명인텔® NPU 드라이버를 설치하는 데 문제가 있습니다.NPU 드라이버를 설치하거나 업데이트하는 데 필요한 단계는 무엇입니까?해결 방법아래 단계에 따라 인텔 코어 울트라 프로세서(시리즈 1) 및 인텔® 코어® 울트라 프로세서(시리즈 2)용 인텔® NPU(인텔® AI Boost라고도 함) 드라이버를 설치하십시오.NPU 드라이버가 장치에 이미 설치되..

DeepSeek를 살펴보려면 좀 길다. 1. DeepSeek LLM (https://arxiv.org/pdf/2401.02954)2. DeepSeek MOE (https://arxiv.org/pdf/2401.06066)3. DeepSeek-V2 (https://arxiv.org/pdf/2405.04434)4. DeepSeek-V3 (https://github.com/deepseek-ai/DeepSeek-V3/blob/main/DeepSeek_V3.pdf)5. DeepSeek-R1 (https://github.com/deepseek-ai/DeepSeek-R1/blob/main/DeepSeek_R1.pdf) 전부 나름의 Contribution을 주장하고 있는데 ...오늘 살펴볼만한 것은 R1의 방법론이기 때..

Hugging Face의 Trainer는 매우매우 편리한 도구이지만 Tainer의 코드는 5천줄이 넘어갈 정도로 너무 거대하기 때문에다시 뜯어볼 염두가 나지 않아, 스스로 정리하려고 작성하였다.Hugging Face는 몇 가지 매우 간편한 툴을 제공한다 1. Automodel Class모델의 구조를 Transformers 라이브러리 속에 처박아 두었다.Automodel.from_pretrained(repo_id)로 호출 시model.safetensors와 config.json 파일을 읽어 적절한 모델에 파라미터를 적합시키는 작업을 수행한다.model = ModernBertModel.from_pretrained(save_dir) 이런 방식으로 적절한 모델이 있다면, 적절한 가중치를 가져와서 매핑한다.문제는..

이 글은 Rocky Linux와 같은 Red Hat 계열 운영 체제에서 Kickstart를 사용해 자동화된 무인 설치 환경을 구성하는 방법입니다. 최종목표는 Kickstart 템플릿을 작성 & Ansible에 결합하여 효율적인 환경을 구성하는 데 목적을 두고 있습니다.다음 단계에서는 Kickstart 템플릿을 Ansible과 통합하여 동적인 값 설정과 대규모 배포 환경에 적용 방안을 다룰 예정입니다.KickstartKickstart는 Red Hat 계열의 Linux 배포판에서 무인 설치를 자동화 하는데 사용되는 파일 기반의 설치 방식입니다. Kickstart를 정의하여 일관성 있는 시스템 설치가 가능합니다.특히 Kickstart는 Infrastructure as Code (IaC) 환경을 구성할 때 유..

먼저 compose ymal 파일에 path.repo 경로가 설정되어있어야한다.이 경로는 인덱스 snapshot 파일이 저장되는 위치이다. environment- path.repo=/mnt/snapshots volumes- /mnt/snapshots:/mnt/snapshots 이렇게 설정해놓으면 해당 디렉토리 경로에 snapshot 이 저장되도록 설정한 것이다.rebuild하고 opensearch dashboard - dev tool에 들어간다. PUT _snapshot/my_backup{ "type": "fs", "settings": { "location": "/mnt/snapshots", "compress": true }}아까 설정한 경로를 location 에 입력하고 해당 쿼리를 실..

상처를 많이 받아 감정이 들어간 워딩이 많이 들어감. 화풀이식으로 작성한 글.프로젝트를 수행하는데 SMTP 이 간단한 장르로 한달이상 애를 먹었다. 해서. 비슷한 일이 발생하면 빠르게 대응하기 위해서 이력과 기록물을 남긴다. 이는 보통의 수행 레벨에서 정보(부정확한)만을 가지고 해결하기 위한 혼자만의 처절한 싸움이며 해결 솔루션을 도출하기 위한 노력이다.첫번째 기본 정보SMTP를 진행하는데 전달 받은 내용은 고작 해봐야 아래와 같은 정보였다.smtp server : abc.smtp-domain.comsmtp port : 25smtp user : sendersmtp password : pw-samplesmtn sender : sender@domain.com 첫번째 허들이었다. 잘못된 정보.위와 같이 내용..

DeepSeek-V3는 6710억 개(토큰당 370억 개 활성) 파라미터를 탑재한 강력한 Mixture-of-Experts(MoE) 기반 언어 모델이다. 효율적인 추론과 비용 효율적인 학습을 위해 DeepSeek-V2에서 검증된 Multi-head Latent Attention(MLA)와 DeepSeekMoE 아키텍처를 적용했다. 또한 전문가 분산을 부가 로스 없이 구현하는 “auxiliary-loss-free” 접근법과 여러 토큰을 한 번에 예측하는 “multi-token prediction” 방식을 도입했다.이 모델은 14.8조 개에 달하는 다양한 고품질 토큰으로 사전학습을 진행했다. 이후 감독학습(Supervised Fine-Tuning)과 강화학습(Reinforcement Learning)을 통해..

Hard Negatives는 딥러닝 모델, 특히 검색 모델이나 임베딩 모델의 학습 데이터에서 의미적으로 정답과 비슷하지만 정답은 아닌 문서를 말한다.이들은 학습 데이터를 더욱 어려운 문제로 만들어, 모델이 단순한 학습 패턴에 의존하지 않고, 더 정교한 학습을 유도할 수있게 한다는 말이다. Hard Negatives란 무엇인가?Hard Negative 정의Hard Negatives는 쿼리(Query)와 양성 문서(Positive Sample) 사이의 유사한 맥락을 가지지만, 실제로는 정답이 아닌 문서이다. 예를 들어,Query: "Python 프로그래밍 기초 가이드"Positive: "Python 초보자를 위한 프로그래밍 입문서"Hard Negative: "Python 고급 프로그래밍 기법 소개"Hard ..

ES6부터 도입된 기능으로, 언어나 라이브러리 차원에서 제공되는 반복(iteration)과 비동기 흐름 제어를 유연하게 다룰 수 있게 해준다. [ 필요성 ]자바스크립트의 핵심 개념, 이터레이터와 제너레이터데이터 컬렉션을 효율적으로 다루기 위해 자바스크립트는 이터레이터(Iteratior)와 제너레이터(Generator)라는 두 가지 개념을 제공한다. 이터레이터는 "반복 가능한" 객체들을 위한 프로토콜을 정의하며, 제너레이터는 이터레이터를 사용하여 값을 순차적으로 생성하는 함수이다. 이 두 개념은 자바스크립트에서 비동기 처리, 데이터 스트림 처리 등 다양한 상황에서 유용하게 사용된다. [ 정리 ]1. 데이터를 순회하는 표준화된 방식 제공  2. 커스텀 반복 로직 구현  - 기본 자료구조 외에 사용자 정의 객..

프랑스어를 영어로 변역하고자 할 때, 인코더는 프랑스어를 표현하는 방법을 학습한 다음, 그 결과를 디코더에 보낸다. 인코더에서 학습한 표현을 입력받은 디코더는 최종적으로 영어로 변역한 문장을 생성한다. 어떻게 작동하는 걸까??  먼저 인코더 부터 알아야한다. 입력 문장 프랑스어는 가장 먼저 인코더에 들어간다.인코더는 여러 개의 층(레이어)를 쌓을 수 있다. 결과적으로 인코더는 무엇을 얻기 위한 작업일까?인코더는 표현 결과를 얻기 위한 작업을 수행한다.즉, 최초 인코더에 대한 입력값으로 문장을 넣게 되고, 최종 인코더의 결과로 입력 문장에 따르는 표현 결과를 얻는다. 여기서 말하는 표현 결과란 무엇일까?인간의 문장을 컴퓨터가 이해할 수 있도록 하려면 어떻게 변환해줘야할까?일단은 "숫자" 일거고... 문장을..

🚀 Quickstart | RxDB - JavaScript DatabaseWelcome to the RxDB Quickstart. Here we'll create a simple realtime TODO-app with RxDB to demonstrate the basic concepts.rxdb.infoRxDB가 Frontend에 적합한 이유RxDB(Reactive Database)는 NoSQL 데이터베이스로, UI 중심의 실시간 상태 변경 감지가 중요한 Frontend 애플리케이션에 최적화된 데이터베이스입니다.  기존 SQL이 Frontend에 적합하지 않은 이유초기 빌드 크기와 시작 시간SQL 데이터베이스는 초기 빌드 크기가 크며, 애플리케이션 시작 시간이 길어질 수 있습니다.Frontend 환경..

docker-compose.yamlservices: windows: image: dockurr/windows container_name: windows cap_add: - NET_ADMIN ports: - 8006:8006 - 3389:3389/tcp - 3389:3389/udp stop_grace_period: 2m restart: on-failure environment: VERSION: "win10" RAM_SIZE: "6G" CPU_CORES: "6" DISK_SIZE: "20G" KVM: "N" # KVM 비활성화 volumes: - ./win10:/storage..

useRouter() Hook을 사용한 클라이언트 사이드 리디렉션사용자가 버튼을 눌렀을 때 특정 페이지로 이동하도록 하고 싶을 때 사용한다.import { useRouter } from 'next/router';export default function Page() { const router = useRouter(); return ( router.push('/dashboard')}> Dashboard );} router.push('/dashboard')를 호출하면 /dashboard 페이지로 클라이언트 사이드에서 이동한다.장점: 사용자가 현재 보고 있는 페이지를 리로드하지 않고 이동 가능.활용 사례: 로그인 후 대시보드로 이동, 특정 버튼 클릭 시 이동 등.   next.co..

Next.js의 Dynamic Routes를 이해하기 쉽게 설명하겠습니다. Dynamic Segments (동적 세그먼트)설명: 경로 일부가 동적으로 변할 수 있도록 설정하는 방식파일명 규칙: 대괄호([ ])로 감싼 파일명 사용예: [id].js, [slug].js폴더 구조pages/ blog/ [slug].js매칭되는 경로/blog/a → slug = 'a'/blog/b → slug = 'b'코드import { useRouter } from 'next/router';export default function BlogPost() { const router = useRouter(); return Post: {router.query.slug};}출력 결과/blog/a → 화면에 Post: a/bl..

실행 환경 : MAC M2파이썬 버전 : Python 3.12.0 1.  pyinstaller 안써파이썬 패키징하면 pyinstaller 이 대표적이다.pytorch로 짧은 학습코드를 패키징하려고하는데 종속성 문제 때문에 약간의 씨름을 했었다. torch error : NameError name 'name' is not definedI'm currently attempting to create an executable using PyInstaller, but I've encountered an error : NameError: name 'name' is not defined caused by the line of code below. model = lp.stackoverflow.com정리하자면 다음과 같..