Hard Negatives는 딥러닝 모델, 특히 검색 모델이나 임베딩 모델의 학습 데이터에서 의미적으로 정답과 비슷하지만 정답은 아닌 문서를 말한다.이들은 학습 데이터를 더욱 어려운 문제로 만들어, 모델이 단순한 학습 패턴에 의존하지 않고, 더 정교한 학습을 유도할 수있게 한다는 말이다. Hard Negatives란 무엇인가?Hard Negative 정의Hard Negatives는 쿼리(Query)와 양성 문서(Positive Sample) 사이의 유사한 맥락을 가지지만, 실제로는 정답이 아닌 문서이다. 예를 들어,Query: "Python 프로그래밍 기초 가이드"Positive: "Python 초보자를 위한 프로그래밍 입문서"Hard Negative: "Python 고급 프로그래밍 기법 소개"Hard ..

ES6부터 도입된 기능으로, 언어나 라이브러리 차원에서 제공되는 반복(iteration)과 비동기 흐름 제어를 유연하게 다룰 수 있게 해준다. [ 필요성 ]자바스크립트의 핵심 개념, 이터레이터와 제너레이터데이터 컬렉션을 효율적으로 다루기 위해 자바스크립트는 이터레이터(Iteratior)와 제너레이터(Generator)라는 두 가지 개념을 제공한다. 이터레이터는 "반복 가능한" 객체들을 위한 프로토콜을 정의하며, 제너레이터는 이터레이터를 사용하여 값을 순차적으로 생성하는 함수이다. 이 두 개념은 자바스크립트에서 비동기 처리, 데이터 스트림 처리 등 다양한 상황에서 유용하게 사용된다. [ 정리 ]1. 데이터를 순회하는 표준화된 방식 제공  2. 커스텀 반복 로직 구현  - 기본 자료구조 외에 사용자 정의 객..

프랑스어를 영어로 변역하고자 할 때, 인코더는 프랑스어를 표현하는 방법을 학습한 다음, 그 결과를 디코더에 보낸다. 인코더에서 학습한 표현을 입력받은 디코더는 최종적으로 영어로 변역한 문장을 생성한다. 어떻게 작동하는 걸까??  먼저 인코더 부터 알아야한다. 입력 문장 프랑스어는 가장 먼저 인코더에 들어간다.인코더는 여러 개의 층(레이어)를 쌓을 수 있다. 결과적으로 인코더는 무엇을 얻기 위한 작업일까?인코더는 표현 결과를 얻기 위한 작업을 수행한다.즉, 최초 인코더에 대한 입력값으로 문장을 넣게 되고, 최종 인코더의 결과로 입력 문장에 따르는 표현 결과를 얻는다. 여기서 말하는 표현 결과란 무엇일까?인간의 문장을 컴퓨터가 이해할 수 있도록 하려면 어떻게 변환해줘야할까?일단은 "숫자" 일거고... 문장을..

🚀 Quickstart | RxDB - JavaScript DatabaseWelcome to the RxDB Quickstart. Here we'll create a simple realtime TODO-app with RxDB to demonstrate the basic concepts.rxdb.infoRxDB가 Frontend에 적합한 이유RxDB(Reactive Database)는 NoSQL 데이터베이스로, UI 중심의 실시간 상태 변경 감지가 중요한 Frontend 애플리케이션에 최적화된 데이터베이스입니다.  기존 SQL이 Frontend에 적합하지 않은 이유초기 빌드 크기와 시작 시간SQL 데이터베이스는 초기 빌드 크기가 크며, 애플리케이션 시작 시간이 길어질 수 있습니다.Frontend 환경..

docker-compose.yamlservices: windows: image: dockurr/windows container_name: windows cap_add: - NET_ADMIN ports: - 8006:8006 - 3389:3389/tcp - 3389:3389/udp stop_grace_period: 2m restart: on-failure environment: VERSION: "win10" RAM_SIZE: "6G" CPU_CORES: "6" DISK_SIZE: "20G" KVM: "N" # KVM 비활성화 volumes: - ./win10:/storage..

useRouter() Hook을 사용한 클라이언트 사이드 리디렉션사용자가 버튼을 눌렀을 때 특정 페이지로 이동하도록 하고 싶을 때 사용한다.import { useRouter } from 'next/router';export default function Page() { const router = useRouter(); return ( router.push('/dashboard')}> Dashboard );} router.push('/dashboard')를 호출하면 /dashboard 페이지로 클라이언트 사이드에서 이동한다.장점: 사용자가 현재 보고 있는 페이지를 리로드하지 않고 이동 가능.활용 사례: 로그인 후 대시보드로 이동, 특정 버튼 클릭 시 이동 등.   next.co..

Next.js의 Dynamic Routes를 이해하기 쉽게 설명하겠습니다. Dynamic Segments (동적 세그먼트)설명: 경로 일부가 동적으로 변할 수 있도록 설정하는 방식파일명 규칙: 대괄호([ ])로 감싼 파일명 사용예: [id].js, [slug].js폴더 구조pages/ blog/ [slug].js매칭되는 경로/blog/a → slug = 'a'/blog/b → slug = 'b'코드import { useRouter } from 'next/router';export default function BlogPost() { const router = useRouter(); return Post: {router.query.slug};}출력 결과/blog/a → 화면에 Post: a/bl..

실행 환경 : MAC M2파이썬 버전 : Python 3.12.0 1.  pyinstaller 안써파이썬 패키징하면 pyinstaller 이 대표적이다.pytorch로 짧은 학습코드를 패키징하려고하는데 종속성 문제 때문에 약간의 씨름을 했었다. torch error : NameError name 'name' is not definedI'm currently attempting to create an executable using PyInstaller, but I've encountered an error : NameError: name 'name' is not defined caused by the line of code below. model = lp.stackoverflow.com정리하자면 다음과 같..

기존 Prophet의 문제점기존의 Prophet은 데이터의 비선형적인 요소 및 연속함수의 특징들을 반영하거나시계열 데이터의 패턴 변동성이 큰 부분을 반영하기엔 부족한 패키지였다. 그래서 메타는 기존 Prophet 모델에 신경망을 추가하여 시계열 분석을 할 수 있도록 만든 것이 Neural Prophet이다. Prophet은 시계열 예측 성능보다는 손쉬운 사용 예측 결과에 해석에 초점을 맞춘 알고리즘이다.추세, 주기성, 공휴일 효과 등을 분리해서 제공해주기 때문에, 수요예측과 같은 비즈니스적인 시사점이 필요할 때 유용하게 활용될 수 있다. Prophet은 주로 전체 데이터의 글로벌 패턴에 초점을 맞추는 알고리즘으로 설계되었다.그래서 단기 시점(Local Context) 예측에 한계를 가지고 있다. 예를 들..

세세하게 살펴보기엔 알아야 할 지식들이 많으니 간단하게만 살펴보자.Microsoft에서 발표하였으며, 2023년 ICLR에 Accept 된 [논문]이다. 논문에서도 3장에서 딱 두 가지의 차별점만 언급한다. 1. DISENTANGLED ATTENTION 2. ENHANCED MASK DECODER  간단하게 살펴보자DISENTANGLED ATTENTION이런 짓거리를 왜 하는지를 이해하려면 Transformer의 구조적 이해가 필수적이다.사실 Transformer에서도 충분한 고려를 진행하고 있지만, 부족했나보다. 핵심은 Position이다. Transformer의 장점이 무엇인가.기존 RNN에서 순차적으로 처리되던 정보를, Matrix형태로 표현할 수 있게 되었다. 그런데 Matrix의 개별 Row는 ..

이젠 진짜 LLM의 시대가 도래하였다.아키텍처 중심의 발전이 대부분이였던 자연어 처리 관련 논문들에서도LLM을 고려하지 않는 논문이 없을 정도로 많은 논문이 LLM과 밀접한 연관이 있다. 연구들을 살펴보면 다음과 같은 분류로 나눠볼 수 있을 것 같다.1. 이미 만들어진 LLM을 잘 써먹고자 하는 부류 (ex: Prompt Engineering)2. LLM을 특정 작업에 특화시키는 방법론에 대해 고민하는 부류 (ex: LLM Tune Method)3. LLM의 뼈대(아키텍처)에 대해 고민하는 부류 (ex: SSM, Mamba, Transformers)4. LLM의 성능최적화에 대해 고민하는 부류 (ex: 1bit-LLM)아마 위의 넷 정도로 나눠서 생각해 볼 수 있을 것이다. (물론 더 많지만) 지금 살펴..

프롬프트 엔지니어링을 위해 흔히 사용하는 LangChain 등의 프레임워크 에서 특정 작업을 위해 사용하는 프롬프트의 크기가 굉장히 크다.특히, trial and error 방식으로 사전에 수작업으로 작성된 프롬프트를 사용하기 때문에 보편적이지만, 성능이나 효율성 측면에서는 최선이 아닐뿐더러, 확장성 측면에서는 한계가 있다.이러한 프롬프트 엔지니어링을 극복하기 위해서 파이썬 스타일로 작성된 선언적이고 스스로 개선되는 기능을 갖춘 자연어 처리 프로그램인 DSPy가 나왔다, 이 프레임워크에서는 LLM 파이프라인이 무엇을 할 것인지를 명확히 선언하면, 내부적으로 스스로 학습하고 최적화하여 성능을 향상시키는 기능이 있다. DSPy는 간단한 API를 통해 빠르게 시작할 수 있지만, AI 시스템을 구현하는 과정은 ..

컴퓨팅 성능의 발전, 초거대 언어 모델의 등장은 Natural Language Processing 분야를 비약적으로 발전시켰다.그리고 이젠 어떻게 이미 만들어진 LLM을 고도화 시킬까의 문제를 마주하고 있다. Chain of Thought 이후 생겨난 수많은 프롬프트들이나Retrieval Augmented Generation 를 이용한 생성이전에 소개한 LangChain이나 LangGraph도 결국 LLM을 효과적으로 사용하기 위한 Tool Chain이다. 오늘 소개할 것은 효과적인 지식 구조이자최근에 만들어지는 RAG를 고도화 하는 새로운 기법인 GraphRAG이다.Knowledge Graph본 내용을 이해하기 위해서는 먼저 Graph에 대해 알아야 할 것이다.물론 너무 깊게 들어갈 수는 없기에, 지식..

[논문]은 Mamba라는 이름의 Non-Attention 기반으로 순차적인 데이터를 추론하는 하나의 알고리듬이다. Mamba: Linear-Time Sequence Modeling with Selective State SpacesFoundation models, now powering most of the exciting applications in deep learning, are almost universally based on the Transformer architecture and its core attention module. Many subquadratic-time architectures such as linear attention, gated convolutionarxiv.org 어쩌다 ..

Github : https://github.com/NVlabs/Sana GitHub - NVlabs/Sana: SANA: Efficient High-Resolution Image Synthesis with Linear Diffusion TransformerSANA: Efficient High-Resolution Image Synthesis with Linear Diffusion Transformer - NVlabs/Sanagithub.com Sana는 엔비디아에서 발표한 4096 × 4096 해상도의 이미지를 효율적으로 생성할 수 있는 텍스트-이미지 프레임워크로 0.6B 및 1.6B 의 작은 파라미터 크기를 가지고 있어 노트북 GPU를 활용하여 배포가 가능하다.  Sana 0.6B 모델의 경우 최대 40..

앤트로픽(Anthropic)에서 클로드를 이용한 Computer-Use Demo를 출시했다. 컴퓨터 유즈는 기존에 LLM을 기반으로 사용자가 원하는 일을 해주는 도구인 LLM Agent을 이용한 서비스이다. 기존의 LLM Agent는 파일 수정, 웹 검색과 같이 특정 태스크 안에서 사용되었다면 컴퓨터 유즈는 가상 머신을 함께 실행해  가상 머신 시스템을 조작하며 실제 컴퓨터의 전체 시스템을 조작할 수 있는 기반을 마련했다. LLM이 사용자가 원하는 것을 입력받아 계획을 세우고 각 계획에 맞는 행위들을 순서대로 처리해 나가는 형식으로 동작하며 각 행위는 Tools라는 도구 형식으로 미리 정의해 Function call의 방식으로 현재 시스템의 상태에 맞는 도구와 파라미터를 출력한다. LLM이 선택한 도구를..

관련 시리즈더보기관련 시리즈 목록2024.11.11 - [A.I.(인공지능) & M.L.(머신러닝)/LLM] - [LangGrpah] 1. LangGrpah(랭그래프)를 이용한 AI Workflow 관리하기2024.11.13 - [A.I.(인공지능) & M.L.(머신러닝)/LLM] - [LangGrpah] 2. LangGrpah(랭그래프)의 핵심 요소의 개념적 이해2024.11.14 - [A.I.(인공지능) & M.L.(머신러닝)/LLM] - [LangGrpah] 3. Chain과 Agent를 이용한 Workflow 구현 - 쿼리 추출 모델2024.11.20 - [A.I.(인공지능) & M.L.(머신러닝)/LLM] - [LangGrpah] 4. LangGraph를 이용한 RAG 및 검색 Agent 개발 ..

간단한 poc 를 위해 개발자가 기획, 디자인없이 빠르고 이쁘게 프론트개발하는 방법에 대해서 고민해보았습니다. 어떻게 해야 빠르게 fo 개발할 수 있을까? 1. ai 를 활용 - 인공지능을 활용한 코드 편집기2. css 는 컴포넌트 라이브러리를 사용 - 재사용 가능한 컴포넌트의 모음 숙달되면 개발속도는 크게 상승할 것으로 판단하였습니다. cursor ai1. vs code 를 포크해서 만든 프로젝트개발 친숙vs code 의 extensions 사용가능  2. 프로젝트 단위의 질문도 가능 (RAG)vector db 를 활용한 코드베이스 인덱싱 기능 지원하기 때문사용자가 질문한 내용과 유사성, 관련성이 높은 문서들을 인덱싱하고 사용자 쿼리와 함께 prompt에 함께 답변을 생성  3. 간단한 조작법- ta..

관련 시리즈더보기관련 시리즈 목록2024.11.11 - [A.I.(인공지능) & M.L.(머신러닝)/LLM] - [LangGrpah] 1. LangGrpah(랭그래프)를 이용한 AI Workflow 관리하기2024.11.13 - [A.I.(인공지능) & M.L.(머신러닝)/LLM] - [LangGrpah] 2. LangGrpah(랭그래프)의 핵심 요소의 개념적 이해2024.11.14 - [A.I.(인공지능) & M.L.(머신러닝)/LLM] - [LangGrpah] 3. Chain과 Agent를 이용한 Workflow 구현 - 쿼리 추출 모델 (현재글)2024.11.20 - [A.I.(인공지능) & M.L.(머신러닝)/LLM] - [LangGrpah] 4. LangGraph를 이용한 RAG 및 검색 Age..

관련 시리즈더보기관련 시리즈 목록2024.11.11 - [A.I.(인공지능) & M.L.(머신러닝)/LLM] - [LangGrpah] 1. LangGrpah(랭그래프)를 이용한 AI Workflow 관리하기2024.11.13 - [A.I.(인공지능) & M.L.(머신러닝)/LLM] - [LangGrpah] 2. LangGrpah(랭그래프)의 핵심 요소의 개념적 이해 (현재글)2024.11.14 - [A.I.(인공지능) & M.L.(머신러닝)/LLM] - [LangGrpah] 3. Chain과 Agent를 이용한 Workflow 구현 - 쿼리 추출 모델2024.11.20 - [A.I.(인공지능) & M.L.(머신러닝)/LLM] - [LangGrpah] 4. LangGraph를 이용한 RAG 및 검색 Age..