안녕하세요 이번에 Nvidia 가 R1보다 성능이 좋다고 주장하는 모델인 라마-3.1-네모트론-울트라-253B-v1이 출시되었습니다. 해당 모델은 라마-3.1-405B-인스트럭트 모델을 기반으로 제작되었다고 합니다. Nvidia에서 작성한 출시 글을 보면, 이 모델을 제작하게 된 이유를 명확하게 작성하고 있는데요.  현재, AI의 발전은 Agent에 초점을 두고 이루어지는데요. 특히, 여러 기업들이 생산성 향상이라는 목표를 가지고 Agent를 앞다투어 개발하고 있습니다. AI 에이전트는 다양한 데이터 포인트와 동적 환경 속에서 발생하는 문제들을 해결하기 위해 고도의 추론 능력을 필요로 합니다. 또한 복잡한 시나리오에 대해 신속하고 논리적인 결정들을 내릴 수 있으며, 이를 통해 비즈니스의 민첩성과 전략적 ..

H100 GPU 장비에서Docker를 사용하기 위한 설정들이다. 기존에 알고 있던 설정들을 다 수행했지만 제대로 작동하지 않는다.아무래도 H100 Architecture 혹은 NVLink 같은 다뤄보지 않은 것에서 문제가 발생하는 것 같다. 1. nvidia-smi & nvcc 정상 작동.# nvidia-smiThu Apr 10 04:09:12 2025 +-----------------------------------------------------------------------------------------+| NVIDIA-SMI 550.54.15 Driver Version: 550.54.15 CUDA Version: 12.4 ||----------..

원인Host machine OS에서 sudo update -y를 한다는 것이실수로 Jenkins docker container 내부에서 sudo update를 했다가먼가 내부 권한 설정이 초기화되고 망가지면서 Jenkins 자체가 다운되버렸다.이 Jenkins는 먼가 버전 업데이트를 하거나 잘못 건드리면 망가지는 경우가 있다.물론 volume mount를 해놨기 때문에 데이터는 그대로 있다.복구한 방법을 공유한다.복구기존에 쓰던 docker-compose.yml은version: "2"services: jenkins: image: jenkins/jenkins:jdk17 restart: always user: root container_name: jenkins volumes: ..

딥시크 R1의 등장은 세상을 깜짝 놀라게 했는데요. 미국은 중국의 AI를 견제하기 위해서 고성능 칩들에 대한 수출을 통제하고 있던 중에 미국의 고성능 LLM 과 유사하거나 더 높은 성능의 모델을 세상에 내놓음으로써 사람들은 깜짝 놀랄 수 밖에 없었습니다.  그런, 딥시크가 이제는 R1의 후속으로 R2의 출시가 임박했다는 증거가 arXiv에 게재되었는데요 바로, Inference-Time Scaling for Generalist Reward Modeling 입니다.   Reinforcement learning (RL) has been widely adopted in post-training for large language models (LLMs) at scale. Recently, the incentiv..

Object storage with Web UI큰 용량의 파일을 object storage에 파일을 저장하고브라우저에서 그 파일 목록을 확인할 수 있는 도구로는최근 몇 개월전에 출시한 AWS Amplify의 Next.js를 위한 S3 Storage 오픈소스도 있겠고가장 많이 사용되고 있는 MinIO를 사용할 수도 있겠고, 다른 여러 대안이 있을 수 있다. 그러나 MinIO의 UI는 APGL-v3 라이센스로 수정을 해서 사용할 수 없다.그러나 Rclone은 MIT license로 맘대로 UI를 바꿀 수가 있다.그래서 이 글에서는 이미 존재하는 web UI를 보유한 RClone을 이용해 보려한다.RClone 코드는 Go로 짜여져있고, 현재도 꾸준히 업데이트 되지만,RClone을 위한 React로 짜여진 We..

Figma-MCP가 최근에 공개가 되었는데요. MCP는 이전에 몇 차례 다루었기에 아래의 게시글을 참고해주시면 이에 대한 내용이 궁금하시다면, 아래의 게시글을 참고해주세요. https://x2bee.tistory.com/478 MCP (Model Context Protocol) 소개작년 11월 쯤 Claude에서 Model Context Protocol 이라는 걸 새로 발표를 했습니다. (당시 아무도 관심이 없었던 것 같습니다.)  그러나 최근 들어 급격하게 MCP가 주목 받고 있는데요. 그 이유로 많은 분들x2bee.tistory.comhttps://x2bee.tistory.com/480 MCP를 Claude Desktop으로 간단히 구현해보자.Claude Desktop을 활용하여 간단하게 MCP를 구..