ros (@ros@techhub.social)
Choosing the best way to run LLMs locally? Compare Ollama, vLLM, TGI, SGLang, LM Studio, LocalAI and 8+ tools by API support, hardware compatibility, tool calling, and production readiness.
#LLM #AI #Ollama #vllm #Privacy #Open Source #Self-Hosting #Docker #API #Machine Learning #RAG
Show Original Post
leanpub (@leanpub@mastodon.social)
Érase una vez Kubernetes by Manuel Morejón is free with a Leanpub Reader membership! Or you can buy it for $1.99! https://leanpub.com/erase-una-vez-kubernetes #Devops #CloudComputing #Docker
Show Original Post
PrismaTest (@PrismaTest@mastodon.social)
Tech stack behind PrismaTest (free psych testing platform):
→ Next.js 14 (App Router)
→ TypeScript
→ Tailwind CSS
→ PostgreSQL + Prisma ORM
→ Redis for caching
→ next-intl for 20 languages (including RTL Arabic!)
→ Docker + Traefik
→ Results encoded in Base64 URLs — no user DB needed
50K+ daily users served from a single VPS.
#nextjs #typescript #webdev #programming #selfhosted #docker
Show Original Post
jobsfordevelopers (@jobsfordevelopers@mastodon.world)
SmartBear is hiring Senior DevOps Engineer
🔧 #c #cplusplus #java #javascript #python #ansible #aws #azure #cicd #docker #gcp #kubernetes #terraform #seniorengineer
🌎 Wrocław, Poland
⏰ Full-time
🏢 SmartBear
Job details https://jobsfordevelopers.com/jobs/senior-devops-engineer-at-smartbear-com-feb-18-2026-0c0b52?utm_source=mastodon.world&utm_medium=social&utm_campaign=posting
#jobalert #jobsearch #hiring
Show Original Post
r (@r@fed.brid.gy)
docker compose in production — on 4grab.com health checks, zero-downtime deploys, secrets management, multi-service setups. beyond the tutorial. https://4grab.com/pay.php?id=ptag_69c43b9ddbd65 #prompt #docker #devops #containers
Show Original Post
habr25 (@habr25@zhub.link)
Неочевидные нюансы миграции с Docker на Podman
Миграция на Podman — вопрос достаточно интересный. И ответ на него достаточно простой — берете и мигрируете, там делов-то! Но на самом деле это только верхушка айcберга. Сначала кажется, что все просто. А потом оказывается, что нужно решить много спорных моментов и учесть кучу мелочей. Сегодня я расскажу, на что стоит обратить внимание и стоит ли игра свеч. Поехали, порассуждаем про миграцию из Docker в Podman.
#selectel #linux #docker #podman
Show Original Post
admin (@admin@mastodon.ai8w.ddns.net)
https://hackingpassion.com/docker-authorization-bypass-cve-2026-34040/
Show Original Post
habr (@habr@zhub.link)
Сервинг модели Grounding DINO с BentoML
Готовь сани летом, а план доставки ML-модели конечным пользователям — еще на этапе разработки. Иначе даже самая крутая обученная система будет пылиться без дела, а большинство пользователей о ней даже не узнает. Запуск ML-моделей в production-среде — это тот еще квест: • необходимо хранить и версионировать модели; • нужен мониторинг ресурсопотребления, производительности и дрейфа данных в реальном времени; • нужна поддержка разнородных сценариев — пакетная обработка или стриминг. К счастью, есть специальные инструменты, которые существенно облегчают такую задачу. В этой статье рассмотрим сервинг модели Grounding DINO при помощи популярного фреймворка BentoML. Под катом вас ждет много кода, скриншоты и практические советы.
https://habr.com/ru/companies/magnus-tech/articles/1021720/
#ML #mlops #BentoML #docker #grounding_dino #компьютерное_зрение #детекция_объектов #сервинг_моделей
Show Original Post
ros (@ros@techhub.social)
Self-host Vane (Perplexica 2.0) with Docker, wire it to SearxNG, and use local LLMs via Ollama or llama.cpp. History, features, API.
#Self-Hosting #SelfHosting #LLM #AI #Ollama #Perplexica #Docker #API #Privacy
https://www.glukhov.org/llm-hosting/llm-frontends/vane-perplexica-2/
Show Original Post
radwebhosting (@radwebhosting@mastodon.social)
Deploy #Kubernetes Cluster on #Ubuntu VPS
This article provides a guide for how to deploy Kubernetes cluster on Ubuntu VPS.
What is a Kubernetes Cluster?
Before you deploy Kubernetes cluster on Ubuntu VPS, it's important to understand Kubernetes clusters.
A Kubernetes cluster is a set of machines (nodes) that work together to run and manage containerized applications at scale. Kubernetes, an open-source container ...
Continued 👉 https://blog.radwebhosting.com/deploy-kubernetes-cluster-on-ubuntu-vps/?utm_source=mastodon&utm_medium=social&utm_campaign=mastodon.social #docker #installguide #vpsguide
Show Original Post
tkhunt (@tkhunt@jpmstdn.com)
https://www.tkhunt.com/2285587/ 1人1台クラウドでAIを持つ時代？「Hermes Agent」解説！ ##Tech #AgenticAi #AI #AIAssistant #AiTools #AIエージェント #AIエージェント #ArtificialIntelligence #Automation #ChatGPT #Claude #coding #DeveloperTools #Discord #Docker #HermesAgent #IT #llm #MITLicense #NousResearch #OpenSource #OSS #PersonalAI #Productivity #Python #Slack #SoftwareDevelopment #Telegram #VPS #エージェント型AI #エンジニア #オープンソース #クラウド #コーティング #サーバーレス #ディープラーニング #テクノロジー #プログラミング #人工知能 #初心者 #大規模言語モデル #学習 #機械学習 #自動化 #解説 #開発
Show Original Post
samuelbjo (@samuelbjo@mastodon.social)
Efter att ha kört VPS:er och insett dess brister hittade jag Pikapods. Serverlösa appar baserade på Docker – tjänster på minuter. Lite bökigt, inte alla appar fungerar än, men när det fungerar är det smidigt. Bygger mitt nätverk med moduler för lagring och tjänster. Bra priser + 20% av avgifterna går till utveckling! http://pikapods.com #Pikapods #Serverlöst #Docker #Självhostat #ÖppenKällkod"
Show Original Post