LM Studio Server: Dựng dịch vụ AI cục bộ bằng lệnh lms daemon

Mỗi lần cần gọi mô hình cục bộ lại phải mở cửa sổ ứng dụng là cách vận hành khó nhân rộng. LM Studio Server giải quyết đúng chỗ đó: từ bản 0.4.0 phát hành ngày 28/01/2026, hãng đóng gói phần lõi thành daemon llmster chạy nền trên máy chủ, kèm cơ chế nạp mô hình theo yêu cầu, hàng đợi song song, token xác thực và bộ endpoint bám ba chuẩn giao tiếp. Bài viết dựng lại đường đi từ lệnh lms daemon up tới lúc một ứng dụng khác gọi được mô hình, bám theo tài liệu chính chủ.

Lệnh lms daemon dựng dịch vụ AI cục bộ mà không cần giao diện

Bản 0.4.0 bổ sung llmster, thành phần được hãng mô tả là phần lõi của ứng dụng desktop đóng gói lại theo hướng thuần máy chủ, không lệ thuộc giao diện đồ họa. Điểm mấu chốt nằm ở chỗ tiến trình suy luận tách khỏi một phiên đăng nhập có màn hình. Một dàn GPU đặt trong phòng máy, một máy ảo thuê ngoài hay chính chiếc laptop đóng nắp đều duy trì được mô hình thường trú và đáp ứng yêu cầu từ ứng dụng khác, đúng nguyên lý của một dịch vụ nền.

Bộ cài của LM Studio headless đi theo đường tập lệnh một dòng: curl -fsSL https://lmstudio.ai/install.sh | bash cho Linux cùng macOS, còn Windows dùng irm https://lmstudio.ai/install.ps1 | iex. Tài liệu Run LM Studio as a service (headless) xác nhận thành phần này nhắm tới máy chủ Linux, máy chủ đám mây, dàn GPU hoặc chính máy cục bộ khi không cần giao diện.

Lệnh	Công dụng theo tài liệu
lms daemon up	Khởi động daemon chạy nền, không cần giao diện đồ họa
lms daemon down	Dừng hẳn daemon và giải phóng tiến trình
lms daemon status	Kiểm tra daemon đang chạy hay đã tắt
lms daemon update	Cập nhật daemon lên phiên bản mới
lms server start / stop / status	Bật, tắt và tra trạng thái máy chủ suy luận cục bộ

Bốn lệnh nhóm daemon phủ trọn vòng đời dịch vụ. Câu lệnh lms daemon up dựng tiến trình nền, lms daemon status trả về trạng thái hiện hành, lms daemon update nâng phiên bản, còn lms daemon down hạ toàn bộ. Nhóm lệnh máy chủ nằm riêng, gồm lms server start, lms server stop và lms server status, nên việc tắt cổng API mà vẫn duy trì daemon là thao tác khả dụng.

Với máy trạm cá nhân, LM Studio Server còn một lối vận hành nhẹ hơn: thu ứng dụng desktop xuống khay hệ thống, dịch vụ suy luận vẫn tiếp tục phục vụ ở phía sau. Ranh giới giữa lối vận hành lấy giao diện làm trung tâm và lối lấy dịch vụ nền làm trung tâm đã được đối chiếu ở bài Ollama và LM Studio: Dùng lệnh terminal tối giản hay Phần mềm trực quan?.

Nạp mô hình theo yêu cầu và tự giải phóng khi máy nhàn rỗi

Chế độ nạp tức thời đảo ngược trật tự quen thuộc. Khi bật, đường dẫn /v1/models liệt kê mọi mô hình đã tải về đĩa chứ không riêng mô hình đang nằm trong bộ nhớ, và các endpoint suy luận tự nạp mô hình vào bộ nhớ nếu nó chưa sẵn sàng. Nhờ vậy LM Studio Server phục vụ được nhiều mô hình khác nhau mà không phải nạp trước toàn bộ kho, một ưu thế đáng kể khi dung lượng bộ nhớ có hạn.

Phần bù lại cho tính linh hoạt đó là cơ chế hết hạn. Mô hình nạp theo kiểu tức thời mang thời hạn mặc định 60 phút, hết khoảng đó thì rời bộ nhớ. Muốn kéo dài hoặc rút ngắn, phương án gọn nhất là cờ --ttl đi kèm lệnh nạp nhận giá trị tính bằng giây, ví dụ 3600 cho tròn một giờ, và trường ttl cũng đặt được ngay trong thân yêu cầu ở cả nhóm endpoint tương thích OpenAI lẫn nhóm REST riêng.

Song hành với thời hạn là cơ chế thu hồi tự động, mặc định đang kích hoạt, giữ tối đa một mô hình nạp kiểu tức thời trong bộ nhớ tại một thời điểm. Mô hình nạp thủ công không chịu ràng buộc này. Công tắc nằm ở thẻ Developer, mục Server Settings, và cách phối hợp hai tham số được mô tả tại tài liệu Idle TTL and Auto-Evict.

Xử lý nhiều yêu cầu song song bằng thiết lập Max Concurrent Predictions

Một dịch vụ nền hiếm khi chỉ phục vụ một phiên trò chuyện, và LM Studio Server chuẩn bị sẵn phần điều phối cho tình huống đó. Tham số Max Concurrent Predictions quy định số lượt sinh chữ chạy đồng thời trên cùng một mô hình, giá trị mặc định là 4. Cũng từ bản 0.4.0, các yêu cầu song song tới cùng mô hình được gộp theo lối continuous batching thay vì xếp hàng chờ nhau, nên độ trễ của lượt đến sau không cộng dồn theo lượt trước.

Ràng buộc nằm ở tầng engine chứ không ở giao diện. Tài liệu ghi rõ cơ chế này hỗ trợ engine llama.cpp, còn MLX sẽ bổ sung sau, đồng thời runtime GGUF phải nâng lên llama.cpp phiên bản 2.0.0 trở lên thì tính năng mới hoạt động. Bỏ qua bước nâng runtime là nguyên nhân phổ biến khiến thiết lập trông như bị vô hiệu, nên xác minh phiên bản runtime trước khi kết luận.

Đường tới ô chỉnh khá sâu: mở trình nạp mô hình, kích hoạt tùy chọn tự chọn tham số nạp, chọn mô hình rồi bung nhóm thiết lập nâng cao mới thấy Max Concurrent Predictions. Con số nên đặt theo dung lượng bộ nhớ còn trống, bởi mỗi lượt song song đều cần thêm phần đệm ngữ cảnh riêng, và đây là chỗ tối ưu đáng giá nhất trên một cụm LM Studio headless phục vụ nhiều máy khách cùng lúc.

Bộ endpoint của LM Studio Server và ba chuẩn giao tiếp song hành

LM Studio Server lắng nghe ở cổng 1234, phía trên là ba nhóm đường dẫn phục vụ ba thói quen lập trình khác nhau. Cách bố trí này giúp một dự án đang gọi dịch vụ đám mây chuyển sang mô hình cục bộ mà gần như chỉ phải đổi địa chỉ gốc, giữ nguyên thư viện khách quen dùng.

Nhóm REST riêng của hãng xoay quanh POST /api/v1/chat, nhận trường model bắt buộc cùng input, kèm các tham số như system_prompt, reasoning, context_length và max_output_tokens. Trường store mặc định bật, trả về mã phản hồi để lượt kế tiếp nối mạch bằng previous_response_id, tức trạng thái hội thoại do dịch vụ duy trì chứ không phải do mã nguồn tự gánh.

Nhóm giao tiếp	Đường dẫn theo tài liệu
REST riêng của hãng	/api/v1/chat, /api/v1/models, /api/v1/models/load, /api/v1/models/unload, /api/v1/models/download, /api/v1/models/download/status
Tương thích OpenAI	/v1/chat/completions, /v1/completions, /v1/embeddings, /v1/models, /v1/responses
Tương thích Anthropic	/v1/messages

Nhóm tương thích OpenAI phủ năm đường dẫn quen thuộc, đủ đáp ứng phần lớn thư viện khách hiện có: sinh văn bản theo hội thoại, sinh văn bản thuần, tạo vector nhúng, liệt kê mô hình và nhóm phản hồi kiểu mới. Địa chỉ gốc trong ví dụ của tài liệu là http://localhost:1234/v1.

Nhóm tương thích Anthropic gọn hơn, hiện dừng ở POST /v1/messages. Thao tác chuyển đổi chỉ gồm trỏ địa chỉ gốc của thư viện khách về http://localhost:1234 rồi ghi đúng tên mô hình đang nạp, phần còn lại của mã nguồn giữ nguyên. Đây là lý do LM Studio Server hay được chọn làm lớp thay thế tạm thời khi cần chạy thử ngoại tuyến.

Khóa quyền truy cập bằng token trước khi mở cổng ra mạng nội bộ

Theo mặc định, LM Studio Server không đòi xác thực, phù hợp với tình huống chỉ phục vụ chính máy đó. Cơ chế token yêu cầu bản 0.4.0 trở lên và được tạo ở trang dành cho lập trình viên, mục Server Settings, nút quản lý token. Mỗi token mang một tên riêng cùng danh sách quyền, và chuỗi bí mật chỉ hiện đúng một lần lúc khởi tạo nên phải chép lại ngay.

Khi công tắc bắt buộc xác thực đã bật, mọi yêu cầu cần mang tiêu đề Authorization: Bearer $LM_API_TOKEN. Riêng nhóm đường dẫn tương thích Anthropic hỗ trợ thêm dạng tiêu đề x-api-key theo đúng thói quen của thư viện khách bên đó, nên mã nguồn cũ hầu như không phải sửa.

Bước mở ra mạng nội bộ nằm ở tùy chọn phục vụ trên mạng cục bộ, hoặc cờ lms server start --bind 0.0.0.0 nếu thao tác bằng dòng lệnh. Tài liệu nói thẳng rằng mọi lựa chọn khác 127.0.0.1 đều đẩy dịch vụ vượt khỏi phạm vi máy cục bộ và khuyến nghị ưu tiên bật xác thực trước, một cảnh báo đáng coi trọng với dữ liệu nhạy cảm. Đó cũng là ranh giới an toàn của mọi LM Studio Server chạy trong văn phòng.

Phần thiết lập nằm trong chính ứng dụng, gồm cách bật máy chủ từ giao diện và các tham số nạp ảnh hưởng tới tốc độ, đã được phân tích riêng ở bài Làm chủ tốc độ LM Studio: 3 thiết lập mặc định đang kéo lùi dàn máy.

Ghép LM Studio headless vào công cụ lập trình bằng SDK và MCP

Ngoài đường HTTP thuần, hãng phát hành hai bộ SDK chính chủ. Bản TypeScript mang tên lmstudio-js, cài bằng npm install @lmstudio/sdk, còn bản Python mang tên lmstudio-python, cài bằng pip install lmstudio. Hai thư viện này rút phần việc nạp mô hình, gọi suy luận và quản lý phiên xuống còn vài dòng, hợp với kịch bản dựng dịch vụ nội bộ quanh một cụm LM Studio headless.

Muốn đầu ra ăn khớp với lược đồ dữ liệu, đường dẫn /v1/chat/completions nhận trường response_format kiểu json_schema theo đúng khuôn của chuẩn OpenAI. Bản chất kỹ thuật khác nhau theo engine: mô hình GGUF dựa vào cơ chế lấy mẫu theo văn phạm của llama.cpp, mô hình MLX dựa vào Outlines. Tài liệu cảnh báo rằng không phải mô hình nào cũng đáp ứng nổi lược đồ, nhất là nhóm dưới 7B tham số.

Kho công cụ ngoài được nối qua trường integrations của đường dẫn trò chuyện. Kiểu thứ nhất trỏ tới máy chủ MCP đã khai báo sẵn trong tệp cấu hình, dùng mã dạng mcp/playwright. Kiểu thứ hai khai báo ngay trong yêu cầu với nhãn máy chủ, địa chỉ và tiêu đề xác thực kèm theo. Cả hai đều nhận allowed_tools để giới hạn danh sách công cụ mà mô hình được phép gọi.

Mảnh ghép cuối là LM Link, phần mở rộng đưa LM Studio Server vượt khỏi phạm vi một máy. Một mô hình đang nạp trên máy khác trong cùng liên kết được gọi như thể nó nằm ngay tại chỗ, mã nguồn vẫn trỏ về localhost và phần định tuyến do dịch vụ lo. Bộ lệnh lms link enable, lms link status cùng lms link set-preferred-device quản lý phần này, trong đó máy ưu tiên đặt riêng theo từng thiết bị.

Cách ghép quen thuộc nhất vẫn là trỏ một trợ lý viết mã về cụm LM Studio headless trong mạng nội bộ, để máy yếu vẫn gõ được mã còn phần tính toán dồn sang máy mạnh. Ngưỡng phần cứng cho kịch bản này được đối chiếu ở bài Trợ lý code offline: Laptop AI cần gì để phản hồi mượt trong IDE?.

Câu hỏi thường gặp (FAQ)

LM Studio Server chạy được khi máy chủ không có giao diện đồ họa không?

Được, chế độ LM Studio headless dựa hẳn vào llmster, bản đóng gói thuần máy chủ của phần lõi, ra mắt cùng bản 0.4.0 ngày 28/01/2026. Cài bằng tập lệnh một dòng rồi gõ lms daemon up là dịch vụ lên, không cần phiên đăng nhập có màn hình. Lối thứ hai dành cho máy cá nhân là thu ứng dụng xuống khay hệ thống, máy chủ suy luận vẫn phục vụ ở phía sau.

Cần nhớ những đường dẫn nào khi gọi LM Studio Server lần đầu?

Cổng mặc định của LM Studio Server là 1234. Nhóm REST riêng bắt đầu ở POST /api/v1/chat cùng các đường dẫn quản lý mô hình dưới /api/v1/models. Nhóm tương thích OpenAI gồm /v1/chat/completions, /v1/completions, /v1/embeddings, /v1/models và /v1/responses. Nhóm tương thích Anthropic hiện dừng ở /v1/messages.

Vì sao mô hình tự rời bộ nhớ sau một lúc không ai gọi tới?

Mô hình nạp theo kiểu tức thời mang thời hạn mặc định 60 phút, hết hạn thì được giải phóng. Thêm vào đó, cơ chế thu hồi tự động bật sẵn chỉ giữ một mô hình kiểu này trong bộ nhớ tại một thời điểm. Muốn giữ lâu hơn, đặt lại giá trị qua cờ --ttl tính bằng giây hoặc nạp mô hình theo cách thủ công.

Bật xác thực token có bắt buộc khi chỉ chạy trên một máy không?

Không bắt buộc, vì mặc định LM Studio Server bỏ qua xác thực và chỉ lắng nghe ở phạm vi máy cục bộ. Ràng buộc này đổi chiều ngay khi bật tùy chọn phục vụ trên mạng nội bộ hoặc chạy lms server start --bind 0.0.0.0: tài liệu khuyến nghị tạo token và bật công tắc bắt buộc xác thực trước khi mở cổng.

Cụm nhiều máy có dùng chung một mô hình đã nạp sẵn được không?

LM Link phục vụ đúng nhu cầu đó và là cách nhân rộng một cụm LM Studio headless. Mô hình nạp trên một máy trong liên kết được các máy còn lại gọi như thể nạp tại chỗ, mã nguồn giữ nguyên địa chỉ localhost. Bộ lệnh lms link enable và lms link set-preferred-device lo phần bật tắt cùng chọn máy ưu tiên, thiết lập này đặt riêng cho từng thiết bị trong cụm.