Quay lại Blog
LLM cục bộAI tùy chỉnhtương thích OpenAIkhắc phục sự cốBYOK

Kết nối LLM cục bộ hoặc AI tùy chỉnh với trình duyệt qua SurfMind

•21 phút đọc
Kết nối LLM cục bộ hoặc AI tùy chỉnh với trình duyệt qua SurfMind

Với SurfMind, bạn có thể tự chọn mô hình mình muốn dùng. Bạn có thể kết nối với mô hình đang chạy trên máy tính của mình (Ollama, LM Studio, Jan, llama.cpp, vLLM) hoặc với gần như mọi nhà cung cấp AI bên ngoài có hỗ trợ OpenAI completion API — Poe, z.ai, Together, Groq, DeepSeek, AWS Bedrock, và hàng chục dịch vụ khác.

Hầu hết các nhà cung cấp và trình chạy cục bộ phổ biến đều đã được thiết lập sẵn trong phần cài đặt của SurfMind: bạn chỉ cần nhấp Connect và dán API key. Với những dịch vụ khác, biểu mẫu Custom Providers / API cho phép bạn tự thêm endpoint.

Vấn đề là: khi nó không chạy được ngay lần đầu, nguyên nhân thường chỉ là một lỗi cấu hình nhỏ. Còn thông báo lỗi bạn nhận được ("connection failed", "401", "404", "model not found") thì lại khó đoán.

Hướng dẫn này giúp bạn kiểm tra cấu hình và tự khắc phục sự cố. Hãy lần lượt đối chiếu các mục bên dưới với thiết lập của mình. Nếu vẫn không chạy được, hãy gửi email cho chúng tôi tại wave@surfmind.ai.

Đang tìm một nhà cung cấp cụ thể? Xem danh sách của chúng tôi: mô hình cục bộ (Ollama, LM Studio, OpenWebUI, Jan…) hoặc nhà cung cấp AI (Poe, z.ai, Together, Groq, AWS…).

Danh sách kiểm tra 60 giây

Trước hết, hãy rà soát qua những mục này. Hầu hết lỗi kết nối đều bắt nguồn từ một trong những nguyên nhân sau:

  1. Máy chủ có thực sự đang chạy không? Đối với mô hình cục bộ, trình chạy (Ollama, LM Studio, v.v.) phải được khởi động và đã nạp sẵn một mô hình.
  2. Cổng (port) có đúng không? Ollama là 11434. LM Studio là 1234. Chúng không thay thế cho nhau được, và đây là lỗi phổ biến nhất.
  3. Đường dẫn (path) có đúng không? Đường dẫn API riêng của Ollama là /api/chat. Hầu như mọi thứ khác là /v1/chat/completions. Nhầm lẫn giữa chúng sẽ gây ra lỗi.
  4. Giao thức có đúng không — http hay https? Mô hình cục bộ trên localhost dùng http:// (không có s). Nhà cung cấp đám mây dùng https://. Nếu chọn nhầm, bạn có thể tưởng rằng máy chủ không hoạt động.
  5. Bạn đã dán đầy đủ endpoint chưa, chứ không chỉ phần gốc? Trường API URL của SurfMind cần URL hoàn chỉnh kết thúc bằng /chat/completions (hoặc /api/chat đối với Ollama), chứ không chỉ https://api.provider.com/v1.
  6. API key (và định dạng của nó) có đúng không? Trình chạy cục bộ thường không cần key. Nhà cung cấp bên ngoài cần đặt Authentication thành API Key, chọn định dạng Authorization: Bearer, và dùng key thật của bạn.
  7. Đối với mô hình cục bộ trong trình duyệt: CORS đã được cho phép chưa? Đây là bước bổ sung duy nhất mà các thiết lập cục bộ cần (OLLAMA_ORIGINS, hoặc "Enable CORS" trong LM Studio).

Nếu sau đó bạn vẫn mắc kẹt, hãy đọc tiếp — mỗi mục còn có những chi tiết dễ bỏ sót mà chúng tôi sẽ giải thích bên dưới.

Cách kết nối một nhà cung cấp

Chỉ cần vài lần nhấp từ bộ chọn mô hình:

Bước 1. Nhấp vào tên mô hình ở dưới cùng của bảng SurfMind để mở danh sách Favorites của bạn, rồi nhấp Show all.

Bộ chọn mô hình SurfMind với nút Show all

Bước 2. Ở đầu danh sách mô hình, nhấp Add model provider. Thao tác này sẽ mở trang Models trong phần cài đặt của SurfMind.

Danh sách mô hình SurfMind với nút Add model provider

Bước 3. Tìm nhà cung cấp của bạn. Các trình chạy cục bộ (Ollama, LM Studio, vLLM, llama.cpp, Open WebUI) nằm trong mục Self-hosted. Các nhà cung cấp đám mây (OpenAI, Anthropic, Google, OpenRouter, Groq, DeepSeek, Mistral, Poe, z.ai, Together, AWS Bedrock và nhiều dịch vụ khác) nằm trong mục Providers. Nếu danh sách dài, hãy dùng ô tìm kiếm, rồi nhấp Connect.

Trang cài đặt Models của SurfMind liệt kê các trình chạy tự host và nhà cung cấp, mỗi mục có nút Connect

Bước 4. Với nhà cung cấp đám mây, hãy dán API key rồi nhấp Connect. Hộp thoại có kèm liên kết đến trang để bạn lấy key. Với trình chạy tự host, biểu mẫu sẽ mở ra với các URL cục bộ đã được điền sẵn, bạn chỉ cần lưu lại (Open WebUI thì cần thêm key của bạn).

Hộp thoại Connect của SurfMind yêu cầu nhập API key

Sau khi kết nối, các mô hình của nhà cung cấp sẽ xuất hiện trong bộ chọn mô hình. Mở rộng dòng của nhà cung cấp để chọn những mô hình nào sẽ hiển thị.

Không thấy nhà cung cấp của bạn? Hãy thêm nó dưới dạng nhà cung cấp tùy chỉnh

Nếu nhà cung cấp hoặc trình chạy của bạn không có trong danh sách (Jan, LocalAI, gateway của công ty bạn, hoặc một nhà cung cấp mà chúng tôi chưa thêm), hãy nhấp Custom Providers / API ở đầu trang Models.

Mục Custom của SurfMind với nút Custom Providers / API

Biểu mẫu "Custom Model API" sẽ mở ra, và bạn tự nhập endpoint.

Biểu mẫu Custom Model API của SurfMind

Phần còn lại của hướng dẫn này chủ yếu nói về biểu mẫu này, vì đây là nơi các lỗi cấu hình thường xảy ra.

Điền gì vào từng trường

Khi bạn nhấp Custom Providers / API, bạn sẽ thấy biểu mẫu "Custom Model API". Dưới đây là cách điền từng trường:

Trường Điền gì
API Name Tên tùy ý (ví dụ "My Gateway" hoặc "Jan"). Đây là tên bạn sẽ thấy trong bộ chọn mô hình.
API URL Endpoint chat đầy đủ, không phải URL gốc. Đối với Ollama đó là http://localhost:11434/api/chat; với mọi nhà cung cấp khác nó kết thúc bằng /chat/completions. Xem Lỗi #1.
Models URL (tùy chọn) Endpoint liệt kê các mô hình khả dụng, để SurfMind có thể hiển thị chúng trong danh sách thả xuống thay vì bắt bạn gõ tên. Ollama: /api/tags. OpenAI-compatible: /v1/models. Để trống nếu nhà cung cấp không có endpoint liệt kê — bạn sẽ tự gõ model id.
Authentication No authentication cho mô hình cục bộ. API Key cho bất kỳ dịch vụ nào cần key; khi chọn, hai trường bên dưới sẽ hiện ra.
API Key Format Cách key của bạn được gửi đi. Authorization: Bearer = Authorization: Bearer <key>, gần như mọi nhà cung cấp đám mây đều dùng cách này. x-api-key = x-api-key: <key>, dùng cho các API theo định dạng Anthropic và một số dịch vụ khác. Custom header cho phép bạn tự đặt tên header.
API Key Chỉ riêng key — không gì hơn. Đừng gõ chữ Bearer; SurfMind sẽ tự thêm.

Hai chỗ mà mọi người hay nhập sai là API URL (gốc với endpoint đầy đủ) và API Key Format (header nào). Phần còn lại của hướng dẫn này sẽ đi sâu vào chúng.

Lỗi #1: đường dẫn API URL (bẫy /api/chat với /v1/chat/completions)

Đây là lỗi lớn nhất, và rất đáng để hiểu tại sao nó xảy ra.

Ở đây có hai định dạng API khác nhau:

  • API gốc của Ollama, dùng http://localhost:11434/api/chat.
  • OpenAI completion API, dùng .../v1/chat/completions. LM Studio, vLLM, Jan, Poe, z.ai, Together, Groq và hầu hết dịch vụ còn lại đều dùng định dạng này.

Vậy nên nếu bạn sao chép một hướng dẫn thiết lập được viết cho LM Studio và thử dùng đường dẫn đó với Ollama (hoặc ngược lại), bạn sẽ nhận được lỗi 404 dù máy chủ đang chạy hoàn hảo. Máy chủ vẫn hoạt động bình thường, nhưng bạn đang gửi yêu cầu đến sai địa chỉ.

Trình chạy / nhà cung cấp API URL đúng
Ollama (gốc) http://localhost:11434/api/chat
Ollama (chế độ OpenAI-compatible) http://localhost:11434/v1/chat/completions
LM Studio http://localhost:1234/v1/chat/completions
OpenWebUI http://localhost:3000/api/chat/completions
Mọi nhà cung cấp OpenAI-compatible https://<host>/v1/chat/completions

Cần lưu ý: Ollama hỗ trợ cả hai định dạng API. Mục Ollama trong Self-hosted của SurfMind dùng đường dẫn gốc /api/chat, đây là cách đơn giản nhất và cho bạn tính năng tự động phát hiện mô hình. Bạn chỉ cần đường dẫn /v1/chat/completions của Ollama nếu một công cụ nào đó yêu cầu cụ thể định dạng OpenAI. Với SurfMind, chỉ cần nhấp Connect ở dòng Ollama.

Lỗi #2: số cổng (port)

Mỗi trình chạy cục bộ tự chọn cổng mặc định riêng, và chúng trông đủ giống nhau để gây nhầm khi gõ:

Công cụ Cổng mặc định URL chat đầy đủ
Ollama 11434 http://localhost:11434/api/chat
LM Studio 1234 http://localhost:1234/v1/chat/completions
Jan 1337 http://localhost:1337/v1/chat/completions
llama.cpp (llama-server) 8080 http://localhost:8080/v1/chat/completions
vLLM 8000 http://localhost:8000/v1/chat/completions
LocalAI 8080 http://localhost:8080/v1/chat/completions

11434 với 1234 là nhầm lẫn kinh điển — chúng dễ bị lẫn lộn khi nhìn thoáng qua, nhưng chỉ sai một chữ số là không kết nối được gì cả. Nếu bạn tự thay đổi cổng (ví dụ bạn chạy vLLM với --port 9000), hãy dùng cổng của bạn, không phải cổng mặc định.

Kiểm tra nhanh: mở cổng đó trong trình duyệt. Truy cập http://localhost:11434 sẽ hiển thị thông báo "Ollama is running" của Ollama. Nếu trang không tải được, máy chủ chưa khởi động hoặc bạn dùng sai cổng.

Lỗi #3: dán URL gốc thay vì endpoint

Tài liệu của nhà cung cấp hầu như luôn cho bạn một URL gốc — kiểu như https://api.poe.com/v1. Đó là vì các đoạn mã mẫu của họ dùng OpenAI SDK, vốn tự động thêm /chat/completions.

Trường API URL của SurfMind không làm điều đó giúp bạn. Nó yêu cầu endpoint hoàn chỉnh. Vậy nên bạn phải tự thêm đường dẫn:

  • URL gốc từ tài liệu: https://api.poe.com/v1
  • Cái bạn dán vào SurfMind: https://api.poe.com/v1/chat/completions

Trường Models URL (dùng để tự động liệt kê các mô hình khả dụng) cũng tương tự: lấy phần gốc rồi thêm /models → https://api.poe.com/v1/models.

Hai lỗi nhỏ liên quan:

  • /v1 lặp đôi. Nếu phần gốc đã kết thúc bằng /v1, đừng thêm cái nữa. .../v1/v1/chat/completions sẽ cho ra lỗi 404.
  • Dấu gạch chéo thừa ở cuối. .../chat/completions/ với dấu gạch chéo cuối có thể thất bại trên một số máy chủ. Hãy bỏ nó đi.

Lỗi #4: http với https không khớp

Giao thức ở đầu URL rất quan trọng, và nhầm lẫn nó sẽ tạo ra lỗi "connection failed" trông như thể máy chủ đã ngừng hoạt động trong khi thực ra không phải.

  • Mô hình cục bộ dùng http. Ollama, LM Studio, Jan, llama.cpp — bất kỳ thứ gì trên localhost — đều phục vụ qua http:// thuần. Gõ https://localhost:11434 sẽ thất bại, vì không có chứng chỉ TLS trên một máy chủ cục bộ. Nếu bạn đã sao chép một đoạn mã có https đứng trước localhost, hãy bỏ chữ s đi.
  • Nhà cung cấp đám mây dùng https. Poe, z.ai, Together, Groq, và số còn lại chỉ chấp nhận https://. Gửi http:// đến chúng sẽ bị từ chối hoặc bị chuyển hướng ngầm.

Còn có một khía cạnh về bảo mật trình duyệt: các trang được phục vụ qua https sẽ chặn yêu cầu đến các endpoint http thuần ("mixed content"). SurfMind xử lý http://localhost như một ngoại lệ đáng tin cậy, nên mô hình cục bộ vẫn hoạt động — nhưng một địa chỉ IP trong mạng LAN như http://192.168.1.50:11434 vẫn có thể bị chặn. Nếu bạn đang trỏ đến một máy khác trong mạng của mình, hãy ưu tiên https, hoặc cấu hình mô hình để truy cập qua proxy https cục bộ.

Nguyên tắc chung: http cho localhost, https cho mọi thứ trên internet công cộng.

Lỗi #5: Models URL không khớp với API URL

Models URL là tùy chọn. Đó là endpoint mà SurfMind gọi đến để lấy danh sách các mô hình của nhà cung cấp, để có thể hiển thị chúng trong danh sách thả xuống thay vì bắt bạn gõ tên. Nếu các mô hình của bạn không xuất hiện trong bộ chọn sau khi lưu, nguyên nhân thường nằm ở trường này. Nó phải theo cùng định dạng API với endpoint chat:

Định dạng API Models URL
Ollama (gốc) http://localhost:11434/api/tags
Tương thích OpenAI (các dịch vụ còn lại) https://<host>/v1/models

Một lỗi thường gặp là nhầm lẫn giữa chúng — dùng /api/tags với một nhà cung cấp OpenAI-compatible, hoặc /v1/models với đường dẫn gốc /api/chat của Ollama. Nếu bạn đã kết nối qua dòng Ollama trong Self-hosted, trường này được điền sẵn đúng cho bạn; cứ để nguyên.

Khi nào nên để trống: một số nhà cung cấp không công khai endpoint liệt kê mô hình, hoặc chặn nó. Không sao cả — hãy để trống Models URL và tự gõ chính xác model id vào trường mô hình (xem Lỗi #8). Chat vẫn sẽ hoạt động; bạn chỉ không có danh sách thả xuống tự điền.

Lỗi #6: định dạng API key (Bearer với x-api-key)

Trong biểu mẫu tùy chỉnh, Authentication và API Key Format quyết định cách key của bạn được gắn vào yêu cầu. Chọn sai và bạn sẽ nhận lỗi 401 Unauthorized ngay cả với một key hoàn toàn hợp lệ. Các lựa chọn:

Thiết lập SurfMind gửi gì Dùng cho
No authentication không gì cả Mô hình cục bộ thường không cần xác thực, nhưng vẫn nên xác nhận lại thiết lập thực tế của bạn.
API Key → Authorization: Bearer Authorization: Bearer <your key> Gần như mọi nhà cung cấp đám mây: Poe, z.ai, Together, Groq, DeepSeek, Mistral, Fireworks, xAI, AWS Bedrock. Đây là mặc định cho các API OpenAI-compatible.
API Key → x-api-key x-api-key: <your key> Các API kiểu Anthropic và một số ít nhà cung cấp mong đợi một header chứa trực tiếp key thay vì Bearer token.
API Key → Custom header <your header>: <your key> Các gateway và proxy đọc key từ một header có tên riêng của chúng.

Sau đó trường API Key chỉ nhận riêng key:

  • Đừng gõ chữ Bearer — SurfMind sẽ thêm nó khi bạn chọn Authorization: Bearer.
  • Đừng để dấu cách thừa ở cuối (một nguyên nhân gây lỗi 401 phổ biến đến bất ngờ).
  • Đối với mô hình cục bộ, hãy chọn No authentication. (LM Studio là ngoại lệ — nó cần một giá trị không rỗng nào đó; tài liệu của chính nó dùng lm-studio.)

Nếu không chắc nhà cung cấp dùng định dạng nào: 99% nhà cung cấp OpenAI-compatible dùng Authorization: Bearer. Chỉ chọn x-api-key nếu tài liệu của nhà cung cấp hiển thị rõ ràng một header x-api-key. Vẫn nhận lỗi 401? Hãy tạo lại key, kiểm tra kỹ định dạng đã chọn, và xác nhận không có dấu cách thừa nào.

Lỗi #7: CORS — cái bẫy chỉ có ở thiết lập cục bộ

Trình duyệt sẽ từ chối gọi đến một máy chủ cục bộ trừ khi máy chủ đó cho phép yêu cầu từ tiện ích mở rộng một cách rõ ràng. Đây là vấn đề riêng của các thiết lập cục bộ (nhà cung cấp bên ngoài thì đã cho phép sẵn).

  • Ollama: khởi động nó với quyền truy cập trình duyệt được bật:

    # Mac/Linux
    OLLAMA_ORIGINS="*" ollama serve
    
    # Windows (PowerShell)
    $env:OLLAMA_ORIGINS="*"; ollama serve

    "port 11434 already in use"? Ứng dụng nền Ollama đã chạy sẵn. Hãy thoát nó trước (thanh menu trên Mac, khay hệ thống trên Windows), rồi chạy lệnh ở trên.

  • LM Studio: trong tab Developer / máy chủ cục bộ, hãy bật Enable CORS trước khi khởi động máy chủ.

Một chi tiết nữa cần kiểm tra: nếu localhost không kết nối được, hãy thử 127.0.0.1 thay thế (hoặc ngược lại). Trên một số hệ thống, chúng không phân giải giống nhau.

Lỗi #8: tên mô hình phải khớp chính xác

Khi đã kết nối, tên mô hình bạn chọn phải khớp chính xác với cái mà nhà cung cấp mong đợi — kể cả cách viết hoa. Nhiều người vấp phải lỗi này ở những nhà cung cấp không tự liệt kê mô hình, hoặc dùng cách đặt tên bất thường:

  • Poe dùng tên bot hiển thị trên giao diện như Claude-Sonnet-4.6 và GPT-5.4 — sao chép chúng chính xác như cách chúng hiển thị trên Poe.
  • z.ai dùng id như glm-4.6 và glm-5.
  • Together AI dùng id có tiền tố không gian tên (namespace): meta-llama/Llama-3.3-70B-Instruct-Turbo, deepseek-ai/DeepSeek-V3.
  • Fireworks dùng id dạng đường dẫn đầy đủ: accounts/fireworks/models/llama-v3p3-70b-instruct.

Nếu kết nối hoạt động nhưng bạn nhận được "model not found", gần như luôn là do gõ sai tên hoặc sai cách viết hoa. Khi SurfMind có thể tự liệt kê mô hình qua Models URL, hãy chọn từ danh sách thay vì gõ tay.

Tham khảo nhanh: mô hình cục bộ

Tất cả công cụ dưới đây đều chạy trên máy tính của bạn. Ollama, LM Studio, vLLM, llama.cpp và Open WebUI đã có sẵn trong mục Self-hosted trên trang Models: nhấp Connect và các URL bên dưới sẽ được điền sẵn cho bạn. Với Jan và LocalAI, hãy nhấp Custom Providers / API, dán các URL, và đặt Authentication thành No authentication. Nếu bạn đã đổi cổng của trình chạy, hãy sửa URL cho khớp. Nhấp vào tên công cụ để xem tài liệu thiết lập tương ứng.

Ollama

  • API URL: http://localhost:11434/api/chat
  • Models URL: http://localhost:11434/api/tags
  • API key: không có

LM Studio

  • API URL: http://localhost:1234/v1/chat/completions
  • Models URL: http://localhost:1234/v1/models
  • API key: bất kỳ giá trị không rỗng nào (ví dụ lm-studio)

Jan

  • API URL: http://localhost:1337/v1/chat/completions
  • Models URL: http://localhost:1337/v1/models
  • API key: không có (hoặc key Jan của bạn)

llama.cpp

  • API URL: http://localhost:8080/v1/chat/completions
  • Models URL: http://localhost:8080/v1/models
  • API key: không có (trừ khi bạn khởi động nó với --api-key)

vLLM

  • API URL: http://localhost:8000/v1/chat/completions
  • Models URL: http://localhost:8000/v1/models
  • API key: --api-key của bạn nếu bạn đã đặt

LocalAI

  • API URL: http://localhost:8080/v1/chat/completions
  • Models URL: http://localhost:8080/v1/models
  • API key: không có

OpenWebUI: ngoại lệ của quy tắc "không cần key". OpenWebUI bắt buộc phải có API key, và đường dẫn của nó là /api/..., không phải /v1/.... Kết nối nó từ danh sách Self-hosted và dán key sk-… của bạn lấy từ Settings → Account → API keys. Dùng http://localhost:3000 nếu bạn cài bằng Docker theo cách thông thường, hoặc địa chỉ máy chủ của bạn nếu nó chạy ở nơi khác.

  • API URL: http://localhost:3000/api/chat/completions
  • Models URL: http://localhost:3000/api/models
  • API key: key OpenWebUI của bạn (sk-…)

Hướng dẫn thiết lập đầy đủ và cách khắc phục sự cố có trong hướng dẫn OpenWebUI API của chúng tôi.

Đừng quên bước CORS (Lỗi #7) cho các công cụ trên. Riêng với Ollama, hướng dẫn đầy đủ kèm ảnh chụp màn hình nằm trong hướng dẫn Ollama của chúng tôi, và nếu bạn đang phân vân giữa Ollama và LM Studio, hãy xem Ollama với LM Studio.

Tham khảo nhanh: các nhà cung cấp AI phổ biến

Mọi nhà cung cấp dưới đây đều đã có sẵn trong mục Providers trên trang Models: nhấp Connect và dán key của bạn — các URL sẽ được điền sẵn. Chúng được liệt kê ở đây để bạn tham khảo, hoặc trong trường hợp bạn muốn tự thêm thủ công bằng Custom Providers / API (đặt Authentication thành API Key với định dạng Authorization: Bearer). Nhấp vào tên nhà cung cấp để xem tài liệu API tương ứng.

Poe — một key cho hàng trăm mô hình (Claude, GPT, Gemini, Llama…), với chi phí sử dụng được trừ vào điểm trong gói thuê bao Poe của bạn. Tên mô hình là tên bot hiển thị trên giao diện — sao chép chúng chính xác như hiển thị trên Poe (ví dụ Claude-Sonnet-4.6, GPT-5.4). Lấy key từ poe.com → Settings → API key.

  • API URL: https://api.poe.com/v1/chat/completions
  • Models URL: https://api.poe.com/v1/models

CanopyWave — dịch vụ GPU đám mây cung cấp các mô hình mở (Kimi, DeepSeek, Llama, Qwen). Lấy key từ bảng điều khiển CanopyWave.

  • API URL: https://inference.canopywave.io/v1/chat/completions
  • Models URL: https://inference.canopywave.io/v1/models

z.ai (GLM) — các mô hình GLM của Zhipu (glm-4.6, glm-5). Lưu ý: z.ai cũng công bố một endpoint Coding Plan riêng (https://api.z.ai/api/coding/paas/v4) và một endpoint PaaS (https://api.z.ai/api/paas/v4) — hãy dùng endpoint OpenAI-compatible bên dưới và đừng thêm /v1 dư.

  • API URL: https://api.z.ai/api/openai/v1/chat/completions
  • Models URL: https://api.z.ai/api/openai/v1/models

Together AI — danh mục mô hình mở lớn. ID mô hình khá dài (meta-llama/Llama-3.3-70B-Instruct-Turbo) — sao chép chúng chính xác từ trang mô hình của Together.

  • API URL: https://api.together.xyz/v1/chat/completions
  • Models URL: https://api.together.xyz/v1/models

Groq — suy luận cực nhanh. Điểm cần lưu ý: đường dẫn là /openai/v1, không phải chỉ /v1.

  • API URL: https://api.groq.com/openai/v1/chat/completions
  • Models URL: https://api.groq.com/openai/v1/models

DeepSeek — các mô hình hiện tại là deepseek-v4-flash và deepseek-v4-pro (các tên gọi cũ deepseek-chat / deepseek-reasoner đang được loại bỏ — hãy kiểm tra tài liệu của DeepSeek để biết bản mới nhất). Phần /v1 là tùy chọn; DeepSeek chấp nhận URL có hoặc không có nó.

  • API URL: https://api.deepseek.com/v1/chat/completions
  • Models URL: https://api.deepseek.com/v1/models

Mistral — mistral-large-latest, mistral-small-latest, v.v. OpenAI-compatible tiêu chuẩn.

  • API URL: https://api.mistral.ai/v1/chat/completions
  • Models URL: https://api.mistral.ai/v1/models

Fireworks AI — điểm cần lưu ý: đường dẫn là /inference/v1, không phải /v1. ID mô hình có dạng accounts/fireworks/models/llama-v3p3-70b-instruct.

  • API URL: https://api.fireworks.ai/inference/v1/chat/completions
  • Models URL: https://api.fireworks.ai/inference/v1/models

xAI (Grok) — các mô hình Grok (grok-4, v.v.). OpenAI-compatible tiêu chuẩn.

  • API URL: https://api.x.ai/v1/chat/completions
  • Models URL: https://api.x.ai/v1/models

AWS Bedrock — Bedrock giờ có một endpoint OpenAI-compatible, nhưng với hai điểm cần lưu ý: host phụ thuộc vào vùng (region) (ví dụ us-west-2) và đường dẫn là /openai/v1. Bạn phải dùng một Bedrock API key (một bearer token bạn tạo trong console) — không phải access key/SigV4 thông thường của AWS. ID mô hình có dạng openai.gpt-oss-120b-1:0. Khi kết nối Bedrock từ danh sách Providers, hãy chọn vùng của bạn trong danh sách thả xuống và SurfMind sẽ tự tạo URL cho bạn.

  • API URL: https://bedrock-runtime.<region>.amazonaws.com/openai/v1/chat/completions
  • Models URL: để trống — nhập model id sau

Vẫn không kết nối được? Các bước kiểm tra cuối cùng

Hãy rà từ trên xuống danh sách này:

  1. Kiểm tra trang Models trước. Nếu nhà cung cấp của bạn có trong danh sách, hãy kết nối từ đó thay vì tạo một mục tùy chỉnh.
  2. Mở host của API URL trong trình duyệt. Máy chủ cục bộ không tải được → nó chưa chạy, hoặc sai cổng.
  3. Đọc lại đường dẫn. Ollama → /api/chat. Mọi cái khác → /v1/chat/completions (hoặc đường dẫn đặc biệt của nhà cung cấp trong bảng).
  4. Xác nhận bạn đã dán endpoint đầy đủ, không phải phần gốc, và không có /v1 lặp đôi hay dấu gạch chéo thừa ở cuối.
  5. Lỗi 401? Đó là do key hoặc định dạng của nó. Định dạng = Authorization: Bearer, key không có dấu cách, không có tiền tố Bearer.
  6. Lỗi 404 "model not found"? Kết nối vẫn ổn — hãy sửa tên mô hình (đúng cách viết hoa).
  7. Yêu cầu đến mô hình cục bộ bị trình duyệt chặn? Bật CORS (OLLAMA_ORIGINS="*" hoặc nút bật/tắt của LM Studio), và thử 127.0.0.1 thay cho localhost.

Các bước này giúp giải quyết phần lớn lỗi cấu hình.

Vẫn cần trợ giúp?

Nếu bạn đã kiểm tra hết các mục trên mà nhà cung cấp của bạn vẫn không kết nối được, hãy gửi email cho chúng tôi tại wave@surfmind.ai kèm nhà cung cấp bạn đang thử và lỗi bạn gặp. Chúng tôi sẽ giúp bạn kết nối được.


Đã kết nối xong? Mở SurfMind trên trang tiếp theo bạn định đọc và dùng mô hình vừa kết nối để tìm hiểu nội dung trang.

Tải SurfMind →

Bài viết liên quan

Xem tất cả