Contents
Trong thời đại công nghệ phát triển không ngừng, các chatbot AI ngoại tuyến ngày càng trở nên phổ biến và tối ưu hóa. Trong số đó, GPT4All nổi bật với khả năng đàm thoại dựa trên tài liệu của bạn. Không cần phải “huấn luyện” nó, sử dụng máy chủ đắt đỏ hay lập trình Python phức tạp. Bạn chỉ cần “thêm tài liệu của mình” vào GPT4All để “mở rộng nguồn kiến thức” của nó. Hãy cùng khám phá cách cài đặt và sử dụng GPT4All trên máy tính Windows của bạn.
Tại Sao Nên Sử Dụng GPT4All?
Có nhiều lý do để bạn lựa chọn GPT4All thay vì các giải pháp khác như ChatGPT:
- Bạn có thể chạy GPT4All chỉ bằng CPU của máy tính cá nhân. Không cần GPU mạnh mẽ (và đắt đỏ) với dung lượng VRAM hàng chục GB (mặc dù GPU cũng có thể hỗ trợ).
- GPT4All là giải pháp hoàn toàn ngoại tuyến, hoạt động ngay cả khi bạn không có kết nối internet.
- Việc hoạt động ngoại tuyến và như một ứng dụng địa phương có nghĩa là tất cả dữ liệu bạn chia sẻ với nó sẽ được giữ lại trên máy tính của bạn, không bị “xem trộm” bởi nhà phát triển.
- Do chỉ dựa vào máy tính của bạn, GPT4All không bị chậm trễ, ngừng phản hồi hay bỏ qua yêu cầu của bạn như ChatGPT khi máy chủ của nó bị quá tải.
- GPT4All cho phép bạn dễ dàng thêm tài liệu của mình vào “nguồn kiến thức” của nó. Nó có thể cung cấp thông tin từ tài liệu trong câu trả lời, biến nó thành một trợ lý cá nhân thực sự “biết về những thứ của bạn” thay vì một chatbot chung chung.
GPT4All Có Giống Như Cài Đặt ChatGPT Trên Máy Tính Cá Nhân Không?
Dù bạn đang tranh luận với một chatbot hay sử dụng dịch vụ như Copilot để viết mã dễ dàng, bạn đang tương tác với một mô hình ngôn ngữ lớn (LLM). Nếu bạn chưa quen với thuật ngữ này, hãy tham khảo bài viết của chúng tôi về mô hình ngôn ngữ lớn là gì và chúng hoạt động như thế nào.
Mô hình LLM “đứng sau” ChatGPT là một trong những mô hình tiên tiến nhất trên thế giới… nhưng nó cũng rất lớn, đòi hỏi tài nguyên cao và hoàn toàn sở hữu độc quyền. Vì vậy, bạn không thể “cài đặt ChatGPT trên máy tính của mình” vì:
- Là một giải pháp mã nguồn đóng, chỉ có nhà sáng tạo của nó, Open AI, mới có thể truy cập “bên trong” và chạy nó trên máy chủ của họ.
- Nó quá lớn và đòi hỏi nhiều tài nguyên đến mức việc chạy nó trên phần cứng máy tính tiêu dùng là không thể.
Tuy nhiên, bạn có thể cài đặt và sử dụng các LLM khác thông qua GPT4All trên máy tính của mình, miễn là chúng không quá đòi hỏi đối với CPU của bạn hoặc có thể phù hợp với VRAM hạn chế hơn của GPU.
Hệ sinh thái của Nvidia cho phép tăng tốc phần cứng AI thường được coi là trưởng thành hơn. Do đó, có nhiều phần mềm tập trung vào Nvidia cho các nhiệm vụ được tăng tốc bằng GPU, như mã hóa video và bây giờ là Học Máy. GPT4All là một trong những công cụ “hoạt động tốt hơn” với GPU của Nvidia.
Hướng Dẫn Cài Đặt GPT4All
GPT4All hiện có sẵn cho Windows, macOS và Ubuntu. Trong bài viết này, chúng tôi sẽ sử dụng phiên bản dành cho Windows.
- Tải xuống Trình cài đặt Windows từ trang web chính thức của GPT4All.
Hình ảnh tải xuống trình cài đặt Windows của GPT4All - Chạy ứng dụng đã tải xuống và làm theo các bước của trình hướng dẫn để cài đặt GPT4All trên máy tính của bạn.
Hình ảnh cài đặt GPT4All - Trình cài đặt của GPT4All cần tải xuống dữ liệu bổ sung để ứng dụng hoạt động. Nếu trình cài đặt thất bại, hãy thử chạy lại sau khi bạn cấp quyền truy cập qua tường lửa.
Hình ảnh trình cài đặt GPT4All đang tải thành phần - Khi bạn cuối cùng nhìn thấy giao diện của GPT4All, bạn cũng sẽ phải tải xuống một Mô hình Ngôn ngữ để sử dụng nó. GPT4All sẽ hiển thị cho bạn danh sách các mô hình có sẵn. Kiểm tra kích thước của nó (bên cạnh tên của nó) để đảm bảo bạn có đủ RAM hoặc VRAM để chạy nó. Khi bạn quyết định chọn một mô hình, nhấp vào nút Tải xuống để GPT4All tải xuống và cài đặt nó.
Hình ảnh kích thước mô hình và nút tải xuống của GPT4All - Nếu bạn thay đổi ý định, nhấp vào nút Hủy để dừng quá trình tải xuống đang diễn ra và chọn một mô hình khác.
Hình ảnh GPT4All đang tải xuống mô hình ngôn ngữ - Để tiết kiệm thời gian, nếu bạn muốn thử nhiều mô hình, bạn có thể yêu cầu GPT4All tải xuống chúng song song. Tuy nhiên, lưu ý rằng dung lượng gigabyte có thể nhanh chóng tăng lên và đảm bảo bạn có đủ không gian lưu trữ cho tất cả các mô hình bạn đã chọn.
Hình ảnh GPT4All đang tải xuống nhiều mô hình ngôn ngữ
Làm Quen Với GPT4All
Sau khi cài đặt GPT4All và tải xuống một số LLM, bạn có thể bắt đầu trò chuyện với chatbot AI của riêng mình.
- Sử dụng menu thả xuống ở đầu cửa sổ của GPT4All để chọn Mô hình Ngôn ngữ đang hoạt động.
Hình ảnh chọn mô hình ngôn ngữ của GPT4All - Sử dụng biểu tượng burger ở góc trên bên trái để truy cập bảng điều khiển của GPT4All.
Hình ảnh bảng điều khiển tùy chọn của GPT4All - Các tùy chọn đầu tiên trên bảng điều khiển của GPT4All cho phép bạn tạo một cuộc trò chuyện mới, đổi tên cuộc trò chuyện hiện tại hoặc xóa nó.
Hình ảnh tên cuộc trò chuyện của GPT4All - Nút Cập nhật cho phép bạn cập nhật ứng dụng và thêm hoặc xóa các thành phần.
Hình ảnh cập nhật của GPT4All - Nút Tải xuống cung cấp cho bạn quyền truy cập vào bảng Mô hình Ngôn ngữ.
Hình ảnh tải xuống của GPT4All - Bạn có thể sử dụng bảng Mô hình Ngôn ngữ để cài đặt các LLM mới, xóa các LLM đã cài đặt và thay đổi đường dẫn tải xuống của chúng.
Hình ảnh quản lý mô hình ngôn ngữ của GPT4All - Trò chuyện với một LLM trong GPT4All tương tự như phiên bản trực tuyến của ChatGPT. Nhập một thứ gì đó vào trường nhập liệu ở cuối cửa sổ của GPT4All, và sau khi nhấn Enter, bạn sẽ thấy yêu cầu của mình trong giao diện chính của GPT4All. Câu trả lời của Mô hình Ngôn ngữ đã chọn sẽ xuất hiện bên dưới yêu cầu của bạn.
Hình ảnh trò chuyện của GPT4All - Giống như với ChatGPT, nếu bạn không thích câu trả lời của LLM khi nó đang được tạo trên màn hình của bạn, bạn có thể nhấp vào nút Dừng Tạo để ngắt quá trình.
Hình ảnh dừng tạo câu trả lời của GPT4All - Tương tự, nếu bạn không thích câu trả lời đã được tạo và muốn xem một câu trả lời thay thế, bạn có thể nhấp vào nút Tái Tạo Câu Trả Lời, xuất hiện ở cùng vị trí.
Hình ảnh tái tạo câu trả lời của GPT4All - Lưu ý rằng GPT4All cũng cho phép bạn truy cập vào những gì được gọi là Mô hình Ngôn ngữ Không Giới Hạn. Những mô hình này không có hạn chế nhân tạo. “Tự do” này được cho là “giải phóng” và “trao quyền” cho chúng để sáng tạo hơn và cung cấp câu trả lời thực tế hơn. Tuy nhiên, điều này cũng có nghĩa là chúng có thể tạo ra nội dung xúc phạm.
Hình ảnh mô hình ngôn ngữ không giới hạn của GPT4All - Hai nút đầu tiên ở góc trên bên phải của ứng dụng cho phép bạn đặt lại một cuộc trò chuyện hoặc sao chép nó vào clipboard để dán ở nơi khác.
Hình ảnh đặt lại và sao chép của GPT4All - Nút thứ ba (với biểu tượng bánh răng) cho phép bạn truy cập vào Cài đặt của GPT4All.
Hình ảnh cài đặt của GPT4All - Tab Tạo của Cài đặt của GPT4All cho phép bạn cấu hình các tham số của Mô hình Ngôn ngữ đang hoạt động. Bằng cách thay đổi các biến như Nhiệt độ và Hình phạt Lặp lại, bạn có thể điều chỉnh sự sáng tạo, súc tích của nó, v.v.
Hình ảnh các biến tạo của GPT4All - Tab Ứng dụng cho phép bạn chọn một Mô hình Mặc định cho GPT4All, xác định một Đường dẫn Tải xuống cho Mô hình Ngôn ngữ, gán một số Luồng CPU cụ thể cho ứng dụng, tự động lưu mọi cuộc trò chuyện cục bộ và kích hoạt máy chủ web nội bộ để truy cập qua trình duyệt của bạn.
Hình ảnh tùy chọn ứng dụng của GPT4All
Trò Chuyện Với Tài Liệu Của Bạn Bằng GPT4All
Tính năng tốt nhất của GPT4All là khả năng dễ dàng thêm tài liệu của bạn vào Mô hình Ngôn ngữ đã chọn. Như chúng ta đã thấy, điều tương tự cũng có thể làm với ChatGPT và xây dựng một ChatGPT tùy chỉnh với dữ liệu của riêng bạn. Tuy nhiên, quá trình này dễ dàng hơn với GPT4All và không phải trả phí sử dụng API của ChatGPT từ Open AI.
- Đặt một số tài liệu của bạn vào một thư mục. Đảm bảo chúng ở định dạng tệp tương thích rộng rãi, như TXT, MD (cho Markdown), Doc, v.v.
Hình ảnh tài liệu địa phương trong Windows File Explorer của GPT4All - Trên bảng Cài đặt của GPT4All, chuyển đến trang tab Plugin Tài liệu Địa phương (Beta). Nhấp vào nút Duyệt và chỉ định ứng dụng đến thư mục mà bạn đã đặt tài liệu của mình. Sau đó nhấp vào Thêm để chúng được bao gồm trong danh sách tài liệu bên ngoài của GPT4All.
Hình ảnh plugin tài liệu địa phương của GPT4All - Bạn sẽ thấy một mục cho thư mục tài liệu của bạn trong danh sách tài liệu của Plugin Tài liệu Địa phương của GPT4All. Nếu bạn quyết định xóa một thư mục tài liệu, hãy chọn nó từ đây và nhấp vào nút Xóa ở bên phải của nó.
Hình ảnh plugin tài liệu địa phương của GPT4All với tài liệu người dùng đã thêm - Từ cùng vị trí đó, bạn có thể điều chỉnh giá trị Kích thước đoạn tài liệu và Số đoạn tài liệu để xử lý mỗi yêu cầu ở góc dưới bên trái của bảng. Tăng các giá trị này sẽ cải thiện khả năng của Mô hình Ngôn ngữ đã chọn để “hiểu” tài liệu của bạn và cung cấp câu trả lời liên quan hơn. Tuy nhiên, điều này cũng sẽ làm chậm GPT4All rất nhiều vì nó phải phân tích tài liệu của bạn sau mỗi yêu cầu.
Hình ảnh tùy chọn plugin tài liệu địa phương của GPT4All - Bạn có thể quản lý tài liệu bên ngoài của mình thông qua nút Bộ sưu tập của GPT4All.
Hình ảnh nút bộ sưu tập của GPT4All - Bạn có thể thêm nhiều bộ sưu tập tài liệu vào GPT4All. Tuy nhiên, thay vì để tất cả chúng hoạt động cùng lúc, kéo hiệu suất của GPT4All xuống, tốt hơn là kiểm soát nhóm tài liệu nào (“bộ sưu tập”) bạn muốn hoạt động từ bảng Bộ sưu tập.
Hình ảnh bảng bộ sưu tập có sẵn của GPT4All - Sau khi bạn thêm một số tài liệu và kích hoạt bộ sưu tập của chúng, GPT4All sẽ thông báo cho bạn rằng nó đang xử lý chúng sau một yêu cầu.
Hình ảnh GPT4All đang xử lý tài liệu của người dùng - Mỗi khi GPT4All đưa ra một câu trả lời kéo dữ liệu từ tài liệu của bạn, nó sẽ cung cấp một danh sách tham khảo và liên kết ngữ cảnh dưới câu trả lời.
Hình ảnh câu trả lời từ tài liệu của người dùng của GPT4All - Bằng cách nhấp vào một liên kết ngữ cảnh, GPT4All sẽ hiển thị cho bạn một đoạn văn bản từ tài liệu của bạn mà nó đã sử dụng cho câu trả lời.
Hình ảnh kiểm tra ngữ cảnh tài liệu của người dùng từ câu trả lời của GPT4All
-
GPT4All có hoạt động trên các hệ điều hành khác ngoài Windows không?
Có, GPT4All cũng có sẵn cho macOS và Ubuntu. -
Tôi cần GPU mạnh để chạy GPT4All không?
Không, bạn có thể chạy GPT4All chỉ bằng CPU của máy tính cá nhân, mặc dù GPU có thể giúp tăng hiệu suất. -
GPT4All có yêu cầu kết nối internet để hoạt động không?
Không, GPT4All là một giải pháp hoàn toàn ngoại tuyến. -
Tôi có thể thêm tài liệu của mình vào GPT4All để nó sử dụng trong các câu trả lời không?
Có, bạn có thể dễ dàng thêm tài liệu của mình vào GPT4All để mở rộng nguồn kiến thức của nó. -
GPT4All có thể xử lý các định dạng tệp tài liệu nào?
GPT4All hỗ trợ nhiều định dạng tệp phổ biến như TXT, MD (cho Markdown), Doc, v.v. -
Làm thế nào để tôi cập nhật GPT4All?
Bạn có thể cập nhật GPT4All thông qua nút Cập nhật trong bảng điều khiển của ứng dụng. -
GPT4All có thể tạo ra nội dung xúc phạm không?
Có, nếu bạn sử dụng các mô hình ngôn ngữ không giới hạn, chúng có thể tạo ra nội dung xúc phạm.
Kết Luận
GPT4All và các mô hình ngôn ngữ bạn có thể sử dụng thông qua nó có thể không hoàn toàn tương đồng với ChatGPT thống trị, nhưng chúng vẫn rất hữu ích. Những người dùng sáng tạo và những người thích tự mày mò đã tìm ra nhiều cách thông minh để cải thiện các mô hình này, vì vậy ngay cả khi chúng dựa vào các tập dữ liệu nhỏ hơn hoặc phần cứng chậm hơn so với những gì ChatGPT sử dụng, chúng vẫn có thể tiến gần đến nó hoặc, trong một số trường hợp, thậm chí vượt qua nó.
Thay vì đi vào chi tiết về ưu và nhược điểm của từng mô hình có sẵn, tại sao bạn không tự thử chúng? GPT4All làm cho điều này trở nên dễ dàng.
