Cách sử dụng chatbot AI Chat With RTX của Nvidia trên máy tính

Nvidia đã cho ra mắt Chat with RTX, một chatbot AI có khả năng hoạt động trên máy tính cá nhân của bạn, cung cấp những tính năng tương tự như ChatGPT và còn nhiều hơn thế nữa! Chỉ cần sở hữu GPU Nvidia RTX, bạn có thể dễ dàng trải nghiệm chatbot AI này mọi lúc.

Nvidia Chat with RTX là gì?

Nvidia Chat with RTX là phần mềm AI cho phép chạy mô hình ngôn ngữ lớn (LLM) trực tiếp trên máy tính của bạn. Điều này có nghĩa là bạn không cần phải kết nối Internet để sử dụng các tính năng của chatbot, mà vẫn có thể sử dụng Chat with RTX ở chế độ offline khi cần thiết.

Chat with RTX sử dụng TensorRT-LLM cùng khả năng tăng tốc của RTX và Mistral 7-B LLM để cung cấp tốc độ xử lý nhanh và chất lượng phản hồi ấn tượng, tương đương với các chatbot AI trực tuyến khác. Đặc biệt, tính năng Retrieval-Augmented Generation (RAG) cho phép chatbot khai thác thông tin từ các tệp bạn cung cấp, từ đó đưa ra câu trả lời tùy chỉnh dựa trên dữ liệu đó, tạo nên trải nghiệm cá nhân hóa hơn cho người dùng.

Nếu bạn muốn thử nghiệm Chat with RTX, bài viết dưới đây sẽ hướng dẫn cách tải xuống, cài đặt và cấu hình phần mềm này trên máy tính cá nhân của bạn.

Cách tải xuống và cài đặt Chat with RTX

Trang web chính thức của Chat with RTX

Thao tác để cài đặt Chat with RTX rất đơn giản. Bạn chỉ cần tải xuống ứng dụng và cài đặt như bất kỳ phần mềm nào khác. Tuy nhiên, để đảm bảo phần mềm hoạt động tốt, máy tính của bạn cần đáp ứng các yêu cầu hệ thống tối thiểu sau:

• GPU RTX 30-Series hoặc 40-Series.
• RAM ít nhất 16GB.
• Dung lượng bộ nhớ trống tối thiểu 100GB.
• Hệ điều hành Windows 11.

Nếu máy tính của bạn đáp ứng yêu cầu, hãy làm theo các bước sau đây để cài đặt:

Bước 1: Tải xuống tệp ZIP của Chat with RTX.

Bước 2: Giải nén tệp ZIP bằng cách nhấp chuột phải và lựa chọn phần mềm giải nén như 7Zip hoặc nhấp đúp vào tệp và chọn Extract All.

Bước 3: Mở thư mục đã giải nén và nhấp đúp vào setup.exe. Tiến hành theo hướng dẫn hiển thị trên màn hình và chọn tùy chọn cài đặt tùy chỉnh. Sau khi nhấn Next, trình cài đặt sẽ tải về cả LLM và các thành phần cần thiết khác.

Quá trình cài đặt Chat with RTX

Quá trình cài đặt có thể tốn chút thời gian do tải xuống lượng dữ liệu lớn. Cuối quá trình, bạn chỉ cần nhấn Close để hoàn tất.

Cách sử dụng Nvidia Chat with RTX

Sau khi cài đặt, bạn có thể sử dụng Chat with RTX theo đúng cách mà bạn sử dụng các chatbot AI thông thường. Tuy nhiên, bài viết khuyên bạn nên khám phá tính năng RAG, giúp tùy chỉnh đầu ra dựa trên các tệp dữ liệu mà bạn cung cấp.

Bước 1: Tạo thư mục RAG

Để sử dụng tính năng RAG trên Chat with RTX, bạn cần tạo một thư mục mới để lưu trữ các tệp dữ liệu mà AI sẽ phân tích.

Sau khi tạo xong thư mục, hãy di chuyển các tệp dữ liệu vào trong. Những tệp này có thể đa dạng chủ đề và định dạng như tài liệu, file PDF, văn bản hoặc video. Tuy nhiên, bạn nên hạn chế số lượng tệp để tránh làm giảm hiệu suất, vì nhiều dữ liệu hơn sẽ khiến chatbot mất thời gian hơn trong việc tìm kiếm thông tin.

Tạo thư mục dữ liệu cho RAG

Khi cơ sở dữ liệu đã sẵn sàng, bạn có thể bắt đầu thiết lập Chat with RTX để tận dụng các tệp dữ liệu này.

Bước 2: Thiết lập môi trường

Mở Chat with RTX và bạn sẽ thấy giao diện giống như hình dưới đây.

Giao diện web Chat with RTX

Trong phần Dataset, hãy đảm bảo rằng tùy chọn Folder Path đã được chọn. Tiếp theo, nhấp vào biểu tượng chỉnh sửa bên dưới (hình bút chì) và chọn thư mục chứa các tệp mà bạn muốn Chat with RTX đọc.

Ngoài ra, bạn có thể thay đổi mô hình AI nếu có các tùy chọn khác (tại thời điểm viết, chỉ có Mistral 7B).

Bước 3: Đặt câu hỏi với Chat with RTX

Có nhiều cách để tương tác với Chat with RTX. Đầu tiên, bạn có thể sử dụng nó giống như một chatbot AI bình thường. Tác giả bài viết đã hỏi về lợi ích của việc sử dụng LLM cục bộ và nhận được câu trả lời chính xác thoả đáng.

Sử dụng Chat with RTX như một chatbot thông thường

Với khả năng RAG, bạn cũng có thể sử dụng Chat with RTX như một trợ lý AI cá nhân.

Đặt câu hỏi cá nhân với Chat with RXT

Trong ví dụ này, tác giả đã sử dụng Chat with RTX để hỏi về lịch trình của mình. Chatbot đã trích xuất thông tin chính xác từ một tệp PDF chứa lịch trình. Để Chat with RTX hoạt động hiệu quả, bạn cần thường xuyên cập nhật các tệp dữ liệu và thông tin lịch.

Bạn có thể sử dụng tính năng RAG để thực hiện nhiều công việc như đọc và tóm tắt các tài liệu pháp lý, tạo mã cho các chương trình đang phát triển, hoặc nhận tóm tắt từ một video mà bạn không có thời gian xem.

Bước 4: Tính năng bổ sung

Ngoài việc sử dụng thư mục dữ liệu cục bộ, bạn có thể sử dụng Chat with RTX để phân tích video từ YouTube. Trong mục Dataset, hãy thay đổi Folder Path thành YouTube URL.

Đặt đường dẫn dữ liệu cho YouTube

Chỉ cần sao chép URL của video YouTube cần phân tích và dán vào ô dưới menu.

Sử dụng Chat with RXT để tóm tắt video YouTube

Khả năng phân tích video của Chat with RTX rất ấn tượng và cung cấp thông tin chính xác, cực kỳ hữu ích cho nghiên cứu hoặc phân tích nhanh.

Kết luận

Thông qua hướng dẫn trên, bạn đã biết cách tải xuống, cài đặt và sử dụng Chatbot AI Chat with RTX của Nvidia để tận hưởng những lợi ích mà nó mang lại. Hãy thử nghiệm và khám phá những tính năng mạnh mẽ của chatbot này để nâng cao hiệu quả công việc và học tập của bạn. Nếu bạn cần thêm thông tin hoặc những thủ thuật hay về công nghệ, hãy truy cập hocoffice.com để biết thêm chi tiết!