Langsung ke konten utama

Chat with RTX adalah “ChatGPT Versi Offline” dari Nvidia

Ada kabar menarik nih guys. Nvidia, produsen chip grafis terkemuka dunia baru saja merilis aplikasi chatbot berbasis kecerdasan buatan alias rtificial intelligence (AI) untuk komputer (PC) yang diberi nama "Chat with RTX".

Yang menarik, berbeda dengan ChatGPT, aplikasi ini sejatinya merupakan asisten pribadi digital yang bekerja secara lokal di komputer/PC, bukan di-cloud.

Chat with RTX sendiri menawarkan berbagai layanan, antara lain pengguna bisa mengunggah dokumen di PC dengan format file .txt, .pdf, .doc/.docx, dan .xml, kemudian meminta Chat with RTX untuk merangkumnya. 



Sebagai contoh, pengguna dapat meng-upload file meeting kemudian menanyakan pertanyaan spesifik, seperti: "Apa nama tempat yang direkomendasikan rekan kerja saya?". Nantinya, chatbot akan mencari jawaban pertanyaan itu langsung dari dokumen yang diberikan, sehingga pengguna tidak usah mencari jawaban tersebut secara manual.

Selain merangkum file, Chat with RTX juga bisa merangkum video YouTube yang diberikan dalam bentuk tautan (link). Misalnya, pengguna bisa menanyakan "Apa saja GPU yang diumumkan Nvidia di Consumer Electronics Show (CES) 2024?", sehingga tidak usah menonton video pengumuman resminya yang berdurasi hingga 30 menit.

Chat with RTX juga bisa menganalisis dokumen pengguna dan merangkum video YouTube. Pengguna dapat juga meminta rekomendasi tempat wisata "hidden gem" yang wajib dikunjungi dari berbagai kreator konten di YouTube, atau meminta tutorial cara membuat kue.
 
Dengan begitu, pengguna mendapatkan informasi yang dibutuhkan secara lebih efisien. Melihat kegunaannya, bisa dibilang bahwa Chat with RTX memiliki kemiripan dengan chatbot Gemini milik Google atau ChatGPT bikinan OpenAI.

Harus Menggunakan Nvidia RTX 3000 atau 4000 series
Adapun Chat with RTX menggunakan retrieval augmented generation (RAG) dan software Nvidia TensorRT-LLM, yang didukung oleh unit pengolah grafis (GPU) Nvidia RTX 3000 atau 4000 series dan diakselerasi oleh inti Tensor built-in.

Chat with RTX mengandalkan GPU dengan VRAM 8GB, RAM 16GB, sistem operasi (OS) Windows 10 atau 11, serta driver GPU Nvidia teranyar (versi 535.11 atau lebih baru). Pengguna juga memerlukan media penyimpanan seluas 35GB.

File lokal di komputer pengguna nantinya dihubungkan (upload) ke model bahasa besar (large language model/LLM) open-source seperti Mistral atau Llama 2, yang disebut bisa memberikan jawaban yang cepat dan relevan secara kontekstual. 

Baca juga:


Nah, tugas retrieval augmented generation adalah meningkatkan akurasi dan reliabilitas model AI generatif, sedangkan Nvidia TensorRT-LLM mengoptimalkan kinerja inferensi model bahasa besar terbaru dalam platform Nvidia AI.

Chat with RTX dijalankan langsung di PC dan workstation Nvidia RTX, sehingga data pengguna hanya akan disimpan di perangkat saja. Chat with RTX tidak mengandalkan LLM berbasis cloud, sehingga pengguna bisa memproses data sensitif di PC tanpa harus membagikannya ke pihak ketiga.

Pengguna juga tidak perlu koneksi internet saat menggunakan Chat with RTX. Bisa diunduh gratis Tampilan Chat with RTX Lihat Foto Tampilan Chat with RTX(Nvidia) Pengguna yang sudah memenuhi minimum spesifikasi Chat with RTX bisa mengunduhnya secara gratis.

Sebagai informasi, aplikasi ini masih bersifat demo, sehingga masih terasa kurang apabila dibandingkan chatbot kenamaan lainnya. Proses instalasinya membutuhkan kesabaran, dan aplikasinya disebut boros daya. Selain itu, Chat with RTX tidak mengingat konteks pembicaraan, sehingga pengguna tidak bisa menanyakan pertanyaan lanjutan dari pertanyaan yang sudah diajukan.

Postingan Populer

Cara Cek Chipset Smartphone Android Secara Akurat

Smartphone merupakan perangkat yang memiliki banyak komponen penting, seperti prosessor, memori internal dan eksternal, graphic processing unig (GPU) dan lainnya. Salah satu bagian terpentingnya adalah prosessor. Komponen prosessor sendiri terdiri dari chipset yang memiliki beberapa buah core dengan clock speed yang mungkin berbeda-beda, dan juga GPU. Cara cek chipset smartphone Android dapat dilakukan dengan beberapa metode. Kegiatan mengecek chipset sendiri perlu dilakukan dalam rangka mengetahui spesifikasi perangkat keras yang terdapat di dalam smartphone. Apakah sesuai dengan standar atau resmi. Selain itu, dengan melakukan pengecekan, kita dapat mencegah penipuan yang mungkin terjadi. Berikut ini cara cek chipset smartphone Android yang mungkin bisa Anda lakukan pula pada smartphone Android Anda: Cara Cek Melalui Menu Pengaturan Ini merupakan cara pertama yang bisa kamu lakukan. Langkah-langkahnya adalah: Buka menu pengaturan di smartphone Android Anda Pilih S

Savefrom, Online Video Downloader Terbaik?

Savefrom, Online Video Downloader Terbaik - Bagi Anda yang suka nonton video dari media sosial, mungkin Anda kadang lebih memilih untuk menontonnya secara offline. Hal ini bukan tanpa alasan, karena memang menonton video secara online akan lebih menguras kuota. Apalagi jika budget Anda sedang menipis, atau kuota sudah mau habis, pastinya solusi terbaik adalah dengan men-download dulu videonya. Dengan men-download videonya, Anda bisa melihat ulang videonya kapan pun tanpa harus mengkhawatirkan kehabisan kuota. Nah, salah satu layanan online video downloader yang bisa Anda pilih adalah Savefrom. Kira-kira, apa saja keunggulan dan kekurangan layanan yang satu ini? Yuk, simak informasinya di bawah:   Review dan Cara Download dari Savefrom: Savefrom merupakan sebuah layanan online gratis yang bisa digunakan untuk mengunduh video maupun musik secara gratis. Savefrom disebut juga sebagai pengunduh video tertua sekaligus terpopuler yang bisa digunakan dengan mudah dan bebas. Beberapa si

Intel Kembalikan Fasilitas Kopi dan Teh Gratis untuk Karyawan

Intel, salah satu produsen chip terbesar di dunia, kembali menyediakan kopi dan teh gratis di ruang istirahat bagi para pegawainya. Kebijakan ini diumumkan menyusul pemangkasan sejumlah fasilitas yang dilakukan setelah perusahaan mengumumkan kerugian besar mencapai $1,6 miliar pada Agustus lalu, sebagaimana dilaporkan oleh The Oregonian.  Meskipun terdengar sepele, dalam pesan internalnya Intel menyatakan bahwa fasilitas ini merupakan langkah kecil namun penting dalam mendukung kesejahteraan karyawan dan budaya kerja perusahaan. Pengembalian fasilitas minuman ini datang setelah perusahaan menangguhkan beberapa manfaat istimewa yang dikenal luas di industri teknologi. Di antaranya termasuk penyediaan buah dan minuman gratis, pelatih kebugaran di pusat gym perusahaan, program cuti panjang setelah bekerja selama empat tahun, serta penghentian layanan Intel Air Shuttle yang melayani perjalanan antara California, Arizona, dan Oregon. Selain itu, kebijakan yang menimbulkan kekhawatiran lebih

Download Windows 10 ISO versi Lite Alias Ringan

Anda kesal karena laptop atau PC desktop Anda lemot padahal punya spek yang tidak jelek? Jangan dulu membuang laptop atau upgrade komponen PC desktop tersebut. Siapa tau yang membuatnya berat adalah sistem operasi Windows 10-nya yang kegemukan. Selain format dan install ulang, ada cara lain yang lebih efektif dalam membuat komputer kita bekerja seperti layaknya baru beli. Caranya adalah download Windows 10 ISO versi ringan. Lho, apa bedanya? Kalau kita memilih untuk download Windows 10 ISO versi ringan dan instalasikan di PC kita, maka fitur-fitur, fungsi atau aplikasi yang jarang digunakan, sudah ditiadakan. Selain lebih hemat ruang di harddisk, dibuangnya fitur-fitur yang tidak berguna tersebut akan membuat PC atau laptop spek rendah pun bisa menjalankan Windows 10 dengan lancar. Download Windows 10 Terbaru October 2020 Update Lalu, apa saja yang ada di Windows 10 versi Lite alias versi Ringan tersebut? Nah ini dia: Windows 10 SuperLite Compact (Gaming Edition) x64 –

Tumbuh Tak Sesuai Target, AMD PHK 4% Karyawan

AMD mengumumkan pengurangan sekitar 1.000 karyawan, setara dengan 4 persen dari total tenaga kerja globalnya yang berjumlah 26.000 orang. Langkah ini diambil setelah laporan keuangan kuartal ketiga (Q3) menunjukkan hasil campuran, ditambah dengan persaingan yang semakin ketat, terutama dari Intel. Meski mencatat pertumbuhan pendapatan sebesar 17 persen dan peningkatan laba hingga 34 persen pada Q3, proyeksi pendapatan AMD untuk kuartal keempat (Q4) sebesar $7,5 miliar tidak memenuhi ekspektasi analis sebesar $7,54 miliar. Hal ini memicu penurunan harga saham AMD sebesar 13,6 persen sejak laporan tersebut dirilis. AMD menyatakan bahwa pengurangan tenaga kerja ini adalah langkah strategis untuk memfokuskan sumber daya pada sektor-sektor dengan potensi pertumbuhan tinggi, seperti kecerdasan buatan (AI). Keputusan ini juga merupakan bagian dari upaya perusahaan untuk beradaptasi dengan tantangan pasar dan mengoptimalkan posisi kompetitifnya. Perusahaan juga berkomitmen memberikan dukungan