Langsung ke konten utama

Chat with RTX adalah “ChatGPT Versi Offline” dari Nvidia

Ada kabar menarik nih guys. Nvidia, produsen chip grafis terkemuka dunia baru saja merilis aplikasi chatbot berbasis kecerdasan buatan alias rtificial intelligence (AI) untuk komputer (PC) yang diberi nama "Chat with RTX".

Yang menarik, berbeda dengan ChatGPT, aplikasi ini sejatinya merupakan asisten pribadi digital yang bekerja secara lokal di komputer/PC, bukan di-cloud.

Chat with RTX sendiri menawarkan berbagai layanan, antara lain pengguna bisa mengunggah dokumen di PC dengan format file .txt, .pdf, .doc/.docx, dan .xml, kemudian meminta Chat with RTX untuk merangkumnya. 



Sebagai contoh, pengguna dapat meng-upload file meeting kemudian menanyakan pertanyaan spesifik, seperti: "Apa nama tempat yang direkomendasikan rekan kerja saya?". Nantinya, chatbot akan mencari jawaban pertanyaan itu langsung dari dokumen yang diberikan, sehingga pengguna tidak usah mencari jawaban tersebut secara manual.

Selain merangkum file, Chat with RTX juga bisa merangkum video YouTube yang diberikan dalam bentuk tautan (link). Misalnya, pengguna bisa menanyakan "Apa saja GPU yang diumumkan Nvidia di Consumer Electronics Show (CES) 2024?", sehingga tidak usah menonton video pengumuman resminya yang berdurasi hingga 30 menit.

Chat with RTX juga bisa menganalisis dokumen pengguna dan merangkum video YouTube. Pengguna dapat juga meminta rekomendasi tempat wisata "hidden gem" yang wajib dikunjungi dari berbagai kreator konten di YouTube, atau meminta tutorial cara membuat kue.
 
Dengan begitu, pengguna mendapatkan informasi yang dibutuhkan secara lebih efisien. Melihat kegunaannya, bisa dibilang bahwa Chat with RTX memiliki kemiripan dengan chatbot Gemini milik Google atau ChatGPT bikinan OpenAI.

Harus Menggunakan Nvidia RTX 3000 atau 4000 series
Adapun Chat with RTX menggunakan retrieval augmented generation (RAG) dan software Nvidia TensorRT-LLM, yang didukung oleh unit pengolah grafis (GPU) Nvidia RTX 3000 atau 4000 series dan diakselerasi oleh inti Tensor built-in.

Chat with RTX mengandalkan GPU dengan VRAM 8GB, RAM 16GB, sistem operasi (OS) Windows 10 atau 11, serta driver GPU Nvidia teranyar (versi 535.11 atau lebih baru). Pengguna juga memerlukan media penyimpanan seluas 35GB.

File lokal di komputer pengguna nantinya dihubungkan (upload) ke model bahasa besar (large language model/LLM) open-source seperti Mistral atau Llama 2, yang disebut bisa memberikan jawaban yang cepat dan relevan secara kontekstual. 

Baca juga:


Nah, tugas retrieval augmented generation adalah meningkatkan akurasi dan reliabilitas model AI generatif, sedangkan Nvidia TensorRT-LLM mengoptimalkan kinerja inferensi model bahasa besar terbaru dalam platform Nvidia AI.

Chat with RTX dijalankan langsung di PC dan workstation Nvidia RTX, sehingga data pengguna hanya akan disimpan di perangkat saja. Chat with RTX tidak mengandalkan LLM berbasis cloud, sehingga pengguna bisa memproses data sensitif di PC tanpa harus membagikannya ke pihak ketiga.

Pengguna juga tidak perlu koneksi internet saat menggunakan Chat with RTX. Bisa diunduh gratis Tampilan Chat with RTX Lihat Foto Tampilan Chat with RTX(Nvidia) Pengguna yang sudah memenuhi minimum spesifikasi Chat with RTX bisa mengunduhnya secara gratis.

Sebagai informasi, aplikasi ini masih bersifat demo, sehingga masih terasa kurang apabila dibandingkan chatbot kenamaan lainnya. Proses instalasinya membutuhkan kesabaran, dan aplikasinya disebut boros daya. Selain itu, Chat with RTX tidak mengingat konteks pembicaraan, sehingga pengguna tidak bisa menanyakan pertanyaan lanjutan dari pertanyaan yang sudah diajukan.

Postingan Populer

Laptop Gaming Terbaik dan Tips Memilih Spesifikasinya

Laptop gaming adalah perangkat yang wajib dimiliki oleh para gamers, baik gamers pemula apalagi gamers profesional, untuk menunjang pengalaman bermain game. Khususnya terutama saat mereka akan memainkan game AAA yang berat.  Namun demikian, spesifikasi laptop gaming yang beredar di pasaran Indonesia saat ini sangat bervariasi. Banyaknya jumlah pilihan dari berbagai brand, bahkan sering kali satu brand laptop menghadirkan banyak opsi laptop gaming, mungkin membuat Anda bingung saat akan memilih. Berikut ini adalah beberapa tips yang dapat membantu Anda memilih laptop gaming yang sesuai dengan kebutuhan dan anggaran Anda. Sebelum kami jabarkan satu persatu, berikut secara singkat tips memilih laptop gaming terbaik: Prioritaskan GPU terbaru dan CPU generasi terkini Pilih layar dengan refresh rate tinggi, ukuran sesuai, panel berkualitas, dan resolusi optimal Pilih RAM dengan kapasitas cukup dan slot tambahan Pilih penyimpanan dengan jenis SSD dan kapasitas besar, toh harga SSD sudah...

Huawei Terancam Stop Windows, Beralih ke Linux dan HarmonyOS?

Hubungan Huawei dengan Amerika Serikat kembali menghadapi tantangan baru. Lisensi Microsoft untuk laptop Huawei akan berakhir bulan ini, membuat masa depan laptop berbasis Windows dari perusahaan Tiongkok tersebut berada dalam ketidakpastian. Kecuali Huawei berhasil mendapatkan perpanjangan lisensi dari Microsoft, perusahaan tersebut harus meninggalkan Windows dan beralih ke Linux atau sistem operasi buatannya sendiri, HarmonyOS. Dengan dominasi Apple di pasar laptop premium serta posisi Windows yang kuat di dunia bisnis dan gaming, transisi tersebut bisa membuat laptop Huawei menjadi kurang menarik di pasar luar Tiongkok. Huawei sendiri telah menyatakan niatnya untuk meninggalkan Windows pada model laptop masa depan mereka. Sebagai langkah konkret, perusahaan akan merilis perangkat yang disebut "AI PC" pada April mendatang. Kabarnya, laptop baru tersebut akan ditenagai oleh prosesor Kunpeng buatan Huawei dan sistem operasi HarmonyOS. Menggantikan Copilot+, ia akan dilengkapi...

Cara Menggunakan Mode Kamera Makro Pada Smartphone

Kamera makro sudah banyak digunakan dan ditanamkan pada smartphone-smartphone masa kini. Fungsi dari kamera tersebut adalah untuk memperjelas objek yang berada dalam jarak yang sangat dekat atau memfoto objek yang kecil dengan detail yang lebih jelas dan bagus.  Contoh objek yang dapat difoto menggunakan kamera macro di antaranya seperti kapiler-kapiler daun, muka-muka serangga kecil seperti semut, bola mata binatang peliharaan Anda dan lain-lainnya. Namun apakah untuk memotret macro harus menggunakan kamera profesional? Jawabannya tentu tidak. Macro photography bisa dilakukan lewat smartphone Lalu, bagaimana caranya untuk mendapatkan foto makro yang detail menggunakan smartphone milik Anda? Nah kali ini kita akan bahas bagaimana caranya untuk mengambil foto makro menggunakan smartphone Android dan iPhone. Kita juga akan merumuskan bagaimana sih tips dan triknya untuk menggunakan kamera makro ini. Android Banyak handset Android memiliki kamera makro yang khusus. Pengguna bi...

Qualcomm Update Lini Snapdragon G, Hadirkan Dukungan Lumen dan Ray Tracing

Sejak 2023, Qualcomm telah mengembangkan chipset Snapdragon khusus untuk konsol gaming genggam, yang dipasarkan di bawah merek Snapdragon G. Kini, perusahaan tersebut merilis pembaruan besar pada seluruh jajaran chipset ini dengan peningkatan signifikan dalam performa dan fitur dalam wujud Snapdragon G3 Gen 3. Chipset Snapdragon G3 Gen 3 menjadi chipset pertama dalam lini G yang mendukung Lumen, sistem pencahayaan global dinamis dan refleksi milik Unreal Engine 5. Selain itu, chipset tersebut juga membawa akselerasi perangkat keras untuk ray tracing, fitur yang sebelumnya tidak tersedia pada G2 dan G1. Dari sisi performa, G3 Gen 3 mengalami lonjakan signifikan. CPU 8-core-nya (1 core prime, 5 core performa, dan 2 core efisiensi) menawarkan peningkatan kecepatan 30% dibandingkan generasi sebelumnya. Sementara itu, GPU Adreno A32 yang baru membawa peningkatan kinerja sebesar 28%. Sebagai gambaran, Snapdragon G2 Gen 2 juga mengalami peningkatan drastis dibandingkan pendahulunya, dengan pe...

Review Asus Vivobook 14 A1407QA. Laptop Copilot+ PC Paling Murah!

Perkembangan kecerdasan buatan dalam komputasi semakin pesat. Dan tren yang berkembang saat ini dalam industri laptop adalah hadirnya Copilot+ PC besutan Microsoft, yang terus membenahi Windows 11 dengan fitur-fitur AI terbarunya. Sebagai gambaran, teknologi ini memungkinkan laptop untuk menjalankan berbagai tugas berbasis AI secara lokal, tanpa harus selalu bergantung pada cloud alias terhubung ke Internet. Nah, salah satu syarat utama agar laptop mampu mengadopsi tren ini dengan baik adalah kehadiran Neural Processing Unit (NPU) yang kuat, dengan kemampuan setidaknya 45 TOPS untuk menangani berbagai skenario pemrosesan AI. Seperti diketahui, laptop masa depan diharapkan tidak hanya mengandalkan CPU dan GPU untuk menangani komputasi berat, tetapi juga memanfaatkan NPU untuk meningkatkan efisiensi daya dan performa dalam tugas berbasis kecerdasan buatan. Di pasaran, Asus baru-baru ini menghadirkan seri Vivobook 14 A1407QA yang hadir dengan prosesor Qualcomm Snapdragon X. Prosesor terse...