Langsung ke konten utama

Chat with RTX adalah “ChatGPT Versi Offline” dari Nvidia

Ada kabar menarik nih guys. Nvidia, produsen chip grafis terkemuka dunia baru saja merilis aplikasi chatbot berbasis kecerdasan buatan alias rtificial intelligence (AI) untuk komputer (PC) yang diberi nama "Chat with RTX".

Yang menarik, berbeda dengan ChatGPT, aplikasi ini sejatinya merupakan asisten pribadi digital yang bekerja secara lokal di komputer/PC, bukan di-cloud.

Chat with RTX sendiri menawarkan berbagai layanan, antara lain pengguna bisa mengunggah dokumen di PC dengan format file .txt, .pdf, .doc/.docx, dan .xml, kemudian meminta Chat with RTX untuk merangkumnya. 



Sebagai contoh, pengguna dapat meng-upload file meeting kemudian menanyakan pertanyaan spesifik, seperti: "Apa nama tempat yang direkomendasikan rekan kerja saya?". Nantinya, chatbot akan mencari jawaban pertanyaan itu langsung dari dokumen yang diberikan, sehingga pengguna tidak usah mencari jawaban tersebut secara manual.

Selain merangkum file, Chat with RTX juga bisa merangkum video YouTube yang diberikan dalam bentuk tautan (link). Misalnya, pengguna bisa menanyakan "Apa saja GPU yang diumumkan Nvidia di Consumer Electronics Show (CES) 2024?", sehingga tidak usah menonton video pengumuman resminya yang berdurasi hingga 30 menit.

Chat with RTX juga bisa menganalisis dokumen pengguna dan merangkum video YouTube. Pengguna dapat juga meminta rekomendasi tempat wisata "hidden gem" yang wajib dikunjungi dari berbagai kreator konten di YouTube, atau meminta tutorial cara membuat kue.
 
Dengan begitu, pengguna mendapatkan informasi yang dibutuhkan secara lebih efisien. Melihat kegunaannya, bisa dibilang bahwa Chat with RTX memiliki kemiripan dengan chatbot Gemini milik Google atau ChatGPT bikinan OpenAI.

Harus Menggunakan Nvidia RTX 3000 atau 4000 series
Adapun Chat with RTX menggunakan retrieval augmented generation (RAG) dan software Nvidia TensorRT-LLM, yang didukung oleh unit pengolah grafis (GPU) Nvidia RTX 3000 atau 4000 series dan diakselerasi oleh inti Tensor built-in.

Chat with RTX mengandalkan GPU dengan VRAM 8GB, RAM 16GB, sistem operasi (OS) Windows 10 atau 11, serta driver GPU Nvidia teranyar (versi 535.11 atau lebih baru). Pengguna juga memerlukan media penyimpanan seluas 35GB.

File lokal di komputer pengguna nantinya dihubungkan (upload) ke model bahasa besar (large language model/LLM) open-source seperti Mistral atau Llama 2, yang disebut bisa memberikan jawaban yang cepat dan relevan secara kontekstual. 

Baca juga:


Nah, tugas retrieval augmented generation adalah meningkatkan akurasi dan reliabilitas model AI generatif, sedangkan Nvidia TensorRT-LLM mengoptimalkan kinerja inferensi model bahasa besar terbaru dalam platform Nvidia AI.

Chat with RTX dijalankan langsung di PC dan workstation Nvidia RTX, sehingga data pengguna hanya akan disimpan di perangkat saja. Chat with RTX tidak mengandalkan LLM berbasis cloud, sehingga pengguna bisa memproses data sensitif di PC tanpa harus membagikannya ke pihak ketiga.

Pengguna juga tidak perlu koneksi internet saat menggunakan Chat with RTX. Bisa diunduh gratis Tampilan Chat with RTX Lihat Foto Tampilan Chat with RTX(Nvidia) Pengguna yang sudah memenuhi minimum spesifikasi Chat with RTX bisa mengunduhnya secara gratis.

Sebagai informasi, aplikasi ini masih bersifat demo, sehingga masih terasa kurang apabila dibandingkan chatbot kenamaan lainnya. Proses instalasinya membutuhkan kesabaran, dan aplikasinya disebut boros daya. Selain itu, Chat with RTX tidak mengingat konteks pembicaraan, sehingga pengguna tidak bisa menanyakan pertanyaan lanjutan dari pertanyaan yang sudah diajukan.

Postingan Populer

2027, Penduduk Bumi Kalah Dari Jumlah Smartphone

Menjelang akhir 2027 atau awal 2028, jumlah smartphone di dunia diprediksi akan melampaui populasi manusia. Laporan terbaru dari Techreport.com mengungkapkan bahwa pertumbuhan smartphone saat ini berjalan empat kali lebih cepat dibanding pertumbuhan jumlah penduduk global.  Jumlah perangkat melonjak dari 5,9 miliar unit di 2020 menjadi 7,42 miliar per Januari 2025. Di balik lonjakan ini, perputaran uang di industri smartphone pun terus membesar. Dalam periode 2020–2024, total pendapatan global dari industri ini mencapai USD 2,3 triliun. Bahkan diperkirakan angka tahunan akan menembus USD 560 miliar pada 2029, seiring adopsi smartphone yang makin merambah ke pasar negara berkembang. Namun, di tengah pasar yang terus berkembang, peta persaingan pemain besar mulai bergeser. Samsung yang dulu dikenal sebagai raja volume pengapalan, kini berada dalam posisi terdesak. Pengapalan kuartalannya turun drastis dari 80,4 juta unit pada akhir 2020 menjadi hanya 51,7 juta di kuartal IV 2024, lev...

Review Asus Vivobook S 15 OLED S5507. Titik Optimal Prosesor Qualcomm

Industri laptop sedang mengalami transformasi besar dengan semakin populernya prosesor berbasis ARM dalam perangkat berbasis Windows. Padahal, selama bertahun-tahun, arsitektur x86 yang dikembangkan oleh Intel dan AMD telah mendominasi pasar. Tetapi kini ARM hadir dengan keunggulan efisiensi daya yang lebih baik, kinerja yang semakin kompetitif, serta dukungan teknologi AI yang lebih canggih. Dengan konsumsi daya yang lebih rendah, laptop berbasis ARM menjanjikan daya tahan baterai yang lebih lama tanpa mengorbankan performa. Semua kelebihan di atas menjadikan platform baru tersebut sebagai pilihan menarik bagi pengguna yang menginginkan perangkat portabel dengan produktivitas tinggi. Apalagi, kedatangan prosesor seperti Qualcomm Snapdragon X Plus dan Snapdragon X Elite menjadi titik balik bagi laptop Windows yang mengadopsi arsitektur ARM.  Berkat optimalisasi perangkat lunak dan dukungan dari Microsoft, aplikasi Windows kini semakin kompatibel dengan ARM, memungkinkan pengalaman ...

Motorola Terjun ke Industri Laptop

Motorola bersiap memperluas portofolio produknya dengan merilis laptop pertamanya, Moto Book 60, serta tablet terbaru Moto Pad 60 Pro. Kedua perangkat ini dijadwalkan meluncur secara resmi di India pada 17 April ini, dan akan dijual eksklusif secara online melalui Flipkart. Informasi soal perangkat ini mulai beredar sejak Motorola menggoda kehadirannya lewat halaman khusus di platform e-commerce tersebut. Kini, bocoran spesifikasi kunci keduanya pun muncul ke publik. Moto Book 60 hadir sebagai laptop pertama Motorola, menawarkan layar OLED 14 inci beresolusi 2.8K dengan tingkat kecerahan puncak hingga 500 nits. Perangkat ini ditenagai prosesor Intel Core 7, dipadukan dengan dual stereo speaker yang mendukung Dolby Atmos untuk kualitas audio lebih imersif. Soal daya tahan, Moto Book 60 dibekali baterai 60Wh yang mendukung pengisian cepat 60W via USB-C. Desainnya juga dibuat ramping dan ringan, dengan bobot hanya 1,4 kilogram. Motorola menghadirkan pilihan warna menarik hasil kolaborasi ...

Laptop Gaming Murah Asus Makin Banyak Variannya

Asus hari ini resmi memperkenalkan lini laptop gaming terbarunya di Indonesia, Asus Gaming Series. Hadir untuk menjawab kebutuhan gamers yang menginginkan perangkat bertenaga dengan harga yang ramah di kantong, laptop gaming murah Asus Gaming Series menawarkan dua varian, yaitu Asus Gaming V16 dan Asus Gaming K16.  Kedua laptop ini dirancang untuk memberikan pengalaman gaming optimal, lengkap dengan fitur modern dan performa tinggi yang masih dapat dijangkau oleh lebih banyak kalangan. Asal tahu saja, sebelum Asus Gaming Series terbaru ini, laptop gaming murah Asus adalah seri TUF Gaming yang harga laptop gaming Asus yang satu itu kini sudah semakin mahal. “Asus selalu berkomitmen menghadirkan pengalaman gaming terbaik untuk semua. Asus Gaming Series adalah bukti nyata dari komitmen tersebut,” ujar Jimmy Lin, Asus Southeast Asia Regional Director. Asus Gaming V16 menjadi andalan utama dalam seri ini. Laptop gaming murah tapi modern ini mengusung prosesor Intel® Core™ 5 210H dan GPU...

Review Asus Vivobook Flip 14 (TP3407), Laptop Lipat Layar OLED, Baterai Awet

Dalam beberapa tahun terakhir, tipe laptop convertible semakin diminati oleh berbagai kalangan, mulai dari para pelajar hingga kaum profesional. Fleksibilitas desain yang memungkinkan mode penggunaan berbeda, mulai dari mode laptop, stand, tenda hingga tablet, memberikan nilai tambah bagi pengguna dengan mobilitas tinggi. Selain itu, layar sentuh dan dukungan stylus semakin memudahkan aktivitas kreatif dan pencatatan digital, menjadikan laptop convertible pilihan ideal untuk produktivitas modern. Di sisi lain, daya tahan baterai menjadi faktor utama yang dipertimbangkan pengguna dalam memilih laptop. Dengan meningkatnya kebutuhan akan perangkat yang bisa bertahan seharian tanpa sering mengisi ulang daya, laptop dengan efisiensi daya tinggi semakin populer.  Asus Vivobook Flip 14 TP3407 hadir sebagai solusi yang menggabungkan desain convertible, layar OLED berkualitas tinggi, dan daya tahan baterai yang cukup andal. Untuk itu, mari kita sedikit mengupas apa yang ditawarkan Asus lewa...