Langsung ke konten utama

Chat with RTX adalah “ChatGPT Versi Offline” dari Nvidia

Ada kabar menarik nih guys. Nvidia, produsen chip grafis terkemuka dunia baru saja merilis aplikasi chatbot berbasis kecerdasan buatan alias rtificial intelligence (AI) untuk komputer (PC) yang diberi nama "Chat with RTX".

Yang menarik, berbeda dengan ChatGPT, aplikasi ini sejatinya merupakan asisten pribadi digital yang bekerja secara lokal di komputer/PC, bukan di-cloud.

Chat with RTX sendiri menawarkan berbagai layanan, antara lain pengguna bisa mengunggah dokumen di PC dengan format file .txt, .pdf, .doc/.docx, dan .xml, kemudian meminta Chat with RTX untuk merangkumnya. 



Sebagai contoh, pengguna dapat meng-upload file meeting kemudian menanyakan pertanyaan spesifik, seperti: "Apa nama tempat yang direkomendasikan rekan kerja saya?". Nantinya, chatbot akan mencari jawaban pertanyaan itu langsung dari dokumen yang diberikan, sehingga pengguna tidak usah mencari jawaban tersebut secara manual.

Selain merangkum file, Chat with RTX juga bisa merangkum video YouTube yang diberikan dalam bentuk tautan (link). Misalnya, pengguna bisa menanyakan "Apa saja GPU yang diumumkan Nvidia di Consumer Electronics Show (CES) 2024?", sehingga tidak usah menonton video pengumuman resminya yang berdurasi hingga 30 menit.

Chat with RTX juga bisa menganalisis dokumen pengguna dan merangkum video YouTube. Pengguna dapat juga meminta rekomendasi tempat wisata "hidden gem" yang wajib dikunjungi dari berbagai kreator konten di YouTube, atau meminta tutorial cara membuat kue.
 
Dengan begitu, pengguna mendapatkan informasi yang dibutuhkan secara lebih efisien. Melihat kegunaannya, bisa dibilang bahwa Chat with RTX memiliki kemiripan dengan chatbot Gemini milik Google atau ChatGPT bikinan OpenAI.

Harus Menggunakan Nvidia RTX 3000 atau 4000 series
Adapun Chat with RTX menggunakan retrieval augmented generation (RAG) dan software Nvidia TensorRT-LLM, yang didukung oleh unit pengolah grafis (GPU) Nvidia RTX 3000 atau 4000 series dan diakselerasi oleh inti Tensor built-in.

Chat with RTX mengandalkan GPU dengan VRAM 8GB, RAM 16GB, sistem operasi (OS) Windows 10 atau 11, serta driver GPU Nvidia teranyar (versi 535.11 atau lebih baru). Pengguna juga memerlukan media penyimpanan seluas 35GB.

File lokal di komputer pengguna nantinya dihubungkan (upload) ke model bahasa besar (large language model/LLM) open-source seperti Mistral atau Llama 2, yang disebut bisa memberikan jawaban yang cepat dan relevan secara kontekstual. 

Baca juga:


Nah, tugas retrieval augmented generation adalah meningkatkan akurasi dan reliabilitas model AI generatif, sedangkan Nvidia TensorRT-LLM mengoptimalkan kinerja inferensi model bahasa besar terbaru dalam platform Nvidia AI.

Chat with RTX dijalankan langsung di PC dan workstation Nvidia RTX, sehingga data pengguna hanya akan disimpan di perangkat saja. Chat with RTX tidak mengandalkan LLM berbasis cloud, sehingga pengguna bisa memproses data sensitif di PC tanpa harus membagikannya ke pihak ketiga.

Pengguna juga tidak perlu koneksi internet saat menggunakan Chat with RTX. Bisa diunduh gratis Tampilan Chat with RTX Lihat Foto Tampilan Chat with RTX(Nvidia) Pengguna yang sudah memenuhi minimum spesifikasi Chat with RTX bisa mengunduhnya secara gratis.

Sebagai informasi, aplikasi ini masih bersifat demo, sehingga masih terasa kurang apabila dibandingkan chatbot kenamaan lainnya. Proses instalasinya membutuhkan kesabaran, dan aplikasinya disebut boros daya. Selain itu, Chat with RTX tidak mengingat konteks pembicaraan, sehingga pengguna tidak bisa menanyakan pertanyaan lanjutan dari pertanyaan yang sudah diajukan.

Postingan Populer

Cara Cek Chipset Smartphone Android Secara Akurat

Smartphone merupakan perangkat yang memiliki banyak komponen penting, seperti prosessor, memori internal dan eksternal, graphic processing unig (GPU) dan lainnya. Salah satu bagian terpentingnya adalah prosessor. Komponen prosessor sendiri terdiri dari chipset yang memiliki beberapa buah core dengan clock speed yang mungkin berbeda-beda, dan juga GPU. Cara cek chipset smartphone Android dapat dilakukan dengan beberapa metode. Kegiatan mengecek chipset sendiri perlu dilakukan dalam rangka mengetahui spesifikasi perangkat keras yang terdapat di dalam smartphone. Apakah sesuai dengan standar atau resmi. Selain itu, dengan melakukan pengecekan, kita dapat mencegah penipuan yang mungkin terjadi. Berikut ini cara cek chipset smartphone Android yang mungkin bisa Anda lakukan pula pada smartphone Android Anda: Cara Cek Melalui Menu Pengaturan Ini merupakan cara pertama yang bisa kamu lakukan. Langkah-langkahnya adalah: Buka menu pengaturan di smartphone Android Anda Pilih S...

Review Laptop OLED Murah Asus Vivobook Go 15 E1504

Anda yang bekerja di hadapan komputer seharian mungkin kerap mengalami kelelahan pada mata. Ini tentu hal yang wajar, mengingat demi menjaga kesehatan, mata kita perlu secara berkala istirahat sejenak, melihat pemandangan sekitar atau sekadar mengalihkan pandangan dari layar. Akan tetapi, bagi Anda yang sibuk dan punya setumpuk pekerjaan, meninggalkan layar laptop barang 10-15 menit bukanlah opsi. Apalagi kalau kita sedang di tengah meeting online yang sangat krusial. Atau malah Anda yang menjadi pemateri. Salah satu opsi untuk mengurangi mata lekas lelah saat bekerja adalah menggunakan laptop dengan layar yang lebih lebar dan yang penting, menggunakan panel OLED. Alasannya, layar lebih lebar akan membuat mata tidak harus terlalu dipicingkan untuk melihat teks di layar. Dan laptop OLED membuat mata lebih segar, karena mereduksi pancaran sinar biru yang berbahaya. Laptop OLED yang paling tepat untuk aktivitas seperti ini salah satunya adalah Asus Vivobook Go 15 OLED E1504. Selain murah,...

Intel Lepaskan Divisi Manufaktur Jika Teknologi Chip 18A Gagal

Intel mengungkapkan kemungkinan memisahkan divisi manufakturnya jika teknologi chip 18A yang direncanakan rilis tahun depan gagal memenuhi ekspektasi. Co-CEO sementara, Michelle Johnston Holthaus dan David Zinsner, menyatakan bahwa masa depan Intel sebagai perusahaan yang terintegrasi antara desain dan manufaktur kini tidak lagi pasti. Teknologi 18A menjadi taruhan besar Intel untuk mengembalikan dominasi di industri semikonduktor. Namun, perusahaan telah kehilangan nilai pasar lebih dari $100 miliar dan kalah bersaing dari Taiwan Semiconductor Manufacturing Company (TSMC) serta Nvidia, yang kini memimpin di pasar chip AI. Intel Foundry, divisi manufaktur perusahaan, telah dipersiapkan untuk beroperasi sebagai unit independen dengan dewan operasional dan sistem bisnis terpisah. Langkah ini menandai potensi pemisahan penuh dari Intel jika teknologi 18A tidak berhasil. Pemutusan hubungan dengan divisi manufaktur akan menjadi perubahan besar, mengingat model bisnis terintegrasi adalah cir...

Samsung Kurangi Ketergantungan pada Qualcomm

Samsung dilaporkan tengah mempersiapkan langkah besar dengan memperkenalkan chip Exynos 2600 pada lini Galaxy S26 mendatang. Langkah ini dilihat sebagai upaya mengurangi ketergantungan terhadap prosesor Snapdragon buatan Qualcomm, yang selama ini menjadi andalan perangkat flagship Samsung. Menurut laporan dari akun @Jukanlosreve di X (sebelumnya Twitter) dan GSMArena, Galaxy S26 akan menandai kembalinya Samsung ke jajaran prosesor Exynos setelah sebelumnya menghadapi berbagai tantangan produksi dengan Exynos 2500. Akibat masalah yield, Samsung memilih untuk tidak menggunakan Exynos 2500 pada Galaxy S25, yang akan sepenuhnya bergantung pada prosesor Qualcomm Snapdragon 8 Elite. Namun, Exynos 2500 diperkirakan tidak sepenuhnya ditinggalkan. Chip ini mungkin akan digunakan untuk perangkat kelas menengah dan lipat seperti Galaxy Z Flip7 dan Flip FE. Sementara itu, Exynos 2600 yang lebih canggih direncanakan menjadi otak di balik lini Galaxy S26, memberikan peluang bagi Samsung untuk mengur...

Australia Larang Anak di Bawah 16 Tahun Main Medsos

Australia menjadi negara pertama di dunia yang memberlakukan larangan total bagi anak-anak di bawah 16 tahun untuk menggunakan media sosial. Undang-undang ini disahkan melalui Online Safety Amendment (Social Media Minimum Age) Bill 2024, yang bertujuan melindungi kesehatan mental dan kesejahteraan anak-anak. Perdana Menteri Anthony Albanese, yang memperkenalkan RUU ini, menyatakan, “Kami ingin anak-anak Australia memiliki masa kecil yang utuh. Kami juga ingin orang tua merasa tenang.” RUU ini disahkan oleh Senat dengan suara 34 berbanding 19, setelah sebelumnya menerima dukungan mayoritas di House of Representatives. Undang-undang ini menetapkan denda hingga AU$50 juta bagi platform media sosial yang gagal mencegah akses oleh anak di bawah umur. Platform seperti TikTok, Instagram, Snapchat, X (sebelumnya Twitter), Reddit, dan Facebook akan terpengaruh oleh larangan ini. Namun, platform permainan, layanan pesan instan, serta situs tanpa akun seperti YouTube dikecualikan. Larangan ini ak...