Chat with RTX adalah “ChatGPT Versi Offline” dari Nvidia

Ada kabar menarik nih guys. Nvidia, produsen chip grafis terkemuka dunia baru saja merilis aplikasi chatbot berbasis kecerdasan buatan alias rtificial intelligence (AI) untuk komputer (PC) yang diberi nama "Chat with RTX".

Yang menarik, berbeda dengan ChatGPT, aplikasi ini sejatinya merupakan asisten pribadi digital yang bekerja secara lokal di komputer/PC, bukan di-cloud.

Chat with RTX sendiri menawarkan berbagai layanan, antara lain pengguna bisa mengunggah dokumen di PC dengan format file .txt, .pdf, .doc/.docx, dan .xml, kemudian meminta Chat with RTX untuk merangkumnya.

Sebagai contoh, pengguna dapat meng-upload file meeting kemudian menanyakan pertanyaan spesifik, seperti: "Apa nama tempat yang direkomendasikan rekan kerja saya?". Nantinya, chatbot akan mencari jawaban pertanyaan itu langsung dari dokumen yang diberikan, sehingga pengguna tidak usah mencari jawaban tersebut secara manual.

Selain merangkum file, Chat with RTX juga bisa merangkum video YouTube yang diberikan dalam bentuk tautan (link). Misalnya, pengguna bisa menanyakan "Apa saja GPU yang diumumkan Nvidia di Consumer Electronics Show (CES) 2024?", sehingga tidak usah menonton video pengumuman resminya yang berdurasi hingga 30 menit.

Chat with RTX juga bisa menganalisis dokumen pengguna dan merangkum video YouTube. Pengguna dapat juga meminta rekomendasi tempat wisata "hidden gem" yang wajib dikunjungi dari berbagai kreator konten di YouTube, atau meminta tutorial cara membuat kue.

Dengan begitu, pengguna mendapatkan informasi yang dibutuhkan secara lebih efisien. Melihat kegunaannya, bisa dibilang bahwa Chat with RTX memiliki kemiripan dengan chatbot Gemini milik Google atau ChatGPT bikinan OpenAI.

Harus Menggunakan Nvidia RTX 3000 atau 4000 series
Adapun Chat with RTX menggunakan retrieval augmented generation (RAG) dan software Nvidia TensorRT-LLM, yang didukung oleh unit pengolah grafis (GPU) Nvidia RTX 3000 atau 4000 series dan diakselerasi oleh inti Tensor built-in.

Chat with RTX mengandalkan GPU dengan VRAM 8GB, RAM 16GB, sistem operasi (OS) Windows 10 atau 11, serta driver GPU Nvidia teranyar (versi 535.11 atau lebih baru). Pengguna juga memerlukan media penyimpanan seluas 35GB.

File lokal di komputer pengguna nantinya dihubungkan (upload) ke model bahasa besar (large language model/LLM) open-source seperti Mistral atau Llama 2, yang disebut bisa memberikan jawaban yang cepat dan relevan secara kontekstual.

Postingan Populer

Review Asus ProArt PX13 Laptop untuk Editor Profesional

Dalam beberapa tahun terakhir, permintaan akan laptop yang dirancang khusus untuk kreator profesional semakin meningkat. Fotografer, desainer grafis, video editor, dan animator kian membutuhkan perangkat dengan performa tinggi, layar berkualitas, serta fitur yang mendukung produktivitas. Oleh karena itu, banyak produsen laptop kini berlomba-lomba menghadirkan perangkat yang tidak hanya bertenaga, tetapi juga memiliki desain portabel dan daya tahan baterai yang optimal. Asus, sebagai salah satu pemimpin industri, telah menghadirkan berbagai lini produk untuk kreator, salah satunya adalah seri ProArt. Berbeda dengan seri Asus lainnya, ProArt dirancang khusus untuk memenuhi kebutuhan profesional yang mengandalkan akurasi warna tinggi, kemampuan komputasi berat, serta fitur-fitur tambahan seperti stylus dan software optimization. Asus ProArt PX13 menjadi salah satu model terbaru yang menggabungkan performa canggih dengan fleksibilitas penggunaan. Desain Asus ProArt PX13 hadir dengan desain...

Hindari Pedagang, Zotac Jual GeForce RTX 50 Series ke User

Ada kabar unik nih guys. Zotac memperkenalkan metode baru dalam mendistribusikan GPU GeForce RTX 50-series (Blackwell) guna memastikan produk ini sampai ke tangan gamer, bukan scalper. Perusahaan tersebut, melalui server Discord Zotac Gaming, menerapkan sistem akses prioritas bagi anggota komunitasnya untuk membeli GeForce RTX 5090 dan GeForce RTX 5080 secara langsung. Sebagai gambaran, saat ini banyak yang menganggap peluncuran Blackwell sebagai "paper launch," di mana ketersediaan GPU sangat terbatas. Dan scalper, pedagang yang ingin cuan lebih, serta penipu memanfaatkan situasi tersebut. Sebenarnya, beberapa pengecer mencoba langkah-langkah unik untuk mendistribusikan GPU ini secara adil. Misalnya, sebuah toko komputer di Jepang mengadakan undian bagi calon pembeli, yang sayangnya berujung pada kekacauan dan cedera. Untuk menghindari insiden serupa, Zotac memilih pendekatan berbeda. Menurut aturan Zotac, calon pembeli harus menjadi anggota server Discord Zotac Gaming dan a...

Cara Mengatasi Zenfone yang Sering Restart Atau Mati Sendiri

Kali ini saya akan berbagi pengalaman tentang cara mengatasi smartphone Asus Zenfone yang sering restart atau mati sendiri. Mungkin sudah banyak blogger atau orang lain yang sudah paham tentang cara memperbaiki masalah tersebut, namun tidak ada salahnya jika kita saling berbagi atau mengingat kembali cara memperbaiki masalah tersebut. Asus Zenfone datang ke Indonesia dengan segala kecanggihan dan segala kelebihannya sehingga banyak orang orang baik yang paham teknologi atau orang awam sekalipun menggunakan Asus Zenfone. Selain karena canggih dalam performa mesin, Asus Zenfone juga dibekali dengan fitur-fitur yang mumpuni, serta di bandrol dengan harga yang sangat terjangkau. Tidak salah kalau Asus Zenfone menjadi Brand papan atas smartphone masa kini. Namun terkadang, para pengguna dihadapkan pada sedikit masalah yang terjadi pada Asus Zenfone. Untuk orang yang mengerti teknologi mungkin hal itu mudah di tanggulangi. Namun ketika menimpa orang awam, tentu akan membuat ha...

Seagate Hadirkan SSD Ultra Compact Terbaru

Seagate telah meluncurkan seri Ultra Compact SSD terbaru, sebuah SSD portabel berukuran sebesar flash drive. Storage tersebut tersedia dalam kapasitas 1TB dan 2TB, dengan kecepatan transfer hingga 1.000MB/s. Meskipun Seagate belum mengungkapkan banyak detail mengenai spesifikasi internal atau pengendali SSD ini, perusahaan tersebut menekankan bahwa Ultra Compact SSD ini dirancang untuk portabilitas dan daya tahan. SSD portabel baru Seagate itu memiliki dimensi 70x20,40x12,50mm dan berat hanya 24 gram. Selain itu, perangkat ini memiliki ketahanan terhadap debu dan air dengan sertifikasi IP54, perlindungan jatuh hingga 3 meter, dan dilengkapi dengan selubung karet untuk pegangan dan perlindungan ekstra. Dari segi spesifikasi, Seagate menyatakan bahwa SSD ini menawarkan kecepatan transfer hingga 1.000MB/s dan menggunakan port USB-C. Kabarnya, Seagate Ultra Compact SSD akan tersedia bulan ini langsung dari Seagate, dengan harga $99,99 untuk versi 1TB dan $179,99 untuk versi 2TB. Denga...

Penambang Bitcoin Beralih ke AI untuk Keuntungan Lebih Besar

Penambang Bitcoin kini mulai melirik sektor kecerdasan buatan (AI) sebagai peluang bisnis yang lebih menguntungkan. Sebagai contoh, perusahaan pertambangan Bitcoin yang berbasis di Toronto, Bitfarms, baru-baru ini mengumumkan keterlibatan dua firma konsultasi untuk mengevaluasi kelayakan mengubah beberapa fasilitasnya menjadi pusat data AI. Bitfarms telah menunjuk Appleby Strategy Group dan World Wide Technology consultants untuk menilai lokasi operasionalnya di Amerika Utara. Para ahli ini bertugas memberikan rekomendasi terkait strategi komputasi dan AI perusahaan, serta menarik calon klien untuk memanfaatkan fasilitas yang ada. Sebagai penambang mata uang kripto, Bitfarms memiliki lahan luas dan sumber daya listrik yang besar, komponen penting dalam pembangunan pusat komputasi berperforma tinggi (HPC) dan pusat data AI. Dengan infrastruktur yang sudah tersedia, banyak penambang kini mengalihkan sebagian operasinya untuk mendukung lonjakan permintaan pusat data AI. Namun, tidak sedik...

Cari Blog Ini