Saya mengganti AI Copilot dengan Deepseek dan itu bagus, jika tidak overhyped

Deepseek adalah model bahasa besar terbaru yang meledak ke tempat kejadian dan mengguncang segalanya, sedemikian rupa sehingga dihapus miliaran dari kekayaan bersih perusahaan teknologi terbesar di dunia. Apa yang benar -benar menarik perhatian semua orang adalah bagaimana Deepseek R1 menampilkan alasannya, atau apa yang penting untuk penalaran dalam LLM. Secara alami, saya ingin mengujinya dan melihat apakah itu bisa menjadi pengganti penuh waktu untuk asisten pada PC Copilot Plus saya.

Sekarang, asisten Microsoft telah menjadi sedikit lebih pintar sejak saya mengganti copilot dengan chatgpt beberapa waktu lalu, tetapi dengan Deepseek membuat gelombang, saya ingin memiliki akses yang lebih cepat ke alat terpanas di kota. Belum lagi, sifat Deepseek yang sedikit lebih terbuka memungkinkan saya untuk meng -host model bahasa besar secara lokal juga, benar -benar menekankan kemampuan AI dari PC baru ini. Saatnya untuk mengubah kunci kopilot itu sekali lagi. Tentu saja, jika Anda ingin mencoba Deepseek di ponsel Android Anda, ada aplikasi untuk itu juga.

Metode cepat

Untuk solusi tercepat dan paling sederhana untuk mengakses Deepseek dengan mengklik tombol, Anda dapat menyalakan kembali kunci kopilot (atau kombinasi kunci lainnya) untuk mengirim Anda langsung ke portal obrolan deepseek online melalui browser web pilihan Anda. Ini adalah proses yang cukup mudah, jadi inilah cara melakukannya.

Atau, Anda dapat menyimpan halaman obrolan. Anda dapat mengaturnya seperti yang kami lakukan untuk contoh chatgpt di atas dengan menggunakan opsi “Jalankan program” dan menyalin dalam argumen pintasan aplikasi web, yang seharusnya menjadi sesuatu seperti contoh di bawah ini.

• App: C:\Program Files (x86)\Microsoft\Edge\Application\msedge_proxy.exe
• Args: --profile-directory=Default --app-id=YOUR_ID_HERE --app-url=https://chat.deepseek.com/ --app-launch-source=4
• Start in: C:\Program Files (x86)\Microsoft\Edge\Application

Meskipun bukan bagian dari proses pengaturan ini, Anda harus mendaftar atau menautkan akun Google Anda untuk menggunakan Deepseek Online. Selain itu, semua peringatan AI berbasis cloud yang biasa berlaku, seperti pemrosesan yang lebih lambat dan/atau masalah masuk pada waktu sibuk dan fakta bahwa data Anda mungkin digunakan untuk pelatihan atau tujuan lain. Poin terakhir itu mungkin lebih memprihatinkan daripada LLM lainnya, mengingat bahwa Deepseek berasal dari Cina.

Sebelum Anda bertukar kopilot, ada beberapa perbedaan utama antara keduanya yang patut dipertimbangkan. Sebagai permulaan, Deepseek hanya teks (ia memiliki program Janus-Pro yang terpisah untuk gambar, tetapi keduanya belum dapat berkomunikasi), sementara Copilot mendukung pembuatan gambar yang cepat, memiliki opsi pemutaran teks-ke-pidato di AS, menempatkan Ini sedikit lebih dekat dengan Gemini Live, dan dapat mengakses informasi real-time tentang hal-hal seperti cuaca (Deepseek hanya dapat melakukan ini ketika diizinkan secara eksplisit, dan temperamental). Microsoft juga menanamkan AI ke dalam teks dan alat pengeditan gambarnya, yang tidak terpengaruh dengan menukar tombol kopilot.

Ada juga fakta bahwa Deepseek akan menyensor tanggapan, khususnya di sekitar aspek sejarah politik Tiongkok. Anda akan bertemu dengan “Saya minta maaf, saya tidak bisa menjawab pertanyaan itu. Saya seorang asisten AI yang dirancang untuk memberikan tanggapan yang bermanfaat dan tidak berbahaya. ” Balas, di mana Copilot memiliki beberapa kekhawatiran seperti itu. Bukan karena kopilot juga bebas dari sensor; Anda akan melihat banyak pedoman dan kepekaan wafel saat menusuk subjek yang lebih sensitif, tetapi ini sedikit lebih berguna untuk topik -topik global yang menarik.

Dalam hal penggunaan berdampingan, Deepseek tidak dapat disangkal lebih cepat daripada kopilot, setidaknya dalam hal mengeluarkan token. Ini akan melayang melalui outputnya sementara kopilot sebagian besar trundle sepanjang beberapa kata sekaligus. Namun, Deepseek-R1 (alias DeepThink) meluangkan waktu berlari melalui rantai penalaran sebelum menyelesaikan jawaban, yang berarti dapat membutuhkan waktu lebih lama untuk benar-benar menghasilkan output yang dapat digunakan. Meskipun mengesankan untuk dilihat, ini akhirnya cukup melelahkan untuk mengkode pertanyaan atau memintanya untuk menjelaskan topik yang kurang dikenal. Copilot juga jauh lebih cepat dan jauh lebih konsisten ketika mencari informasi dari web.

Berdampingan, kopilot cepat tetapi memiliki gaya yang terlalu cerewet daripada memberikan detail mendalam. Dalam contoh di atas dan di bawah, Copilot memberikan jawaban yang jauh lebih pendek untuk kedua pertanyaan saya, dan ketika saya meminta opsi pengkodean alternatif, itu memberi saya satu tetapi tanpa informasi nyata tentang pendekatan yang berbeda. Deepseek R1, sebaliknya, memberikan respons yang sangat rinci terhadap kedua pertanyaan saya, terlalu banyak sehingga dalam beberapa kasus, dan butuh waktu yang sangat lama untuk melewati tahap penalaran. Namun, ketika saya mengajukan pertanyaan pengkodean tindak lanjut, proses pemikirannya menyadari inefisiensi pendekatan Copilot dan sebaliknya menawarkan saya dua alternatif untuk mencoba membatasi kelemahan. Langkah penalaran tambahan itu adalah tambahan yang sangat kuat dalam hal ini.

Namun, jika Anda mencari model generik untuk menjawab pertanyaan sederhana dengan cara yang cukup akurat dan tepat waktu, tetap dengan kopilot. Namun, jika Anda mencari model bahasa besar untuk membantu menjelaskan topik -topik kompleks, dijalankan melalui permintaan pengkodean lanjutan, atau membantu Anda merenungkan melalui opsi yang mungkin, dapat mengikuti dengan proses pemikiran Deepseek R1 menjadikannya alternatif yang sangat berguna. Namun, Anda harus dapat duduk melalui waktu penalaran yang panjang. Bagi sebagian besar pengguna, saya pikir chatgpt Openai adalah sweet spot antara kedalaman dan kecepatan; Saya tahu itu untuk saya.

Hosting Deepseek secara lokal

Jika Anda tidak ingin dibatasi oleh permintaan tinggi dan ingin keamanan tambahan, Anda dapat menampung Deepseek sendiri (tidak seperti Copilot dan ChatGPT). Ini akan berjalan pada chipset AMD dan Intel berbasis lengan dan lebih tradisional. Peringatannya adalah bahwa sebagian besar PC akan berjuang untuk menjalankan model canggih dengan kecepatan versi Gemini atau chatgpt yang diselenggarakan oleh cloud karena mereka tidak memiliki akselerator perangkat keras yang diperlukan dan jumlah ram semata. Namun, jika Anda memiliki GPU NVIDIA (atau model AMD tertentu), Anda dapat memperoleh hasil yang cukup cepat. Jika tidak, Anda masih dapat menjalankan versi yang lebih kecil dan kurang akurat dari LLM terbaik secara real time hanya pada PC atau CPU laptop Anda.

Ada beberapa opsi untuk hosting model bahasa besar di PC Anda. Dua metode terbaik adalah LM Studio, untuk antarmuka yang brilian dan mudah digunakan, dan Ollama dikombinasikan dengan Web UI terbuka. Salah satu dari ini adalah pilihan yang bagus, terutama jika Anda ingin bereksperimen dengan fitur yang lebih canggih, pengkodean, dan sejenisnya. Saya akan tetap dengan LM Studio untuk demonstrasi ini karena ini adalah pengaturan satu klik yang lebih mudah dan berkinerja sangat baik.

Mungkin hal terpenting untuk diubah dalam instruksi ini adalah model mana yang ingin Anda unduh; Mengubah parameter pencarian menjadi 1.5b, 7b, 8b, 14b, atau 32b mengubah ukuran dan persyaratan kinerja model yang muncul. Tetap dengan opsi terkecil jika Anda menggunakan PC kelas bawah, sedangkan 7B atau 8B akan diterima untuk laptop modern dengan CPU yang layak, seperti PC Copilot ini. Namun, model yang lebih besar seperti ini mungkin tidak super responsif jika PC Anda melakukan hal -hal lain. Bahkan model yang lebih besar akan membutuhkan gigi khusus, seperti GPU yang kuat dan setidaknya 32GB RAM cepat.

Di permukaan bertenaga elit Snapdragon X saya, menjalankan versi parameter 1,5 miliar terkecil dari Deepseek R1 secepat portal online, seperti yang Anda harapkan, mengingat itu adalah model yang jauh lebih kecil dan manfaat yang terakhir dari komputasi awan yang lebih kuat untuk model lengkapnya. Namun, model parameter 1,5 miliar ini cukup sampah, jika saya jujur. Tampaknya dengan sangat cepat melupakan informasi dan berakhir dengan loop dengan percakapan singkat, yang tidak mengejutkan dari model sekecil ini.

Meningkatkan versi parameter 8-miliar, waktu untuk token pertama tidak buruk, tetapi kecepatan teks kemudian diproses cukup lambat-yang sangat penting, mengingat bahwa Deepseek sangat bertele-tele. Namun, model ukuran ini berkinerja cukup baik pada chip kelas atas Qualcomm dan merupakan karya yang bagus untuk logika dan penalaran model, yang menumpuk dengan sangat baik terhadap versi online dan kopilot Microsoft. Deepseek mengklaim model ukuran ini berkinerja serupa dengan O1-mini Openai, yang bisa saya percayai. Namun, kinerja mulai merangkak dengan percakapan yang lebih lama, membuat ini berguna untuk pertanyaan yang lebih pendek, tetapi model online memiliki keunggulan dalam hal percakapan yang lebih lama.

Sayang sekali bahwa dukungan akselerasi saat ini sangat terbatas di luar GPU NVIDIA. Bahkan platform populer seperti LM Studio dan Ollama Don’t Mendukung NPU Hexagon Qualcomm atau GPU Adreno untuk membantu mempercepat pemrosesan, yang membuat menjalankan model kecil namun masih cukup mengesankan ini menjadi tugas bahkan pada laptop yang dipasarkan untuk daging AI mereka. Tanpa akselerasi NPU atau GPU, saya tidak merekomendasikan menjalankan model bahasa secara lokal di platform Snapdragon X untuk pekerjaan serius.

Jika Anda telah melalui semua upaya mempelajari cara menjadi tuan rumah sendiri Deepseek Anda sendiri atau model bahasa besar lainnya, ada aplikasi Ollama yang berguna untuk Android yang akan memungkinkan Anda terhubung ke instance PC Anda. Namun, kami tidak dapat menghubungkan ini ke LM Studio, jadi kami harus menginstal Ollama sebagai gantinya.

Tentu saja, ini hanya berfungsi melalui jaringan lokal Anda, jadi Anda harus berinvestasi dalam pengaturan keamanan dan login Anda jika Anda ingin mengekspos kemampuan ini dengan aman melalui internet. Tapi itu jauh di luar ruang lingkup artikel ini. Setelah bereksperimen secara singkat dengan menjalankan Deepseek di ponsel Android secara langsung (singkatnya, jangan!), Melepas pekerjaan ke PC yang jauh lebih kuat jelas merupakan cara terbaik untuk menjalankan model bahasa besar yang aman dari handset Anda.