Dalam lanskap kecerdasan buatan yang berkembang pesat, memiliki akses ke model bahasa yang kuat dan tidak terfilter secara lokal memberikan kebebasan yang belum pernah ada sebelumnya bagi pengembang, peneliti, dan penggemar AI. DeepSeek R1, sebuah model bahasa canggih yang dikembangkan oleh DeepSeek, telah menarik perhatian signifikan karena kemampuan penalarannya yang mengesankan yang bersaing dengan model-proprietari seperti tawaran OpenAI. Panduan komprehensif ini akan membawa Anda melalui segala yang perlu Anda ketahui tentang menjalankan versi tidak terfilter dari DeepSeek R1 di mesin lokal Anda, memberi Anda kontrol dan privasi penuh atas interaksi AI Anda.
DeepSeek R1 mewakili kemajuan signifikan dalam teknologi AI sumber terbuka. Model ini telah menunjukkan kinerja luar biasa pada tolok ukur kompleks, terutama unggul dalam:
Versi standar dari DeepSeek R1 dilengkapi dengan mekanisme keselamatan bawaan yang membatasi jenis keluaran tertentu. Namun, banyak pengguna yang mencari versi tidak terfilter untuk penelitian yang sah, aplikasi kreatif, atau kasus penggunaan khusus di mana batasan tersebut tidak produktif.
Menjalankan versi tidak terfilter dari DeepSeek R1 secara lokal menawarkan beberapa keuntungan yang menarik:
Proses penghapusan filter keselamatan dari model bahasa seperti DeepSeek R1 sering disebut sebagai "abliteration." Berbeda dengan penyesuaian halus tradisional yang memerlukan pelatihan ulang yang luas, abliteration memodifikasi pola aktivasi internal model untuk menekan kecenderungannya menolak jenis prompt tertentu.
Proses ini mempertahankan kemampuan penalaran inti sambil menghapus pembatasan buatan, menghasilkan model yang:
Sebelum menyelami instalasi lokal, patut dipertimbangkan Anakin AI sebagai platform yang kuat untuk bekerja dengan model tidak terfilter seperti DeepSeek R1.
Anakin AI menawarkan solusi tanpa kode untuk membuat alur kerja AI yang dapat memanfaatkan berbagai model kuat, termasuk versi tidak terfilter dari DeepSeek R1.
Dengan Anakin AI, Anda bisa:
Bagi mereka yang ingin memulai dengan cepat dengan DeepSeek R1 yang tidak terfilter tanpa harus mengelola kompleksitas teknis dari penyebaran lokal, Anakin AI menyediakan alternatif yang sangat baik. Namun, bagi mereka yang berkomitmen untuk pengaturan lokal yang sepenuhnya, mari kita lanjutkan dengan panduan instalasi.
DeepSeek R1 tersedia dalam beberapa ukuran, dengan persyaratan sumber daya yang berukuran sesuai:
Persyaratan Minimum:
Dianjurkan untuk Model yang Lebih Besar (32B/70B):
Ollama adalah alat yang ramah pengguna yang menyederhanakan menjalankan model bahasa besar secara lokal. Berikut adalah cara menggunakannya untuk menerapkan DeepSeek R1 yang tidak terfilter:
Untuk macOS/Linux:
curl -fsSL https://ollama.com/install.sh | sh
Untuk Windows:
Unduh penginstal dari situs resmi Ollama.
Tergantung pada kemampuan perangkat keras Anda, pilih ukuran model yang sesuai:
# Untuk versi 8B parameter (paling sedikit penggunaan sumber daya)
ollama pull deepseek-r1:8b
# Untuk versi yang lebih besar (jika perangkat keras Anda mendukungnya)
ollama pull deepseek-r1:32b
ollama pull deepseek-r1:70b
Untuk versi yang tidak terfilter secara khusus, Anda mungkin perlu menggunakan model yang disediakan oleh komunitas:
ollama pull huihui_ai/deepseek-r1-abliterated:8b
Mulailah sesi interaktif dengan model yang sudah Anda instal:
ollama run deepseek-r1:8b
atau untuk versi tidak terfilter:
ollama run huihui_ai/deepseek-r1-abliterated:8b
Anda sekarang dapat berinteraksi dengan model secara langsung melalui baris perintah.
Ollama menyediakan REST API yang memungkinkan Anda mengintegrasikan model dengan aplikasi lain:
POST http://localhost:11434/api/generate
{
"model": "deepseek-r1:8b",
"prompt": "Permintaan Anda di sini",
"stream": true
}
Kuantisasi mengurangi jejak memori model dengan dampak minimal pada kualitas:
Sesuaikan perilaku model Anda dengan parameter ini:
ollama run deepseek-r1:8b -c '
{
"temperature": 0.7,
"top_p": 0.9,
"context_length": 4096,
"repeat_penalty": 1.1
}'
Jika Anda memiliki VRAM terbatas, Anda dapat menentukan berapa banyak lapisan yang akan dialokasikan ke GPU:
ollama run deepseek-r1:8b --gpu-layers 32
Seperti disebutkan sebelumnya, Anakin AI memberikan alternatif yang kuat untuk pengaturan lokal yang kompleks. Berikut adalah cara Anakin AI dapat meningkatkan pengalaman Anda dengan DeepSeek R1 yang tidak terfilter:
Untuk memulai dengan Anakin AI:
Walaupun model tidak terfilter memberikan kebebasan berharga untuk aplikasi yang sah, mereka juga datang dengan tanggung jawab:
Jika Anda mengalami kesalahan CUDA kekurangan memori:
Untuk meningkatkan kinerja:
Untuk mengurangi ketidakakuratan dalam keluaran:
Menjalankan model DeepSeek R1 yang tidak terfilter secara lokal memberi Anda akses yang belum pernah terjadi sebelumnya ke kemampuan AI yang kuat dengan privasi dan kontrol penuh. Entah Anda memilih rute teknis penginstalan lokal melalui Ollama atau memilih pengalaman yang disederhanakan dari Anakin AI, Anda sekarang memiliki pengetahuan yang dibutuhkan untuk menerapkan model canggih ini untuk kebutuhan spesifik Anda.
Dengan memahami baik aspek teknis maupun pertimbangan etis, Anda dapat memanfaatkan model AI yang tidak terfilter secara bertanggung jawab sambil menjelajahi seluruh spektrum kemungkinan yang mereka tawarkan. Seiring model bahasa terus berkembang, memiliki keterampilan untuk menerapkan dan menyesuaikannya secara lokal akan tetap menjadi aset yang tak ternilai bagi pengembang, peneliti, dan penggemar AI.
Ingat bahwa dengan kekuatan besar datang tanggung jawab yang besar. Gunakan kemampuan ini secara etis, sah, dan sadar untuk berkontribusi positif pada kemajuan teknologi AI.
