Model bahasa besar (LLM) seperti ChatGPT telah merevolusi cara kita berinteraksi dengan teknologi, menawarkan generasi teks mirip manusia, kemampuan terjemahan, dan antarmuka percakapan. Namun, pertanyaan yang ada di benak semua orang adalah: dari mana ChatGPT mendapatkan datanya? Jawabannya kompleks dan terus berkembang, melibatkan kumpulan informasi yang luas dan beragam yang dikumpulkan dari internet dan sekitarnya. Memahami sumber dan proses di balik dasar data ChatGPT sangat penting untuk mengevaluasi kemampuannya, keterbatasannya, dan potensi bias. Ini juga membantu kita memahami pertimbangan etis yang mengelilingi penggunaan sistem AI yang kuat seperti ini. Pada dasarnya, memahami asal-usul basis pengetahuan ChatGPT adalah kunci untuk menggunakannya secara bertanggung jawab dan kritis di dunia digital yang semakin meningkat. Mari kita telusuri jaringan informasi rumit yang mendasari teknologi inovatif ini.
Anakin AI
Sumber utama pengetahuan ChatGPT terletak pada fase pra-pelatihan yang luas. Pelatihan awal ini seperti seorang siswa yang menghadiri universitas selama bertahun-tahun, menyerap sejumlah besar pengetahuan umum sebelum mengkhususkan diri di bidang tertentu. Data yang digunakan dalam fase ini dikelola dan diproses dengan cermat untuk memberikan model pemahaman yang luas tentang bahasa, konteks, dan dunia. Tujuannya adalah menciptakan fondasi di mana pembelajaran dan penyempurnaan lebih lanjut dapat dibangun. Tanpa dataset pra-pelatihan yang kuat dan beragam, model tidak akan memiliki pengetahuan latar belakang yang diperlukan untuk melakukan tugas-tugas seperti generasi teks, terjemahan, dan menjawab pertanyaan dengan efektif. Oleh karena itu, kualitas dan kuantitas data pra-pelatihan sangat penting bagi kinerja akhir LLM.
Sebagian besar data pra-pelatihan ChatGPT berasal dari penelusuran internet. Ini melibatkan program otomatis, yang sering disebut sebagai perayap web atau spider, yang secara sistematis menjelajahi web dan mengekstrak teks dari banyak halaman web. Anggap saja ini sebagai perpustakaan digital besar yang penuh dengan buku, artikel, diskusi forum, posting blog, dan berbagai bentuk konten tertulis lainnya. Data ini memberikan ChatGPT paparan terhadap berbagai topik, gaya penulisan, dan perspektif. Sifat dinamis internet berarti model dapat terpapar informasi terkini dan peristiwa saat ini, memungkinkan untuk menghasilkan teks yang mencerminkan tren dan perkembangan terbaru. Namun, ini juga menghadirkan tantangan untuk menyaring konten yang tidak relevan atau berbahaya, seperti misinformasi, ujaran kebencian, dan pandangan bias, yang dapat mencemari basis pengetahuan model.
Salah satu sumber teks web yang terkenal adalah Common Crawl, arsip data penelusuran web yang tersedia untuk umum. Common Crawl secara rutin mengindeks miliaran halaman web, membuat data ini tersedia untuk penelitian dan pengembangan. Ini menyediakan sumber daya berharga untuk melatih LLM, menawarkan snapshot internet pada titik tertentu dalam waktu. Memanfaatkan data dari common crawl memungkinkan transparansi dan reproduktifitas dalam penelitian AI, karena peneliti lain dapat mengakses data yang sama yang digunakan untuk melatih model. Ini mempermudah identifikasi dan penanganan bias dalam data pelatihan model serta mempromosikan kolaborasi dan inovasi dalam komunitas AI. Namun, penting untuk disadari bahwa Common Crawl mencakup berbagai konten, termasuk informasi yang usang atau berkualitas rendah.
Selain dari internet, ChatGPT juga dilatih pada kumpulan besar buku dan publikasi. Ini memberikan model paparan terhadap teks yang ditulis, diedit, dan terstruktur dengan baik, membantu model mempelajari aturan gramatikal, konvensi penulisan, dan nuansa stilistik. Penyertaan buku dan publikasi memperkenalkan tingkat kontrol kualitas yang mungkin tidak ada dalam data berbasis web, yang sering kali kurang dikelola. Selain itu, buku dan publikasi menawarkan beragam ide dan perspektif, mengekspos model terhadap berbagai topik dan domain yang lebih luas. Ini bisa memperdalam pemahaman model tentang dunia dan meningkatkan kemampuannya untuk menghasilkan respons yang canggih dan terinformasi. Selanjutnya, buku juga memberikan ChatGPT informasi mendalam tentang berbagai subjek. Misalnya, jika Anda ingin informasi tentang keuangan, ChatGPT akan menggunakan data dari buku untuk menyediakannya, yang berisi pengetahuan dari bidang ini.
Setelah fase pra-pelatihan awal, ChatGPT menjalani proses penyempurnaan untuk mengoptimalkan kinerjanya dalam tugas tertentu, seperti chatbot percakapan atau ringkasan dokumen. Ini melibatkan memberi makan model dengan dataset yang lebih kecil tetapi lebih terarah, dirancang untuk menyelaraskan responsnya dengan karakteristik yang diinginkan, seperti membantu, akurat, dan aman. Fase penyempurnaan membantu model belajar membedakan antara berbagai jenis kueri dan menghasilkan respons yang sesuai untuk konteks. Selain itu, ini membantu mengurangi bias yang mungkin ada dalam data pra-pelatihan dan menjadikan model lebih dapat diandalkan dan ramah pengguna.
Salah satu teknik penyempurnaan yang umum adalah penyempurnaan terawasi, yang melibatkan melatih model pada dataset pasangan input-output, di mana output adalah respons yang dihasilkan oleh manusia terhadap input. Ini memungkinkan model untuk belajar gaya dan konten respons yang diinginkan. Dalam hal ini, para ahli telah merancang dan menyusun berbagai pertanyaan dan jawaban yang dilatih oleh ChatGPT. Dengan belajar dari respons yang ditulis manusia, model dapat menghasilkan teks yang lebih sesuai dengan harapan manusia. Contoh-contoh ini berfungsi sebagai panduan, memberi arahan model mengenai nada, format, dan tingkat detail yang diperlukan untuk berbagai jenis kueri.
Reinforcement learning dari umpan balik manusia (RLHF) adalah teknik penyempurnaan kuat lainnya. Dalam pendekatan ini, evaluator manusia menilai berbagai respons yang dihasilkan oleh model, dan penilaian ini digunakan untuk melatih model penghargaan. Model penghargaan kemudian membimbing LLM untuk menghasilkan respons yang lebih selaras dengan preferensi manusia. Manfaat menggunakan RLHF adalah ini memungkinkan model belajar dari umpan balik subjektif, seperti preferensi untuk membantu, kebenaran, dan ketidakberdayaan, alih-alih hanya bergantung pada metrik objektif. Ini membantu menciptakan model yang tidak hanya akurat tetapi juga menarik dan informatif.
Salah satu tantangan utama dalam melatih LLM adalah adanya bias dan toksisitas dalam data pelatihan. Untuk mengatasi ini, OpenAI dan organisasi lainnya menerapkan berbagai teknik penyaringan data untuk menghapus konten yang berbahaya atau tidak pantas. Ini dapat melibatkan mengidentifikasi dan menghapus ujaran kebencian, bahasa yang menyinggung, dan bentuk konten yang tidak diinginkan lainnya dari data pelatihan. Penyaringan data memastikan bahwa model menghasilkan respons yang aman dan hormat. Menghapus bias dalam data akan berarti bahwa sistem AI tidak akan mempertahankan stereotip dan asumsi yang tidak adil, yang umum dalam masyarakat kita.
Selain penyaringan data, OpenAI telah mengembangkan pedoman moderasi konten yang mendefinisikan jenis konten yang dilarang untuk dihasilkan oleh ChatGPT. Pedoman ini berfungsi sebagai pembatas, mencegah model digunakan untuk membuat konten yang berbahaya atau menyinggung. Para pengembang telah memastikan bahwa ketika ChatGPT ditanya tentang sesuatu yang tidak pantas, model tidak akan menjawab pertanyaan tersebut, atau bahkan menolak pertanyaan yang diajukan. Penggunaan pedoman moderasi membantu memastikan bahwa ChatGPT digunakan secara bertanggung jawab dan etis. Pedoman ini terus disempurnakan dan diperbarui seiring munculnya tantangan dan kekhawatiran baru.
Bias algoritma adalah tantangan bawaan dalam melatih LLM, karena model dapat secara tidak sengaja belajar dan mempertahankan bias yang ada dalam data pelatihan mereka. Bias biasanya terjadi sebagai akibat dari data pelatihan yang bias, yang berarti data tersebut mengandung stereotip dan informasi yang salah. Menangani bias algoritma memerlukan pendekatan multifaset, termasuk menganalisis data pelatihan dengan cermat untuk potensi bias, menerapkan teknik untuk mengurangi bias ini selama pelatihan model, dan mengevaluasi output model untuk keadilan. Teknik-teknik seperti pelatihan adversarial dan fungsi kehilangan yang sadar bias dapat digunakan untuk mengurangi bias dalam output model.
ChatGPT bukanlah entitas statis; ia terus belajar dan berkembang. Setelah pelatihan awal, model terus diperbarui dengan informasi baru, memastikan bahwa ia tetap terkini dan relevan. Proses pembelajaran berkelanjutan ini melibatkan pelatihan ulang model secara berkala pada data baru, memungkinkannya untuk menggabungkan tren terbaru, peristiwa, dan perkembangan ke dalam basis pengetahuan. Proses pembelajaran berkelanjutan adalah komponen penting untuk mempertahankan efektivitas dan keandalan sistem. Model AI tidak berguna jika memiliki data dari bertahun-tahun yang lalu.
Salah satu cara ChatGPT belajar adalah melalui umpan balik, yang melibatkan penggabungan masukan pengguna untuk meningkatkan kinerja model. Pengguna dapat memberikan umpan balik tentang respons model, menunjukkan apakah respons tersebut membantu, akurat, dan aman. Umpan balik ini kemudian digunakan untuk menyempurnakan data pelatihan model dan meningkatkan respons di masa depan. Dengan mendengarkan umpan balik pengguna, para pengembang dapat mengidentifikasi area di mana model perlu diperbaiki dan melakukan penyesuaian yang terarah untuk meningkatkan kinerjanya. Umpan balik ini berharga karena memberikan wawasan dan konteks yang mungkin tidak jelas melalui analisis otomatis.
Dokumentasi data adalah aspek penting dalam pengembangan AI yang bertanggung jawab. Dengan mendokumentasikan sumber, langkah pemrosesan, dan metode penyaringan yang digunakan untuk membuat data pelatihan, organisasi dapat meningkatkan transparansi dan akuntabilitas. Dokumentasi data mempermudah memahami asal-usul pengetahuan model, mengidentifikasi potensi bias, dan melacak sumber kesalahan atau ketidakkonsistenan. Selain itu, dokumentasi yang jelas memungkinkan peneliti dan pengembang lain untuk mereproduksi hasil model dan memvalidasi kinerjanya. Transparansi sangat penting untuk membangun kepercayaan pada sistem AI dan memastikan bahwa mereka digunakan secara bertanggung jawab.
Kesimpulannya, data yang mendukung ChatGPT berasal dari berbagai sumber yang luas dan beragam, termasuk teks web, buku, publikasi, dan umpan balik manusia. Data ini dikelola dan diproses dengan cermat untuk memberikan model pemahaman yang luas tentang bahasa, konteks, dan dunia. Sementara ChatGPT telah membuat kemajuan yang mengesankan dalam pemrosesan bahasa alami, ini adalah perjalanan yang masih berlangsung. Upaya berkelanjutan diperlukan untuk meningkatkan kualitas, keberagaman, dan keadilan data pelatihan, serta mengembangkan teknik baru untuk mengurangi bias dan memastikan keselamatan. Seiring LLM seperti ChatGPT semakin terintegrasi ke dalam kehidupan kita, sangat penting untuk memahami sumber pengetahuan mereka dan bagaimana mereka digunakan untuk menghasilkan teks. Dengan mengadopsi praktik pengembangan yang bertanggung jawab, kita dapat memanfaatkan kekuatan AI untuk memberi manfaat bagi masyarakat sambil meminimalkan risiko potensial.
