Fine-Tuning LLM Llama 3 dengan PySpark dan QLoRa pada Data Penelitian Ilmiah

Abstract

Studi ini mengeksplorasi penerapan PySpark untuk fine-tuning Llama 3 LLM menggunakan QLoRa pada kumpulan data yang terdiri dari 1,5 juta makalah ilmiah. Praproses data dan pelatihan model terdistribusi dilakukan untuk meningkatkan kinerja model dalam tugas NLP. Model yang disempurnakan menunjukkan kemampuan yang kuat dalam prompting sederhana dan kompleks. Kerugian pelatihan akhir sebesar 2,64857 tercapai, yang menunjukkan efektivitas QLoRa dalam meningkatkan efisiensi memori sekaligus mempertahankan kinerja.