In het kort
Welkom! In deze online gids ga ik proberen om zo goed mogelijk te beschrijven wat finetuning is, hoe het werkt en hoe je zelf een AI model finetuned. De afgelopen periode heb ik me geprobeerd vast te bijten in LLM Finetuning. Met Finetuning pas je een bestaand large language model aan om de output voor een bepaalde taak of vraag te verbeteren. Ik heb geprobeerd om, terwijl ik dit zelf voor het eerst uitprobeerde zo goed mogelijk te documenteren wat ik heb gedaan en geleerd. In deze gids heb ik deze documentatie geprobeerd om te zetten in een aantal nuttige artikelen.
Mocht je minder tijd hebben, heb ik er ook een podcast van gemaakt met NotebookLM:
Artikelen:
🔧 Deel 2: Praktische stap voor stap guide
Achtergrond:
🤖 LLM’s lokaal draaien - 2 simpele methodes
🛣️ LLM’s lokaal draaien - De weg naar ondevice LLM’s
💻 LLM’s lokaal draaien - Je systeem in relatie tot de modelspecificaties
⚖️ Wat is lora?
LLM’s lokaal draaien - Je systeem in relatie tot de modelkenmerkenLLM’s lokaal draaien - De weg naar OnDevice AI systemenLLM’s lokaal draaien - 2 simpele methodesFinetuning - Wat is LoRA? Feedback is welkom!
Super benieuwd naar jullie feedback! Dit was de eerste keer dat ik me echt in finetuning heb verdiept, dus er zullen ongetwijfeld dingen zijn die anders kunnen. Mocht je feedback hebben, of vragen, stuur me dan een bericht op X of LinkedIn.
-Jan Willem Altink