Ders Kodu: | YAZ002 | ||||
Ders İsmi: | Büyük Dil Modellerine Giriş | ||||
Ders Yarıyılı: |
Güz |
||||
Ders Kredileri: |
|
||||
Öğretim Dili: | Türkçe | ||||
Ders Koşulu: | |||||
Ders İş Deneyimini Gerektiriyor mu?: | Evet | ||||
Dersin Türü: | Bölüm/Program Seçmeli | ||||
Dersin Seviyesi: |
|
||||
Dersin Veriliş Şekli: | Yüz yüze | ||||
Dersin Koordinatörü: | Dr. Öğr. Üy. MUHAMMED DAVUD | ||||
Dersi Veren(ler): | Dr. Öğr. Üyesi Alper Öner | ||||
Dersin Yardımcıları: |
Dersin Amacı: | Büyük dil modeli geliştirme dersinin amacı, doğal dil işleme (Natural Language Processing - NLP) alanında uzmanlaşmış bireylere, büyük dil modellerini oluşturma, eğitme ve geliştirme konusunda bilgi ve beceriler kazandırmaktır. Bu ders, karmaşık dil yapılarını anlama, dil tabanlı görevleri gerçekleştirme ve gerçek dünya uygulamalarında etkili bir şekilde dil modellerini kullanma konularında derinlemesine bilgi sağlar. |
Dersin İçeriği: | Docker, Tensorflow, Yapay Sinir Ağları, Konvolüsyonel Yapay Sinir Ağları, Doğal Dil İşlemeye Giriş, Tranformers-BERT & NER, LLM, LLM ince ayarı, MLLM, Görüntü İşleme ve Doğal Dil İşleme Uygulamaları |
Bu dersi başarıyla tamamlayabilen öğrenciler;
1) Temel bir LLM problemi için iyi tanımlanmış bir problem formülasyonu tasarlamak 2) Optimize edilmiş LLM geliştirmek. 3) LLM problemlerini çözmek için yazılım araçlarını uygulayacaktır. 4) Temel Görüntü İşleme ve Dil Problemlerini transformatör yöntemleriyle çözebilecektir. 5) Ekip olarak Transformers Projesini gerçekleştirebilecektir. |
Hafta | Konu | Ön Hazırlık |
1) | Docker – GIT | |
2) | Sinir Ağları - Tensorflow | |
3) | Konvolusyonel Sinir Ağları | |
4) | Bilgisayarlı Görme için Derin Öğrenme | |
5) | Doğal Dil İşleme'ye Giriş | |
6) | Doğal Dil İşleme için Derin Öğrenme | |
7) | Tranformers-BERT & NER | |
8) | Ara Sınav | |
9) | Transformers ile Çok Dilde NER | |
10) | Transformatörlerin Üretimde Verimli Hale Getirilmesi | |
11) | Büyük Dil Modelleri (LLM) | |
12) | Açık Kaynaklı Büyük Dil Modelleri (LLM) | |
13) | Foundation Models | |
14) | LLM Uygulamaları |
Ders Notları / Kitaplar: | Natural Language Processing with Transformers, Lewis Tunstall, Leandro von Werra, and Thomas Wolf, O’Reilly. |
Diğer Kaynaklar: | Deep Learning with Python, François Chollet, Manning, 2018. |
Course Learning Outcomes | 1 |
2 |
3 |
4 |
5 |
---|---|---|---|---|---|
Program Kazanımları |
Etkisi Yok | 1 En Düşük | 2 Orta | 3 En Yüksek |
Dersin Program Kazanımlarına Etkisi | Katkı Payı |
Yarıyıl İçi Çalışmaları | Aktivite Sayısı | Katkı Payı |
Ödev | 2 | % 20 |
Projeler | 2 | % 40 |
Final | 1 | % 40 |
Toplam | % 100 | |
YARIYIL İÇİ ÇALIŞMALARININ BAŞARI NOTU KATKISI | % 60 | |
YARIYIL SONU ÇALIŞMALARININ BAŞARI NOTUNA KATKISI | % 40 | |
Toplam | % 100 |
Aktiviteler | Aktivite Sayısı | İş Yükü |
Ders Saati | 14 | 42 |
Sunum / Seminer | 3 | 25 |
Proje | 3 | 28 |
Ödevler | 4 | 20 |
Final | 2 | 20 |
Toplam İş Yükü | 135 |