Bilgisayar Mühendisliği (İngilizce) | |||||
Lisans | TYYÇ: 6. Düzey | QF-EHEA: 1. Düzey | EQF-LLL: 6. Düzey |
Ders Kodu: | SWE015 | ||||
Ders İsmi: | Büyük Dil Modellerine Giriş | ||||
Ders Yarıyılı: |
Güz Bahar |
||||
Ders Kredileri: |
|
||||
Öğretim Dili: | English | ||||
Ders Koşulu: | |||||
Ders İş Deneyimini Gerektiriyor mu?: | Hayır | ||||
Dersin Türü: | Bölüm/Program Seçmeli | ||||
Dersin Seviyesi: |
|
||||
Dersin Veriliş Şekli: | E-Öğrenme | ||||
Dersin Koordinatörü: | Dr. Öğr. Üy. ALPER ÖNER | ||||
Dersi Veren(ler): | Dr. Öğr. Üyesi Alper Öner, Araş. Gör. Yazım Beril Uluer | ||||
Dersin Yardımcıları: |
Dersin Amacı: | Büyük dil modeli geliştirme dersinin amacı, doğal dil işleme (Natural Language Processing - NLP) alanında uzmanlaşmış bireylere, büyük dil modellerini oluşturma, eğitme ve geliştirme konusunda bilgi ve beceriler kazandırmaktır. Bu ders, karmaşık dil yapılarını anlama, dil tabanlı görevleri gerçekleştirme ve gerçek dünya uygulamalarında etkili bir şekilde dil modellerini kullanma konularında derinlemesine bilgi sağlar. |
Dersin İçeriği: | Docker, Tensorflow, Yapay Sinir Ağları, Konvolüsyonel Yapay Sinir Ağları, Doğal Dil İşlemeye Giriş, Tranformers-BERT & NER, LLM, LLM ince ayarı, MLLM, Görüntü İşleme ve Doğal Dil İşleme Uygulamaları |
Bu dersi başarıyla tamamlayabilen öğrenciler;
1) Temel bir LLM problemi için iyi tanımlanmış bir problem formülasyonu tasarlamak 2) Optimize edilmiş LLM geliştirmek. 3) LLM problemlerini çözmek için yazılım araçlarını uygulayacaktır. 4) Temel Görüntü İşleme ve Dil Problemlerini transformatör yöntemleriyle çözebilecektir. 5) Ekip olarak Transformers Projesini gerçekleştirebilecektir. |
Hafta | Konu | Ön Hazırlık |
1) | Docker – GIT | |
2) | Sinir Ağları - Tensorflow | |
3) | Konvolusyonel Sinir Ağları | |
4) | Bilgisayarlı Görme için Derin Öğrenme | |
5) | Doğal Dil İşleme'ye Giriş | |
6) | Doğal Dil İşleme için Derin Öğrenme | |
7) | Tranformers-BERT & NER | |
8) | Ara Sınav | |
9) | Transformers ile Çok Dilde NER | |
10) | Transformatörlerin Üretimde Verimli Hale Getirilmesi | |
11) | Büyük Dil Modelleri (LLM) | |
12) | Açık Kaynaklı Büyük Dil Modelleri (LLM) | |
13) | Foundation Models | |
14) | LLM Uygulamaları |
Ders Notları / Kitaplar: | Natural Language Processing with Transformers, Lewis Tunstall, Leandro von Werra, and Thomas Wolf, O’Reilly. |
Diğer Kaynaklar: | Deep Learning with Python, François Chollet, Manning, 2018. |
Course Learning Outcomes | 1 |
2 |
3 |
4 |
5 |
||||||
---|---|---|---|---|---|---|---|---|---|---|---|
Program Kazanımları | |||||||||||
1) Matematik, bilim ve bilgisayar mühendisliği prensipleri hakkında yeterli bilgiye sahip olma, hem teorik hem de pratik olarak, ve bu bilgiyi karmaşık mühendislik problemlerine uygulayabilme becerisi. | 2 | 2 | 2 | 2 | 2 | ||||||
2) Uygun analiz ve modelleme tekniklerini kullanarak karmaşık bilgisayar mühendisliği problemlerini tanımlama, formülleme ve çözebilme yeteneği. | 2 | 2 | 2 | 2 | 2 | ||||||
3) Belirli gereksinimleri karşılayan ve gerçekçi kısıtlar ve koşullar altında çalışan karmaşık bilgisayar sistemleri, cihazlar veya ürünler tasarlama ve geliştirme yeteneği, modern tasarım yöntemlerini kullanma yeteneği. | 2 | 2 | 2 | 2 | 2 | ||||||
4) Karmaşık bilgisayar mühendisliği problemlerinin analizi ve çözümü için kullanılan modern teknikleri ve araçları geliştirme, seçme ve kullanabilme yeteneği, bilgi teknolojilerini etkili bir şekilde kullanabilme yeteneği. | 3 | 2 | 3 | 3 | 3 | ||||||
5) Karmaşık bilgisayar mühendisliği problemleri veya araştırma konularının incelenmesinde deney planlama ve yürütme, veri toplama ve analiz etme, sonuçları yorumlama yeteneği. | 2 | 2 | 2 | 2 | 2 | ||||||
6) Çok disiplinli ekiplerde etkili bir şekilde çalışma yeteneği; bireysel çalışma becerileri. | |||||||||||
7) Sözlü ve yazılı iletişim becerileriyle etkili iletişim kurabilme; en az bir yabancı dil bilgisi; etkili raporlar yazabilme ve yazılı raporları anlayabilme, tasarım ve üretim raporları hazırlayabilme, etkili sunumlar yapabilme, açık ve anlaşılır talimatlar verip alabilme yeteneği. | |||||||||||
8) Yaşam boyu öğrenme gerekliliğinin farkında olma; bilgiye erişme yeteneği, bilim ve teknolojideki gelişmeleri takip etme ve sürekli yenileme yeteneği. | |||||||||||
9) Etik prensiplere, mesleki ve etik sorumluluğa uygun davranma; mühendislik uygulamalarında kullanılan standartlar hakkında bilgi sahibi olma. | |||||||||||
10) Proje yönetimi, risk yönetimi ve değişim yönetimi gibi iş uygulamaları hakkında bilgi; girişimcilik ve yenilik farkındalığı; sürdürülebilir kalkınma hakkında bilgi. | 3 | ||||||||||
11) Bilgisayar mühendisliği uygulamalarının sağlık, çevre ve güvenlik üzerindeki etkileri ve bilgisayar mühendisliğine yansıyan dönemin sorunları hakkında bilgi sahibi olma; bilgisayar mühendisliği çözümlerinin yasal sonuçları konusunda farkındalık. |
Etkisi Yok | 1 En Düşük | 2 Orta | 3 En Yüksek |
Dersin Program Kazanımlarına Etkisi | Katkı Payı | |
1) | Matematik, bilim ve bilgisayar mühendisliği prensipleri hakkında yeterli bilgiye sahip olma, hem teorik hem de pratik olarak, ve bu bilgiyi karmaşık mühendislik problemlerine uygulayabilme becerisi. | 2 |
2) | Uygun analiz ve modelleme tekniklerini kullanarak karmaşık bilgisayar mühendisliği problemlerini tanımlama, formülleme ve çözebilme yeteneği. | 2 |
3) | Belirli gereksinimleri karşılayan ve gerçekçi kısıtlar ve koşullar altında çalışan karmaşık bilgisayar sistemleri, cihazlar veya ürünler tasarlama ve geliştirme yeteneği, modern tasarım yöntemlerini kullanma yeteneği. | 3 |
4) | Karmaşık bilgisayar mühendisliği problemlerinin analizi ve çözümü için kullanılan modern teknikleri ve araçları geliştirme, seçme ve kullanabilme yeteneği, bilgi teknolojilerini etkili bir şekilde kullanabilme yeteneği. | 2 |
5) | Karmaşık bilgisayar mühendisliği problemleri veya araştırma konularının incelenmesinde deney planlama ve yürütme, veri toplama ve analiz etme, sonuçları yorumlama yeteneği. | 2 |
6) | Çok disiplinli ekiplerde etkili bir şekilde çalışma yeteneği; bireysel çalışma becerileri. | |
7) | Sözlü ve yazılı iletişim becerileriyle etkili iletişim kurabilme; en az bir yabancı dil bilgisi; etkili raporlar yazabilme ve yazılı raporları anlayabilme, tasarım ve üretim raporları hazırlayabilme, etkili sunumlar yapabilme, açık ve anlaşılır talimatlar verip alabilme yeteneği. | |
8) | Yaşam boyu öğrenme gerekliliğinin farkında olma; bilgiye erişme yeteneği, bilim ve teknolojideki gelişmeleri takip etme ve sürekli yenileme yeteneği. | |
9) | Etik prensiplere, mesleki ve etik sorumluluğa uygun davranma; mühendislik uygulamalarında kullanılan standartlar hakkında bilgi sahibi olma. | |
10) | Proje yönetimi, risk yönetimi ve değişim yönetimi gibi iş uygulamaları hakkında bilgi; girişimcilik ve yenilik farkındalığı; sürdürülebilir kalkınma hakkında bilgi. | |
11) | Bilgisayar mühendisliği uygulamalarının sağlık, çevre ve güvenlik üzerindeki etkileri ve bilgisayar mühendisliğine yansıyan dönemin sorunları hakkında bilgi sahibi olma; bilgisayar mühendisliği çözümlerinin yasal sonuçları konusunda farkındalık. |
Yarıyıl İçi Çalışmaları | Aktivite Sayısı | Katkı Payı |
Ödev | 2 | % 20 |
Projeler | 2 | % 40 |
Final | 1 | % 40 |
Toplam | % 100 | |
YARIYIL İÇİ ÇALIŞMALARININ BAŞARI NOTU KATKISI | % 60 | |
YARIYIL SONU ÇALIŞMALARININ BAŞARI NOTUNA KATKISI | % 40 | |
Toplam | % 100 |
Aktiviteler | Aktivite Sayısı | İş Yükü |
Ders Saati | 14 | 42 |
Sunum / Seminer | 3 | 25 |
Proje | 3 | 28 |
Ödevler | 4 | 20 |
Final | 2 | 20 |
Toplam İş Yükü | 135 |