Bilgi Kuram (Enformasyon Teorisi-ELE 572)
8 Eylül 2014
TOBB Ekonomi ve Teknoloji Üniversitesi, Güz 2014
Dr. A. Melda Yüksel Turgut
Bilgi Kuram (Enformasyon Teorisi- ELE 572)
Dersi Veren: Dr. A. Melda Yüksel Turgut
Oda: Z-71
E-posta: [email protected]
Dersin Yeri ve Saati: Pazartesi 14.30-16.20 Snf 105, Cuma 8.30-10.20 Snf 111.
Dersin Önko³ulu: Sa§lam bir olaslk temeli ve daha önce kar³la³tklarnzdan daha
soyut kavramlarla u§ra³mak için istek.
Günün sorusu: 81 bilyeden bir tanesi di§erlerinden daha a§r. Elinizde de iki kefeli bir tart
var. Hangi bilyenin daha a§r oldu§unu en az kaç tartyla bulabilirsiniz? E§er 81 bilyeden
bir tanesinin daha a§r oldu§unu bilmeseydik, farkl olan bilye haf ya da a§r olabilseydi,
hangi bilyenin farkl oldu§unu en az kaç tartyla bulabilirdik?
Dersin Web Sayfas: http://meldayuksel.wordpress.com/teaching/ele-572/
Notlandrma:
•
Ödevler %10, proje %20, birinci ara snav %20, ikinci ara snav %20, dönem sonu
snav %30.
Ders kitaplar ve yardmc kaynaklar:
•
T. M. Cover ve J. A. Thomas, Elements of Information Theory, John Wiley & Sons
Inc., 2006, 2nd Edition. (zorunlu)
•
A. El Gamal and Y-H. Kim, Network Information Theory, Cambridge University
Press.
Dersin Tanm ve Amac:
•
Veri sk³trmann en son snr nedir?
•
Gürültülü bir kanalda güvenilir iletim için veri hz snr nedir?
Dersin sonunda bu iki soru da yantlanm³ olacaktr.
Ders program:
1. Giri³
2. Olaslk tekrar
3. Entropi, ba§l entropi (2.1-2.4)
4. Zincir kural, Jensen'in e³itsizli§i, log toplam e³itsizli§i (2.5-2.7)
5. Veri i³leme e³itsizli§i, yeterli istatistik, Fano'nun e³itsizli§i (2.8, 2.10-2.11)
6. Örnekler
7. Sonu³urda e³ bölüntü özelli§i (3)
8. Birinci ara snav
9. Kaynak kodlamas (5.1-5.4)
10. Kaynak kodlamas (5.5-5.8)
11. Örnekler
12. Kanal kodlamas (8.1-8.5)
13. Kanal kodlamas (8.6-8.10)
14. Kanal kodlamas (8.11-8.13)
15. Örnekler
16. Türevsel entropi (9.1-9.4)
17. kinci ara snav
18. Türevsel entropi ve örnekler (9.5-9.6)
19. Gauss kanal (10.1-10.2)
20. Gauss kanal (10.3-10.5)
21. Örnekler
22. Proje sunumlar
2
Download

Bilgi Kuram (Enformasyon Teorisi- ELE 572