シラバス参照

講義科目名 情報理論 
科目ナンバリングコード DES-ACD3131J 
講義題目
N.A. 
授業科目区分 専攻教育科目 Specialized Education 
開講年度 2016 
開講学期 前期 
曜日時限 前期 水曜日 2時限
必修選択 選択 Elective 
単位数 2.0 
担当教員

若宮 幸平

開講学部・学府 芸術工学部 
対象学部等 芸術工学部 共通 Department of Environmental Design/Department of Industrial Design/Department of Visual Communication Design/Department of Acoustic Design/Department of Art and Information Design 
対象学年 学部3年 Undergraduate third grade 
開講地区 大橋地区
使用言語 日本語(J) 
使用言語
(自由記述欄)
N.A. 
教室  
その他
(自由記述欄)
N.A. 



授業概要
近年、多くの静止画/動画/音響等のコンテンツはディジタル化され、高能率な圧縮技術により、少ない情報量での蓄積/表現が可能となった。またインターネット、モバイルやTV放送などの伝送メディアは、これらコンテンツを雑音ある環境下でも忠実に伝送することができるようになった。このような現代のディジタル情報化社会を支える基本技術は、ハードウエアの進歩に加え、高能率符号化や誤り訂正符号などの情報理論を基礎とした技術の進歩によるところが大きい。本科目では、これら高能率符号化・誤り検出・訂正符号と、それらの基礎となるシャノンの情報理論を学ぶ。 
Recently, most pictures, videos and audios contents have become digital such that they are efficiently encoded and stored as digital files. They are also reliably transmitted over noisy channel via a number of media, like the Internet, mobile and broadcast channel, etc. Such features are based on the information theory and associated source and channel coding theory, which are the main target of this lecture. 
キーワード
情報量,エントロピー,符号⽊,クラフトの不等式,平均符号⻑,ハフマン符号,拡⼤情報源,情報源符号化,記憶のある情報源,マルコフ情報源,可逆・⾮可逆圧縮,テキストデータ圧縮,通信路符号化,誤り検出・訂正,ハミング距離,通信路容量,相互情報量,通信路符号化定理,パリティ検査符号,ハミング符号,⾳声・画像の圧縮 
授業形態
(項目)
授業形態
(内容)
使用する教材等
履修条件等
N.A. 
履修に必要な知識・能力
⾼校数学で学習した確率・統計および対数に関する知識を有すること. 
到達目標
No 観点 詳細
1. A:知識・理解  ・情報理論の基礎概念を理解する.
・⾳声・オーディオや,静⽌画・動画像の圧縮の原理を理解する.
・情報理論が実際の情報・通信システムでどのように利⽤されているかを理解す
る. 
2. B:専門的技能  ・事象の⽣起確率から,⾃⼰情報量,平均情報量を計算できる.
・情報源符号化の原理を理解し,ハフマン符号化ができる.また拡⼤情報源の符号化ができる.
・マルコフ情報源について理解し,またその平均情報量を計算できる.・基礎的な誤り検出・訂正符号として,パリティ検査符号,ハミング符号、CRC符号が構成できる。 
3. C:汎用的技能  ・高能率な情報圧縮ならびに信頼性ある情報伝送システムに関して、基本的な設計理念ならびに要求条件を立てることができる。 
4. D:態度・志向性  講義に出席し,説明された内容の理解に努めること.また不明な点や疑問があれ
ば,積極的に質問すること. 
授業計画
No 進度・内容・行動目標 講義 演習・その他 授業時間外学習
1. 1.情報理論の概要
 情報通信における情報理論 
◯ 
   
2. 2.事象の情報量
 確率ならびに情報量の定義 
◯ 
   
3. 3.確率変数のエントロピー1
 ⽣起確率と⾃⼰情報量,平均情報量(エントロピー),エントロピーの性質 
◯ 
   
4. 4.確率変数のエントロピー2
 同時エントロピー、条件付きエントロピー 
◯ 
   
5. 5.相互情報量
 エントロピーのチェイン則、周辺確率、周辺分布と総合情報量 
◯ 
○   
6. 6.情報源符号化と小テスト
 固定長符号と可変長符号、ハフマン符号化 
◯ 
   
7. 7.平均符号語長の下界
 平均符号長とクラフトの不等式 
◯ 
   
8. 8.理想符号語長とエントロピー
 一意復号可能条件、語頭符号条件、シャノン・ファノ符号 
◯ 
   
9. 9.情報源符号化定理
 情報源符号化定理の導出、算術符号、LZ符号 
◯ 
   
10. 10.マルコフ情報源
 定常無記憶情報源、エルゴード性、定常マルコフ情報源 
◯ 
   
11. 11.通信路と符号化
 2元対象通信路、誤り訂正と誤り検出、ハミング距離、最小距離 
◯ 
   
12. 12.線形符号
 ベクトル空間、線形符号、シンドローム、コセット 
◯ 
   
13. 13.線形符号の具体例
 パリティ検査符号、ハミング符号、リード・マラー符号 
◯ 
   
14. 14.通信路容量と通信路符号化定理
 大数の法則、ランダム符号化、BSCにおける通信路符号化定理の導出 
◯ 
   
15. 15.期末テスト 
◯ 
○   
授業以外での学習にあたって
質問や相談は,授業の後に適宜受け付ける.また電⼦メールでも受け付ける.
(e-mail: mohashi@fukuoka-u.ac.jp, wakamiya@design.kyushu-u.ac.jp
テキスト
楫勇一「情報・符号理論」オーム社、2,600円+税
ISBN 978-4-274-21317-5 
参考書
(1)甘利俊一「情報理論」ちくま学芸文庫、ISBN978-4-480-09358-5
(2)クロード・E・シャノン「通信の通学的理論」ちくま学芸文庫、ISBN:978-4-480-09222-9
(3)今井秀樹:「符号理論」(電子情報通信学会)ISBN:978-4-88552-090-7
(4)宮川洋:「情報理論」(コロナ社)ISBN:978-4-339-00102-0 
授業資料
別途URLを指定する.

2016.6.13
情報理論教材の置き場所を変更します。
旧教材:http://tls.tec.fukuoka-u.ac.jp/slides/it/
新教材:http://tls.tec.fukuoka-u.ac.jp/slides/itk/
ユーザ名: kyudai
パスワード:(授業で提示する) 
成績評価
評価方法・観点 観点No.1 観点No.2 観点No.3 観点No.4 観点No.5 観点No.6 観点No.7 観点No.8 備考(欠格条件・割合)
 
◎ 
◯ 
◯ 
 
 
 
 
 
 
 
◎ 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
◎ 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
◎ 
 
 
 
 
 
その他(自由記述1) 
 
 
 
 
 
 
 
 
 
その他(自由記述2) 
 
 
 
 
 
 
 
 
 
その他(自由記述3) 
 
 
 
 
 
 
 
 
 
成績評価基準に関わる補足事項
N.A. 
ルーブリック
学習相談
質問や相談は,授業の後に適宜受け付ける.また電⼦メールでも受け付ける.
(e-mail: mohashi@fukuoka-u.ac.jp, wakamiya@design.kyushu-u.ac.jp
添付ファイル
授業担当者の実務経験有無
授業担当者の実務経験内容
その他
N.A. 
更新日付 2016-06-14 14:13:14.606


PAGE TOP