Teoria da Informação

Código:

CC4019

Sigla:

CC4019

Nível:

400

Áreas Científicas
Classificação	Área Científica
OFICIAL	Ciência de Computadores

Ocorrência: 2022/2023 - 1S

Ativa?	Sim
Página Web:	https://brunoloff.wordpress.com/teoria-da-informacao-2021/
Unidade Responsável:	Departamento de Ciência de Computadores
Curso/CE Responsável:	Mestrado em Ciência de Computadores

Ciclos de Estudo/Cursos

Sigla	Nº de Estudantes	Plano de Estudos	Anos Curriculares	Créditos UCN	Créditos ECTS	Horas de Contacto	Horas Totais
M:CC	7	PE a partir do ano letivo de 2014	1	-	6	42	162
M:ECAD	0	Plano Oficial do ano letivo 2021/2022	2	-	6	42	162
M:ENM	2	Plano de Estudos do M:Engenharia Matemática_2013-2014	1	-	6	42	162
			2
M:ERSI	2	Plano Oficial a partir de 2021_M:ERSI	1	-	6	42	162
M:M	1	Plano Oficial do ano letivo 2021	2	-	6	42	162

Língua de trabalho

Português

Objetivos

O objetivo da cadeira é introduzir ao aluno os fundamentos de teoria da informação. A teoria da informação é o estudo do que é informação, de como ela pode ser armazenada e transmitida. Isto levanta três questões: Compressão: Como é possível armazenar informação utilizando o mínimo de espaço possível? Correção de erros: Como é possível transmitir informação de forma fiável, por via de um canal de informação imperfeito? Encriptação: Como é possível transmitir informação de forma privada via um canal público? Esta cadeira trata das duas primeiras questões, a terceira é tratada na cadeira de criptografia do nosso departamento.

Resultados de aprendizagem e competências

• Capacidade de raciocínio básico sobre distribuições e variáveis aleatórias.


• Capacidade de raciocínio sobre os conceitos básicos da teoria da informação: entropia, informação mútua, canais de comunicação, etc.


• Conhecimento sobre as potencialidades e os limites do armazenamento e transmissão de informação.


• Conhecimento sobre alguns métodos de compressão e códigos de correcção de erros.

Modo de trabalho

Presencial

Pré-requisitos (conhecimentos prévios) e co-requisitos (conhecimentos simultâneos)

Teoria das probabilidades básica.

Programa

• Repescagem de teoria das probabilidades.


• Entropia, informação mútua.


• O primeiro teorema de codificação de Shannon (source coding theorem).


• Métodos de compressão: Huffman, Lempel-Ziv.


• O segundo teorema de codificação de Shannon (noisy channel coding), e seu inverso.


• Códigos de correcção de erros: Hamming, LDPC

Bibliografia Obrigatória

David J. C. MacKay; Information theory, inference, and learning algorithms. ISBN: 0-521-64298-1

Bibliografia Complementar

David Salomon; A Concise Introduction to Data Compression

Métodos de ensino e atividades de aprendizagem

Aulas teóricas e aulas de resolução de problemas.

Tipo de avaliação

Avaliação distribuída sem exame final

Componentes de Avaliação

Designação	Peso (%)
Teste	60,00
Trabalho prático ou de projeto	40,00
Total:	100,00

Componentes de Ocupação

Designação	Tempo (Horas)
Estudo autónomo	106,00
Frequência das aulas	56,00
Total:	162,00

Obtenção de frequência

A frequência é obrigatória a pelo menos 75% de das aulas teóricas, e 75% das aulas práticas, de acordo com o regulamento.

Fórmula de cálculo da classificação final

Haverão 2 testes e dois trabalhos práticos. Os dois testes valem 6 valores cada, e os trabalhos práticos valem 4 valores casa, que somarão para a nota final.

Avaliação especial (TE, DA, ...)

A avaliação em época especial será por um exame com a matéria toda, e dois trabalhos de programação.

Melhoria de classificação

Será possível fazer melhoria de qualquer dos testes, ou do trabalho prático, em época de recurso.