Teoria da Informação

Código:

CC4019

Sigla:

CC4019

Nível:

400

Áreas Científicas
Classificação	Área Científica
OFICIAL	Ciência de Computadores

Ocorrência: 2020/2021 - 1S

Ativa?	Sim
Página Web:	https://brunoloff.wordpress.com/teoria-da-informacao-2020/
Unidade Responsável:	Departamento de Ciência de Computadores
Curso/CE Responsável:	Mestrado em Ciência de Computadores

Ciclos de Estudo/Cursos

Sigla	Nº de Estudantes	Plano de Estudos	Anos Curriculares	Créditos UCN	Créditos ECTS	Horas de Contacto	Horas Totais
M:CC	11	PE a partir do ano letivo de 2014	1	-	6	42	162
M:ENM	1	Plano de Estudos do M:Engenharia Matemática_2013-2014	1	-	6	42	162
			2
MI:ERS	29	Plano Oficial desde ano letivo 2014	4	-	6	42	162
M:M	3	Plano de Estudos do M:Matemática	1	-	6	42	162
			2

Língua de trabalho

Português

Objetivos

O objectivo da cadeira é introduzir ao aluno os fundamentos de teoria da informação.

A teoria da informação é o estudo do que é informação, de como ela pode ser armazenada e transmitida.

Isto levanta três questões:

Compressão: Como é possível armazenar informação utilizando o mínimo de espaço possível?

Correcção de erros: Como é possível transmitir informação de forma fiável, por via de um canal de informação imperfeito?

Encriptação: Como é possível transmitir informação de forma privada via um canal público?

Esta cadeira trata das duas primeiras questões, a terceira é tratada na cadeira de criptografia do nosso departamento.

Resultados de aprendizagem e competências

• Capacidade de raciocínio básico sobre distribuições e variáveis aleatórias.


• Capacidade de raciocínio sobre os conceitos básicos da teoria da informação: entropia, informação mútua, canais de comunicação, etc.


• Conhecimento sobre as potencialidades e os limites do armazenamento e transmissão de informação.


• Conhecimento sobre alguns métodos de compressão e códigos de correcção de erros.

Modo de trabalho

Presencial

Pré-requisitos (conhecimentos prévios) e co-requisitos (conhecimentos simultâneos)

Teoria das probabilidades básica.

Programa

• Repescagem de teoria das probabilidades.


• Entropia, informação mútua.


• O primeiro teorema de codificação de Shannon (source coding theorem).


• Métodos de compressão: Huffman, LZ78.


• O segundo teorema de codificação de Shannon (noisy channel coding), e seu inverso.


• Códigos de correcção de erros: Hamming, LDPC

Bibliografia Obrigatória

David J. C. MacKay; Information theory, inference, and learning algorithms. ISBN: 0-521-64298-1

Bibliografia Complementar

David Salomon; A Concise Introduction to Data Compression

Métodos de ensino e atividades de aprendizagem

Aulas teóricas e aulas de resolução de problemas.

Tipo de avaliação

Avaliação distribuída sem exame final

Componentes de Avaliação

Designação	Peso (%)
Teste	60,00
Trabalho prático ou de projeto	40,00
Total:	100,00

Componentes de Ocupação

Designação	Tempo (Horas)
Estudo autónomo	106,00
Frequência das aulas	56,00
Total:	162,00

Obtenção de frequência

A frequência é obrigatória a pelo menos 75% de das aulas teóricas, e 75% das aulas práticas, de acordo com o regulamento.

Fórmula de cálculo da classificação final

Haverão 2 testes e um trabalho prático. Os dois testes valem 6 valores, e o trabalho prático vale 8 valores, que somarão para a nota final.

Provas e trabalhos especiais

Trabalho de estágio/projeto

Avaliação especial (TE, DA, ...)

Melhoria de classificação

Será possível fazer melhoria de qualquer dos testes, ou do trabalho prático, em época de recurso.

Observações