Participar

Podemos criar soluções éticas com IA?

PARTICIPAR

Atividade 1 — Uma IA justa para todos?

Objetivo: Compreender como os dados de treino podem introduzir enviesamentos e conduzir a decisões discriminatórias.

Tarefas:

Imagina que uma universidade utiliza um sistema de IA para selecionar candidatos, treinado com dados de admissões dos últimos dez anos.
Descobre que, no passado, os candidatos de determinadas escolas foram admitidos com maior frequência, mesmo quando outros apresentavam resultados académicos semelhantes.
Identifica as possíveis causas desse padrão e explica por que motivo os dados históricos não garantem decisões justas.
Propõe formas de testar o sistema, corrigir enviesamentos e acompanhar os resultados ao longo do tempo.
Define critérios que permitam avaliar se o sistema trata os candidatos de forma justa.

Produto final: Uma proposta de auditoria de justiça algorítmica para o sistema de admissão.

Duração: 60 minutos.

Atividade 2 — Os teus dados têm valor

Objetivo: Analisar os problemas de privacidade e proteção de dados associados à utilização de IA.

Tarefas:

Escolhe uma aplicação digital que utilize IA, como uma aplicação de saúde, um assistente virtual ou uma plataforma de reconhecimento facial.
Consulta a informação pública sobre os dados recolhidos, as finalidades do tratamento e as possibilidades de controlo pelo utilizador.
Identifica os dados estritamente necessários ao funcionamento da aplicação e os que podem ser utilizados para outras finalidades.
Analisa os riscos de acesso indevido, partilha ou utilização inesperada desses dados.
Propõe alterações que reforcem a privacidade, a transparência e o controlo dos utilizadores.

Produto final: Um guia de recomendações para a utilização responsável da aplicação escolhida.

Duração: 60–90 minutos.

Não é necessário partilhar contas, palavras-passe ou dados pessoais.

Atividade 3 — Quem deve ter a última palavra?

Objetivo: Refletir sobre os limites da automatização e a importância da supervisão humana.

Tarefas:

Escolhe um contexto em que a IA possa apoiar decisões importantes: diagnóstico médico, recrutamento, avaliação escolar ou concessão de crédito.
Descreve uma situação em que o sistema produz uma recomendação errada ou injusta.
Analisa as consequências para a pessoa afetada e identifica quem deverá intervir.
Define as decisões que podem ser automatizadas e aquelas que exigem avaliação humana.
Desenha um procedimento para rever, corrigir e contestar resultados.

Produto final: Um fluxograma de decisão que identifique os momentos de intervenção humana e as responsabilidades de cada interveniente.

Duração: 60 minutos.

Atividade 4 — A IA está a transformar o trabalho

Objetivo: Analisar as consequências sociais da automatização e identificar estratégias de adaptação profissional.

Tarefas:

Escolhe uma profissão que esteja a ser transformada pela IA ou pela automatização.
Investiga as tarefas que podem ser automatizadas, as que continuam a exigir intervenção humana e as que poderão surgir.
Distingue a substituição de determinadas tarefas da substituição de uma profissão inteira.
Identifica as competências técnicas e humanas que poderão ganhar importância.
Propõe medidas que empresas, escolas e entidades públicas possam adotar para apoiar os trabalhadores durante esta transformação.

Produto final: Um plano de preparação para o futuro de uma profissão, com competências prioritárias e medidas de formação.

Duração: 90 minutos.

Atividade 5 — Verdadeiro, falso ou gerado por IA?

Objetivo: Desenvolver estratégias de verificação de conteúdos e compreender os riscos associados à utilização maliciosa da IA.

Tarefas:

Investiga um caso documentado de utilização de IA para criar imagens, áudios ou vídeos enganosos.
Identifica a finalidade do conteúdo, o público a que se destinava e as consequências da sua divulgação.
Reúne fontes independentes que permitam verificar o contexto e a autenticidade do conteúdo.
Analisa os limites dos métodos de deteção automática: um resultado de um detetor não constitui, por si só, prova definitiva de autenticidade ou falsificação.
Elabora um procedimento de verificação que inclua a pesquisa da origem, a consulta de fontes independentes e a análise do contexto.

Produto final: Um protocolo de verificação de conteúdos potencialmente manipulados por IA.

Duração: 90 minutos.

Atividade 6 — Uma IA que respeita princípios éticos

Objetivo: Aplicar princípios de ética da IA ao desenho de uma solução para um problema concreto.

Tarefas:

Escolhe um problema que possa beneficiar da IA, por exemplo, apoiar alunos com dificuldades de aprendizagem, facilitar o acesso à informação ou reduzir o desperdício alimentar.
Define os utilizadores, a finalidade e os benefícios esperados da solução.
Identifica os dados necessários e os riscos relacionados com privacidade, discriminação, segurança e impacto ambiental.
Estabelece medidas para garantir transparência, supervisão humana, responsabilização e possibilidade de contestação.
Define indicadores que permitam avaliar os benefícios e detetar consequências negativas.
Apresenta uma versão revista da proposta depois de analisar as críticas dos colegas.

Produto final: Uma ficha de conceção de uma solução de IA ética, com finalidade, funcionamento, riscos, medidas de proteção e critérios de avaliação.

Duração: 90–120 minutos.

Atividade 7 — Criação de um Código de Ética para IA

Cria um Código de Ética para o uso de IA numa área específica, como:

Educação (por exemplo, IA para avaliação automática).
Saúde (IA para diagnósticos e tratamento).
Segurança (reconhecimento facial e vigilância).

O código deve incluir regras e princípios, como:

Transparência: “Os utilizadores devem ser informados quando interagem com uma IA.”
Imparcialidade: “A IA deve ser treinada com dados livres de preconceitos.”
Responsabilidade: “Deve existir supervisão humana em decisões importantes.”

Produto final: Código de Ética para o uso de IA

Duração: 60 minutos.

Atividade 8 — Produção de Vídeos Curtos: “IA na Minha Vida”

Cria um vídeo curtos (2 a 3 minutos) que mostre como a IA influencia o teu dia a dia, abordando questões éticas.

Exemplos de temas:

Assistentes virtuais: Siri ou Alexa respeitam a privacidade?
Redes sociais: Como os algoritmos de recomendação afetam o que vemos?
Publicidade personalizada: Até que ponto é ético recolher os nossos dados para anúncios?

Podes usar uma ferramenta de IA com avatares para criares o teu vídeo (Vidnoz / Synthesia)

Produto final: Vídeo

Duração: 90 minutos.

Desafio final — Conselho de Ética da Inteligência Artificial

Objetivo: Integrar os conhecimentos adquiridos e justificar decisões perante dilemas éticos.

A turma organiza-se em grupos que representam diferentes intervenientes: equipa de desenvolvimento, utilizadores, especialistas em proteção de dados, representantes da comunidade e responsáveis pela organização que pretende implementar a IA.

Cada grupo recebe a proposta de um sistema de IA, por exemplo, uma ferramenta de recrutamento, uma aplicação de saúde ou um sistema de apoio à avaliação escolar.

O trabalho deverá incluir:

Identificação dos benefícios esperados.
Análise dos riscos e das pessoas potencialmente afetadas.
Definição de princípios e condições para a utilização do sistema.
Proposta de mecanismos de supervisão, recurso e responsabilização.
Decisão fundamentada sobre a implementação, a revisão ou a rejeição da proposta.

No final, o Conselho apresenta uma decisão justificada e identifica as condições que devem ser cumpridas antes de o sistema entrar em funcionamento.

Produto final: Um parecer fundamentado sobre a utilização ética de um sistema de IA.

Duração: Duas aulas de 50 minutos.

MILD - Quem somos?

Imagem do cabeçalho Thought Catalog on Unsplash