Direitos Humanos

 Trabalho realizado nas disciplinas de T.I.C/H.G.P. e Cidadania.

 

 

 

Riscos Naturais

 Atividade sobre riscos naturais elaborado pelas disciplinas de TIC, HGP e Cidadania.

 

 

 

Discriminação

 Trabalho de TIC e Cidadania sobre discriminação.

 

 

Riscos Naturais

 Atividade das disciplinas de TIC e de Cidadania.

 

ChatGPT: a Revolução nos Chatbots

 

Gostaria de ter um assistente inteligente ao seu serviço, 24 horas por dia, 7 dias por semana? Ele já existe e está em treinos para o servir melhor!

A OpenAI é uma empresa de investigação em Inteligência Artificial (IA) fundada em 2015 por um grupo de investidores, entre os quais Elon Musk, que procura desenvolver e promover a IA de forma segura e responsável, com o objetivo de beneficiar a humanidade. Tem-se destacado na área do processamento de linguagem natural e no desenvolvimento de agentes autónomos.

A OpenAI lançou, há menos de um mês, um serviço de chatbot com o nome ChatGPT, que resulta da designação Chat Generative Pre-trained Transformer – Transformador Generativo Pré-treinado Para Conversar – que usa a inteligência artificial para simular conversas humanas. Ainda está em fase de desenvolvimento, mas já é possível experimentá-lo gratuitamente em https://chat.openai.com, mediante registo. É possível “conversar” com “ele” sobre qualquer assunto, como faríamos com um companheiro humano – tanto nos podemos envolver numa discussão filosófica, como podemos pedir conselhos para resolver questões práticas, obtendo respostas escritas corretas e adequadas, em quase todos os casos. A qualidade do serviço é assombrosa e, em menos de uma semana, conquistou mais de um milhão de utilizadores, deixando a comunidade estupefacta, em alvoroço e, sem dúvida, mais atenta a essas áreas.

A maioria de nós já interagiu com um chatbot, aquele software disponível em muitas plataformas digitais que “conversa” com os utilizadores em linguagem natural, mas nunca com um tão abrangente e sofisticado! O ChatGPT utiliza os mais recentes desenvolvimentos de IA e foi treinado e alimentado por um grande conjunto de dados de texto, artigos, notícias, livros e muito mais, o que lhe permitiu aprender sobre uma ampla variedade de assuntos. É capaz de processar a linguagem natural, em diferentes línguas, entender o contexto das perguntas e usar essa informação para fornecer respostas explícitas e relevantes sobre os mais variados assuntos de maneira clara, precisa e confiável. Além disso, tem a capacidade de “aprender” e de “reconhecer” padrões com base nas respostas que vai fornecendo, o que significa que, quanto mais interações tem com os utilizadores, mais vai aprendendo e as respostas vão ficando ainda melhores. Os responsáveis pelo projeto dizem que o formato de chat permite à IA responder a "perguntas de seguimento, admitir os seus erros, desafiar premissas incorretas e rejeitar pedidos inadequados".

Estes sistemas recuperam e reorganizam informação com uma rapidez que os humanos nunca conseguiram, dando a sensação que podem conversar como um humano. Claro que não é exatamente isso que acontece, mas podem ser considerados excelentes assistentes digitais que compreendem bem o que se procura e respondem em consonância.

A versão atualmente disponível ainda é de teste, mas já se vislumbra o grande potencial da ferramenta nas mais diversas aplicações. Tem capacidade para substituir (com vantagem) o Google, resolver problemas, efetuar cálculos complexos, solucionar “bugs” de programação, explicar o que faz determinado código de programação, escrever códigos para resolver problemas em geral e explicar situações complexas. Em resposta a breves solicitações escreve ensaios ao nível universitário e levanta a possibilidade de substituir os humanos em tarefas que até agora julgávamos impossíveis de serem reproduzidas por máquinas. Além de fazer coisas úteis, também permite atividades lúdicas e divertidas como escrever rimas, canções e histórias.

Por tudo isso, levanta uma serie preocupações. É provável que tal tecnologia possa substituir trabalhadores humanos nas mais variadas tarefas e altere significativamente a forma como lidamos com muitas áreas, do ensino à política, passando pela ciência e pelo próprio desenvolvimento de software. Que trabalhos poderemos pedir aos nossos estudantes se estes puderem recorrer ao ChatGPT para fazer os trabalhos de casa e apresentá-los numa escrita irrepreensível, sem o menor esforço? Como podemos esperar que desenvolvam a sua aprendizagem fora das salas de aula se tiverem ao seu dispor um assistente que lhes resolve todas as tarefas intelectuais e criativas rápida e eficientemente?

Ao utilizarmos os motores de busca obtemos ligações por onde é necessário navegar para encontrar soluções ou informação para completarmos as tarefas necessárias. Mas com este serviço basta formularmos bem a tarefa para obtemos diretamente respostas aos mais variados e complexos problemas, baseadas em toda a informação disponível em documentos e textos contidos na Internet, com um toque de originalidade resultante de experiências anteriores, reconhecimento de padrões e outros métodos da IA.

Por outro lado, como sabemos, nem tudo o que está na Internet é verdade e a IA, ao alimentar-se de textos da Internet, pode apresentar resultados muito bem escritos, mas que misturam a realidade com a ficção ou falsidades tendenciosas. A própria OpenAI adverte aqueles que utilizam o ChatGPT que "pode ocasionalmente gerar informação incorreta" e "produzir instruções prejudiciais ou conteúdo tendencioso". A empresa continua a aperfeiçoar a tecnologia e lembra que o serviço ainda é um projeto de investigação. O CEO da OpenAI, Sam Altman, afirmou que “o ChatGPT é incrivelmente limitado, mas bom o suficiente em algumas coisas a ponto de criar a impressão enganosa de grandeza. É um erro depender dele para qualquer coisa importante agora. (…) temos muito trabalho a fazer em termos de robustez e veracidade”.

Mas o facto é que os primeiros testes têm obtido resultados impressionantes. Um jornalista da BBC entrevistou o sistema e afirma que o ChatGPT revelou-se um entrevistado cauteloso capaz de se expressar de forma clara e precisa em inglês. Ao ser questionado sobre se pensava que a IA substituiria os trabalhos de escritores humanos, argumentou que "sistemas de IA como eu podem ajudar os escritores fornecendo sugestões e ideias, mas em última análise cabe ao escritor humano criar o produto final". À pergunta sobre qual seria o impacto social dos sistemas de IA como ele próprio, disse que isto era "difícil de prever".

O que acontece se lhe fornecermos premissas erradas ou tendenciosas? A OpenAI quer que o ChatGPT respeite princípios éticos e rejeite perguntas com maus motivos. Naturalmente, esta funcionalidade foi testada e provou-se ser bastante fácil contornar as salvaguardas. Em alguns casos basta fazer questões sobre o que ele acha que não se deveria responder ou fazer em determinada situação! Seria possível treinar o modelo para ser mais cauteloso, dizem os criadores, mas isso faria com que ele se recusasse a responder a perguntas às quais poderia responder.

Algumas agências de segurança recorreram ao ChatGPT para criar emails e códigos capazes de serem utilizados em campanhas de phishing e alertaram para a facilidade de criar código capaz de infetar outras máquinas. Foram lançados alertas para um potencial uso da plataforma por hackers. Sergey Shykevich do Threat Intelligence Group Manager, da empresa Check Point Software, afirma que "O ChatGPT tem o potencial de alterar significativamente o panorama das ameaças cibernéticas. Agora qualquer pessoa com recursos mínimos e conhecimento zero em codificação, pode facilmente explorá-lo em detrimento da sua imaginação". Os testes feitos reforçam a necessidade de cautela no uso das tecnologias baseadas na IA e como estas tecnologias podem afetar todo o panorama cibernético.

Como todas as tecnologias, pode ser usado para o bem e para o mal. Sendo uma realidade tão recente precisamos de mais algum tempo para avaliar o impacto que terá no nosso futuro. Das experiências que fiz comecei por ficar surpreendida e depois assustada. Mesmo numa fase mais avançada, não é infalível. E quando o sistema fornecer informações incorretas? Como se educa o espírito critico das pessoas para detetar as falhas? Quem controlará o que é ética e politicamente correto? E poderia continuar, continuar, continuar, …

 

Elisabete Maria da Silva Raposo Freire

Professora do Departamento de Informática

Faculdade de Ciências e Tecnologia da Universidade dos Açores

elisabete.ms.freire@uac.pt

 

Um Mergulho na Inteligência Artificial

 

Em época de mergulhos, vamos conhecer um pouco melhor o conceito de Inteligência Artificial (IA) e ver que, quer gostemos ou não, já mergulhamos nesse oceano que é a IA. Embora, para a generalidade do cidadão, continue a ser uma “coisa de filmes” e realidades como as relatadas no filme Matrix ainda se afigurem longínquas, atualmente a Inteligência Artificial já tem impacto em muitos aspetos das nossas vidas. Ainda no passado dia 22 a Google informou que demitiu o engenheiro de software Blake Lemoine depois de ele ter afirmado ao The Washington Post, no mês passado, que o Chatbot da empresa tem alma e sentimentos. A afirmação referia-se à Google LaMDA (Language Model for Dialogue Applications), uma ferramenta de IA apresentada pela Google em maio de 2021. A companhia apressou-se a divulgar uma nota acusando Lemoine de “violar persistentemente as políticas claras de trabalho e segurança de dados que incluem a necessidade de proteger as informações do produto”, afirmando que as alegações “são totalmente infundadas” e que trabalhou com ele durantes meses “para esclarecer” a situação.

A IA é uma ideia que remonta ao Mundo Antigo. Em várias eras, filósofos e matemáticos ponderaram e dissertaram sobre a possibilidade de se automatizar o raciocínio e o pensamento humano. O campo de estudo com a designação Inteligência Artificial surgiu oficialmente em 1956, numa proposta de um grupo de trabalho liderado por John McCarthy, numa conferência no Dartmouth College nos Estados Unidos da América.

A Inteligência Artificial apresenta-se como a área da Informática que se dedica à investigação e criação de software e hardware que possibilite ir além do mero cálculo e comportamento determinista. Que permita obter resultados semelhantes aos produzidos pela inteligência humana, como o raciocínio, a resolução de problemas, a aprendizagem pela experiência, o planeamento, a tomada de decisões otimizadas, ter em conta as perceções sensoriais, entre outras características que assumimos como humanas. Pretende-se criar sistemas capazes de responder a situações de forma muito flexível, dar sentido a mensagens ambíguas ou contraditórias, reconhecer a importância relativa de diferentes fatores nas situações, encontrar semelhanças entre situações apesar das diferenças, identificar distinções entre situações apesar das semelhanças que as possam ligar.

Para além da Informática, o seu desenvolvimento envolve diversas outras áreas, é o caso da Biologia, Psicologia, Linguística, Matemática e Engenharia. Assenta por um lado no estudo dos processos de pensamento e raciocínio humanos e, por outro, na aplicação dos resultados obtidos nesse estudo aos mais recentes desenvolvimentos tecnológicos, de modo a obter algo que se assemelhe aos processos cognitivos humanos.

O conceito é bastante abrangente e inclui a aprendizagem automática, tecnologias de processamento de linguagem natural, redes neuronais, algoritmos de inferência, entre outros. Engana-se quem pensa que a IA é um assunto para os cientistas e de utilização muito restrita. Embora ainda estejamos longe do ideal de humanoide senciente ou consciente, existem avanços significativos e a tecnologia já se encontra em aplicações de enorme impacto. A aplicação da IA já entrou na rotina em tarefas como o reconhecimento de imagem, tradução automática, extração de padrões de informação em contextos diversos, diagnóstico médico, construção de chatbots e muitas outras. Prevê-se que tenha um impacto considerável em praticamente todas as indústrias imagináveis. Ao pensar em IA vem-nos à ideia os assistentes virtuais como a Siri, a Cortana ou o Google Assistant, os jogos de realidade virtual ou as indústrias mais sofisticadas. Mas os nossos smartphones, computadores e outros dispositivos do quotidiano também já têm incorporada tecnologia com IA e a cada dia que passa mais processos da nossa vida são influenciados e impulsionados por ela. Até para tarefas mais criativas, como a escrita de textos ou composição de peças musicais, a IA foi testada com sucesso e criou peças que o público não conseguiu distinguir daquelas que foram criadas por humanos.

Nos cuidados de saúde, mediante a análise de sintomas, reconhecimento de padrões, monitorização de sinais vitais, ou outras técnicas, a IA já tem capacidade de fornecer sugestões de diagnóstico, auxiliar nas decisões médicas e sugerir tratamentos e medicação adequada, permitindo maior rapidez e precisão nos cuidados de saúde.

Na condução de veículos, ainda que os carros autónomos não sejam uma realidade do dia a dia, já temos disponíveis preciosos auxiliares à condução baseados em IA. É o caso da deteção de obstáculos e auxílio na travagem de emergência, da ajuda no estacionamento, do controlo de velocidade e da identificação de sinais de cansaço no condutor.

Em determinados contextos e tarefas, a IA consegue ultrapassar com larga vantagem os humanos. É o caso da análise dos mercados financeiros, em que pequenas flutuações de valores, que passariam facilmente despercebidos à atenção humana são facilmente identificados pelas máquinas e poderão desencadear uma reação rápida e lucros de milhões. Ou a monitorização e prevenção de ciberataques pela deteção de uma ligeira alteração no comportamento do sistema.

De facto, a IA tem melhor desempenho que os humanos na análise de grandes quantidades de informação de forma rápida e precisa. E pode fazer isso 24 horas, 7 dias por semana, sem introduzir erros devido ao cansaço. As máquinas, aliadas à IA, são mais eficazes que os humanos em tarefas muito repetitivas, que consomem muito tempo ou que obrigam a uma atenção extrema a vários fatores em simultâneo.

Outro aspeto importante é que a IA, sobretudo quando associada à robótica e a sensores, é particularmente adequada para situações onde a vida humana é mais suscetível de estar em perigo, em condições físicas extremas ou para benefício de pessoas com deficiência. É o caso dos trabalhos em minas, exploração do mar ou do espaço, montagem e deslocação de equipamento pesado ou desativação de bombas. A máquina “aprende” a identificar as situações seguras e as situações de perigo e a agir em conformidade.

Esses são apenas alguns exemplos de situações em que a utilização da IA permite um grande aumento da eficiência operacional.

Mas, é ingénuo pensar que a IA só pode ser utilizada para coisas que favorecem a humanidade. “Não há bela sem senão” e também no caso da IA existe o reverso da medalha. Estes sistemas envolvem um elevado investimento e estima-se que cause grandes vagas de desemprego, pelo menos no atual modelo de emprego. Além disso, para que os sistemas inteligentes “aprendam” precisam de analisar e processar muita informação. Temos de fornecer-lhes essa informação, disponibilizar-lhe todos os “segredos do negócio”, muitas vezes à custa da nossa privacidade ou outros aspetos sensíveis. Basta pensarmos num sistema de apoio médico que terá de conhecer todo o nosso historial de saúde e estilo de vida para poder tomar as melhores “decisões”. Ao expormos a nossa informação e a nossa estratégia a essa “inteligência” ficamos, de certo modo, reféns dessa tecnologia e nenhuma tecnologia ligada à Internet é inviolável. Mais, mesmo quando programada para algo benéfico, após fornecermos a informação ao sistema ele vai aprender e evoluir para atingir o seu objetivo de um modo que não podemos prever, nem assegurar que não acabe por tomar decisões controversas, erradas ou mesmo criminosas. Nas mãos da pessoa errada, ou mesmo inadvertidamente, a IA pode facilmente causar perdas avultadas, quer em termos humanos, quer em termos financeiros.

Muitos cientistas veem com apreensão a evolução desse campo da ciência. Mesmo sem cair em visões catastróficas, de filmes em que a humanidade é exterminada pelas máquinas inteligentes em prol de um bem maior para o nosso planeta, é fácil prever cenários em que as coisas poderão correr mal. O famoso físico Stephen Hawking afirmou “A criação bem-sucedida de inteligência artificial seria o maior evento na história da humanidade. Infelizmente, pode também ser o último, a menos que aprendamos a evitar os riscos” e “Acredito que o desenvolvimento pleno da inteligência artificial poderia significar o fim da raça humana”.

Apesar das opiniões controversas sobre o assunto, departamentos de defesa, universidades e grandes empresas tecnológicas investem milhões para criar produtos e serviços com base em IA. À medida que conhecemos as suas características e como utilizá-la mais eficazmente, a dinâmica do nosso trabalho, do nosso lazer, dos nossos locais de trabalho e mesmo das nossas habitações vai mudar para sempre. Resta perceber como a sociedade também se adaptará a esta revolução que já se iniciou.

 

Elisabete Maria da Silva Raposo Freire

Professora do Departamento de Informática

Faculdade de Ciências e Tecnologia da Universidade dos Açores

elisabete.ms.freire@uac.pt