Há uma pergunta que já não faz sentido colocar: a inteligência artificial vai transformar a Administração Pública? A resposta é evidente: vai. A reflexão que a incorporação da inteligência artificial na tomada de decisões da Administração Pública nos pede é, na verdade, um passo à frente: como será conceptualizada a ideia de democracia?
Yuval Harari vem sugerir que, sem prejuízo de, tradicionalmente, a sigla “IA” ser utilizada como sigla para inteligência artificial, talvez fosse melhor pensar nisso como um acrónimo para inteligência alienígena.
Para demonstrar que a inteligência artificial já é capaz de fazer descobertas por conta própria, Yuval Harari destacou o mítico “Movimento 37”, que ocorreu durante a segunda partida do histórico confronto entre o programa de inteligência artificial AlphaGo e o campeão mundial sul-coreano de Go, Lee Sedol, em março de 2016, em Seul, tendo o AlphaGo levado a melhor.
Esta história parece, aos nossos dias, apenas mais uma de várias. Afinal, quantos de nós é que não perderam um jogo enquanto competíamos com o computador? É verdade. Mas este movimento ficou assinalado por outro motivo: o AlphaGo fez uma construção que nunca tinha sido feita pelo Homem, tendo depreendido por si a melhor jogada.
É desta premissa que devemos partir: a inteligência artificial é, cada vez mais, capaz de aprender por si e gerar decisões com base nesse conhecimento. É dizer-se: a inteligência artificial é cada vez mais autónoma. Ora, se assim é, é natural que, a par do crescimento dessa autonomia, se equacione cada vez mais o recurso a estes sistemas de inteligência artificial enquanto ferramenta decisória.
No caso particular da Administração Pública, a questão que se levanta passa por perceber de que forma será possível aceitar a incorporação da inteligência artificial nas decisões administrativas, respeitando o princípio basilar da legitimidade democrática? Se o processo eleitoral, como conhecido e concebido, visa a nomeação de humanos e não de sistemas de inteligência artificial para o desempenho de cargos com representatividade política, qual deve ser o lugar da inteligência artificial?
Parece que a resposta ao desafio da inteligência artificial na Administração Pública não pode ser a recusa tecnológica. Essa aversão ao recurso de sistemas de inteligência artificial levaria, inevitavelmente, à obsolescência de toda a Administração Pública, que, a contra-passo com o desenvolvimento dos restantes agentes e operadores, entre os quais empresas privadas e os próprios cidadãos, continuariam a incorporar, de forma cada vez mais acentuada, os sistemas de inteligência artificial nas suas tarefas diárias.
Mas a resposta também não pode ser a rendição acrítica e aceitar que a inteligência artificial possa substituir o governo do povo pelo governo do algoritmo, sem que este tenha sido democraticamente eleito e esteja embutido dos poderes legais e devidos para a prática das decisões administrativas e governamentais.
É precisamente com este olhar atento que a União Europeia se tem debruçado sobre o tema da inteligência artificial. Em particular, o Regulamento (UE) 2024/1689, do Parlamento Europeu e do Conselho, de 13 de junho de 2024, estabelece regras harmonizadas em matéria de inteligência artificial, de acordo com o nível de risco associado a cada sistema de inteligência artificial.
Este diploma legal estabelece, desde logo, no Considerando (1), que “tem por objetivo a melhoria do funcionamento do mercado interno mediante a previsão de um regime jurídico uniforme, em particular para o desenvolvimento, a colocação no mercado, a colocação em serviço e a utilização de sistemas de inteligência artificial na União, em conformidade com os valores da União, a fim de promover a adoção de uma inteligência artificial centrada no ser humano e de confiança, assegurando simultaneamente um elevado nível de proteção da saúde, da segurança, dos direitos fundamentais consagrados na Carta dos Direitos Fundamentais da União Europeia, nomeadamente a democracia, o Estado de direito e a proteção do ambiente (…)”.
Para tanto, o artigo 14.º do mesmo diploma determina que os sistemas de inteligência artificial de alto risco sejam concebidos e desenvolvidos de modo a permitir a supervisão humana eficaz durante a sua utilização, com vista a prevenir ou minimizar riscos para a saúde, a segurança ou os direitos fundamentais.
A União não parece, assim, querer aceitar a possibilidade de não fiscalização de um sistema de inteligência artificial totalmente autónomo.
Parece, na verdade, e bem, defender-se que o caminho passa, necessariamente, por um conjunto de princípios/ condutas que devem orientar a integração da inteligência artificial no exercício do poder público. Em concreto, e de forma inevitável, é necessário que as decisões a serem tomadas pela inteligência artificial sejam acompanhadas de fiscalização humana, não podendo as decisões da competência da Administração Pública, tomadas por sistemas de inteligência artificial, ser cegamente aceites, sem a possibilidade de, primeiro, serem compreendidas e aceites, e, se necessário, revistas ou alteradas. O recurso à inteligência artificial não pode, assim, servir de pretexto para a diluição da responsabilidade, devendo a Administração Pública assumir, perante o cidadão, a responsabilidade integral por todas as suas decisões, mesmo que tomadas com recurso à inteligência artificial, por delas ter dever de supervisão, como consequência da legitimidade que deve revestir cada uma das suas decisões. Assim, antes de se pensar politicamente na inteligência artificial, é necessário pensar eticamente. O presente deve ser marcado por uma reflexão regulatória com a consciência de que, como escolhermos incorporar e limitar este recurso, podemos obter uma de duas soluções: criar sistemas de inteligência artificial que nos sirvam e sirvam a democracia, ou entregar a democracia a sistemas de inteligência artificial[1].
[1] Cf. Henrique de Sousa Patrício, From Milk & Honey to Machine Masters: A Critical Assessment of the AI Paradox.
