Inteligência artificial dá boas-vindas aos humanos

Esse foco serviu de inspiração, no fim de julho de 2019, para a mesa-redonda “From Socionatures to Humanoid Robots: Transdisciplinary Perspectives on the Relations between Humans and Non-Humans”, organizado pela Freie Universität Berlin (FU Berlin) e pelo Mecila (Maria Sibylla Merian International Centre for Advanced Studies in the Humanities and Social Sciences Conviviality-Inequality in Latin America). Realizada no Goethe-Institut de São Paulo, a iniciativa teve a parceria do Centro Alemão de Ciência e Inovação (DWIH São Paulo).

Entre seus debatedores*, o momento contou com a expertise internacional do Prof. Christoph Benzmüller, da FU Berlin, que deu uma entrevista ao DWIH São Paulo sobre  inteligência artificial – desde suas principais facetas em prol da humanidade, passando pelas inovações científicas sobre tecnologias de protótipos humanoides com ênfase nas relações e vivências humanas e não-humanas, bem como as implicações ético-políticas que giram em torno dessa temática. Os desafios, perigos, perspectivas, tendências tecnológicas em diversas áreas, direitos e deveres a respeito desse assunto também estiveram na pauta.  E uma questão ficou clara: a IA já invadiu nossas vidas e o assunto precisa ganhar os holofotes de debates e discussões o quanto antes para que essa transição seja benéfica para a humanidade, uma vez que a velocidade tecnológica ultrapassa o desenvolvimento e as limitações humanas. Para Benzmüller, que atualmente se dedica a pesquisar métodos e procedimentos para a regulamentação do controle ético-legal de sistemas de IA, essas tecnologias possuem pontos negativos e positivos, mas afirma que a IA possui um potencial muito grande para mudar o mundo positivamente.

• Na sua opinião, qual papel a inteligência artificial tem atualmente em nossas vidas, especialmente nas relações humanas e não humanas? 

A inteligência artificial já está invadindo as áreas mais remotas e íntimas de nossas vidas.  Alexa, Siri & Co. estão à vontade em muitas salas de estar e em muitos quartos de nossas casas, escutando tudo que acontece por ali. Até na área dos jogos de computador, nas redes sociais ou na indústria do sexo digital, as relações humanas e não humanas já estão se fundindo. Essa interligação entre o mundo virtual e o mundo real, impulsionada por uma tecnologia aprimorada de IA, continuará ganhando força e isso, logicamente, provocará um impacto em nosso comportamento social. Também vivenciaremos parcerias reais entre homem e máquina – essas tendências não podem ser percebidas apenas no Japão. Tais desenvolvimentos, no entanto, apresentam pontos positivos e negativos e a discussão sobre suas implicações deve ser iniciada o quanto antes.

O acompanhamento e o cuidado de pessoas idosas, por exemplo, representam grandes desafios para muitos países e a robótica, bem como a IA, podem ser de grande benefício se usadas de forma sensata. Entretanto, problemas podem surgir por meio de expectativas equivocadas, muito humanizadas, em relação à inteligência emocional ou à competência dos robôs humanoides. Tais aplicações de tecnologias de IA não devem ser movidas e controladas apenas por interesses econômicos, mas moldadas por decisões políticas bem fundamentadas.

• Robôs humanoides estão ocupando cada vez mais o seu lugar na vida em sociedade. Como você vê esse cenário? O que podemos esperar dessa nova realidade e dos relacionamentos criados através dela?

Algumas nações mal podem esperar a hora para conceder, inclusive, direitos civis a robôs humanoides. A Arábia Saudita avançou nesse sentido em 2017. Em termos de marketing, isso certamente parece ser muito sedutor. No entanto, esse desenvolvimento, por mais prematuro que seja, também tem seu lado positivo: tais ações promovem o debate sobre em que grau, de que forma e munidas de quais obrigações e direitos máquinas inteligentes podem e devem ser integradas nas estruturas sociais e comunitárias existentes. Esse debate deve ser iniciado agora, visto que os desenvolvimentos atuais no campo da inteligência artificial ocorrem de forma acelerada, enquanto a capacidade e a velocidade de adaptação das estruturas sociais atingem seus limites mais rapidamente.

No contexto dessa discussão, outras questões não resolvidas também aparecerão. Em muitas sociedades, por exemplo, as mulheres ainda não têm os mesmos direitos que os homens. Preocupar-se, em tal situação, com direitos civis para robôs humanoides, parece um tanto estranho. Em particular, vejo perguntas desafiadoras sobre os deveres e a credibilidade das (futuras) tecnologias autônomas de IA, bem como questões relacionadas à integração socialmente aceitável e sustentável de tais tecnologias nas estruturas sociais existentes.

• Como a inteligência artificial pode afetar nossa rotina e nossa vida? E como podemos lidar melhor com isso?

O impacto das tecnologias de IA em nossas rotinas de vida continuará aumentando. Com o uso de tecnologias de IA, nossas atividades diárias não são apenas mais fáceis de planejar e gerenciar, mas podem ser rastreadas também até o último detalhe. Essas combinações provavelmente nos deixarão expostos cada vez mais a tentativas de manipulação, desde a publicidade perfeitamente personalizada a gadgets que, de forma intencional ou não intencional, consciente ou inconsciente, nos „ajudarão” em nossas decisões diárias.

• Quais são as implicações ético-políticas que giram em torno desse tema?

A necessidade de desenvolver uma tecnologia de IA confiável (em áreas críticas de aplicação) a meu ver, não é uma opção, mas sim uma obrigação. Sob esse aspecto, considero muito louvável o posicionamento europeu que vem surgindo com o slogan „IA confiável feita na Europa”. A tecnologia da IA ​​possui um potencial muito grande para mudar o mundo positivamente – eu mesmo entrei, fascinado por esse objetivo, nesse ramo. Esse potencial positivo da tecnologia de IA deve ser explorado e utilizado. No entanto, a tecnologia de IA também possui riscos e a experiência nos ensina que, sob uma perspectiva social, um equilíbrio saudável entre benefícios e riscos geralmente só pode ser alcançado de forma insatisfatória pelo próprio setor. A política deve, portanto, intervir e, em conjunto com a indústria, elaborar condições gerais para a criação de uma tecnologia de IA socialmente desejável. É importante minimizar o potencial nocivo e maximizar os benefícios para a sociedade. Por isso, deve-se suspender ou adiantar, de forma consciente, o desenvolvimento e a aplicação de sistemas de IA em algumas áreas. Considero muito questionáveis, por exemplo, sistemas letais de armas autônomas, mercados financeiros totalmente automatizados, sistemas operacionais ou estatais de vigilância etc. A fácil manipulação da opinião dos eleitores, através das redes sociais, também representa um risco social significativo – as estruturas democráticas parecem estar cada vez mais sob pressão.

• Na sua opinião, quais são as principais áreas em que a inteligência artificial traz benefícios e por quê?

Difícil dizer. A gama de aplicações para tecnologias de IA é enorme e abrange muitas áreas importantes: saúde, transporte, meio ambiente, finanças, produção industrial, exército, gestão empresarial, administração etc. Em cada uma dessas áreas, existem muitas possibilidades de aplicações especiais para tecnologias de IA. Essas tecnologias irão interagir com pessoas em muitos casos concretos ou substituí-las por completo. Em algumas áreas específicas, as tecnologias de IA serão muito superiores aos seres humanos, e os processos de trabalho e suas estruturas se adaptarão adequadamente.

Os benefícios são diversos, estendendo-se do aumento de produtividade e da eficiência à redução de acidentes (atividades consideradas perigosas podem ser cada vez mais transferidas para robôs). Mas há riscos também. Principalmente a transferência de tomada de decisões com amplas dimensões para sistemas de IA cada vez mais autônomos deve ser tratada com a devida cautela. Especialmente em áreas de aplicação onde danos colaterais podem ocorrer, eu preferiria não transformar técnicas de IA com fraquezas óbvias (como falta de confiabilidade, compreensibilidade e transparência, alta capacidade de manipulabilidade) em aplicações concretas de maneira muito veloz. O varrer dos estilhaços, quando as coisas dão errado, geralmente cabe à sociedade e os danos podem até ser irreparáveis.

Por esse motivo, estou atualmente pesquisando métodos e procedimentos para a regulamentação do controle ético-legal de sistemas de IA, o que considero absolutamente necessário em áreas de aplicação de IA particularmente críticas.

Outro desafio consiste naturalmente na questão de como a participação adequada da sociedade no progresso tecnológico e no sucesso econômico pode ser garantida. Com o aumento da concentração global do poder tecnológico, pode não haver respostas fáceis.

A exploração de toda a gama de aplicações de tecnologias de IA parece não ter atingido de longe seu pico e tanto as empresas quanto a política carecem atualmente de competências adequadas. Aliás, eu uso deliberadamente o plural “tecnologias de IA” porque não é apenas a aprendizagem mecânica que possui muitas áreas de aplicação. A mídia também parece ter se afastado recentemente da ênfase excessiva na aprendizagem mecânica.

*Além da participação do Prof. Christoph Benzmüller, da FU Berlin, com sua expertise, a mesa-redonda contou com apresentações da Prof. Astrid Ulloa (Universidad Nacional de Colombia) e do Prof. Laymert Santos (Universidade Estadual de Campinas). Os comentários ficaram a cargo da Dr. Maya Manzi, pesquisadora de pós-doutorado do Mecila e o debate contou com moderação da Prof. Barbara Göbel (Ibero-Amerikanisches Institut & FU Berlin).

---

por Ana Paula Katz Calegari