Ainda não tem sessenta anos Brad Smith e também parece muito mais jovem enquanto sorri maravilhado observando nos solenes salões da Biblioteca Vaticana os manuscritos de Raimondo Lullo e de Galileu e, principalmente, a Bíblia de Gutenberg. O presidente da Microsoft, acaba de ter uma reunião privada com o Santo Padre sobre um tema, a importância de uma abordagem ética para a tecnologia que chegou à criação de verdadeiras inteligências artificiais, que hoje se revela uma fronteira crucial para o destino de homem. Precisamos de uma "voz humana" que se levante hoje, disse Brad Smith ao Papa, "uma voz humana como aquela, alta e respeitada, da Igreja" e o Papa acrescentou “uma voz que recupere palavras humanas que hoje correm o risco de sair do dicionário, como ternura, carícia, fraternidade”.

A entrevista é de Andrea Monda, publicada por L'Osservatore Romano, 13 e 14-02-2019. A tradução é de Luisa Rabolini. 

Promotor do encontro entre o Papa e o presidente da maior gigante no campo da tecnologia é a Pontifícia Academia para a Vida, que, como explicou o presidente Dom Vincenzo Paglia, anunciou um prêmio em parceria com a Microsoft para a melhor dissertação de doutorado sobre o tema das inteligências artificiais a serviço da vida humana.

Exclusivamente para L'Osservatore Romano, Brad Smith concedeu uma entrevista que tomou como ponto de partida o texto da mensagem para o Dia Mundial das Comunicações no qual o Papa afirma que "O uso da rede social é complementar ao encontro em carne e osso, que vive através do corpo, do coração, dos olhos, do olhar, da respiração do outro. Se a rede é utilizada como uma extensão ou como espera por esse encontro, então não trai a si mesma e permanece um recurso para a comunidade", e disso surge o desafio de passar das Community à comunidade, uma comunidade que hoje está sofrendo, principalmente, uma crise de falta de confiança.

Eis a entrevista.

A tecnologia é um dos principais agentes de mudança pelos quais a humanidade está atravessando. Neste momento histórico, em que há uma grande crise de confiança global (e a política é apenas o exemplo mais evidente), por um lado a tecnologia é vista como algo a temer, e pelo outro é percebida como aquilo que nos torna humanos, como algo que pode distinguir os homens de qualquer outras espécie viva. Na sua opinião, como devemos olhar para a tecnologia? Como podemos incutir segurança e confiança no impressionante potencial do progresso tecnológico?

Ciência e tecnologia são ingredientes essenciais da vida moderna. Eles transcendem as fronteiras locais e tocam as vidas de quase todos em nosso planeta. A evolução da humanidade pode ser vista também em termos de evolução tecnológica. Como a máquina a vapor que deu início à primeira revolução industrial, a nova tecnologia, como a inteligência artificial, está mudando a maneira como trabalhamos e vivemos. E como as ferrovias movidas por essas máquinas a vapor, também essas novas invenções terão que ser gerenciadas e finalmente reguladas pela sociedade. Qualquer nova tecnologia com grande impacto social exigirá novas leis. A tecnologia é uma ferramenta que teve um impacto profundo nas pessoas, tanto positivo quanto negativo. Até mesmo uma vassoura pode ser usada para varrer o chão ou bater na cabeça de alguém. Quanto mais poderoso for o instrumento, maior o benefício ou o dano que ele pode trazer. As tecnologias da comunicação, do telefone ao software de processamento de texto é à Internet, permitiram que as pessoas se conectassem entre si, se informassem sobre o mundo e se expressassem de novas maneiras. Uma das ferramentas onipresentes é o nosso Microsoft Word. O Word é frequentemente usado por escritores comprometidos em promover as mais altas aspirações do mundo. Mas, não há dúvida, de que há também momentos mais sombrios, quando indivíduos de mente menos elevada o usam para escritos bem menos nobres. Como, de fato, Einstein tinha advertido ao mundo: nas mãos erradas, toda ferramenta pode se tornar uma arma se a força de organização da humanidade não conseguir acompanhar a própria tecnologia. Para garantir que as pessoas acreditem e tenham confiança na tecnologia, temos que pensar além da tecnologia em si e abordar a necessidade de princípios éticos mais fortes, a evolução das leis, a importância da formação de pessoas com novas competências, e até mesmo reformas do mercado de trabalho. Se quisermos tirar o máximo proveito da poderosa e promissora tecnologia da inteligência artificial, todas essas coisas devem confluir. A inteligência artificial terá impacto em todas as áreas da sociedade e não será criada e usada apenas pelo setor tecnológico. Portanto, o mundo deve se reunir para abordar essas questões com um senso de responsabilidade comum.
Falando da transformação produzida pela nuvem, você falou dessa "responsabilidade comum" e de confiança e inclusão. Para tornar essa transformação "não inumana", é preciso que coexistam esses três requisitos e que se desenvolva uma aliança entre instituições, setor privado e sociedade civil. Como podemos construir essa aliança? Quem está dirigindo essa transformação junto com a imensa quantidade de dados que são produzidos? Como as empresas privadas devem se relacionar com a política?

Quais são os limites recíprocos que o mundo dos negócios e a política deverão respeitar? Qual é o âmbito de influência e participação da sociedade civil?

Como a tecnologia evolui tão rapidamente, aqueles entre nós que criam a inteligência artificial, a nuvem e outras inovações, talvez saibam mais do que a maioria das pessoas sobre como essas tecnologias funcionam. Mas isso não significa que sabemos necessariamente como melhor analisar o papel que deveriam desempenhar na sociedade. É por isso é necessário que as pessoas no governo, no mundo acadêmico, nos negócios, na sociedade civil e outras partes interessadas se unam para ajudar a moldar esse futuro. E cada vez mais precisamos fazê-lo não apenas como comunidade ou país, mas sim em nível global. Cada um de nós tem a responsabilidade de participar e também tem um papel importante a desempenhar. Por exemplo, o desenvolvimento de serviços de inteligência artificial mais eficazes requer o uso de dados, geralmente o máximo possível de dados relevantes. No entanto, o acesso e a utilização de dados também envolve aspectos legislativos, que variam da garantia da proteção da privacidade individual e da proteção de informações confidenciais e protegidas até a resposta a uma série de novas questões relacionadas ao direito da concorrência. Encontrar um equilíbrio cuidadoso e produtivo entre esses objetivos exigirá debates e cooperação entre governos, representantes da indústria, pesquisadores acadêmicos e sociedade civil. Por um lado, acreditamos que os governos devem ajudar a acelerar os progressos no âmbito da inteligência artificial, promovendo abordagens comuns para tornar os dados amplamente disponíveis para o aprendizado automático. Uma grande quantidade de informações úteis está contida nos dataset públicos, dados que pertencem ao próprio público. Por outro lado, será importante que os governos desenvolvam e promovam abordagens eficazes para proteção da privacidade, que levem em conta o tipo de dados e o contexto em que eles são usados. Para ajudar a reduzir o risco de intromissões na privacidade, os governos deveriam apoiar e promover o desenvolvimento de técnicas que permitam aos sistemas utilizar dados pessoais sem acessar ou conhecer a identidade dos indivíduos. Na Microsoft, acreditamos que promover o diálogo e o compartilhamento de boas práticas entre governos, empresários, representantes de organizações não-governamentais e sociedade civil será essencial para maximizar o potencial que a tecnologia tem de produzir benefícios em ampla escala. Trabalhando juntos, podemos identificar questões que têm evidentes consequências sociais ou econômicos e priorizar o desenvolvimento de soluções que protejam as pessoas, sem limitar inutilmente a inovação futura.

Essas transformações devem ter por objetivo proporcionar um mundo mais coeso, garantir estabilidade democrática e uma participação cada vez mais "de baixo", ou podem, ao contrário, criar as condições para uma maior laceração social?

Na Microsoft nós reconhecemos que temos a obrigação moral não só de continuar a inovar, mas também de construir a tecnologia para resolver os grandes problemas e ser uma força do bem no mundo. Percebemos que quanto maior for a empresa, maior a sua responsabilidade de pensar sobre o mundo, seus habitantes e suas oportunidades no longo prazo. Enfrentamos esse objetivo centrando-nos em estratégias e interesses múltiplos; alavancando nossas atividades centrais para um impacto social positivo; melhorando a produtividade pessoal; garantindo que a nossa atividade seja socialmente responsável, investindo em sustentabilidade, acessibilidade, privacidade e segurança; e através da filantropia, com mais de um bilhão de dólares de contribuições para muitas causas diferentes, incluindo o ensino de competências digitais, como programação e as ciência da informática.

Aqui na Itália, em colaboração com a ONG local Fondazione Mondo Digitale poderemos formar 250.000 estudantes do ensino médio, especialmente jovens que vivem em zonas desfavorecidas, e permitir-lhes descobrir o poder da inteligência artificial. Uma tecnologia em rápida evolução, com impacto em todos os setores, significa que os empregos do futuro exigirão maiores competências digitais, do conhecimento da informática básica à computação avançada. Aqui na Microsoft, acreditamos que temos a responsabilidade de ajudar a fornecer aos nossos jovens acesso equo a cursos de TI rigorosos e envolventes. Se não for enfrentada a questão do équo acesso, populações inteiras serão excluídas da plena participação nesse novo mundo, criando assim aquela "laceração social" que você mencionou anteriormente.

Na Itália temos um projeto promissor em andamento, "Ambizione Italia", para acelerar a transformação digital, usar a inteligência digital e garantir que ninguém seja deixado para trás. No centro existe um programa de formação completo para fornecer competências, aprimorá-las e requalificá-las. O programa - em colaboração com o Grupo Adecco, Fondazione Mondo Digitale e outros parceiros - tem o objetivo de atingir mais de dois milhões de jovens, estudantes, nem-nem e profissionais de todo o país até 2020, formando mais de 500.000 pessoas e fornecendo certificados para 50.000 profissionais.

A inteligência artificial está sempre ligada a responsabilidade, para usar suas palavras, e você tem falado frequentemente sobre a necessidade de regras para dar a cada agente tecnológico um quadro ético. Como podemos orientar a inteligência artificial para o bem comum?

A partir do momento em que os computadores ganham a capacidade de aprender com a experiência e tomam decisões, que tipo de experiência queremos que façam e quais as decisões que consideramos que possam tomar? A capacidade do computador de ver e reconhecer rostos, de reconhecer os rostos das pessoas de uma foto ou através de uma câmera – o reconhecimento facial - colocou a questão em grande destaque. Essa tecnologia pode catalogar as tuas fotos, ajudar a reunir as famílias ou ser potencialmente usada de forma imprópria e inoportuna. O reconhecimento facial levanta questões que vão direto ao centro da proteção dos direitos humanos fundamentais, como a privacidade e a liberdade de expressão. São questões que fazem aumentar a responsabilidade das empresas de tecnologia que criam tais produtos.

Em nossa opinião, exigem também uma regulamentação governamental ponderada e o desenvolvimento de normas relativas ao uso aceitável. Em uma república democrática não há outra via a não ser a tomada de decisão dos nossos representantes eleitos em questões que requerem que seja encontrado um equilíbrio entre a segurança pública e a essência de nossas liberdades democráticas. O reconhecimento facial exigirá que tanto o setor público como o privado se apresentem e tomem providências.

Em nível global, é uma questão que está apenas começando. Se não agirmos, corremos o risco de acordar daqui a cinco anos e achar que os serviços de reconhecimento facial se espalharam de forma que exacerbam os problemas sociais. Então, esses desafios se tornarão muito mais difíceis de controlar. Em especial, nós não acreditamos que esteja sendo feito o bem da sociedade com uma corrida comercial nivelada por baixo, com as empresas de tecnologia obrigadas a escolher entre responsabilidade social e sucesso de mercado. Pensamos que a única maneira de nos protegermos dessa corrida nivelada por baixo seja construir uma plataforma de responsabilidade que sustente uma saudável concorrência de mercado.

E para que a plataforma seja sólida é necessário que possamos garantir que essa tecnologia, e as organizações que a desenvolvem e usam, sejam regidas pelo estado de direito. Empresários, legisladores, pesquisadores, acadêmicos e representantes de grupos não-governamentais devem se engajar juntos para garantir que as tecnologias baseadas na inteligência artificial sejam projetadas e desenvolvidas de modo que conquistem a confiança das pessoas que as utilizam e dos indivíduos cujos dados são recolhidos.

Vamos voltar à mensagem do Papa para o Dia das Comunicações Sociais: o uso das redes sociais é complementar aos encontros cara-a-cara. Se a rede for percebida como uma expansão de oportunidades para se encontrar com outras pessoas e compartilhar experiências, claramente representa um grande recurso para todos. Infelizmente, no entanto, a rede social não significa automaticamente coesão e inclusão. Às vezes, representa a base para discussões violentas e até para a laceração social: qual pode ser o antídoto para esses perigos?

Como Microsoft temos a responsabilidade de criar serviços online e comunidades onde as pessoas se sintam seguras: no último 5 de fevereiro, Dia de segurança de rede, ou seja, o dia de ação internacional para promover um uso mais seguro e responsável da tecnologia, especialmente entre crianças e jovens, desenvolvemos um Digital Civility Index (Índice de civilidade digital) para mostrar que os riscos online têm consequências no mundo real. Estamos profundamente comprometidos em relação à necessidade de aprofundar a formação de adolescentes, jovens adultos, pais, educadores e legisladores sobre as consequências no mundo real das interações negativas na rede, que podem incluir a perda de confiança nos outros, um maior stress, a privação de sono e até mesmo pensamentos suicidas. Esperamos que esses resultados possam servir como prova documental para um impulso global em direção à "civilização digital". Também o Digital Civility Challenge é uma oportunidade para sensibilizar, incentivar os usuários a serem responsáveis por seu comportamento online e para servir como modelos e/ou paladinos para os outros. O objetivo do Desafio é apoiar o compromisso de longo prazo da Microsoft para promover interações seguras e inclusivas na rede e sensibilizar sobre a necessidade da "educação digital".

Leia mais

• Cidadania vigiada. A hipertrofia do medo e os dispositivos de controle. Revista IHU On-Line, Nº 495
• A Liberdade Vigiada: Sobre Privacidade, Anonimato e Vigilantismo com a Internet. Cadernos IHU ideias, Nº 250
• Vida 3.0 e o ser humano na era da inteligência artificial
• Evolução tecnológica: como será nossa vida daqui a 20 anos?
• Inteligência artificial - A disputa entre a busca da eficiência e os desafios ético-morais. Entrevista especial com Brian Green
• Inteligência artificial: a nova dependência?
• "A inteligência artificial nos obriga a nos comportarmos como máquinas". Entrevista com Jean-Michel Besnier
• Expansão da inteligência artificial e novos rumos da economia no mundo
• Compartilhamento de dados: a privacidade dos cidadãos está sendo corroída, afirma editorial do jornal The Guardian
• Sistemas de inteligência artificial - Desafios e perspectivas. Entrevista especial com Claudio Jung