Inteligência Artificial é uma dessas raras expressões técnicas que muitas vezes podem não só confundir as ideias, mas também gerar fortes reações emocionais.

Vamos então momentaneamente colocá-la de lado e tentar esclarecer um poucos as coisas, porque a questão - não importa como nós a chamemos - merece muita atenção.

O comentário é de Juan Carlos De Martin, publicado por La Repubblica, 03-11-2017. A tradução é de Luisa Rabolini.

O primeiro elemento é que já há alguns anos os computadores começaram a fazer determinados trabalhos significativamente melhor classificados do que anteriormente. Refiro-me a trabalhos do tipo "dado A, responder B " como transformar a voz em texto, reconhecer o rosto de pessoas ou o início de um melanoma, distinguir objetos em fotografias e em vídeo e até mesmo sintetizar um texto ou traduzir instantaneamente de uma língua para outra.

A melhora repentina surpreendeu os próprios pesquisadores, mas as causas do salto de qualidade são relativamente simples: novas maneiras de usar técnicas, em alguns casos já em uso há décadas, e disponibilidade de grandes quantidades de dados adequados para "ensinar" aos algoritmos a resposta correta.

A consequência é que um número crescente de operações de classificação será confiado a computadores. Como escreveu um dos principais especialistas na área, Andrew Ng: "Se uma pessoa pode desempenhar uma tarefa mental em menos de um segundo, provavelmente essa tarefa pode ser automatizada já agora ou no futuro imediato".

Parece coisa pouca, mas não é.

Ter "classificadores" de alta performance dentro de cada dispositivo digital, de fato significará que muitas atividades até agora exclusivas dos seres humanos poderão ser executadas automaticamente em qualquer momento e praticamente em qualquer lugar. As consequências positivas são potencialmente muitas, que vão desde melhorias na medicina até superar, ao menos parcialmente, as barreiras linguísticas.

No entanto, existem também aspectos sobre os quais é preciso refletir cuidadosamente. As técnicas classificatórias, além de eliminar muitos postos de trabalho, poderiam, por exemplo, tornar a vigilância em massa ainda mais invasiva e intrusiva do que é agora. Além disso, também poderiam ser usadas (e, em parte, isso já está acontecendo) para determinar automaticamente a maior ou menor propensão para o trabalho ou para o estudo, as preferências políticas, sexuais ou religiosas, a origem étnica, etc. de uma pessoa. É evidente o potencial discriminatório possível que isso representaria caso as técnicas viessem a ser tratados como oráculos em vez de instrumentos inerentemente imperfeitos.

Mas há um segundo elemento: da classificação á predição o passo é curto. O crescimento exponencial da disponibilidade de dados de todo tipos, de fato, está alimentando o desenvolvimento de algoritmos que visam prever (em base estatística) em que área da cidade ocorrerão mais crimes, se uma determinada pessoa vai ser um trabalhador produtivo ou não (ou se merece ou não receber um empréstimo) ou a probabilidade de cometer mais crimes por parte de um preso. Mais uma vez, corre-se o risco não só de esquecer que os algoritmos são imperfeitos (por exemplo, se os dados de treinamento incorporarem discriminações, os algoritmos discriminarão), mas também se tocam – em questões de previsão - aspectos cruciais da dignidade humana, como o livre arbítrio ou a presunção de inocência.

Trata-se, portanto, de desenvolvimentos que, mesmo sem apelar a "inteligências artificiais" como Hal 9000, por um lado prometem grandes benefícios, mas, pelo outro, levantam questões éticas e sociais de grande importância. A Itália deve urgentemente investir tanto no desenvolvimento e na utilização dessas tecnologias, quanto na reflexão sobre a melhor forma de usá-las para que possa enfrentar essa enésima revolução tecnológica com consciência crítica e sensibilidade democrática.

Leia mais

• A ética da inteligência artificial é a mesma de outras novas tecnologias
• Facebook desativa inteligência artificial que criou linguagem própria
• Sorria, você está sendo taggeado
• Expansão da inteligência artificial e novos rumos da economia no mundo
• Chineses abrirão fábrica automatizada nos EUA para produzir 800.000 camisetas da Adidas diariamente
• "A revolução digital-horizontal se inverteu no contrário. O conteúdo é nada e a comunicação, tudo". Entrevista especial com Massimo Canevacci
• Saúde e tecnologia. A busca da imortalidade. Entrevista especial com Luis David Castiel
• Por que precisamos já de uma lei de proteção de dados pessoais
• Os algoritmos e a política. Nem bons ou ruins, os algoritmos também não são neutros. Entrevista especial com André Pasti e Marina Pita
• Quer participar da nova revolução científica e tecnológica?
• O impacto da quarta revolução industrial na sociedade
• Os dilemas morais da Quarta Revolução Industrial
• Quarta revolução industrial e a sociedade dos desiguais
• Quarta revolução industrial, tecnologias e impactos