Fonte: Innovationorigins

OPINIÃO- A inteligência artificial terá um impacto sobre todos nós, e é por isso que você deve entender algo sobre ela, afirma Colinda de Beer

Foi lançado recentemente como parte do curso nacional holandês de IA: um currículo sobre “IA e Ética”. Tal como as publicações anteriores sobre IA para os setores da saúde e da agricultura, entre outros, o objetivo é dar a todos os cidadãos holandeses a oportunidade de aprender mais sobre o impacto da IA ​​nas suas vidas. Afinal, esta tecnologia vai ter impacto em todos nós e parece-me que por isso deverias compreendê-la melhor.

Você tende a não ver a IA no “front end” das coisas, mas sim como parte de um produto ou serviço. Por exemplo, o Spotify usa IA para sugerir músicas que espera que você goste. Enquanto Meta nos mostra anúncios baseados no mesmo tipo de modelo. Muitas vezes não temos ideia de como esses tipos de modelos funcionam ou por que somos apresentados a esse mesmo anúncio. A questão é: quão importante é saber quais os modelos que estão por detrás destes vários serviços?

Modelos não são novos

A propósito, a questão sobre esses modelos e se queremos e precisamos compreendê-los completamente não é novidade. Para tornar o aquecimento o mais económico possível, o Econauta O esquema CTI foi desenvolvido para a agricultura em estufas por Hoogendoorn no final do século passado. Aproveitando o facto de uma instalação possuir um chamado ‘tampão de integração de temperatura’, é possível trabalhar com temperaturas médias de 24 horas em que uma temperatura de aquecimento mais baixa e outras vezes mais alta pode ser mantida em determinados momentos de o dia. A vantagem disto é que permite fornecer aquecimento nos momentos em que essa energia pode ser utilizada com maior eficiência. Por exemplo, à noite, quando uma tela dupla economizadora de energia é fechada, o resultado é menos perda de energia. Dadas as condições actuais e a crise energética, isso poderá acontecer nos momentos em que o preço do gás está no seu nível mais baixo.

Lâmpadas de assimilação

O buffer de integração funciona dependendo do tipo de cultura e também dentro de um determinado intervalo mínimo e máximo definido durante vários dias. O que o sistema fez foi calcular várias vezes ao dia e a cada hora qual seria a economia se as diferentes temperaturas fossem mantidas dentro da faixa mínima e máxima definida pelo produtor. Para isso, a previsão meteorológica de vários dias foi usada para prever a insolação e as temperaturas externas. Também levou em consideração, para cada momento, se, por exemplo, as telas da estufa estavam fechadas, as lâmpadas de assimilação estavam ligadas ou seriam ligadas em breve, e quando uma mudança de temperatura era iminente porque o produtor queria manter uma temperatura mais alta temperatura diurna do que durante a noite, por exemplo. As lâmpadas de assimilação usadas emitiam muito calor e você poderia subtrair isso da quantidade de calor que de outra forma seria necessária para trazer para a estufa.

Em suma, era um modelo bastante complexo para o produtor compreender plenamente se o regulamento era realmente o correto. Apenas largar o comando e deixar o computador decidir era muitas vezes bastante difícil para eles no início!

Tornando as coisas explicáveis

Por conseguinte, era importante poder explicar tão claramente quanto possível os fundamentos em que determinadas decisões foram tomadas, para que os produtores pudessem enquadrar a questão na sua própria linha de raciocínio. Se eles entendessem como funcionava e correspondia aos seus instintos, então o passo para mudar a regulação da temperatura, de ser feita manualmente sob seu próprio controle, para ser “automatizada”, muitas vezes foi rapidamente dado.

Mas e se as coisas forem muito mais complicadas e o melhor resultado não puder ser racionalizado de acordo com seus próprios instintos, afinal?

Tecnologia de visão versus dedos verdes

Tomemos como exemplo a intuição de um produtor de tomate sobre quando e como ajustar as configurações do seu computador climático. O produtor ‘vê’ anormalidades e age de acordo. Por exemplo, ao cultivar tomates, você observaria a “roxa” da parte superior do tomate. Uma parte superior roxa diz algo sobre o vigor do crescimento de uma cultura. No cultivo do tomate, é importante encontrar o equilíbrio certo entre a quantidade de frutos e a quantidade de folhas. Apenas os tomates propriamente ditos são vendidos, mas para produzir bons tomates é necessário que haja folhagem suficiente. São necessárias as observações de um produtor experiente para verificar se esse equilíbrio está correto. Até agora, esta “intuição” do produtor não podia ser convertida numa medida objectiva.

Recentemente, dois fornecedores de tecnologia fizeram parceria com um produtor para usar uma câmera multiespectral para medir a púrpura da sua colheita. A ideia é que isto permitiria que o conhecimento do produtor fosse capturado num modelo para decidir como ajustar uma estratégia climática com base em medições objectivas.

Correlação

Mas e se descobrir que não existe nenhuma correlação clara entre a cor púrpura da parte superior do tomate e o vigor do seu crescimento? Nesse caso, o produtor sempre errou e o modelo é falho? Eles são tendenciosos e pensam que se virem uma cor púrpura deveriam ajustar de alguma forma as suas configurações climáticas? Pode ser que sim, mas também é possível que haja outras coisas que o produtor perceba além daquela tampa roxa devido aos seus muitos anos de experiência. Além de notar aquela cor arroxeada, por exemplo, também pode ser levado em consideração sentir e detectar penugem na planta e nos caules um pouco mais grossos ou mais finos.

Mas sim, também é possível que um modelo possa estabelecer uma estratégia de crescimento e rendimento muito melhores com base em muitos outros parâmetros. Então o que você faz? Você não entende, e o feedback sobre se as coisas estão realmente indo bem ou não também não é tão direto ou imediato. Um “erro” no início do cultivo de uma cultura pode ter efeitos duradouros na produção e na qualidade.

Confie nos modelos

Quão importante é compreender totalmente a lógica por trás do modelo antes de aceitá-lo? Isso depende, é claro, de quais serão as consequências. Se a Netflix der uma sugestão errada para um filme ou se você tiver que fazer um desvio por causa de um mapa antigo em seu sistema de navegação, geralmente isso não é grande coisa. Porém, quando se trata de decisões judiciais ou de saúde, por exemplo, as consequências são significativamente diferentes!

Por isso, especialmente em modelos de IA para questões como saúde e jurisprudência, é crucial evitar ao máximo preconceitos. Suponhamos que é necessário fazer escolhas sobre quem recebe que tipo de cuidados de saúde e que o modelo utilizado para esse fim foi criado com base em dados recolhidos apenas sobre homens. No momento em que os resultados são marcadamente diferentes para as mulheres, as decisões podem revelar-se muito desfavoráveis ​​para elas.

Prevenindo preconceitos

Obviamente, estes tipos de situações já estão ocorrendo agora. Por exemplo, grande parte da investigação médica não incluiu as mulheres e será agora também afetada por modelos falhos. Dito isto, a IA permite “escalar” as consequências muito rapidamente para remediá-las. Enquanto antes, por exemplo, um empregador pode ter tido preconceito contra as mulheres em ocupações técnicas, um sistema de IA que seleciona automaticamente os currículos cantina num instante! Por outro lado, os modelos de IA também podem ser usados ​​para evitar preconceitos que as pessoas às vezes desconheciam.

Portanto, enquanto há 25 anos já era complicado determinar se era possível confiar no modelo quando estes eram modelos comparativamente “simples”, as coisas não se tornaram mais simples nos últimos anos. A IA e a aprendizagem automática fizeram com que os modelos se tornassem cada vez mais complicados e muitas vezes impossíveis ou difíceis de explicar – a é mesmo para e pelos cientistas.