Nas obras de ficção científica, tanto no cinema, quanto na literatura, assistimos e lemos histórias em que o planeta é dominado por robôs ou por uma Inteligência Artificial (IA) que conseguem raciocinar como humanos.
Por conta disso, se criou na maioria da população uma barreira, quase um medo, de tudo que esteja relacionado ao tema.
É verdade que métodos de Machine Learning, ou aprendizado de máquina (e a IA), têm se tornado cada vez mais presentes no nosso dia a dia. Seja no tradutor de idiomas que utilizamos, na caixinha de som que acionamos por voz ou até mesmo em aplicações mais específicas para a ciência, tais como o AlphaFold, as IAs estão presentes.
No entanto, até que ponto devemos temer pelo controle de nossas vidas? IAs serão capazes de realizar trabalhos, até então, exclusivamente humanos?
A Inteligência Artificial Explicável vem elucidar o raciocínio da inteligência artificial que já conhecemos e incorporamos ao nosso cotidiano, atuando como uma interface amigável entre o que é artificial e o que é humano.
E, antes de mais nada, um pequeno spoiler: histórias como as dos filmes 2001: Uma Odisséia no Espaço ou Ex_Machina estão bem longe de se tornarem realidade.
O que é Inteligência Artificial Explicável (IAE)?
Na pesquisa e na indústria, o uso de IA se tornou uma constante através das ferramentas de aprendizado de máquina, tais como as de aprendizado profundo, como as famosas redes neurais, que têm sido amplamente aplicadas. Dessa forma, se tornou imprescindível um melhor entendimento do funcionamento dessas ferramentas.
Apesar de tanto avanço, a IA dos dias atuais muitas vezes não explica ao usuário o porquê foi tomada determinada decisão, entregue tal resultado ou porque ocorreu um determinado erro.
Afinal, como uma máquina pode ser tão inteligente? Ao contrário da IA de hoje em dia, a IAE é uma inteligência artificial que, não somente elucida como uma máquina pode ser tão inteligente, ou seja, a própria máquina explica o seu raciocínio aos humanos, mas também esclarece como chega aos resultados que apresentam aos usuários.
Segundo fluxograma, intitulado “Futuro – Inteligência Artificial Explicável” em letras pretas em caixa alta, consiste em 4 quadrados de cor rosa, separados por setas rosas, com textos em letra branca e finalizado por um ícone redondo, de fundo rosa, com o desenho em linhas brancas do busto de um homem vestindo uma camisa social. Primeiro item: Data Training; segundo item: Processo de Machine Learning; terceiro item: Modelo Explicável. Quarto item: posicionado ao lado do terceiro item, sem separação por seta. Contém a escrita “Interface Explicável”. Entre o quarto e o último item há duas setas curtas, uma apontada na direção do quarto item e uma apontada ao último item. Último item: ícone redondo com a legenda “Usuário” e acima uma caixa branca com a escrita “Tarefa”, que contém uma seta apontando ao ícone 3 “Modelo Explicável”.
Como os pesquisadores consideram que um modelo é explicável o bastante para seres humanos? Essa não é uma tarefa fácil, no entanto, já existem alguns fatores importantes que devem ser considerados ao determinar se a explicação é satisfatória, dentre elas, estão:
- Equidade/Justiça – As previsões e explicações devem ser feitas de modo imparcial, sem discriminações e preconceitos, de modo a auxiliar os usuários humanos a observar se uma determinada decisão feita pela IA foi baseada em algum tipo de preconceito ou viés.
- Privacidade – Os dados que calibraram o modelo de aprendizado de máquina devem estar protegidos, pois são conteúdos de ordem confidencial.
- Confiabilidade/Robustez – Uma boa verificação dos dados que estão sendo analisados pela IAE vão garantir uma maior confiança nos resultados.
- Causalidade: Existe uma relação entre causa e efeito compreensível à inteligência humana? O entendimento de causa é muito importante no estabelecimento de uma relação satisfatória entre o usuário e o modelo de aprendizado de máquina utilizado.
- Confiabilidade: Os seres humanos conseguem confiar muito mais em um sistema que esclarece seus resultados e decisões, ao invés de uma caixa preta que expõe somente o resultado ou decisão.
Uma IA explicável oferece ao usuário uma interface amigável e uma explicação do porquê ela fez uma determinada escolha, possibilitando ao usuário um melhor entendimento do processo e, consequentemente, um caminho mais fácil, por exemplo, mediante a necessidade de correção de um erro.
Seremos substituídos pela inteligência artificial?
A boa notícia é que não, não seremos substituídos pela inteligência artificial. O fato é que, apesar de extremamente inteligentes, as máquinas precisam de seres humanos que as operem.
Os dados que são fornecidos para uma máquina de aprendizado, são elaborados por humanos. Se algum erro ocorre no processo de análise, precisamos de um humano especializado que entenda como corrigir o erro.
Um exemplo é a aplicação de IA na área da saúde, mesmo se tendo um sistema capaz de predizer se um paciente deve ou não ser submetido a determinado tratamento, necessitamos de um médico que interprete os resultados da máquina.
E é exatamente aí que entra a IAE, no fornecimento de uma explicação plausível sobre a decisão tomada pela máquina, que auxilie o médico a, não somente entender como a máquina chegou a determinada conclusão, mas também a concluir o melhor tratamento possível ao paciente.
O que podemos esperar da IAE?
A pesquisa envolvendo algoritmos de IAE já está em desenvolvimento em veículos automatizados, na revisão e tradução de textos, nos diagnósticos médicos e até mesmo na resolução de crimes.
Mas isso é só o começo. Espera-se que através do entendimento dos processos realizados pelos sistemas que utilizamos no nosso cotidiano, surjam mais aplicações aos algoritmos de IAE e, além disso, o ser humano desenvolverá maior autonomia sobre as tecnologias até então pouco compreendidas.
Brisa Bartellt
Engenheira de Bioprocessos e Biotecnologia (UERGS), doutoranda e Mestre em Biologia Celular e Molecular (UFRGS), bioinformata e apaixonada por cinema, música e tecnologia.
Cite este artigo:
GODOY, B. R. B. Inteligência Artificial Explicável: como uma máquina pode ser tão inteligente? Revista Blog do Profissão Biotec. V. 10, 2023. Disponível em: <https://profissaobiotec.com.br/inteligencia-artificial-explicavel-como-uma-maquina-pode-ser-tao-inteligente>. Acesso em: dd/mm/aaaa.
Referências
CARVALHO, Diogo V.; PEREIRA, Eduardo. M.; CARDOSO, Jaime. S. Machine learning interpretability: A survey on methods and metrics. Electronics, v. 8, n. 832, p. 1-34, jul. 2019. DOI: https://doi.org/10.3390/electronics8080832. Disponível em: https://www.mdpi.com/2079-9292/8/8/832. Acesso em: 01 Out. 2021.
DEEKS, Ashley. The judicial demand for explainable artificial intelligence. Columbia Law Review, v. 119, n. 7, p. 1829-1850, aug. 2019. Disponível em: https://ssrn.com/abstract=3440723. Acesso em: 01 Out. 2021.
EHSAN, Upol; HARRISON, Brent; CHAN, Larry; RIEDL, Mark. Rationalization: A neural machine translation approach to generating natural language explanations. In: Proceedings of the 2018 AAAI/ACM Conference on AI, Ethics, and Society, p. 81 – 87, dez. 2018. DOI: 10.1145/3278721.3278736. Disponível em: https://dl.acm.org/doi/10.1145/3278721.3278736. Acesso em: 01 Out. 2021.
HUSSAIN, F.; HUSSAIN, R.; HOSSAIN, E. Explainable Artificial Intelligence (XAI): An Engineering Perspective. arXiv abs/2101.03613, jan. 2021. DOI: https://doi.org/10.48550/arXiv.2101.03613. Disponível em: https://arxiv.org/abs/2101.03613. Acesso em: 01 Out. 2021.
International Business Machines Corporation. lA Explicável. IBM. Disponível em:https://www.ibm.com/br-pt/watson/explainable-ai. Acesso em: 01 out 2021.
NEURALMIND. Novo desafio para Inteligência Artificial. Disponível em: https://neuralmind.ai/2017/12/15/um-novo-desafio-para-a-inteligencia-artificial-explicar-a-si-mesma/. Acesso em: 01 Out. 2021.
CRISCITO, Nathalia. O papel das Leis de Proteção de Dados no desenvolvimento de Inteligência Artificial. Tivit Labs. Disponível em: https://labs.tivit.com/lgpd/o-papel-das-leis-de-protecao-de-dados-no-desenvolvimento-de-inteligencia-artificial/. Acesso em: 09 Out. 2021.
UTSCH, Milo. O que é xAI, a Inteligência Artificial Explicável? Take. Disponível em: https://www.take.net/blog/tecnologia/o-que-e-xal/. Acesso em: 01 Out. 2021.
TEMPLO.CC. O que é Inteligência Artificial Explicável (XAI)? Como isso afeta seu trabalho?. Disponível em: https://medium.com/@templo.cc/o-que-%C3%A9-intelig%C3%AAncia-artificial-explic%C3%A1vel-xai-como-isso-afeta-seu-trabalho-df33f07e8ed9. Acesso em: 09 Out. 2021.
TJOA, Erico e GUAN, Cuntai. A survey on explainable artificial intelligence (xai): Toward medical xai. IEEE Transactions on Neural Networks and Learning Systems, v. 32, n. 11, nov. 2021. DOI: 10.1109/TNNLS.2020.3027314. Disponível em: https://ieeexplore.ieee.org/document/9233366. Acesso em: 09 Out. 2021.
Fonte da imagem destacada: Unsplash.
