A inteligência artificial tem imprecisões e potencial para viés. “Deve estar claro para todos nós agora que a IA cria uma oportunidade de corroer a confiança de maneiras inimagináveis”, assinalou Reggie Townsend, vice-presidente das práticas de ética em dados do SAS, durante sua palestra na abertura do SAS Innovate 2023, realizado nesta terça e quarta-feiras (8 e 9/05) em Orlando (EUA). Manter a confiança é muito mais fácil do que tentar recuperá-la corretamente, mas, ressaltou Townsend, algumas instituições vitais em todo o mundo estão na situação de ter que recuperar a confiança. “Competência e ética são atributos-chave para a confiança, apontou. Nesse cenário, fortalecer tais princípios por meio de um modelo de governança que inclui supervisão e colaboração de executivos interdisciplinares fornecendo orientação sobre IA e dilemas éticos parece ser o caminho. Além disso, as companhias precisam de técnicas e métodos de gerenciamento de risco para garantir que tem níveis adequados de conformidade em vigor. “Queremos ter certeza de que estamos sendo éticos por design e construindo confiabilidade na plataforma para permitir que todos os nossos clientes criem conformidade. Essa é a nossa ambição”, ressaltou. Para tanto, o SAS identificou que a IA responsável está dividida em quatro categorias de ativação e seis de tecnologia e que dentro de cada uma delas estão os recursos essenciais. “Vamos revisitar tudo isso trimestralmente, porque estamos reconhecendo que o mercado está se movendo muito rapidamente e precisamos garantir que esses recursos permaneçam relevantes”, explicou. Como exemplo, Townsend disse que no gerenciamento de dados, há recursos para fazer a gestão dos metadados variáveis, apontando qual é o nível de privacidade das informações, as permissões concedidas e como controlar os dados de maneira a proteger as pessoas e a organização.  “Os algoritmos devem ser monitorados; devemos entender e ter noção de sua saúde, de sua intenção”, disse.   IA para revolucionar e a transformar a saúde Então, Dr. Michel van Genderen, professor-assistente e cofundador do Datahub do Erasmus Medical Center, subiu ao palco para falar sobre o uso de ferramentas do SAS e tecnologias de IA em um ambiente clínico para melhorar o atendimento ao paciente e o planejamento operacional no principal centro médico universitário.  O holandês defendeu que a IA tem um enorme potencial para transformar e revolucionar a saúde, mas que é preciso confiar nos modelos para tomada de decisões — que, no setor de saúde, pode significar mudanças de vida. “No fim das contas, não se trata apenas para projetar um modelo, mas para fazê-lo de maneira responsável, que será usado e implementado à beira do leito”, esclareceu van Genderen. Recentemente, o Datahub do Erasmus Medical Center desenvolveu um modelo que ajuda os médicos a determinar quando é seguro dar alta a um paciente após uma grande cirurgia. De acordo com van Genderen, embora uma parcela dos pacientes não precise de nenhuma intervenção adicional após a cirurgia, eles ainda estão internados por mais de seis dias.  “Não só conseguimos dar alta aos pacientes com mais segurança, como reduzimos nossa taxa de readmissão em 50% e também conseguimos economizar”, apontou. “Eu realmente acredito que a implementação de uma análise de dados nos ajudará a revolucionar e a transformar a saúde”, concluiu o professor-assistente e cofundador do Datahub do Erasmus Medical Center.  *A jornalista viajou a Orlando, nos EUA, a convite do SAS.