Capacitação de usuários e monitoramento constante da segurança das ferramentas de IA estão entre as medidas necessárias

Filipe Luiz, líder técnico da plataforma de segurança da Flowti - Foto: Divulgação

O uso da Inteligência Artificial (IA) na saúde é um caminho sem volta no Brasil e no mundo. Apesar desse grande avanço tecnológico e dos inúmeros benefícios proporcionados pela IA, é necessário chamar atenção para os cuidados que os setores de TI devem ter para proteger a instituição e os pacientes de possíveis ataques de cibercriminosos.

Entre os benefícios dessa integração com a IA estão a possibilidade da realização de cirurgias menos invasivas; antecipação de detecção de surtos de doenças; monitoramento remoto de pacientes; mais agilidade para o agendamento de consultas; além de promover apoio aos médicos ao contribuir para a otimização de tarefas permitindo com que os mesmos dediquem-se, ainda mais, ao cuidado assistencial.

Ao ser alimentada constantemente com dados sensíveis de usuários, essas ferramentas precisam estar, também, no centro das atenções da equipe tecnológica da instituição para que seja criado um plano de manutenção e segurança das IAs corriqueiramente utilizadas naquele ambiente. 

“Caso um cibercriminoso - utilizando-se das linguagens Python, JavaScript e C++, consiga invadir as funcionalidades da IA generativa, por exemplo, torna-se possível modificar prontuários e indicações clínicas de pacientes, vindo a prejudicar ou dificultar o diagnóstico final”, alerta Filipe Luiz, líder técnico da plataforma de segurança da Flowti, empresa especialista em infraestrutura para ambientes de missão crítica.

Esse prejuízo, porém, pode não ficar restrito aos dados do paciente. A imagem do profissional de saúde também corre o risco de ser prejudicada caso o invasor utilize-se da técnica Deepfake – IA utilizada para alterar vídeos, imagens e falas de pessoas através de montagens constrangedoras e que não condizem com a conduta da vítima.

Para evitar problemas como esses e obter bons resultados com a implementação das Inteligências Artificiais no setor de saúde, é necessário, de acordo com o especialista em segurança cibernética, garantir que o uso delas estão sendo feitas de forma ética e com respeito aos direitos humanos; contar com um time de TI para acompanhar os algoritmos, fazer as correções em caso de necessidade e a integração da IA com os sistemas existentes; capacitar os usuários para a utilização segura dessas ferramentas, entre outros.

Dessa forma, conclui-se que o investimento em tecnologia e em cibersegurança são essenciais e devem caminhar junto à integração da IA em instituições de saúde, afinal essas tecnologias chegaram, também, para revolucionar o setor trazendo avanços significativos em diagnóstico, tratamento e gestão de pacientes.