O debate sobre a necessidade de um mecanismo de desligamento de emergência para a inteligência artificial, que possa ser verificado por terceiros, está em destaque nesta semana. A importância desse tema é ressaltada pela Check Point Software sob a perspectiva da governança e da segurança digital, destacando a importância de implementar controles desde o início dos sistemas autônomos.
Para o country manager da Check Point Software Brasil, Eduardo Gonçalves, é essencial discutir maneiras de interromper sistemas de IA quando algo falha, visando um uso responsável da tecnologia. “Mais do que simplesmente criar um ‘kill switch’, precisamos estabelecer como esses mecanismos operariam na prática, em quais circunstâncias seriam ativados e como garantiriam a rápida retomada do controle humano sobre os sistemas autônomos.”
Embora as tecnologias autônomas impulsionem a economia, elas exigem supervisão constante, especialmente em infraestruturas e serviços críticos. Quanto maior a autonomia de um sistema e seu acesso a dados e aplicações, maior deve ser a capacidade de intervenção humana diante de comportamentos inesperados.
“No entanto, essa discussão levanta questões mais amplas. Quem seria o responsável final por um mecanismo de interrupção? O fornecedor da tecnologia, a organização que implementou o sistema, o governo, o órgão regulador ou os formuladores de políticas públicas? E quem teria a autoridade para acioná-lo? Essas responsabilidades precisam estar claras para que qualquer mecanismo desse tipo seja eficaz”, avalia Gonçalves.
De acordo com o executivo, “desligar” uma IA raramente significa desligar todo o sistema. Geralmente envolve desabilitar um fluxo automatizado, restringir o acesso a recursos ou isolar um agente específico em quarentena. A resposta deve ser proporcional ao risco, garantindo uma intervenção rápida e precisa.
Uma alternativa viável é priorizar essas capacidades em aplicações de alto impacto para, a partir da experiência adquirida, considerar sua expansão. “O debate regulatório no Brasil sobre inteligência artificial já está abordando temas como gestão de riscos, governança, transparência e responsabilidade. A discussão sobre mecanismos de intervenção pode ajudar a transformar esses princípios em controles concretos para sistemas com maior impacto”, pondera o porta-voz.
Gonçalves destaca que esses recursos podem ser integrados a códigos e arquiteturas, mas requerem proteção rigorosa contra possíveis abusos. Um mecanismo de emergência vulnerável a cibercriminosos poderia se tornar uma nova e perigosa vulnerabilidade de ataque.
“Portanto, a segurança cibernética deve ser incorporada a esses programas desde o início. Isso significa pensar não apenas em como interromper um sistema, mas também em como autenticar quem pode fazê-lo, limitar privilégios, monitorar essas ações e manter a capacidade de resposta mesmo durante um incidente. O objetivo não deve ser depender apenas de um ‘botão de emergência’ para resolver uma crise, mas sim construir sistemas de IA com controles de segurança e mecanismos de intervenção confiáveis desde o princípio”, conclui Eduardo Gonçalves.
