As tecnologias de inteligência artificial têm o potencial de aumentar a vantagem de longa data que o ataque tem sobre a defesa na Internet. Isso tem a ver com os pontos fortes e fracos relativos das pessoas e dos computadores, como todos aqueles que interagem na segurança da Internet e onde as tecnologias IA podem mudar as coisas.
Podemos dividir as tarefas de segurança da Internet em dois conjuntos: o que os seres humanos fazem bem e o que os computadores fazem bem.
Tradicionalmente, os computadores se destacam em velocidade, escala e escopo. Eles podem iniciar ataques em milissegundos e infectar milhões de computadores. Eles podem verificar o código do computador para procurar tipos específicos de vulnerabilidades e pacotes de dados para identificar tipos específicos de ataques.
Os seres humanos, ao contrário, se destacam no pensamento e no raciocínio. Eles podem olhar para os dados e distinguir um ataque real de um alarme falso, entender o ataque como está acontecendo e responder a ele. Eles podem encontrar novos tipos de vulnerabilidades nos sistemas. Os seres humanos são criativos e adaptativos, e podem entender o contexto.
Computadores - até agora, pelo menos - são ruins no que os humanos fazem bem. Eles não são criativos ou adaptativos. Eles não entendem o contexto. Eles podem se comportar irracionalmente por causa dessas coisas.
Os seres humanos são lentos e ficam entediados com tarefas repetitivas. Eles são terríveis na grande análise de dados. Eles usam atalhos cognitivos, e só podem manter alguns pontos de dados na cabeça por vez. Eles também podem se comportar irracionalmente por causa dessas coisas.
A IA permitirá aos computadores assumir as tarefas de segurança da Internet a partir dos seres humanos, e depois fazê-los mais rápido e em escala. Aqui estão possíveis capacidades de AI:
- Descobrindo novas vulnerabilidades - e, mais importante ainda, novos tipos de vulnerabilidades nos sistemas, tanto pela ofensa de explorar quanto pela defesa para corrigir, e depois explorá-los ou corrigi-los automaticamente.
- Reagindo e adaptando-se às ações de um adversário, novamente tanto na ofensa quanto na defesa. Isso inclui raciocínio sobre essas ações e o que elas significam no contexto do ataque e do meio ambiente.
- Resumo de lições de incidentes individuais, generalizando-os em sistemas e redes e aplicando essas lições para aumentar a eficácia de ataques e defesa em outros lugares.
- Identificando tendências estratégicas e táticas de grandes conjuntos de dados e usando essas tendências para adaptar táticas de ataque e defesa.
Essa é uma lista incompleta. Não acho que alguém possa prever o que as tecnologias IA serão capazes de. Mas não é razoável olhar o que os humanos fazem hoje e imaginar um futuro em que os AIs estão fazendo as mesmas coisas, apenas a velocidades, escala e escopo do computador.
Tanto o ataque como a defesa se beneficiarão com as tecnologias da IA, mas acredito que a IA tem a capacidade de inclinar as escalas mais para a defesa.
Haverá melhores técnicas de IA ofensivas e defensivas. Mas aqui está a coisa: a defesa está atualmente em uma posição pior do que ofender precisamente por causa dos componentes humanos. Os ataques atuais enfrentam as vantagens relativas dos computadores e dos humanos contra as fraquezas relativas dos computadores e dos seres humanos. Os computadores que se deslocam para as áreas tradicionalmente humanas reequilibrará essa equação.
Roy Amara disse que superestimamos os efeitos a curto prazo das novas tecnologias, mas subestimamos os efeitos a longo prazo. IA é notoriamente difícil de prever, muitos dos detalhes que eu especulei são susceptíveis de estarem errados - e a IA é susceptível de introduzir novas assimetrias que não podemos prever. Mas a IA é a tecnologia mais promissora que eu vi por ter trazido a defesa com a ofensa. Para a segurança da Internet, isso mudará tudo.
Ref: Bruce Schneier