Anthropic: ia poderá se replicar e ‘infectar’ eletrodomésticos

A Anthropic alertou ontem que pequenos modelos de inteligência artificial (IA) estão a poucos meses de desenvolver as capacidades necessárias para se autorreplicar em aparelhos domésticos inteligentes, como fornos elétricos, micro-ondas e televisores conectados à internet. Assim, formariam redes de agentes de IA potencialmente incontroláveis, sem depender de centros de dados.
Os agentes de IA estão "cada vez mais aptos a executar as etapas individuais para completar o ciclo de replicação e transmitir suas adaptações às cópias futuras de si mesmos", afirmou a Anthropic.
A advertência diz respeito aos dispositivos conhecidos como parte da internet das coisas (IoT, na sigla em inglês), cuja presença se disseminou. Esses aparelhos permitem aos consumidores controlar, por meio da internet, eletrodomésticos, sistemas de iluminação, tomadas, termostatos e equipamentos de segurança.
VULNERABILIDADES
Muitos desses dispositivos conectados à internet historicamente apresentam falhas de segurança, seja por serem fabricados a baixo custo por fornecedores de hardware genérico, por serem usados para acessar ilegalmente serviços de streaming ou porque as empresas que os desenvolveram encerraram suas atividades.
"Ainda não temos um replicador totalmente fora de controle, mas os agentes de IA estão cada vez mais aptos a executar as etapas individuais necessárias para completar o ciclo de replicação", afirmou a Anthropic. "Devemos fortalecer nossos sistemas para dificultar a propagação desses replicadores, mas também nos preparar para um cenário em que eles se tornem uma presença permanente."
O alerta da criadora do Claude é a mais recente advertência feita por pesquisadores sobre os riscos associados ao avanço da IA. À medida que esses sistemas ganham novas capacidades, também se tornam mais difíceis de controlar.
A Anthropic avalia que, se os modelos de IA continuarem evoluindo no ritmo atual, a tecnologia será capaz de se disseminar pela internet como os chamados worms (vermes em tradução para o português) " programas maliciosos que se propagam automaticamente de um dispositivo para outro, sem intervenção humana.
"Estamos vendo os primeiros sinais de vida dos ‘vermes’ de IA", afirmou a Anthropic em uma publicação de pesquisa, comparando sua disseminação gradual por dispositivos vulneráveis de maneira semelhante a um "mofo digital ou a um enxame de moscas-da-fruta, que se reproduzem ao longo de vários dias". O processo poderá ganhar velocidade à medida que os eletrônicos de consumo se tornem mais sofisticados e os modelos de IA, mais eficientes.
Os worms, ou vermes digitais, há muito são uma ferramenta popular e eficaz de disseminação de programas maliciosos, graças à capacidade de se replicar e se espalhar rapidamente por redes de grande porte.
O alerta sugere que ataques semelhantes ao que surpreendeu pesquisadores durante a investigação do ataque hacker à Hugging Face poderiam ser direcionados a aparelhos pertencentes a moradores e empresas que sequer suspeitam do risco.